0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

OpenAI推出神经元可视化“显微镜”,支持8个常见CV模型

倩倩 来源:大数据文摘 2020-04-17 10:58 次阅读

神经网络一直以“黑箱”的存在形式,让人捉摸不透。

比如一个汽车识别模型(14c: 447),它究竟是怎么认出图片中的汽车的?如果我们可以看到模型内部,我们可以发现14c: 447是由一个轮子探测器(4b: 373)和一个窗口探测器(4b: 237)构成的。

OpenAI最近推出了一个有趣的工具“显微镜(OpenAI Microscope)”就可以做到这一点,借助OpenAI显微镜,研究人员可以更好地理解神经网络的结构和行为。

OpenAI表示,神经网络是成千上万神经元相互作用的结果(有时成千上万甚至更多),而OpenAI显微镜就像一个神经元可视化图书馆,能够快速、方便地详细研究这些神经元的相互作用,并分享这些观察结果。

OpenAI网址:

https://microscope.openai.com/

在 OpenAI 显微镜网站上,OpenAI指出,“ OpenAI 显微镜是几个常见的‘model organisms’的每一个网络层和神经元的可视化集合,被用来研究神经网络的可解释性。显微镜可以让研究人员更容易地分析这些神经网络内部形成的特征,我们也希望它能够帮助研究人员理解这些复杂的系统。”

“尽管我们将这项技术提供给任何有兴趣探索神经网络如何工作的人,但我们认为其主要价值在于提供持久的、共享的人工智能模型,以促进对这些模型的长期比较研究。我们也希望拥有相近专业知识的研究人员ーー例如神经科学ーー能够更容易地了解这些视觉模型的内部运作方式,从中找到价值。”

为了进一步解释工作原理,OpenAI表示: “ OpenAI 显微镜基于两个概念,一个是模型中的位置,另一个是其应用的技术,比喻地说,位置就是你指向显微镜的地方,技术就是显微镜上面的镜头。”

此外,模型是由一个节点图体现的,也就是通过边连接的神经网络层。每个节点包含数百个单元,大致类似于神经元。大多数正在使用的技术只有在特定的分辨率下才有用。例如,特征可视化只能指向一个单元,而不能指向它的父节点。

在介绍显微镜的同时,OpenAI也表示希望显微镜将有助于电路协作工作,通过了解神经元之间的连接,对神经网络进行逆向工程。

目前,OpenAI显微镜对包括AlexNet系列、Inception系列、ResNet V2 50和VGG19在内的8个常见图像识别模型提供支持。

除了OpenAI的显微镜试图对神经元进行可视化,一些公司也试图对机器学习模型进行可视化。比如Facebook的Captum就试图可视化解释Pytorch机器学习模型所做的决定,支持跨模式的模型的可解释性,包括CV、NLP模型,可以支持大多数类型的 PyTorch 模型,只需对原始神经网络进行最小修改即可使用。

Captum网址:

https://captum.ai/

可以说从神经网络模型出现开始,研究人员就对其如何预测充满好奇,可解释的神经网络也成了一些研究人员的工作目标,除了刚才提到的OpenAI显微镜和Captum这些,还包括TensorBoard等工具,都是在这一方向的努力。

为何对于模型的评估信任如此重要?因为我们如果要将模型应用到一些重要行业,如果要基于模型的预测采取行动,或者选择是否部署新模型,就必须先了解它的预测机制。

毕竟对于用户来说,如果用户不信任模型或预测,他们就不会使用它。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4762

    浏览量

    100535
  • 神经元
    +关注

    关注

    1

    文章

    363

    浏览量

    18438
  • OpenAI
    +关注

    关注

    9

    文章

    1042

    浏览量

    6406
收藏 人收藏

    评论

    相关推荐

    共聚焦激光显微镜对比超分辨显微镜

    显微镜(CLSM) 1.1 工作原理 共聚焦激光显微镜通过使用激光作为光源,结合共聚焦技术来获取样品的高分辨率图像。在CLSM中,一点光源(通常是激光)被聚焦到样品上,然后通过一
    的头像 发表于 10-30 09:42 234次阅读

    德国进口蔡司体视显微镜的使用方法

    显微镜时是否需要手动对焦镜头,以及如何正确地进行对焦操作。一、蔡司体视显微镜的对焦机制蔡司体视显微镜设计有灵活的对焦系统,旨在提供清晰、锐利的图像。尽管有些高级模型
    的头像 发表于 09-26 15:19 290次阅读
    德国进口蔡司体视<b class='flag-5'>显微镜</b>的使用方法

    人工神经元模型的基本构成要素

    人工神经元模型是人工智能领域中的一重要概念,它模仿了生物神经元的工作方式,为机器学习和深度学习提供了基础。本文将介绍人工神经元模型的基本构成要素。
    的头像 发表于 07-11 11:28 1005次阅读

    人工神经元模型的基本原理是什么

    人工神经元模型是人工智能领域中的一重要概念,它模仿了生物神经系统中的神经元行为,为机器学习和深度学习提供了基础。 一、人工神经元模型的历史
    的头像 发表于 07-11 11:26 567次阅读

    人工神经元模型常见的转移函数有哪些

    人工神经元模型神经网络的基础,它模拟了生物神经元的工作原理。在人工神经元模型中,转移函数起着至关重要的作用,它决定了神经元的输出。以下是一
    的头像 发表于 07-11 11:22 869次阅读

    生物神经元模型包含哪些元素

    生物神经元模型神经科学和人工智能领域中的一重要研究方向,它旨在模拟生物神经元的工作原理,以实现对生物神经系统的理解和模拟。
    的头像 发表于 07-11 11:21 852次阅读

    人工神经元模型的基本原理及应用

    人工神经元模型是人工智能和机器学习领域的一重要概念,它模仿了生物神经元的工作方式,为计算机提供了处理信息的能力。 一、人工神经元模型的基本原理 生物
    的头像 发表于 07-11 11:15 635次阅读

    人工神经元模型的三要素是什么

    人工神经元模型是人工智能和机器学习领域中非常重要的概念之一。它模仿了生物神经元的工作方式,通过数学和算法来实现对数据的处理和学习。 一、人工神经元模型的基本概念 1.1 生物神经元与人
    的头像 发表于 07-11 11:13 701次阅读

    照明显微镜激光引擎

    ,就有损坏观察对象的风险。该领域要求的精度只有特定于应用的解决方案才能提供。 今天,我们推出了成套式显微镜激光引擎 Coherent CellX,从而增强了我们在生命科学激光系统领域的领导地位。 我们的经过扩展的 CellX 平台最初是为流式细胞术设计的,现在
    的头像 发表于 06-24 06:30 280次阅读
    照明<b class='flag-5'>显微镜</b>激光引擎

    共聚焦、光学显微镜与测量显微镜的区分

    共聚焦显微镜是一种光学显微镜,也可以被称为测量显微镜。在它用于精确测量样品的尺寸、形状、表面粗糙度或其他物理特性时,能够提供非常精确的三维形貌图像,这使得它成为测量样品表面特征的强大工具。共聚
    发表于 05-14 10:43 3次下载

    显微成像与精密测量:共聚焦、光学显微镜与测量显微镜的区分

    共聚焦显微镜是一种光学显微镜,也可以被称为测量显微镜。能够进行二维和三维成像,是光学显微镜技术中较为先进的一种;因其高精度的三维成像能力,也常被用作一种高级的测量
    的头像 发表于 05-11 11:38 790次阅读
    <b class='flag-5'>显微</b>成像与精密测量:共聚焦、光学<b class='flag-5'>显微镜</b>与测量<b class='flag-5'>显微镜</b>的区分

    共聚焦显微镜和激光共聚焦显微镜的区别详解

    两者在细节和特性上存在差异。1、原理上的差别:共聚焦显微镜基于共焦原理的显微镜技术,是一种使用了透镜系统将样品的不同焦深处的光聚焦到同一焦点上。这种聚焦方式能够减少背景噪音,提高图像的清晰度和对比度
    发表于 04-16 10:40 0次下载

    教你该如何操作体视显微镜

    阳一科技体视显微镜也称解刨显微镜,是微量物证检验常用的仪器。主要用于痕迹检验、文件检验中的细小物证,如指纹、工具、文字的显微观察和分析检验。体视显微镜主要操作有:调焦,视度调节,瞳距调
    的头像 发表于 01-26 08:35 2059次阅读
    教你该如何操作体视<b class='flag-5'>显微镜</b>

    显微镜的结构和使用方法 显微镜分为哪三部分

    显微镜是一种用于放大观察微小物体的光学仪器。它通过对物体的光线进行放大和调节,使我们能够看到肉眼无法观察到的微小细节。显微镜广泛应用于生物学、医学、工程和材料科学等领域。为了更好地理解显微镜的结构
    的头像 发表于 01-25 14:19 2548次阅读

    【应用案例】扫描近场光学显微镜SNOM

    扫描近场光学显微镜SNOM 扫描近场光学显微镜(scanning near-field optical microscopy, SNOM),能在纳米尺度上探测样品的光学信息,打破了长久以来经典(或远
    的头像 发表于 01-09 14:19 787次阅读