0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大脑视觉信号被Stable Diffusion复现成图像!

CVer 来源:量子位 2023-03-06 10:56 次阅读

“现在Stable Diffusion已经能重建大脑视觉信号了!”

就在昨晚,一个听起来细思极恐的“AI读脑术”研究,在网上掀起轩然大波:

5669e49c-bb5f-11ed-bfe3-dac502259ad0.png

这项研究声称,只需用fMRI(功能磁共振成像技术,相比sMRI更关注功能性信息,如脑皮层激活情况等)扫描大脑特定部位获取信号,AI就能重建出我们看到的图像!

58061578-bb5f-11ed-bfe3-dac502259ad0.png

例如这是一系列人眼看到的图像,包括戴着蝴蝶结的小熊、飞机和白色钟楼:

58365594-bb5f-11ed-bfe3-dac502259ad0.png

AI看了眼人脑信号后,立马就给出这样的结果,属实把该抓的重点全都抓住了:

58ef8e38-bb5f-11ed-bfe3-dac502259ad0.gif

再发展一步,这不就约等于哈利波特里的读心术了吗??

5b13639c-bb5f-11ed-bfe3-dac502259ad0.png

更有网友感到惊叹:如果说ChatGPT开放API是件大事,那这简直称得上疯狂。

5b5c7f82-bb5f-11ed-bfe3-dac502259ad0.png

所以,这究竟是怎么一回事?

用Stable Diffusion可视化人脑信号

这项研究来自日本大阪大学,目前已经被CVPR 2023收录:

5b73ba26-bb5f-11ed-bfe3-dac502259ad0.png

High-resolution image reconstruction with latent diffusion models from human brain activity

研究希望能从人类大脑活动中,重建高保真的真实感图像,来理解大脑、并解读计算机视觉模型和人类视觉系统之间的联系。

要知道,此前虽然有不少脑机接口研究,致力于从人类大脑活动中读取并重建信号,如意念打字等。

然而,从人类大脑活动中重建视觉信号——具有真实感的图像,仍然挑战极大。

例如这是此前UC伯克利做过的一项类似研究,复现一张人眼看到的飞机片段,但计算机重建出来的图像却几乎看不出飞机的特征:

5bde0c96-bb5f-11ed-bfe3-dac502259ad0.png

△图源UC伯克利研究Reconstructing Visual Experiences from Brain Activity Evoked by Natural Movies

这次,研究人员重建信号选用的AI模型,是这一年多在图像生成领域地位飞升的扩散模型。

当然,更准确地说是基于潜在扩散模型(LDM)——Stable Diffusion。

整体研究的思路,则是基于Stable Diffusion,打造一种以人脑活动信号为条件的去噪过程的可视化技术。

它不需要在复杂的深度学习模型上进行训练或做精细的微调,只需要做好fMRI(功能磁共振成像技术)成像到Stable Diffusion中潜在表征的简单线性映射关系就行。

它的概览框架是这样的,看起来也非常简单:

仅由1个图像编码器、1个图像解码器,外加1个语义解码器组成。

5c6acb86-bb5f-11ed-bfe3-dac502259ad0.png

具体怎么work?

如下图所示,第一部分为本研究用到的LDM示意图。

其中ε代表图像编码器,D代表图像解码器,而τ是一个文本编码器(CLIP)。

5d81b124-bb5f-11ed-bfe3-dac502259ad0.png

重点是解码分析,如下图所示,模型依次从大脑早期(蓝色)和较高(黄色)视觉皮层内的fMRI信号中,解码出重建图像(z)和相关文本c的潜在表征。

然后将这些潜在表征当作输入,就可以得到模型最终复现出来的图像Xzc。

5da3fd88-bb5f-11ed-bfe3-dac502259ad0.png

最后还没有完,如编码分析示意图,作者还构建了一个编码模型,用来预测LDM不同组件(包括图像z、文本c和zc)所对应的fMRI信号,它可以用来理解Stable Diffusion的内部过程。

5dff944a-bb5f-11ed-bfe3-dac502259ad0.png

可以看到,采用了zc的编码模型在大脑后部视觉皮层产生的预测精确度是最高的。(zc是与c进行交叉注意的反向扩散后,z再添加噪声的潜在表征)

5e8b3586-bb5f-11ed-bfe3-dac502259ad0.png

相比其它两者,它生成的图像既具有高语义保真度,分辨率也很高。

5f3857d4-bb5f-11ed-bfe3-dac502259ad0.png

还有用GAN重建人脸图像的

看完这项研究,已经有网友想到了细思极恐的东西:

这个AI虽然只是复制了“眼睛”所看到的东西。

但是否会有一天,AI能直接从人脑的思维、甚至是记忆中重建出图像或文字?

5f824506-bb5f-11ed-bfe3-dac502259ad0.png

“语言的用处不再存在了”

5fe2c048-bb5f-11ed-bfe3-dac502259ad0.png

于是有网友进一步想到,如果能读取记忆的话,那么目击证人的证词似乎也会变得更可靠了:

6010ead6-bb5f-11ed-bfe3-dac502259ad0.png

还别说,就在去年真有一项研究基于GAN,通过fMRI收集到的大脑信号重建看到的人脸图像:

60299bb2-bb5f-11ed-bfe3-dac502259ad0.png

不过,重建出来的效果似乎不怎么样……

604c0dfa-bb5f-11ed-bfe3-dac502259ad0.png

显然,在人脸这种比较精细的图像生成上,AI“读脑术”还有很长一段路要走。

对于这种大脑信号重建的研究,也有网友提出了质疑。

例如,是否只是AI从训练数据集中提取出了相似的数据?

6065a292-bb5f-11ed-bfe3-dac502259ad0.png

对此有网友回复表示,论文中的训练数据集和测试集是分开的:

61890740-bb5f-11ed-bfe3-dac502259ad0.png

作者们也在项目主页中表示,代码很快会开源。可以先期待一下~

6228f7b4-bb5f-11ed-bfe3-dac502259ad0.png

作者介绍

本研究仅两位作者。

一位是2021年才刚刚成为大阪大学助理教授的Yu Takagi,他主要从事计算神经科学和人工智能的交叉研究。

最近,他同时在牛津大学人脑活动中心和东京大学心理学系利用机器学习技术,来研究复杂决策任务中的动态计算。

另一位是大阪大学教授Shinji Nishimoto,他也是日本脑信息通信融合研究中心的首席研究员。

研究方向为定量理解大脑中的视觉和认知处理,谷歌学术引用3000+次。

那么,你觉得这波AI重建图像的效果如何?

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 成像技术
    +关注

    关注

    4

    文章

    287

    浏览量

    31425
  • 人工智能
    +关注

    关注

    1789

    文章

    46545

    浏览量

    236819

原文标题:CVPR 2023 | 大脑视觉信号被Stable Diffusion复现成图像!"AI读脑术"来了!

文章出处:【微信号:CVer,微信公众号:CVer】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    图像采集卡不断发展和改进,为视觉系统提供更大的价值

    图像采集卡最初是为了从模拟机器视觉相机中获取原始图像而开发的,人们曾一度预计该技术将被直接连接到电脑的技术所取代。然而,经验却并非如此。图像采集卡不断发展和改进,为
    的头像 发表于 09-30 11:10 155次阅读
    <b class='flag-5'>图像</b>采集卡不断发展和改进,为<b class='flag-5'>视觉</b>系统提供更大的价值

    图像采集卡:增强视觉数据采集

    图像采集卡介绍:在视觉数据采集领域,图像采集卡在捕获和处理来自各种来源的图像或视频方面发挥着关键作用。在本文中,我们将深入探讨图像采集卡的世
    的头像 发表于 09-24 11:06 225次阅读
    <b class='flag-5'>图像</b>采集卡:增强<b class='flag-5'>视觉</b>数据采集

    示波器的波形存储与复现,再也不怕瞬时信号抓不住了

    示波器和虚拟USB示波器来进行。Chrent台式示波器的波形存储与复现使用信号源模拟一个信号。通过BNC线将这个信号连接到示波器上。在示
    的头像 发表于 09-05 08:06 1755次阅读
    示波器的波形存储与<b class='flag-5'>复现</b>,再也不怕瞬时<b class='flag-5'>信号</b>抓不住了

    实操: 如何在AirBox上跑Stable Diffusion 3

    StableDiffusion3Medium是一种多模态扩散变换器(MMDiT)文本到图像模型,在图像质量、排版、复杂提示理解和资源效率方面具有显著提升的性能。目前瑞莎团队
    的头像 发表于 07-23 08:34 197次阅读
    实操: 如何在AirBox上跑<b class='flag-5'>Stable</b> <b class='flag-5'>Diffusion</b> 3

    计算机视觉图像处理的区别和联系

    计算机视觉图像处理是两个密切相关但又有明显区别的领域。 1. 基本概念 1.1 计算机视觉 计算机视觉是一门研究如何使计算机能够理解和解释视觉
    的头像 发表于 07-09 09:16 1048次阅读

    CCD视觉检测相对于人工检测有什么优点?

    ,CCD视觉检测是通过机器视觉产品摄取目标转换程图像信号,传送给专用的图像处理系统,根据像素分
    的头像 发表于 05-09 17:33 569次阅读
    CCD<b class='flag-5'>视觉</b>检测相对于人工检测有什么优点?

    UL Procyon AI 发布图像生成基准测试,基于Stable Diffusion

    UL去年发布的首个Windows版Procyon AI推理基准测试,以计算机视觉工作负载评估AI推理性能。新推出的图像生成测试将提供统一、精确且易于理解的工作负载,用以保证各支持硬件间公平、可比的性能表现。
    的头像 发表于 03-25 16:16 813次阅读

    韩国科研团队发布新型AI图像生成模型KOALA,大幅优化硬件需求

    由此模型的核心在于其运用了“知识蒸馏”(knowledge distillation)技术,这使得开源图像生成工具Stable Diffusion XL可大幅缩小其规模。原Stable
    的头像 发表于 03-01 14:10 551次阅读

    机器视觉图像采集卡:关键的图像处理设备

    机器视觉图像采集卡的工作原理。机器视觉图像采集卡通常由模拟-数字转换器(ADC)、数字信号处理器(DSP)和接口电路等组成。当光线照射到传感
    的头像 发表于 02-22 16:23 432次阅读
    机器<b class='flag-5'>视觉</b><b class='flag-5'>图像</b>采集卡:关键的<b class='flag-5'>图像</b>处理设备

    Stability AI试图通过新的图像生成人工智能模型保持领先地位

    Stability AI的最新图像生成模型Stable Cascade承诺比其业界领先的前身Stable Diffusion更快、更强大,而Stab
    的头像 发表于 02-19 16:03 855次阅读
    Stability AI试图通过新的<b class='flag-5'>图像</b>生成人工智能模型保持领先地位

    人工视觉仍然需要图像采集卡

    机器视觉系统中的三项重要任务。首先是图像重建,利用原有的模拟视频技术,将摄像机的模拟信号数字化。图像采集卡执行的第二个功能是存储图像,直到主
    的头像 发表于 01-30 14:42 306次阅读
    人工<b class='flag-5'>视觉</b>仍然需要<b class='flag-5'>图像</b>采集卡

    图像采集卡的工作原理及其与图像处理软件的区别介绍

    图像采集卡是一种用于将模拟图像信号转换号的设备。它在计算机视觉图像处理领域中起着关键作用,广
    的头像 发表于 01-10 16:35 858次阅读
    <b class='flag-5'>图像</b>采集卡的工作原理及其与<b class='flag-5'>图像</b>处理软件的区别介绍

    NeurIPS23|视觉 「读脑术」:从大脑活动中重建你眼中的世界

    在这篇 NeurIPS23 论文中,来自鲁汶大学、新加坡国立大学和中科院自动化所的研究者提出了一种视觉 「读脑术」,能够从人类的大脑活动中以高分辨率出解析出人眼观看到的图像。 人类的感知不仅由客观
    的头像 发表于 12-24 21:35 462次阅读
    NeurIPS23|<b class='flag-5'>视觉</b> 「读脑术」:从<b class='flag-5'>大脑</b>活动中重建你眼中的世界

    免费开源图像修复工具lama-cleaner介绍

    Lama Cleaner 是由 SOTA AI 模型提供支持的免费开源图像修复工具。可以从图片中移除任何不需要的物体、缺陷和人,或者擦除并替换(powered by stable diffusion)图片上的任何东西。
    的头像 发表于 12-04 10:23 2569次阅读
    免费开源<b class='flag-5'>图像</b>修复工具lama-cleaner介绍

    上线一周就2.1k star!单张图像直接转为3D模型!

    最大的好处就是可以直接利用Stable Diffusion这种经过数十亿张图像训练过的2D扩散模型,实际上相当于引入了非常强的先验信息。而且法线图可以表征物体的起伏和表面几何信息,进而计算3D模型的高保真几何元素。
    的头像 发表于 11-06 16:13 1034次阅读
    上线一周就2.1k star!单张<b class='flag-5'>图像</b>直接转为3D模型!