0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌的这只AI学会了“打小抄”,还骗过了它的创造者

C语言专家集中营 来源:YXQ 2019-06-05 08:36 次阅读

一篇来自谷歌和斯坦福2017年的研究今天在twitter和reddit上被热议。

在这个让人啼笑皆非的研究里,为了完成图像转换的任务,CycleGAN在训练过程中通过人类无法察觉的某种“隐写术”,骗过了它的创造者,给自己留下了隐秘的“小抄”,然后顺利完成了任务。

这个小插曲催生的论文也因此被命名为“CycleGAN, a Master of Steganography”(CycleGAN,一个隐写术大师),被当年的NeurIPs收录。

听到“骗过人类”觉得有点可怕是不是,先别慌,一起来看看这个“小把戏”。

为了加快将卫星图像转换为谷歌精确的街道地图,谷歌团队使用CycleGAN神经网络系统,希望通过大量的训练,从而使得这个模型能够尽可能精确、高效的转换X、Y类型图片获得相应结果。

简单来说,研究者希望通过训练这个CycleGAN模型,可以实现两类图片的转换:把航拍照变成街道地图,再把街道地图变回航拍照。

早期的实验结果中,这个模型做的还不错。

虽然很难深入了解神经网络流程的内部工作原理,但团队可以轻松审核其生成的数据。通过一些实验,他们发现CycleGAN确实大幅提升了转化速度。

直到有一天,研究者发现了奇怪的事情:这个模型自作主张的根据航拍卫星图片重建了街道地图。

比如,在创建街道地图时,屋顶上的天窗被研究者通过某种设置被抹掉了,但通过街道图转化为航拍照后,这些天窗又神奇地出现了。

左侧是原始地图,街道地图从原始地图产生。中间:生成的地图。右侧:重构的地图。其中,卫星地图的样本只来自街道地图。注意这两张卫星地图里出现的点,它在街道地图没有显示。

心存疑惑的研究者开始着手检查这个CycleGAN学到的mapping到底是什么,接着发现了更多“凭空”出现、根本不可能产生的航拍照。

经过一系列检查,研究者发现原来是CycleGAN在把航拍照变成地图的时候,加入了一些人类肉眼不可见的噪音(或者其实可以说是信息),然后从地图reconstruct航拍照的时候,就通过这些噪音来读取信息。

就好比,为了应付人类任务,AI在地图照上面偷偷写了一点小抄/水印,而为了躲过人类的检查,只有它自己训练出来的模型才读得懂这些小抄/水印。

这和人类研究者想象的任务完成途径完全不一样。

可能有人会觉得,只要工作能完成,那么这个办法也非常聪明。

但值得一提的是,如果一些细节被巧妙插入视觉数据中,人眼不会注意到的数千个微小颜色变化,但计算机却可以轻松检测到。

也就是说,这种方法尽管可以实现目的,但是非常容易被攻击。一旦有“攻击者”在一张地图照里面加一些肉眼不可见的“小抄”,就会“重构”出来一张牛头不对马嘴的照片。

通过这种方式,可以将航空地图编码成任何街道地图!计算机在编码的过程机中不需要关注“真实”的街道地图,所有重构的航空照片所需的数据都可以“人畜无害”地叠加在完全不同的街道地图上。

研究人员也通过实验证实了这一点:

右边的地图通过编码左边到映射的地图中,在视觉上很显然没有明显的变化。

上图(c)中的彩色地图是计算机系统引入具有细微差别的可视化图片。 图片形成了和航空地图差不多的形状。如果你不把他放大,并且仔细的观察,你可能很难发现这些差别。

这种将数据编码成图像的做法并不新鲜,这是一门被称为“隐写术”的技术,值得一提的是,它已经非常成熟、现在被广泛应用。

现在,似乎计算机也学会了这种隐写方法,运用此方法机器可以“偷懒”,从而逃避学习、逃避手头的任务。

了解一下Cycle GANs所采用的学习方法,出现这一“偷懒”结果似乎也不意外。

Cycle GANs从X到Y的G映射的过程中,生成器不是选取一些隐向量来映射,而是使用图像的直接转换量。使用普通的对抗损失函数来构建一个映射G。利用G,可以从生成的图像X映射到真实图像Y。

类似地, 我们也有一个反向的映射, 但这有一定的可能会使我们丢失原始图像的一些特性。

所以约束性在Cycle GAN的使用中非常重要。

一旦约束条件不完备,模型很容易出现钻空子的“偷懒”情况。

今天的热议中,很多人就此得出了“人工智能正越来越聪明”论断,从而心生恐惧。

大可不必慌张,这一结果正说明机器还不够聪明,到目前为止,它还不能完成复杂的图像类型相互转换等工作。但是,它可以利用人类不善于检测的弱点欺骗人类。

对计算结果的更严格评估可以避免这种情况。

计算机所做的事情,全部来自程序命令,所以你的要求也必须明确具体。不过这个案例给了我们关于解决神经网络的弱点的新的思路,对于计算机来说如果没有明确禁止它做什么事,它可以自行找到一个从细节出发,回馈自我到的一个高效解决既定问题的方式。

这也为提高CycleGAN生成图像的质量提供了有一种可能的途径,尽管循环一致性损失能够让神经网络将原图像的信息编码映射到生成的图像中,但是,模型也可以偷偷的通过对抗性学习提高欺骗能力。如果能够找到阻止算机“打小抄”的方式,这会使图图转换工作得到突破。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 谷歌
    +关注

    关注

    27

    文章

    6166

    浏览量

    105337
  • AI
    AI
    +关注

    关注

    87

    文章

    30811

    浏览量

    268954

原文标题:谷歌的这只AI学会了“打小抄”,还骗过了它的创造者

文章出处:【微信号:C_Expert,微信公众号:C语言专家集中营】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    谷歌发布Gemini 2.0 AI模型

    谷歌近日正式推出了新一代AI模型——Gemini 2.0。此次更新引入了名为“深度研究”的新特性,旨在为用户提供更加全面和深入的复杂主题探索与报告撰写辅助。 Gemini 2.0通过高级推理和长上
    的头像 发表于 12-12 10:13 210次阅读

    云端AI开发工具怎么用

    云端AI开发工具通常包括代码编辑器、模型训练平台、自动化测试工具、代码管理工具等。这些工具不仅降低了AI开发的门槛,极大地提高了开发效率和模型性能。下面,
    的头像 发表于 12-05 13:31 121次阅读

    谷歌Pixel 9系列AI功能抢眼,苹果被指AI领域落后

    8月15日,谷歌意外提前揭晓了其新品发布会,借助Pixel 9系列手机搭载的Gemini AI技术,在苹果iPhone 16系列发布前夕抢占了科技头条。此举不仅展示了谷歌在人工智能领域的最新成果,
    的头像 发表于 08-15 15:31 583次阅读

    谷歌:聚焦AI与技术创新,携手中国开发共筑未来

    2024年8月9日,备受瞩目的谷歌开发大会——I/O Connect China圆满落幕。此次盛会,谷歌面向中国广大的开发群体,全面展示了其在人工智能(
    的头像 发表于 08-09 17:03 884次阅读

    四维图新出席AutoCC汽车创造者大会

    7月18日,由知名产业智库泰伯网主办的AutoCC汽车创造者大会(Automobile Creators Conference)在上海举办,大会深探数据闭环和数据合规挑战,关注智驾出海新机遇新问题
    的头像 发表于 07-19 09:20 652次阅读
    四维图新出席AutoCC汽车<b class='flag-5'>创造者</b>大会

    荣耀新品将搭载谷歌AI功能,提升生成式AI体验

    荣耀于5月22日宣布,将在新款智能手机上集成谷歌AI功能,实现生成式AI体验。此外,新机还将得到谷歌云服务的支持。
    的头像 发表于 05-23 08:51 483次阅读

    谷歌发布多模态AI新品,加剧AI巨头竞争

    在全球AI竞技场上,谷歌与OpenAI一直稳居领先地位。近日,谷歌在I/O开发大会上掀起了一股新的技术浪潮,发布了多款全新升级的多模态AI
    的头像 发表于 05-16 09:28 448次阅读

    Create 2024百度AI开发大会 带来了哪些新技术?

    发表了主题为“人人都是开发”的主旨演讲。他强调了AI正在掀起一场创造力革命,并预测未来开发应用将变得像拍摄短视频一样简单,人人都可以成为开发
    发表于 04-17 09:55 1384次阅读
    Create 2024百度<b class='flag-5'>AI</b>开发<b class='flag-5'>者</b>大会 带来了哪些新技术?

    开发手机 AI - 目标识别 demo

    功能简介 该应用是在Openharmony 4.0系统上开发的一个目标识别的AI应用,旨在从上到下打通Openharmony AI子系统,展示Openharmony系统的AI能力,并为开发
    发表于 04-11 16:14

    2024百度Create AI开发大会:李彦宏将展示“开箱即用”的三大神器

    4月16日,备受瞩目的2024百度Create AI开发大会将在深圳国际会展中心(宝安)召开,百度创始人、董事长兼首席执行官李彦宏将发表“人人都是创造者”的演讲主题。
    的头像 发表于 04-11 14:53 779次阅读

    谷歌模型合成工具在哪找到

    谷歌模型合成工具可以在谷歌的官方网站或相关的开发平台上找到。具体地,您可以尝试访问谷歌AI平台或开发
    的头像 发表于 03-01 18:13 1573次阅读

    谷歌AI大模型Gemma全球开放使用

    谷歌公司近日宣布,其全新的AI大模型Gemma现已在全球范围内开放使用。这一重要举措不仅彰显了谷歌AI领域的领先地位,还为其在全球范围内的竞争力增添了新
    的头像 发表于 02-28 18:12 1143次阅读

    全球顶尖AI大会—百度Create AI开发大会最新干货曝光

    全球顶尖AI大会——百度Create AI开发大会,定档于2024年4月16日至17日在深圳国际会展中心(宝安)举办,大会主题为“创造未来(Create the Future)”。
    的头像 发表于 02-22 14:35 787次阅读

    谷歌地图引入生成式AI功能

    谷歌近日宣布,在其广受欢迎的谷歌地图应用中引入了全新的生成式AI功能。这一创新功能利用大型模型,深入分析了地图上超过2.5亿个地点的详细信息,并结合了超过3亿贡献的社区意见,为用户提
    的头像 发表于 02-06 16:42 5065次阅读

    谷歌DeepMind资深AI研究员创办AI Agent创企

    近日,刚从谷歌DeepMind离职的资深AI研究员Ioannis Antonoglou宣布创办了一家名为“AI Agent”的创企。Ioannis Antonoglou常驻伦敦,此前曾担任谷歌
    的头像 发表于 02-04 10:02 784次阅读