0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

谷歌翻译竟然预言世界末日?

DPVg_AI_era 来源:未知 作者:李倩 2018-07-23 09:07 次阅读

“世界末日时钟是23点57分。我们正在经历世界上的戏剧性的发展,这表明我们越来越接近末日和耶稣的回归。”这段惊悚的“预言”来自谷歌翻译。2016年,谷歌宣布机器翻译“重大突破”——神经机器翻译(GNMT),将翻译质量提高到接近人类笔译的水平。然而,它将无意义的文本翻译成怪异的宗教预言引起了新的恐慌。这次,要怪AI是“黑盒”,还是拖出谷歌员工来背锅?

在Google Translate中键入“dog”一词19次,然后选择将这段无意义的文本从毛利语翻译成英语,结果会怎样?

弹出来的是一段看似乱码宗教预言:

Doomsday Clock is three minutes at twelve We are experiencing characters and a dramatic developments in the world, which indicate that we are increasingly approaching the end times and Jesus’ return.

“世界末日时钟还差3分钟到12点。我们正在经历世界上的人物和戏剧性的发展,这表明我们越来越接近末日和耶稣的回归。”

这只是Reddit以及其他网站用户从谷歌翻译中挖掘出来的众多怪异、有时甚至是不祥的翻译的一个例子。将原文设为索马里语,连续输入“ag”一词,这个字符串会被翻译成“sons of Gershon”(革顺的儿子),“name of the LORD”(上帝的名字),并且会引用圣经里的术语,例如“cubits”(肘,圣经中的度量衡)和Deuteronomy(《申命记》)。谷歌翻译是谷歌已经推出10年的服务,现在可以翻译超过100种语言。

在推特上,这些翻译引起恐慌,有人甚至将这些奇怪的翻译归咎于鬼魂和恶魔。reddit上TranslateGate子论坛上有用户推测,其中一些奇怪的翻译输出可能来自收集自电子邮件或私人消息的文本。

谷歌发言人Justin Burr在一封电子邮件中表示:“Google Translate从网络上的翻译范例学习,不使用‘私人信息’进行翻译,系统甚至都无法访问到这些内容。”“这只是将无意义的话语输入系统,导致产生的也是无意义的内容的一种功能。”

对于这种怪异的输出,有几种可能的解释。比如,这些恶意消息可能是心怀不满的谷歌员工造成的,也可能是恶作剧用户滥用“提供建议”按钮造成的,该选项将接受用户提供的有助于改善翻译质量的建议。

罪魁祸首可能是神经机器翻译

哈佛大学研究自然语言处理和计算机翻译的助理教授Andrew Rush认为,内部的质量过滤器(quality filter)可能会捕捉到这种类型的恶意操作。Rush说,更有可能的是,这些奇怪的翻译与2016年时谷歌翻译的一个重大变化有关——它开始使用一种叫做“神经机器翻译”的技术。

在神经机器翻译中,使用一种语言的大量文本和另一种语言的相应译文来训练系统,以创建一个能够在两种语言之间相互翻译的模型。Rush说,当系统被输入无意义的文本时,它就会“产生幻觉”,生成怪异的输出——就像谷歌的DeepDream视觉系统会产生可怕的图像一样。

谷歌DeepDream的作画

“这些模型都是黑盒,你能找到多少训练实例,它就能学到多少。” Rush说:“训练实例中绝大部分看起来都像人类语言,因此当你给它一个新的实例时,它受到的训练就是,不惜一切代价创造出一些看起来也像人类语言的东西。然而,如果你给它一些非常不同的东西,最好的翻译将是一些看起来仍然流畅的文本,但根本与输入无关。”

BBN Technologies的资深科学家、从事机器翻译工作的Sean Colbath也同意,奇怪的输出可能是由于Google Translate的算法试图在混乱中寻找秩序。他还指出,这些产生最奇怪结果的语言——索马里语、夏威夷语和毛利语——它们用于训练的翻译文本比英语或汉语等更广泛使用的语言要小得多。因此,Colbath说,谷歌可能会使用《圣经》这类的宗教文本(《圣经》已经被翻译成多种语言),用这些文本来训练它的模型,导致产生宗教内容。

Rush也同意这种说法,如果谷歌使用《圣经》来训练它的神经翻译模型,那么就可以解释一些奇怪的输出了。事实上,索马里语的几个奇怪的翻译版本与《旧约》中的某些章节很相似。比如《出埃及记》27:18提到“a hundred cubits”(长一 百肘),并且有几节经文,包括《民数记》3:18讨论了“sons of Gershon”(革顺的儿子)。

谷歌发言人Justin Burr拒绝回答Google Translate的训练数据是否包含宗教文本。

但有时候,确实感觉这个算法似乎在传递某种神秘的精神能量——它甚至会开笑话。

你看,用Google Translate翻译“w hy ar e th e tran stla tions so wei rd”在索马里语中的意思,它的输出是,“这是一个让它变得更好的好办法”。

神经机器翻译的主要问题

Philipp Koehn和Rebecca Knowles在2017年就这一主题撰写了一篇精彩的关于神经机器翻译的论文(文末附论文地址),现在仍然具有现实意义。在这里有必要总结一下:

1.神经机器翻译(NMT)在处理领域之外的数据时的表现很糟:当前的机器翻译系统会生成非常流畅的输出,这些输出与领域外数据的输入无关。因此像Google翻译这样的通用机器翻译系统在法律或金融等专业领域的表现尤其糟糕。与基于短语的系统等传统方法相比,NMT系统的效果更差。有多差呢?请参阅下面的图表。非对角线上元素是是用领域外数据训练后的结果,绿色条代表NMT,蓝色条代表基于短语的系统。

将机器翻译系统在一个领域内(行)上训练,并在另一个领域(列)上进行测试。

蓝色:基于短语的系统 绿色:NMT

2.NMT在小数据集上表现不佳:一般而言,大多数机器学习都是这样,但这个问题在NMT上尤为突出。 NMT的优点在于,随着数据量的增加,它的表现要(比基于短语的机器翻译)更好,但在数据量很低的情况下,NMT的表现确实更差。事实上,正如作者所说,“在资源条件较差的情况下,NMT会产生与输入内容无关的流畅输出。”这可能是Motherboard的文章探讨的一些关于NMT表现奇怪的另一个原因。

3.NMT在罕见词汇上的表现不佳:尽管比基于短语的翻译的表现更好,但NMT对于罕见或未见过的词语翻译的表现不佳。对于存在大量变形词的语言及大量命名实体的领域,这可能成为一个问题,因为变形词和命名实体一般非常罕见。

上图是我们即将出版的书的第2章部分内容的摘录。例如,在土耳其语中,时不时就会遇到变形形式的词。

如果单词只被观察到一次,就会被舍弃。字节成对编码(byte-pair encoding)技术有助于解决这个问题,但有必要对此进行更详细的研究。

4.长句的翻译问题:对长句编码及生成长句仍然是一个没有解决的问题。 机器翻译系统随句子长度的增加,其表现会越来越糟,NMT系统尤其如此。使用注意力有帮助,但问题远未“解决”。在许多领域,如法律领域,冗长复杂的句子是很常见的。

5.注意力(Attention)机制不等于简单对齐:这是一个非常微妙但重要的问题。在传统的SMT系统(如基于短语的MT)中,对齐翻译为模型的检测提供了有用的调试信息。但是注意机制不能被视为传统意义上的对齐,即使论文经常将注意力机制作为“软对齐”引起注意。在NMT系统中,除了源语言中的动词之外,目标语言中的动词也可以作为主语和宾语成分。

6.难以控制翻译质量:每个单词都有多种翻译,典型的机器翻译系统在源句的翻译结构上表现很好。为了保持句子结构的大小合理,会使用集束搜索(beam search)。通过改变集束宽度,可以找到低概率但正确的平移。而对于NMT系统,调整集束的宽度似乎没有任何影响,甚至可能会有不良影响。

当数据量很大时,NMT系统仍然很难被击败。关于神经网络模型的黑盒性的讨论也在继续,今天的NMT模型(不论是基于LSTM还是Transformer)都会受此影响。这是一个活跃的研究领域,如果时间允许,我期待参加EMNLP关于该主题的研讨会。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 谷歌
    +关注

    关注

    27

    文章

    6126

    浏览量

    104895
  • 机器翻译
    +关注

    关注

    0

    文章

    139

    浏览量

    14860

原文标题:谷歌翻译竟预言世界末日,专家解密神经翻译6大难题

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    阿里国际发布翻译大模型Marco

    近日,阿里国际正式推出了其翻译大模型——Marco。这款模型已在阿里国际AI官网Aidge上线,并向全球用户开放使用。
    的头像 发表于 10-17 16:07 202次阅读

    使用逻辑和翻译优化车身控制模块(BCM)应用说明

    电子发烧友网站提供《使用逻辑和翻译优化车身控制模块(BCM)应用说明.pdf》资料免费下载
    发表于 09-11 11:30 0次下载
    使用逻辑和<b class='flag-5'>翻译</b>优化车身控制模块(BCM)应用说明

    英特尔锐炫显卡助力游戏体验升级

    日前,网易超自然开放世界游戏《七日世界》开启全球公测,凭借独特的新怪谈世界观以及区别于传统“末日游戏”的细节设计,该游戏不仅稳居Steam愿望单前10,更是在公测前就已斩获超2000万
    的头像 发表于 08-16 15:17 430次阅读

    超ChatGPT-4o,国产大模型竟然更懂翻译,8款大模型深度测评|AI 横评

    随着AI工具的不断增多,各家模型的能力也日益提升,现在无论哪款大模型几乎都能够处理各种翻译难题。在AI浪潮当下,越来越多的论文和前沿信息需要快速翻译和解读,依赖传统的翻译工具依旧面临“翻译
    的头像 发表于 07-14 08:04 128次阅读
    超ChatGPT-4o,国产大模型<b class='flag-5'>竟然</b>更懂<b class='flag-5'>翻译</b>,8款大模型深度测评|AI 横评

    谷歌发布全新AI基础世界模型Genie

    谷歌近日宣布推出其最新研发的AI基础世界模型——Genie。这款模型拥有惊人的110亿参数,其独特之处在于,仅需一张图片,便能生成一个充满活力和交互性的虚拟世界。用户可以在这个世界中逐
    的头像 发表于 03-04 14:02 682次阅读

    谷歌发布全新AI模型Genie

    谷歌近日发布了其全新的AI模型Genie,这一模型彻底改变了我们与数字世界的互动方式。Genie不仅可以接收文本提示、草图或想法,还能将这些创意迅速转化为一个可互动和玩耍的虚拟世界
    的头像 发表于 02-28 18:25 1605次阅读

    谷歌发布基础世界模型Genie,世界模型领域竞争升温

    继OpenAI和Meta之后,谷歌也在世界模型领域公布了其最新进展。据谷歌官网介绍,Genie是一个基于互联网视频训练的基础世界模型,能够从合成图像、照片、草图等多种来源生成多种动作可
    的头像 发表于 02-28 18:20 1366次阅读

    谷歌发布AI基础世界模型Genie

    谷歌近日宣布了其生成式AI的全新里程碑——全新AI基础世界模型Genie。这一创新技术允许用户通过单张图像提示,生成一个可玩的、交互式的虚拟环境,从而开启了一个全新的数字体验时代。
    的头像 发表于 02-28 17:41 743次阅读

    谷歌DeepMind重磅发布了基础世界模型:Genie(精灵)

    大家都喜欢玩游戏吧?因为游戏最大的吸引力是让我们逃避现实、幻想一个远离我们眼前现实的世界,掌控这个虚拟的现实世界。现在,我们可以想象一下,如果我们有能力创造自己的世界,那该多好了。
    的头像 发表于 02-28 10:45 805次阅读
    <b class='flag-5'>谷歌</b>DeepMind重磅发布了基础<b class='flag-5'>世界</b>模型:Genie(精灵)

    谷歌发布新型AI模型Genie

    近日,谷歌推出了一款革命性的AI模型——Genie。这款模型能够将简单的文本提示、草图或初步想法迅速转化为一个可以互动和游戏的虚拟世界。这一突破性的技术无疑将改变人们创建和体验虚拟世界的方式。
    的头像 发表于 02-28 10:05 670次阅读

    谷歌交互世界模型重磅发布

    谷歌模型
    北京中科同志科技股份有限公司
    发布于 :2024年02月28日 09:13:06

    N9H20 GPIO上电竟然是高电平,有没有办法解决?

    一直很纳闷,GPIO上电竟然是高电平。有没有办法解决,是不是要改动启动程序才能解决问题?
    发表于 01-17 08:27

    TooliP - 智能专利文件翻译工具,节省80%翻译时间

    在面对专利文件的独特要求,如高度严谨的术语和精准度时,其他普通翻译工具往往显得乏力。TooliP赋予用户简化流程并显著节约时间的机会,平均能节省约80%的翻译时间。
    的头像 发表于 12-20 14:48 920次阅读

    万万没想到,二极管竟然还可以这样用?

    万万没想到,二极管竟然还可以这样用?
    的头像 发表于 12-15 09:28 292次阅读
    万万没想到,二极管<b class='flag-5'>竟然</b>还可以这样用?

    你不知道的FPC,它的发展史竟然是这样的!

    你不知道的FPC,它的发展史竟然是这样的!
    的头像 发表于 11-15 10:48 1022次阅读