0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI如何检测这类虚假新闻

yrlT_lianggezhi 来源:YXQ 2019-04-28 17:18 次阅读

上个月,OpenAI 发布其最新语言模型——GPT-2,但因为担心它可能被用来制造大量伪造和虚假的信息,颇为戏剧性地决定不开源该模型。

这一决定也使得 AI 社区开始讨论:如何检测这类虚假新闻

在一项新实验中,来自麻省理工学院-IBM Watson 人工智能实验室和哈佛大学自然语言处理实验室的研究人员思考,能够生成如此逼真的文本的语言模型,是否可以用来检测其他语言模型生成的文本的真假。

图 丨 OpenAI GPT-2 生成的假新闻。(来源:HENDRIK STROBELT AND SEBASTIAN GEHRMANN)

这个假设背后的想法很简单:语言模型通过不断预测单词序列中的下一个概率最大的单词来产生句子。因此,如果某个语言模型能够轻松地预测某一段落中的大部分词语,那这段文本很可能就是这个语言模型生成的。

研究人员通过构建基于 OpenAI GPT-2 开源的小模型的交互式工具来测试他们的想法。当为该工具提供一段文字时,它会让每个单词高亮不同的颜色,从绿色到黄色到红色,表示预测几率逐渐下降;如果语言模型根本没有预测出某一单词,它会用紫色高亮该单词。所以从理论上讲,红色和紫色词的越多,该文本由人类书写的概率就越大;如果绿色和黄色词的份额越大,该文本由语言模型生成的概率就越大。

图 丨 OpenAI GPT-2 小模型生成的文本。(来源:HENDRIK STROBELT AND SEBASTIAN GEHRMANN)

事实上,研究人员发现,GPT-2 的小模型和完整版本的模型所写的段落几乎完全是绿色和黄色,而人类写的科学文摘和美国入学标准化测试中阅读理解段落中的文字有很多红色和紫色。

图 丨 美国入学标准化测试中的阅读理解短文,由人类书写。(来源:HENDRIK STROBELT AND SEBASTIAN GEHRMANN)

但事情没有想象中的简单。Janelle Shane 是一位负责运营“Letting Neural Networks Be Weird“博客的研究员,她并未参与前文所述的研究。她将该工具用于更严格的测试,不仅仅提供 GPT-2 生成的文本,还提供了由其他语言模型生成的文本,包括一个用亚马逊评论训练的模型和一个用《龙与地下城》语料训练的模型。

她发现,这个工具无法预测每个段落中的大部分单词,因此该工具认为这些文本是人类写的。这说明一个重要观点:语言模型可能擅长检测自己的输出,但不一定擅长检测其他语言模型的输出。

看来,人类打击互联网假新闻还是任重道远啊。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 互联网
    +关注

    关注

    54

    文章

    11149

    浏览量

    103246
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268908

原文标题:假新闻AI也可用于检测消息真假,你信吗?

文章出处:【微信号:lianggezhizi,微信公众号:两个质子】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    工业AI视觉检测项目实施第四步:工厂验收

    在当今智能制造的洪流中,AI视觉检测技术凭借高效与精准,已跃升为提高产品质量和生产效率的关键利器。为了助力从业者更好地理解和实施AI视觉检测项目,阿丘科技「
    的头像 发表于 12-09 16:56 172次阅读
    工业<b class='flag-5'>AI</b>视觉<b class='flag-5'>检测</b>项目实施第四步:工厂验收

    汽车行业AI视觉检测(下):创新驱动品质提升

    在上篇文章中,我们了解了汽车行业进行视觉检测的现有难点,以及升级AI的困局,并且利用差速器螺栓涂胶质量检测与发动机装配检测这两个典型场景案例,展开详细介绍,可查看看《汽车行业
    的头像 发表于 11-30 01:04 210次阅读
    汽车行业<b class='flag-5'>AI</b>视觉<b class='flag-5'>检测</b>(下):创新驱动品质提升

    AI干货补给站04 | 工业AI视觉检测项目实施第三步:模型构建

    在当今智能制造的浪潮中,AI视觉检测技术凭借其高效、精准的特性,已然成为提升产品质量和生产效率的重要工具。为了助力从业者更好地理解和实施AI视觉检测项目,阿丘科技「
    的头像 发表于 11-29 01:04 172次阅读
    <b class='flag-5'>AI</b>干货补给站04 | 工业<b class='flag-5'>AI</b>视觉<b class='flag-5'>检测</b>项目实施第三步:模型构建

    直播报名丨第4讲:AI检测系统落地工具详解

    阿丘工业AI学堂上线“AI检测系统开发实战”系列课程,全面涵盖AI检测系统开发从理论到实践、从算法选择到系统落地的各个关键环节,助力您快速了
    的头像 发表于 11-23 01:05 118次阅读
    直播报名丨第4讲:<b class='flag-5'>AI</b><b class='flag-5'>检测</b>系统落地工具详解

    AI干货补给站03 | 工业AI视觉检测项目实施第二步:数据收集

    阿丘科技「AI干货补给站」推出系列文章——《工业AI视觉检测项目入门指南》,这一系列内容将AI视觉检测项目的实施分为四个阶段:制定计划、数据
    的头像 发表于 11-22 01:06 199次阅读
    <b class='flag-5'>AI</b>干货补给站03 | 工业<b class='flag-5'>AI</b>视觉<b class='flag-5'>检测</b>项目实施第二步:数据收集

    直播报名丨第2讲:热门AI检测案例解析

    阿丘工业AI学堂上线“AI检测系统开发实战”系列课程,全面涵盖AI检测系统开发从理论到实践、从算法选择到系统落地的各个关键环节,助力您快速了
    的头像 发表于 11-12 01:05 179次阅读
    直播报名丨第2讲:热门<b class='flag-5'>AI</b><b class='flag-5'>检测</b>案例解析

    AI学堂首播丨一节课详解AI检测系统开发全流程

    阿丘科技全新推出AI视觉培训直播课,助力工程师提升AI视觉实战技能,紧跟前沿技术。本次课程特邀资深AI视觉工程师主讲,结合实际案例深度解析AI视觉
    的头像 发表于 11-06 08:03 187次阅读
    <b class='flag-5'>AI</b>学堂首播丨一节课详解<b class='flag-5'>AI</b><b class='flag-5'>检测</b>系统开发全流程

    使用TI Edge AI Studio和AM62A进行基于视觉AI的缺陷检测

    电子发烧友网站提供《使用TI Edge AI Studio和AM62A进行基于视觉AI的缺陷检测.pdf》资料免费下载
    发表于 09-03 10:38 0次下载
    使用TI Edge <b class='flag-5'>AI</b> Studio和AM62A进行基于视觉<b class='flag-5'>AI</b>的缺陷<b class='flag-5'>检测</b>

    ai烟火检测解决方案

    在当今社会,火灾已成为威胁公共安全的重要隐患之一,其突发性与破坏性给人们的生命财产安全带来了巨大挑战。为有效应对这一难题,远景达ai烟火检测解决方案应运而生,以其前沿的边缘计算与人工智能技术,为火灾
    的头像 发表于 08-19 16:07 243次阅读
    <b class='flag-5'>ai</b>烟火<b class='flag-5'>检测</b>解决方案

    人工智能测谎工具:双刃剑的精准与信任考验

    在信息时代的洪流中,辨别真假信息成为了公众日益严峻的挑战,尤其是在网络空间,虚假新闻与夸大宣传如同野草般蔓延。研究显示,人类在辨别谎言方面的天然能力并不尽如人意,这促使了科技界对于新型测谎手段的探索,其中人工智能(AI)测谎系统尤为引人注目。
    的头像 发表于 07-09 14:39 463次阅读

    基于AI深度学习的缺陷检测系统

    在工业生产中,缺陷检测是确保产品质量的关键环节。传统的人工检测方法不仅效率低下,且易受人为因素影响,导致误检和漏检问题频发。随着人工智能技术的飞速发展,特别是深度学习技术的崛起,基于AI深度学习的缺陷
    的头像 发表于 07-08 10:30 1376次阅读

    AI初创公司Alembic攻克LLM虚假信息难题

    近日,AI领域的创新者Alembic公司宣布了一项重大突破:其全新AI系统成功解决了LLM(大型语言模型)中的虚假信息生成问题。这一成就标志着长久以来困扰LLM的“幻觉”问题被彻底攻克。
    的头像 发表于 06-18 14:26 533次阅读

    OpenAI推出专用的AI检测工具

    OpenAI最近推出了一款全新的AI检测工具,这款工具专门针对由DALL·E 3模型生成的图片。令人印象深刻的是,该工具能够精准识别出这类图片,其准确率高达98%。这一举措的主要目的是为了协助研究人员在内容真实性方面进行深入的研
    的头像 发表于 05-09 10:01 517次阅读

    新火种AI|如何看待AI蹭热点,合成假新闻?官方:治疗AI乱象,务必下猛药

    针对AI造谣乱象,官媒明确发声:欲去“沉疴”还需“猛药”。
    的头像 发表于 04-19 21:59 232次阅读
    新火种<b class='flag-5'>AI</b>|如何看待<b class='flag-5'>AI</b>蹭热点,合成<b class='flag-5'>假新闻</b>?官方:治疗<b class='flag-5'>AI</b>乱象,务必下猛药

    AI算法在燃气站的工作原理,安全帽、抽烟、打电话检测的具体应用,如何利用AI提升安全水平

    AI算法在燃气站安全管理中的应用,包括烟火检测、安全帽识别、抽烟、打电话检测等方面的工作原理。AI算法助力燃气站安全管理,烟火检测更精准!
    的头像 发表于 12-26 21:25 636次阅读