0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

生成式AI或致虚假信息野蛮生长

机器人技术与应用 来源:科技日报 2023-06-21 16:05 次阅读

所谓“深度造假”技术,是一种利用AI将现有图像、音频视频中的人物替换成他人的技术。一些经过操纵的图像、视频和音频等“深度造假”内容,曾经需要专业人士才能完成,但在生成式AI的加持下,现在很多人都能更容易地创建出来。

生成式人工智能(AI)横空出世,可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称,超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出,AI的最新创新也提出了新的版权问题,即如何界定AI创建或使用的内容属于侵权还是合理使用等。

美国《福布斯》网站在6月9日的报道中指出,另一个令人担忧的问题已经浮出水面:生成式AI能被用于社交媒体上的虚假信息活动。虚假信息活动指蓄意制造和传播带有政治目的的谎言,这与一个人犯错误或说谎不同。虚假信息活动可使用各种策略,还可利用各种新技术、新媒体以及传统媒体来扩大分歧和煽动动乱。

美国塔尔萨大学网络安全教授约翰·希尔表示,众所周知,脸书、推特、TikTok等平台现在是信息战的前线,生成式AI“染指”这一领域既造成了新的危险,也放大了现有的危险。

“深度造假”:假作真时真亦假

2017年,当名为“深度造假”(Deepfake)的用户在互联网上首次发布合成视频时,也许不曾想到,他已经打开了“潘多拉魔盒”。随着“深度造假”技术在缺少监管的状态下野蛮生长,已逐渐危害经济和社会的稳定。

所谓“深度造假”技术,是一种利用AI将现有图像、音频或视频中的人物替换成他人的技术。一些经过操纵的图像、视频和音频等“深度造假”内容,曾经需要专业人士才能完成,但在生成式AI的加持下,现在很多人都能更容易地创建出来。

希尔指出,“深度造假”使别有用心之人可窃取或盗用他人的声音,将其嵌入图像或视频中,或者以无法检测的方式操纵或更改数字内容。这一切才刚刚开始,随着技术的不断进步,“深度造假”技术制作的内容与真实事物之间的差距会越来越小。而且,随着制作出“深度造假”内容变得越来越简单,社交媒体会随时向大众传播此类内容。

希尔强调称,随着这些“深度造假”内容在社交媒体平台上不受限制、不受管理地传播,将导致一场虚假信息运动,以影响、说服和误导他人或特定受众。随着相关技术的不断发展,未来可能会发生什么令人非常担忧。

侵蚀对政治选举的信任

《福布斯》杂志指出,生成式AI再加上“深度造假”,可能会给2024年美国总统选举带来真正可怕的后果。

美国公共广播服务网站在5月份的报道中指出,生成式AI不仅可快速生成有针对性的竞选电子邮件、文本或视频,还可能被用来误导选民、冒充候选人并以前所未有的规模和速度破坏选举,诽谤候选人,甚至煽动暴力。

中佛罗里达大学研究生院教授兼副院长提摩太·塞尔诺博士表示,AI制造出的“深度造假”内容看起来非常真实,即使对专家来说,确定它们的真实性也是一个挑战。

与此同时,选民们被AI捏造的视频淹没,如果社交媒体平台故意或错误地允许AI修改或生成的信息在其网络上逗留并肆意传播,选民对其信任度可能会进一步降低。美国网络安全公司预测,试图干预美国选举的团体将利用AI和合成媒体作为侵蚀信任的一种方式。

“内容认证”标准尚在制订

《福布斯》网站在报道中指出,生成式AI相关行业正在制订“内容认证”标准,使用户验证数字内容的来源,但开发和采纳这些标准还需要一些时间。

希尔指出,这是数字媒体发展的必经阶段,尽管如此,用户在浏览或使用社交媒体平台上的内容时,必须更加谨慎。此外,社交媒体网站应更积极地监管AI操纵的帖子。

AI提供了颠覆性进步的强大能力,但这种能力也必须被谨慎使用,以便更大程度发挥科技向善的力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    29611

    浏览量

    267902
  • 人工智能
    +关注

    关注

    1789

    文章

    46544

    浏览量

    236819
  • 生成式AI
    +关注

    关注

    0

    文章

    476

    浏览量

    443

原文标题:生成式AI或致虚假信息野蛮生长

文章出处:【微信号:robotmagazine,微信公众号:机器人技术与应用】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    生成AI工具作用

    生成AI工具是指那些能够自动生成文本、图像、音频、视频等多种类型数据的人工智能技术。在此,petacloud.ai小编为您整理
    的头像 发表于 10-28 11:19 104次阅读

    如何用C++创建简单的生成AI模型

    生成AI(Generative AI)是一种人工智能技术,它通过机器学习模型和深度学习技术,从大量历史数据中学习对象的特征和规律,从而能够生成
    的头像 发表于 07-05 17:53 673次阅读

    生成AI与传统AI的主要区别

    随着人工智能技术的飞速发展,生成AI(Generative AI)逐渐崭露头角,并与传统AI(也称为“规则驱动的
    的头像 发表于 07-05 17:35 1643次阅读

    生成AI的定义和特征

    行为,生成全新的、具有实际意义的数据内容。这种技术已经在自然语言处理、图像生成、音频合成等多个领域展现出巨大的潜力和应用价值。本文将详细探讨生成
    的头像 发表于 07-05 17:33 774次阅读

    生成AI的基本原理和应用领域

    生成人工智能(Generative Artificial Intelligence,简称Generative AI)是一种利用机器学习算法和深度学习技术,通过模拟人类的创造性思维过程,生成
    的头像 发表于 07-04 11:50 970次阅读

    AI初创公司Alembic攻克LLM虚假信息难题

    近日,AI领域的创新者Alembic公司宣布了一项重大突破:其全新AI系统成功解决了LLM(大型语言模型)中的虚假信息生成问题。这一成就标志
    的头像 发表于 06-18 14:26 479次阅读

    原来这才是【生成AI】!!

    人工智能按照用途进行简单分类的话,AI其实要被划分为两类:决策AI生成AI。决策
    的头像 发表于 06-05 08:04 290次阅读
    原来这才是【<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>】!!

    生成AI的「七宗罪」!

    面对生成AI日渐增长的「罪恶」,我们该如何解决问题?
    的头像 发表于 05-07 16:34 1701次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>的「七宗罪」!

    生成AI手机出货量将飞速增长,市场份额提升显著

    同时,反转点还预期,至2027年,生成AI智慧型手机的市场保有量将超过10亿部。按照其定义,生成AI
    的头像 发表于 04-16 16:55 577次阅读

    生成 AI 进入模型驱动时代

    随着ChatGPT和大型语言模型(LLM)呈现爆炸增长,生成人工智能(GenerativeAI)成为近来的一大热词。由此引发了一场争论:哪种AI模型使用的训练参数最多?与此同时,更
    的头像 发表于 04-13 08:12 459次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 进入模型驱动时代

    生成AI对智能家居的影响

    电子发烧友网站提供《生成AI对智能家居的影响.pdf》资料免费下载
    发表于 01-02 14:50 17次下载

    浪潮信息刘军:智算力系统创新 加速生成AI产业发展

    北京2023年12月6日 /美通社/ -- 11月29日,在北京举行的2023人工智能计算大会(AICC)上,浪潮信息高级副总裁刘军在主题演讲《智算力系统创新 加速生成AI产业发展》
    的头像 发表于 12-06 14:08 890次阅读
    浪潮<b class='flag-5'>信息</b>刘军:智算力系统创新 加速<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>产业发展

    生成AI技术的应用前景

    生成 AI(人工智能)与我们熟知的 AI 有何不同?这篇文章将为我们一探究竟!
    的头像 发表于 11-29 12:20 1245次阅读

    通过我们的 10 步计划启动您的生成 AI 之旅

    以下文章来源于谷歌云服务,作者 Google Cloud 生成 AI 是史上最重大的技术变革之一 这项技术可能会对个人和企业的效率产生重大影响,影响之大堪比互联网移动设备的问世。事
    的头像 发表于 11-15 17:50 449次阅读
    通过我们的 10 步计划启动您的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 之旅

    利用 NVIDIA Jetson 实现生成 AI

    近日,NVIDIA 发布了 Jetson 生成 AI 实验室(Jetson Generative AI Lab),使开发者能够通过 NVIDIA Jetson 边缘设备在现实世界中探
    的头像 发表于 11-07 21:25 878次阅读
    利用 NVIDIA Jetson 实现<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b>