人工智能的发展应用如火如荼,但其误用、错用、滥用甚至恶意使用所带来的安全问题不可小视!
近期,美欧多国开发出多种基于人工智能的新兴伪造技术。该技术伪装性强、欺骗性高、难以监管且相关成果正在不断涌现,可用于社会生产生活及国家治理等各个方面,或对我国家安全构成严峻威胁。
“人工智能伪造技术”以假乱真
人工智能伪造技术是指利用人工智能在深度学习、大数据处理语言识别、图像识别、自然语言处理等方面的强大功能,伪造社会生活中人体指纹、语音等生理特征及合成虚假音频、视频等媒体文件的技术。现阶段的人工智能已经可以伪造个人笔迹、声音、动画以及视频等,且仿真度极高。
伪造笔迹方面,英国UCL大学研究人员开发出“My text in your hand writing”人工智能算法,能够分析一个人的字形及其特殊的书写方式,生成字形、字号、颜色、笔线纹理、垂直及水平间距等完全相同的笔迹,达到完美伪造。
伪造语音方面,谷歌Deepmind公司开发出 “WaveNet”软件,可利用其神经网络系统对原始音频波形进行建模,生成带有强调性音节、抑扬顿挫和体现情绪的目前世界上最接近人类自然语言的音频。加拿大Lyrebird公司正在开发一种深度学习算法,使任何人都可以使用任何其他人的声音伪造出令人惊讶的逼真演讲。目前该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲。此外,Adobe公司的 Project VoCo软件可以识别出一段语音中的文字,之后针对语音中的文字进行编辑和修改,生成音色和音调与本人完全一样的语音。
伪造视频方面,美国华盛顿大学研究人员开发出“可伪造真人视频”的人工智能技术,成功将声音片段合成转化为对应的口型,并将该口型嫁接到视频中的人脸上,成功伪造出口型一致的虚假视频。研究人员演示了美国前总统奥巴马在多个场景下谈论***的视频,其口型完全一致,难辨真假。此外,该技术还可以实现小幅时移,使神经网络预测说话者接下来所要表达的内容。
引发严重的国家安全和社会稳定问题
“人工智能伪造技术”或扰乱正常的社会生活和管理秩序,引发严重的社会安全问题
“人工智能伪造技术”对社会秩序的各个层面构成了严重威胁。在社会生活层面,“人工智能伪造技术”使日常生活所用的合同、契约、证书及相关法律文本的防伪鉴定面临新的困难。在涉及公民、法人和组织切身利益和财产安全的重要问题上,该技术带来了诸多不确定性的挑战。在司法层面,“人工智能伪造技术”将可用于伪造证人证言、视听资料、电子数据及鉴定意见等虚假证据,为司法证据的鉴定采用和非法证据排除带来了新的困难,对社会公正和社会稳定带来极大的挑战。在公共安全层面,“人工智能伪造技术”为不法分子从事违法犯罪活动提供了便利条件。例如,不法分子出于扰乱社会治安或敲诈勒索等目的,可利用该技术制作高逼真度的杀人、绑架、爆炸等严重暴力犯罪的音频视频,将对社会稳定构成严重威胁。
“人工智能伪造技术”用于社交媒体或为国内外分裂、恐怖势力提供新的工具
社交媒体上的资讯传播速度快、范围广、成本风险低、易于聚拢共识等特点,其社会动员能力强大,已成为分裂、恐怖势力传播极端思想、煽动不安情绪甚至制造分裂、***的重要媒介。***“***”事件中,“学运”分子在社交媒体上被塑造成“意识形态先遣队”和“觉醒的政治力量”,加剧了***青少年的分裂思潮。Facebook中充满了“警察***、***”等片面的消息以及很多血腥暴力的虚假图片,激发了观者的负面情绪,加剧了“***”事件的扩大升级。与此同时,近年来“***”组织娴熟地利用社交媒体宣传“***”思想,招募我国***地区的“***”活动分子,使其自发前往土耳其、叙利亚伊拉克等地参加***培训,并企图回国开展***活动。此外,卡塔尔近期的“外交危机”也是由社交媒体引起,黑客组织通过入侵卡塔尔通讯社网站并伪造国家元首埃米尔•塔米姆的讲话,声称支持伊朗和巴勒斯坦******哈马斯,批评美国和沙特阿拉伯,并谴责对卡塔尔支持***的有关指控,导致严重的外交危机。
对我启示
“人工智能伪造技术”的出现,尤其是对笔迹、音频、视频的高逼真度伪造,为分裂、恐怖势力伪造领导人发布虚假声明、签署虚假命令、遭遇不测等虚假视频提供了便利条件。这些虚假视频一旦流入社交媒体,将在短时间内迅速扩散,煽动强烈的社会不安情绪。
“人工智能伪造技术”已引起美国的关注。新美国安全中心发布的《人工智能与国家安全》报告中,明确将人工智能伪造技术列为威胁国家安全的重点技术,建议美国防部和情报部门成立专门的人工智能安全组织,并由国家安全局牵头开发针对该技术的应对方法。我国同样面临人工智能伪造技术带来的现实威胁,应趁该威胁尚处萌芽阶段及早布局,通过政策管理和技术限制等途径积极应对其潜在风险。
-
人工智能
+关注
关注
1789文章
46633浏览量
236977 -
深度学习
+关注
关注
73文章
5463浏览量
120876
原文标题:高度警惕人工智能伪造技术对社会安全的现实威胁
文章出处:【微信号:drc_iite,微信公众号:全球技术地图】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论