0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浅析人工智能伪造技术对社会安全的威胁

bzSh_drc_iite 来源:未知 作者:胡薇 2018-09-25 17:45 次阅读

人工智能的发展应用如火如荼,但其误用、错用、滥用甚至恶意使用所带来的安全问题不可小视!

近期,美欧多国开发出多种基于人工智能的新兴伪造技术。该技术伪装性强、欺骗性高、难以监管且相关成果正在不断涌现,可用于社会生产生活及国家治理等各个方面,或对我国家安全构成严峻威胁。

“人工智能伪造技术”以假乱真

人工智能伪造技术是指利用人工智能在深度学习、大数据处理语言识别、图像识别、自然语言处理等方面的强大功能,伪造社会生活中人体指纹、语音等生理特征及合成虚假音频视频等媒体文件的技术。现阶段的人工智能已经可以伪造个人笔迹、声音、动画以及视频等,且仿真度极高。

伪造笔迹方面,英国UCL大学研究人员开发出“My text in your hand writing”人工智能算法,能够分析一个人的字形及其特殊的书写方式,生成字形、字号、颜色、笔线纹理、垂直及水平间距等完全相同的笔迹,达到完美伪造。

伪造语音方面,谷歌Deepmind公司开发出 “WaveNet”软件,可利用其神经网络系统对原始音频波形进行建模,生成带有强调性音节、抑扬顿挫和体现情绪的目前世界上最接近人类自然语言的音频。加拿大Lyrebird公司正在开发一种深度学习算法,使任何人都可以使用任何其他人的声音伪造出令人惊讶的逼真演讲。目前该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲。此外,Adobe公司的 Project VoCo软件可以识别出一段语音中的文字,之后针对语音中的文字进行编辑和修改,生成音色和音调与本人完全一样的语音。

伪造视频方面,美国华盛顿大学研究人员开发出“可伪造真人视频”的人工智能技术,成功将声音片段合成转化为对应的口型,并将该口型嫁接到视频中的人脸上,成功伪造出口型一致的虚假视频。研究人员演示了美国前总统奥巴马在多个场景下谈论***的视频,其口型完全一致,难辨真假。此外,该技术还可以实现小幅时移,使神经网络预测说话者接下来所要表达的内容。

引发严重的国家安全和社会稳定问题

“人工智能伪造技术”或扰乱正常的社会生活和管理秩序,引发严重的社会安全问题

“人工智能伪造技术”对社会秩序的各个层面构成了严重威胁。在社会生活层面,“人工智能伪造技术”使日常生活所用的合同、契约、证书及相关法律文本的防伪鉴定面临新的困难。在涉及公民、法人和组织切身利益和财产安全的重要问题上,该技术带来了诸多不确定性的挑战。在司法层面,“人工智能伪造技术”将可用于伪造证人证言、视听资料电子数据及鉴定意见等虚假证据,为司法证据的鉴定采用和非法证据排除带来了新的困难,对社会公正和社会稳定带来极大的挑战。在公共安全层面,“人工智能伪造技术”为不法分子从事违法犯罪活动提供了便利条件。例如,不法分子出于扰乱社会治安或敲诈勒索等目的,可利用该技术制作高逼真度的杀人、绑架、爆炸等严重暴力犯罪的音频视频,将对社会稳定构成严重威胁。

“人工智能伪造技术”用于社交媒体或为国内外分裂、恐怖势力提供新的工具

社交媒体上的资讯传播速度快、范围广、成本风险低、易于聚拢共识等特点,其社会动员能力强大,已成为分裂、恐怖势力传播极端思想、煽动不安情绪甚至制造分裂、***的重要媒介。***“***”事件中,“学运”分子在社交媒体上被塑造成“意识形态先遣队”和“觉醒的政治力量”,加剧了***青少年的分裂思潮。Facebook中充满了“警察***、***”等片面的消息以及很多血腥暴力的虚假图片,激发了观者的负面情绪,加剧了“***”事件的扩大升级。与此同时,近年来“***”组织娴熟地利用社交媒体宣传“***”思想,招募我国***地区的“***”活动分子,使其自发前往土耳其、叙利亚伊拉克等地参加***培训,并企图回国开展***活动。此外,卡塔尔近期的“外交危机”也是由社交媒体引起,黑客组织通过入侵卡塔尔通讯社网站并伪造国家元首埃米尔•塔米姆的讲话,声称支持伊朗和巴勒斯坦******哈马斯,批评美国和沙特阿拉伯,并谴责对卡塔尔支持***的有关指控,导致严重的外交危机。

对我启示

“人工智能伪造技术”的出现,尤其是对笔迹、音频、视频的高逼真度伪造,为分裂、恐怖势力伪造领导人发布虚假声明、签署虚假命令、遭遇不测等虚假视频提供了便利条件。这些虚假视频一旦流入社交媒体,将在短时间内迅速扩散,煽动强烈的社会不安情绪。

“人工智能伪造技术”已引起美国的关注。新美国安全中心发布的《人工智能与国家安全》报告中,明确将人工智能伪造技术列为威胁国家安全的重点技术,建议美国防部和情报部门成立专门的人工智能安全组织,并由国家安全局牵头开发针对该技术的应对方法。我国同样面临人工智能伪造技术带来的现实威胁,应趁该威胁尚处萌芽阶段及早布局,通过政策管理和技术限制等途径积极应对其潜在风险。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238290
  • 深度学习
    +关注

    关注

    73

    文章

    5500

    浏览量

    121117

原文标题:高度警惕人工智能伪造技术对社会安全的现实威胁

文章出处:【微信号:drc_iite,微信公众号:全球技术地图】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    了重要作用。在未来,随着嵌入式系统和人工智能技术的不断进步,我们可以预见更多创新应用的出现,为社会发展和生活品质的提升带来更多可能性。
    发表于 11-14 16:39

    发展人工智能社会的利与弊?

    人工智能(AI)的发展对社会的影响是深远且复杂的,它如同一把双刃剑,既带来了前所未有的机遇和利益,也伴随着一系列挑战和风险。 一、人工智能发展的利益 提高生产力和效率 人工智能可以自动
    的头像 发表于 10-22 16:47 2276次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过技术创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和技术原理。这使得我对
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能技术在生命科学领域中的广泛应用和深远影响。在
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    ,无疑为读者铺设了一条探索人工智能(AI)如何深刻影响并推动科学创新的道路。在阅读这一章后,我深刻感受到了人工智能技术在科学领域的广泛应用潜力以及其带来的革命性变化,以下是我个人的学习心得: 1.
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    和使用该技术,无需支付专利费或使用费。这大大降低了人工智能图像处理技术的研发成本,并吸引了大量的开发者、企业和研究机构参与其生态建设。 灵活性则体现在RISC-V可以根据不同的应用场景进行定制和优化,从而
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    每个交叉领域,本书通过案例进行了详尽的介绍,梳理了产业地图,并给出了相关政策启示。 《AI for Science:人工智能驱动科学创新》适合所有关注人工智能技术和产业发展的读者阅读,特别适合材料科学
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    呈现、产业展览、技术交流、学术论坛于一体的世界级人工智能合作交流平台。本次大会暨博览会由工业和信息化部政府采购中心、广东省工商联、前海合作区管理局、深圳市工信局等单位指导,深圳市人工智能产业协会主办
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    定制化的硬件设计,提高了硬件的灵活性和适应性。 综上所述,FPGA在人工智能领域的应用前景广阔,不仅可以用于深度学习的加速和云计算的加速,还可以针对特定应用场景进行定制化计算,为人工智能技术的发展提供有力支持。
    发表于 07-29 17:05

    人工智能大模型在工业网络安全领域的应用

    随着人工智能技术的飞速发展,人工智能大模型作为一种具有强大数据处理能力和复杂模式识别能力的深度学习模型,已经在多个领域展现了其独特的优势和广阔的应用前景。在工业网络安全领域,人工智能
    的头像 发表于 07-10 14:07 743次阅读

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    Aidlite-SDK模型推理 https://v2.docs.aidlux.com/sdk-api/aidlite-sdk/aidlite-python 人工智能 5G AIoT技术实践入门与探索_V2 59分
    发表于 05-10 16:46

    2024 人工智能安全报告

    近日,奇安信集团对外发布《2024人工智能安全报告》(以下简称《报告》)。据悉,这是我国首份人工智能安全报告。《报告》认为,人工智能是新一轮
    的头像 发表于 03-15 08:26 607次阅读
    2024 <b class='flag-5'>人工智能</b><b class='flag-5'>安全</b>报告

    知语云智能科技揭秘:无人机威胁如何破解?国家安全新防线!

    随着科技的飞速发展,无人机技术已经深入到各个领域,给我们的生活带来了极大的便利。然而,与此同时,无人机也带来了潜在的安全威胁。知语云智能科技作为国内领先的
    发表于 02-27 10:41

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    知语云全景监测技术:现代安全防护的全面解决方案

    全景监测技术能够实时监测网络流量、用户行为、系统日志等多维度数据,通过大数据分析和人工智能技术,快速识别异常行为,发现潜在的安全威胁智能
    发表于 02-23 16:40