0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

安徽男子9秒被骗132万!AI换脸/AI变声“赋能”下的诈骗防不胜防

Felix分析 来源:电子发烧友网 作者:吴子鹏 2023-05-29 01:12 次阅读

电子发烧友网报道(文/吴子鹏)近日,AI诈骗在国内密集发生,犯罪分子利用人脸效果更易取得对方信任这一点,通过AI技术换脸伪装成受害者的熟人实施诈骗。网友对此感叹:眼见都不为实,真是防不胜防啊!

日前,多家媒体报道称,5月22日安徽安庆何先生接到熟人视频电话,对方让其帮助转账,视频9秒后便以开会为由挂掉电话。还称“微信和电话不能说,加一下QQ”。事发时,何先生放松了警惕,他表示:“因为打了视频电话,又是熟人,我就没多想,就转账了”。

好在发现被诈骗后,何先生迅速报警,专案民警第一时间冻结相关账户,连夜赶赴北京市抓获3名涉诈嫌疑人,追回何先生被骗的132万元。

这起案件和此前包头市公安局电信网络犯罪侦查局发布的AI诈骗很相似,福州市某科技公司法人代表郭先生因为AI换脸,10分钟内被骗430万元。

AI换脸/AI变声成诈骗“好手段”

我们在此前的文章中已经指出,未来人工智能领域的创新有七大趋势,分别是人工智能技术与云计算物联网区块链、生物科技、社会科学、艺术文化和人类自身的结合。而AI变脸和AI变声无疑就属于AI和人类自身的结合。

AI换脸实际上是一种利用人工智能实现图像合成的技术,主要原理是通过人脸检测、关键点检测、人脸对齐、特征提取、特征融合和后处理等步骤将一个人的面部特征转移到另一个人的面部,产生以假乱真的换脸效果。

我们分步来看。AI换脸的第一步是要做人脸检测,目前这方面的算法已经非常成熟,主要分为基于级联的人脸检测算法,基于两阶段的人脸检测算法,以及基于单阶段的人脸检测算法三大类。比如Cascade CNN、MTCNN等都是基于级联的人脸检测算法;Face R-CNN 、ScaleFace、FDNet等都是基于两阶段的人脸检测算法;SSD、RetinaNet等则是基于单阶段的人脸检测算法。目前,这些算法已经发展到只需要很少的图片信息就可以构建成神似真人的人脸和表情。

第二步是人脸对齐。先要对人脸表观图像建模,也就是对检测用到的图片进行建模,包括颜色模型、投影模型、侧剖线模型和深度模型等。然后要对人脸形状建模,也就是对要被更换的人脸进行建模,这部分和我们熟知的人脸识别非常类似。然后,将两个建好的模型进行级联,这就是人脸对齐。

第三步是特征提取和特征融合。这是在建模后进一步细化的工作,提取出人脸的特征向量,包括面部形状、纹理和颜色等信息。目前,很多AI换脸都是使用基于CNN的面部表情分析和姿势估计算法来完成。为了让换脸后的表情更加自然,接下来就需要做特征融合,生成一份新的面部特征。

最后一步是重建图像,通过反卷积神经网络DCNN)或GAN等重建算法,将新的面部特征映射到模型里,并生成一个可以投射的新模型,从屏幕上看,这就是一个能够实现AI换脸的新图像。

在AI换脸技术背后,“生成对抗网络”(GAN)技术起到了很重要的作用。2014年,Goodfellow 与同事发表了全球首篇介绍GAN的科学论文,标志着GAN AI的诞生,并且在那一年就有业者预测称,GAN有望生成仿真度极高的人脸。随后的几年,GAN技术快速发展,到了2017年其生成的人脸已经难以区分真假了。到了2021年,基于GAN技术的deepfake(深度伪造)视频已经能够参演明星的演唱会了。

对于AI变声,相信很多人都已经在电影中见识过了,这种技术在电影中的应用场景也多是用来欺骗别人,目前市面上已经有包括AdobeAudition、Audacity等在内的众多变声软件。不过,一般用于诈骗的都是AI换声,其是利用一种叫做语音转换(voice conversion)的技术,来实现声音特征的转换。和AI换脸相同的是,AI换声也需要特征提取,然后将这些特征转换输出,需要提取的特征包括基频、共振峰、梅尔倒谱系数等,用这些特征来改变另一个人说话的声音。

有了AI换脸和AI换声,就可以将一个人伪装成另一个人,然后用于制造虚假新闻、诽谤他人、侵犯隐私、欺诈诈骗等非法领域。这可能就是AI技术普惠特性的B面。

不能让AI的普惠特性被滥用

近些年,AI的应用范围越来越广,呈现出一种百花齐放的姿态,在医疗、制造、安防、金融、交通等众多领域完成落地。公开数据显示,2022年,我国人工智能市场规模达到2680亿元,预计2023年全年我国人工智能市场规模将达到3200亿元,同比增长33.8%。

然而,高速发展的AI也有被滥用之嫌。就以AI换脸来说,积极的一面是其在数字人领域的应用前景是巨大的,包括影视娱乐、游戏开发、教育培训、医疗保健和安防等领域都有望受益于这项创新技术。比如在教育培训行业,AI换脸技术有望让历史人物“重生”,帮助学生更加直观地了解历史人物形象、文艺作品中的角色等,有利于增强学习兴趣和认知效果。

不过,AI换脸也被不法分子盯上了,于是乎便有了AI换脸诈骗。

实际上,对于deepfake,在其2019年成为主流时就已经引起了立法机构的注意。在当时,网上流传出很多伪造的视频,甚至是有关一些国家的领导人,随后不久中美德等国家的司法机构都开始对deepfake出手。其中,中国将未经授权的deepfake归为违法行为;美国情报委员会以及 AI 和法律领域的专家纷纷警告称deepfake已经呈现出泛滥之势,并呼吁应尽快制定相关法规;德国则发布了有关于deepfake削弱国家公信力的声明。

目前,对于AI欺诈基本是从两个方面进行防范。其一是加强管理,比如在2022年12月发布的《互联网信息服务深度合成管理规定》中明确规定,提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的,应当进行显著标识,避免公众混淆或者误认。同时,近年来个人信息保护法、个人信息安全规范、数据安全法等法律法规也在加强个人隐私数据的保护。

其二是技术层面做突破,也就是所说的用“魔法”打败“魔法”,目前很多公司都在致力于推出基于人工智能技术的防诈骗应用。比如活体防伪、中介识别等,这些应用对于AI换脸诈骗有一定的打击作用,可以有效识别照片、视频、面具、仿真模型等,特别是使用应用程序实现的换脸和换声等。

当然,无论法规和技术如何突破,AI诈骗肯定是难以杜杜绝的。因此,全民具备“防范意识”才是杜绝AI诈骗的大前提。

后记

技术在升级,骗术也在升级。近一段时间以来,AI换脸欺诈的新闻频现报端,实际上我们都知道现实中的案例更多。这是AI技术的另一种打开方式,对社会稳定发展有巨大的威胁。另外,AI换脸明星演员在直播平台带货的现象也是屡禁不止,涉嫌欺诈或是虚假宣传。要杜绝此类事情,需要法规和产业的高度配合,同时也需要增强全民的防范意识。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30072

    浏览量

    268332
  • 人工智能
    +关注

    关注

    1791

    文章

    46820

    浏览量

    237457
收藏 人收藏

    评论

    相关推荐

    男子AI造计算机病毒被判 生成式AI的管控待加强

    你应该知道生成式AI可以帮助我们做很多事情,翻译、提炼摘要、写作文、写报告、做PPT,但是想必你不知道生成式AI居然还可以生成勒索病毒。 据日本的《读卖新闻》在27日的一份报道显示,25岁的日本男子
    的头像 发表于 10-28 15:32 301次阅读

    华为云徐峰:AI 应用现代化,加速软件生产力跃升

    2024 年 9 月 19 日,在华为全联接大会 2024 的“AI 应用现代化,加速软件生产力跃升”论坛上,华为云 PaaS 服务产品部部长徐峰发表了主题演讲,介绍了未来应用智能
    的头像 发表于 10-14 09:45 484次阅读
    华为云徐峰:<b class='flag-5'>AI</b> <b class='flag-5'>赋</b><b class='flag-5'>能</b>应用现代化,加速软件生产力跃升

    海信AI电视E7N正式发布,引领AI画质新标杆

    9月29日,海信举办了BIG PLAN 百吋风暴海信电视秋季新品发布会,正式发布AI电视新品E7N,集信芯AI画质芯片 Pro、自研星海AI大模型、超画质Mini LED、深度定制的柔
    的头像 发表于 09-30 17:31 341次阅读
    海信<b class='flag-5'>AI</b>电视E7N正式发布,引领<b class='flag-5'>AI</b>画质新标杆

    时间频率设备 时钟同步 机场系统-安徽京准

    时间频率设备(时钟同步)机场系统-安徽京准
    的头像 发表于 08-06 14:29 288次阅读
    时间频率设备 时钟同步 <b class='flag-5'>赋</b><b class='flag-5'>能</b>机场系统-<b class='flag-5'>安徽</b>京准

    中伟视界:如何运用AI模型实现安徽重点非煤矿山重大灾害风险控?

    我们积极参与《安徽省重点非煤矿山重大灾害风险控建设》项目,成为首批建设厂家。我们详细介绍了政策要求和项目实施情况,以及我们针对非煤矿山风险控建设所做的视频AI分析模型技术要求。文章
    的头像 发表于 06-05 09:36 272次阅读
    中伟视界:如何运用<b class='flag-5'>AI</b>模型实现<b class='flag-5'>安徽</b>重点非煤矿山重大灾害风险<b class='flag-5'>防</b>控?

    未来:VOC技术如何引领AI新篇章

    ,VOCAI究竟意味着什么?它又将如何引领AI走向新的篇章呢? VOC技术是一种通过收集、分析和利用客户反馈来优化产品和服务的方法。在AI
    的头像 发表于 05-30 09:34 448次阅读

    玩转大模型 企业AI着陆新正解 神州问学AI原生平台正式发布

    在人工智能技术日新月异的今天,神州数码凭借深厚的行业洞察和技术积累,揭开了AI原生平台——神州问学的神秘面纱。作为企业AI着陆的加速引擎,神州问学致力于通过
    的头像 发表于 05-15 16:41 330次阅读
    玩转大模型 企业<b class='flag-5'>AI</b>着陆新正解 神州问学<b class='flag-5'>AI</b>原生<b class='flag-5'>赋</b><b class='flag-5'>能</b>平台正式发布

    莫德纳宣布与OpenAI合作 AI药物研发

    莫德纳宣布与OpenAI合作 AI药物研发 AI
    的头像 发表于 04-25 17:13 1371次阅读

    NanoEdge AI的技术原理、应用场景及优势

    等领域。以下是一些具体的应用场景: 1 . 智能家居:通过将 NanoEdge AI 集成到智能家居设备中,可以实现对家庭环境的实时监控和智能控制,如温度调节、照明控制、安监控等。 2.工业自动化
    发表于 03-12 08:09

    AIRK3588核心板在智慧消防智能监管系统的解决方案

    AIRK3588核心板在智慧消防智能监管系统的解决方案
    的头像 发表于 03-06 14:43 448次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>RK3588核心板在智慧消防智能监管系统的解决方案

    国资委重磅部署!央企引领 AI 产业焕新

    2月19日,国务院国资委召开“AI 产业焕新”中央企业人工智能专题推进会。
    的头像 发表于 02-29 17:41 681次阅读
    国资委重磅部署!央企引领 <b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b> 产业焕新

    AI全新体验 紫光展锐助推端侧AI技术创新

    近日,紫光展锐在2024世界移动通信大会(MWC 2024)上展示了在AI领域的最新成果,广泛终端品类打造突破创新的应用体验。
    的头像 发表于 02-27 18:19 1242次阅读
    以<b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>全新体验 紫光展锐助推端侧<b class='flag-5'>AI</b>技术创新

    亿铸“芯”势力AI未来

    对人类生产力的提升。如果说大模型的任务是让AI“够聪明”的话,那么算力的任务就是让AI“够便宜”,两者共同发展直到AI作为一个全新的生产要素在更大范围内参与生产和生活,真正惠及千行百业。亿铸科技正是在这样的浪潮中肩负起
    的头像 发表于 01-10 10:21 705次阅读

    巧用AIPMC管理,打造智能制造新纪元!

    一、AIPMC管理的意义 PMC管理是企业生产计划和物料控制的核心环节,直接关系到企业的生产效率和成本控制。然而,传统的PMC管理方式往往存在效率低下、错误率高等问题。AI技术的引
    的头像 发表于 12-19 10:47 715次阅读
    巧用<b class='flag-5'>AI</b><b class='flag-5'>赋</b><b class='flag-5'>能</b>PMC管理,打造智能制造新纪元!

    AI与安全双向,微软Security Copilot守护你的数字生活

    随着网络攻击的急剧增加,AI与安全的双向已成为网络安全领域不可或缺的一环。 微软Security Copilot应运而生,通过创新手段引领安全范式的变革。业界首款生成式AI统一安全
    的头像 发表于 11-28 10:15 805次阅读
    <b class='flag-5'>AI</b>与安全双向<b class='flag-5'>赋</b><b class='flag-5'>能</b>,微软Security Copilot守护你的数字生活