0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能时代的攻守之道!瑞莱智慧如何为AI产业打好安全底座?

章鹰观察 来源:电子发烧友原创 作者:章鹰 2021-12-31 11:19 次阅读
电子发烧友网报道 文/章鹰)2021年,随着5G网络AI应用的大规模部署,更多数据、更多设备进入互联网络,终端AI、边缘AI、云上AI大规模运行,但同时AI算法自身的安全漏洞、AI技术滥用,还有AI系统引入的第三方组件被黑客攻击等新型安全问题给企业智能化转型带来日益严峻的挑战,如何在AI技术大规模发展的当下,构建智能安全的新底座,建立防护机制?

图:瑞莱智慧科技公司副总裁 唐家渝

12月27日,在深圳会展中心举办的第十八届中国国际社会公共安全博览会上,来自清华人工智能研究院的官方产学研机构瑞莱智慧科技公司的副总裁唐家渝接受电子发烧友专访,就瑞莱智慧公司的市场定位是什么?瑞莱智慧安全AI领域的旗舰产品如何助力智能企业做好安全防护?带来了精彩的市场前瞻和产品分析。

应对严峻的安全挑战,瑞莱智慧建立独辟蹊径的商业定位

2018年7月,瑞莱智慧RealAI公司成立,它是清华大学人工智能研究院发起成立的科技成果转化企业,是全球领先的安全可控人工智能基础设施和解决方案提供商。团队由中国科学院院士、清华大学人工智能研究院名誉院长张钹和清华大学计算机系教授朱军共同担任首席科学家,清华大学计算机系博士田天出任CEO。团队博士占比超30%,累计获得各项知识产权百余项,授权发明专利近五十项。

图:瑞莱智慧安博会展台

瑞莱智慧副总裁唐家渝表示,伴随规模化建设和应用加速发展,保证人工智能“安全、可靠、可控”成为其未来发展最重要的趋势。瑞莱智慧聚焦安全、可控的人工智能基础设施建设。围绕这一战略定位,瑞莱智慧首先在底层技术上发展第三代人工智能新范式。

据悉,清华大学人工智能研究院院长、中国科学院院士张钹教授最早提出发展“第三代人工智能”。他认为,第三代 AI 发展的思路是把第一代的知识驱动和第二代的数据驱动结合起来,通过利用知识、数据、算法和算力等4个要素,构造更强大的 AI,建立新的可解释和鲁棒的AI 理论与方法,发展安全、可信、可靠和可扩展的 AI 技术,这是发展 AI 的必经之路。

其次在核心业务上,瑞莱智慧聚焦三大方向:首先算法可靠,基于世界领先的对抗攻防技术检测算法漏洞,提供防御加固,进一步提升AI系统安全性。其次数据安全,针对AI落地过程中可能引发的隐私数据泄漏等问题,采用隐私计算等新兴技术手段,实现数据可用不可见,保障数据的安全流通和使用;最后针对AI换脸等技术滥用现象,开发相应的检测工具,引导技术的可控应用。

唐家渝表示,人工智能应用是集算法、数据、业务于一体的有机整体,涉及训练、检验、运行等生命周期阶段,所以应面向所有关键流程和要素,布局全面且有针对性地应对措施。同时他表示,随着公众对于AI安全性的关注度提升,以及监管政策的出台和引导,未来AI行业将进入发展与治理协同的新阶段,如何保证AI应用的安全性是一个重要命题,安全AI这一新兴领域将很快迎来爆发。

AI安全防火墙+AI杀毒软件 两大旗舰产品展示

“今年比较出圈的一件事情是,我们通过一幅对抗样本图像可以解锁多种多样的人脸识别系统,无论是安防门禁、考勤系统和手机刷脸解锁都可以攻破。”唐家渝解释道,“数据驱动”的深度学习算法存在不可靠、不可解释等局限性,即便是开发者也难以理解其内在的运行逻辑,这就导致系统可能遭受到难以被察觉的恶意攻击。

记者在走访瑞莱智慧的展台时,一件AI版“隐身衣”引人瞩目。瑞莱智慧开发的这款特制T恤,衣服上印刷了特定的图案,能够让识别算法出错、捕捉不到目标,人一旦穿上便可以实现“隐身”。据介绍,衣服上看似奇怪的图案就是针对算法漏洞生成的“对抗样本”图案,能够误导识别算法使其出错。

图:AI版“隐身衣”演示

除此,还有更多新型攻击手段出现。唐家渝补充道,“一些黑产分子通过不法手段采集到人脸识别信息数据后,用AI算法驱动它生成各种各样的表情,这样的图像可以成功地攻破某些银行的APP,攻破人脸识别系统,后续的登录操作、转帐操作都可以正常进行,这也是数据泄漏很直观的风险所在。”

为了抵御类似的攻击,瑞莱智慧研发了业内首个AI安全防火墙系统,通过集成多项国际领先的对抗防御算法,能够有效检测和抵御对抗样本攻击和AI换脸等新型攻击风险,实现人脸识别、目标检测等计算机视觉场景的安全加固升级,可用于安防门禁、人脸身份核验、人脸解锁等场景的安全防护,大幅提升人工智能系统的安全性。

除此,瑞莱智慧推出了业内首个业务级人工智能安全平台RealSafe,提供模型安全性测评及防御加固的端到端解决方案,类似于AI系统的杀毒软件。相较于IBM ART、Google CleverHans等开源工具,该平台开箱即用,无需具备专业的算法安全知识和研发经验,同时首创黑盒测评,支持在被测方不暴露被测AI模型参数等信息的情况下进行测评,优势显著。

“这是深度学习算法存在的结构性缺陷,刷脸支付、刷脸解锁等人脸识别应用,智能手机、智能闸机,以及线上APP、第三方支付平台等智能系统均面临对抗样本攻击、数据投毒等攻击威胁。为此,瑞莱智慧基于RealSafe平台,能够全面挖掘模型漏洞,从根本上发掘并解决可能影响业务正常运行的安全漏洞。” 唐家渝重点介绍道。

谈及两大产品的不同之处,唐家渝表示,AI防火墙是通过检测外部访问、输入数据、行为决策等抵御安全风险,人工智能安全平台则是为算法模型进行全面的体检并提出改进方案,从根本上提升系统安全性。

截止目前,瑞莱智慧AI产品和解决方案已经在政务、金融、能源、互联网等领域落地,服务于中国石油、中国电建、长安汽车、浦发银行等在内的数十家大型企业机构。最后,唐家渝表示,信息领域的安全是攻防博弈的过程,安全AI也同样如此,需要不断升级算法,更快一步的发现和抵御住新型风险。未来,瑞莱智慧将持续聚焦于国际领先的AI安全攻防技术研发和产业化实践,护航智能产业安全可控地蓬勃发展。


本文为原创文章,作者章鹰,微信号zy1052625525,转载请注明以上来源。如需入群交流,请添加微信elecfans999.

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    31493

    浏览量

    270185
  • 人脸检测
    +关注

    关注

    0

    文章

    80

    浏览量

    16502
  • 瑞莱智慧
    +关注

    关注

    0

    文章

    7

    浏览量

    2797
收藏 人收藏

    评论

    相关推荐

    文心大模型生态大会:启明智显AI智能产品展现AI无限“模力”

    12月26日,在人工智能蓬勃发展的浪潮中,以“模力无限星河共创”为主题的文心大模型生态大会在上海·张江科学会堂盛大举行。启明智显AI笔筒、AI潮玩底座
    的头像 发表于 12-26 18:33 434次阅读
    文心大模型生态大会:启明智显<b class='flag-5'>AI</b><b class='flag-5'>智能</b>产品展现<b class='flag-5'>AI</b>无限“模力”

    芯盾时代的“AI+安全之道

    近日,全球领先的IT市场研究和咨询公司IDC发布《生成式AI推动下的中国网络安全软件市场现状和技术发展趋势,2024》报告(以下简称《报告》),评估众多厂商安全软件产品能力并给出产品对应的推荐厂商供最终用户参考。
    的头像 发表于 11-21 10:47 329次阅读

    开启数字化时代智能园区:破局之道

    运营水平。古河云科技将探讨在数字转型时代背景下,智慧园区如何破局,实现可持续发展和智能化管理。 1. 数据驱动决策: 在数字转型的大趋势下,数据成为智慧园区管理和运营的重要支撑。
    的头像 发表于 10-17 14:08 246次阅读

    AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    深刻认识到人工智能在推动科学进步中的核心价值。它不仅是科技进步的加速器,更是人类智慧拓展的催化剂,引领我们迈向一个更加智慧、高效、可持续的科学研究新时代
    发表于 10-14 09:12

    迪思Sentry荣获2024年Fortress网络安全

    迪思半导体近日宣布迪思Sentry解决方案集合荣获商业智能集团颁发的2024年“应用安全”类别Fortress网络安全奖。
    的头像 发表于 09-30 10:15 588次阅读

    基于AI网关的智慧煤矿安全监测应用

    煤矿安全一直是矿业管理的重中之重。由于煤矿环境的恶劣与复杂性,针对煤矿的安全监测和防范时常面临着极大的挑战。本篇就结合AI网关的功能和优势,简单介绍基于AI网关的
    的头像 发表于 09-24 17:47 415次阅读
    基于<b class='flag-5'>AI</b>网关的<b class='flag-5'>智慧</b>煤矿<b class='flag-5'>安全</b>监测应用

    拱墅区智慧照明产业质量基础设施“一站式” 服务平台于罗迪思正式设立

    杭州市拱墅区市场监管局大力推进智慧照明产业质量基础设施“一站式”服务平台建设,并落地罗迪思,为产业集群、产业链、企业质量升级提供“一站式”
    的头像 发表于 09-20 10:41 303次阅读
    拱墅区<b class='flag-5'>智慧</b>照明<b class='flag-5'>产业</b>质量基础设施“一站式” 服务平台于罗<b class='flag-5'>莱</b>迪思正式设立

    开启全新AI时代 智能嵌入式系统快速发展——“第六届国产嵌入式操作系统技术与产业发展论坛”圆满结束

    嵌入式系统是电子信息产业的基础,是智能系统的核心。大模型催生AI走入千家万户、唤醒端侧AI的需求爆发。以机器人、无人驾驶和智能制造为代表的
    发表于 08-30 17:24

    【HZHY-AI300G智能盒试用连载体验】基建智慧工地物联边缘代理技术研究及应用

    基建施工现场大量的感知层设备需要一种区域集中式、全网分布式的网络交互节点,实现企业级大数据的在线采集和反控,助力基建安全质量管理工作。 【项目计划】 1、在AI300G智能盒上安装Ubuntu操作系统
    发表于 07-16 17:14

    深开鸿王成录:开源鸿蒙根技术,打造智慧燃气数字底座

    鸿蒙根技术,打造智慧燃气数字底座》的主旨报告,深入探讨了开鸿安全数字底座技术创新能力以及如何驱动燃气行业高质量发展。基于开源鸿蒙打造万物智联时代
    的头像 发表于 06-29 08:33 622次阅读
    深开鸿王成录:开源鸿蒙根技术,打造<b class='flag-5'>智慧</b>燃气数字<b class='flag-5'>底座</b>

    华为提出业界首个L4级AI安全智能体,迈入智能防御新时代

    2024华为分析师大会期间,在“加速迈向网络智能化”论坛上,华为提出业界首个L4级AI安全智能体,该智能体架构为人工智能
    的头像 发表于 04-19 09:23 724次阅读

    摩尔线程携手智慧共同打造人工智能、大模型的整体解决方案

    近期,摩尔线程与北京智慧科技有限公司(简称:智慧)签署战略合作协议,双方将依托各自在人工
    的头像 发表于 04-08 11:32 1067次阅读
    摩尔线程携手<b class='flag-5'>瑞</b><b class='flag-5'>莱</b><b class='flag-5'>智慧</b>共同打造人工<b class='flag-5'>智能</b>、大模型的整体解决方案

    商汤科技与智慧签署战略合作框架协议,共建安全AI大平台

    近日,商汤科技与智慧签署战略合作框架协议,双方将发挥各自在人工智能领域的独特资源优势,持续在产品研发、市场拓展等领域开启战略合作,共同推动人工
    的头像 发表于 04-02 10:39 517次阅读

    深开鸿展示基于开鸿安全数字底座的开鸿智慧康养场景和智慧医养场景

    在2024年深圳国际智能家居博览会上,深开鸿展示了基于开鸿安全数字底座的开鸿智慧康养场景和开鸿智慧医养场景,观众通过现场亲身体验
    的头像 发表于 03-25 11:25 864次阅读

    深开鸿王成录:开鸿安全数字底座,引领智能家居迈向“智慧家居+”时代

    技术应用交流会》举办,深开鸿CEO王成录博士受邀出席此次交流会,并发表了《开鸿安全数字底座,软件定义美好生活》的主题演讲。当前,智能家居迈入以用户个性化需求为中心的“智慧
    的头像 发表于 03-21 08:32 578次阅读
    深开鸿王成录:开鸿<b class='flag-5'>安全</b>数字<b class='flag-5'>底座</b>,引领<b class='flag-5'>智能</b>家居迈向“<b class='flag-5'>智慧</b>家居+”<b class='flag-5'>时代</b>