0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

360人工智能研究院:保护人工智能和数据安全刻不容缓

454398 来源:红刊财经 作者:红刊财经 2020-12-25 16:58 次阅读

“随着人工智能和大数据技术的应用落地,特别是在自动驾驶、人脸识别、医疗诊断等安全敏感型的场景应用越来越多,AI和数据安全问题也受到广泛关注。”近日,360人工智能研究院院长邓亚峰受邀参加首届清华大学人工智能合作与治理国际论坛,并就“数据与人工智能安全”议题发表演讲。

邓亚峰指出,由于人工智能是快速出现的新应用,AI应用生产和部署的各个环节均暴露出一系列安全风险。比如在人工智能框架方面,深度学习框架及依赖组件可能带有漏洞,存在容易被忽视的安全隐患;在人工智能应用方面,存在模型文件窃取、数据流降维攻击等安全风险;在人工智能算法方面,由于神经网络模型的黑盒属性(不可解释性),容易导致一系列以模型误判为目标的恶意攻击。

这就容易造成严重的数据泄露和安全风险。“我们在实践中发现了大量以隐私窃取为目标的攻击,如模型反转攻击、模型萃取攻击、成员推断攻击等。”邓亚峰表示。

他认为,虽然从技术角度看,人工智能体很长一段时间都无法拥有真正的自我意识,但是,一些坏人会对人工智能加以利用,伪装为坏的AI对人类安全造成威胁。因此,保护人工智能和数据安全刻不容缓。

邓亚峰表示,首先,需要相关国家和组织联合起来,针对隐私保护和人工智能伦理问题等新情况,制定更加明晰有效的法律法规,保证在应用人工智能为人类造福的同时,也要保护好数据隐私,避免相关社会伦理问题的困扰;

其次,需要构建统一的人工智能硬件、软件、算法的安全评估标准和准则,并开发相关系统,用于检测和确定人工智能相关系统的整体安全,特别是开源框架和软件方面,更需要统一行动;

再次,需要用更加开放协同的方式进行科学研究和技术交流,推动人工智能技术快速并安全的落地。

作为网络安全头部公司,360也一直致力于构建以安全大脑为核心的新一代安全能力框架体系,整体提升在数字化时代应对安全挑战的能力。据了解,去年8月,360安全大脑入选了国家新一代人工智能开放创新平台,是网络安全领域惟一一家入选公司,这标志着360成为人工智能安全领域领军企业,以及推动网络安全行业发展的领导力量。
编辑:hfy

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1792

    文章

    47445

    浏览量

    239050
  • 人脸识别
    +关注

    关注

    76

    文章

    4012

    浏览量

    82052
  • 大数据
    +关注

    关注

    64

    文章

    8897

    浏览量

    137548
  • 自动驾驶
    +关注

    关注

    784

    文章

    13877

    浏览量

    166631
  • 深度学习
    +关注

    关注

    73

    文章

    5508

    浏览量

    121306
收藏 人收藏

    评论

    相关推荐

    中国信通魏亮:2024人工智能产业十大关键词解读

    2024年12月27日,中国信息通信研究院(简称“中国信通”)在北京召开2024人工智能赋能新型工业化大会暨第二届“兴智杯”全国人工智能创新应用大赛(预热)。会上,中国信通
    的头像 发表于 12-31 11:58 391次阅读
    中国信通<b class='flag-5'>院</b>魏亮:2024<b class='flag-5'>人工智能</b>产业十大关键词解读

    嵌入式和人工智能究竟是什么关系?

    理这些数据,提高系统的响应速度和准确性。此外,嵌入式系统还可以为人工智能提供安全和隐私保护,避免数据泄露和攻击。总之,嵌入式系统和
    发表于 11-14 16:39

    陈天桥雒芊芊脑科学研究院人工智能领域取得重大突破

    陈天桥雒芊芊脑科学研究院(TCCI)的人工智能团队,凭借其在大脑与记忆领域的深厚造诣,于人工智能界取得了突破性进展。其自主研发的OMNE多智能体框架,在由Meta AI、Hugging
    的头像 发表于 11-01 11:11 514次阅读

    《AI for Science:人工智能驱动科学创新》第6章AI与能源科学读后感

    了电力的实时平衡和优化,有效降低了电网的运行成本和故障率。 此外,书中还讨论了人工智能在能源科学研究中的挑战和机遇。这些挑战包括数据质量、算法优化、隐私保护等方面,而机遇则体现在技术创
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    人工智能:科学研究的加速器 第一章清晰地阐述了人工智能作为科学研究工具的强大功能。通过机器学习、深度学习等先进技术,AI能够处理和分析海量数据
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    定制性。这些特点使得RISC-V在多个领域,包括人工智能图像处理领域,具有显著的优势。 二、RISC-V在人工智能图像处理中的优势 开源性和灵活性 : RISC-V的开源性意味着任何人都可以自由研究
    发表于 09-28 11:00

    人工智能ai 数电 模电 模拟集成电路原理 电路分析

    人工智能ai 数电 模电 模拟集成电路原理 电路分析 想问下哪些比较容易学 不过好像都是要学的
    发表于 09-26 15:24

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟按照要求准备相关体会材料。看能否有助于入门和提高ss
    发表于 09-09 15:36

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    大力发展AI for Science的原因。 第2章从科学研究底层的理论模式与主要困境,以及人工智能三要素(数据、算法、算力)出发,对AI for Science的技术支撑进行解读。 第3章介绍了在
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    呈现、产业展览、技术交流、学术论坛于一体的世界级人工智能合作交流平台。本次大会暨博览会由工业和信息化部政府采购中心、广东省工商联、前海合作区管理局、深圳市信局等单位指导,深圳市人工智能产业协会主办
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    ://t.elecfans.com/v/27221.html *附件:初学者完整学习流程实现手写数字识别案例_V2-20240506.pdf 人工智能 语音对话机器案例 26分03秒 https
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    *附件:初学者完整学习流程实现手写数字识别案例.pdf 人工智能 语音对话机器案例 26分03秒 https://t.elecfans.com/v/27185.html *附件:语音对话机器
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17