0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

OpenAI强化内部安全流程,应对有害人工智能威胁

微云疏影 来源:综合整理 作者:综合整理 2023-12-20 09:48 次阅读

12 月 19 日,OpenAI宣布加紧内部安全防护工作,设立“安全顾问小组”以防范有害人工智能的潜在威胁。这一举措意味着技术团队之上增加新的“守护者”,为领导层提供专业意见,且拥有董事会的否决权。

OpenAI将针对每个模型在网络安全、说服力(如虚假信息)、模型自主性以及 CBRN(化学、生物、放射性和核威胁,如制造新病原体的可能性)等四个方面进行风险评级。

为了防止某些问题得不到充分讨论或处理,OpenAI设定了多种可能的缓解策略,例如模型拒绝教授如何制作凝固汽油或管式炸弹的传授。对于评级认定为“高风险”的模型,将禁止其发布;而若模型存在“关键风险”,则终止其后续研发。

然而,负责研发模型的人员并非最佳安全评估和建议者。为此,OpenAI正筹建一支“跨职能安全咨询小组”,涉足技术领域,审查研究人员报告,从更全面的视角提供建议,发掘此前未曾意识到的隐忧。

这个过程要求安全专家的意见同步反馈至董事会及领导层,领导层将权衡利弊并作出决定;尽管董事会享有最终决定权,但他们也可以随时撤回决定,防止潜在的安全隐患被忽略。

本次更新的重要焦点在于,OpenAI前任首席执行官Sam Altman因模型安全问题被董事会罢免。此次高层人事变动,导致两位主张谨慎做事的董事Ilya Sutskever和 Helen Toner离任。

然而,业界仍存担忧,若专家小组提出建议、CEO据此决策,眼下的 OpenAI董事会是否有足够力量制止此举?此外,OpenAI允诺引入独立第三方审计体现的透明度问题是否真正得到解决?

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 网络安全
    +关注

    关注

    10

    文章

    3125

    浏览量

    59584
  • 人工智能
    +关注

    关注

    1791

    文章

    46838

    浏览量

    237496
  • OpenAI
    +关注

    关注

    9

    文章

    1042

    浏览量

    6403
收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    理这些数据,提高系统的响应速度和准确性。此外,嵌入式系统还可以为人工智能提供安全和隐私保护,避免数据泄露和攻击。总之,嵌入式系统和人工智能是相辅相成的,它们在许多领域都有广阔的应用前景。 嵌入式系统
    发表于 11-14 16:39

    OpenAI携手博通、台积电打造内部芯片

    近日,据消息人士透露,OpenAI正在与博通和台积电展开合作,共同研发其首款内部芯片,旨在为其人工智能系统提供更强大的支持。 为应对基础设施需求的激增,
    的头像 发表于 10-31 11:39 328次阅读

    为加速人工智能研发,韩国设立人工智能研究实验室

    10月29日资讯,据国际媒体报道,OpenAI训练的ChatGPT在全球范围内掀起热潮后,多个国家纷纷加大对人工智能领域的投资,通过强化人才培养和基础设施建设,积极推动人工智能技术的研
    的头像 发表于 10-30 15:44 305次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    和国际合作等多个层面。这些内容让我更加认识到,在推动人工智能与能源科学融合的过程中,需要不断探索和创新,以应对各种挑战和机遇。 最后,通过阅读这一章,我深刻感受到人工智能对于能源科学的重要性。
    发表于 10-14 09:27

    OpenAI人工智能领域发展势头强劲

    北京时间8月29日,彭博社援引知情人士消息,揭示了OpenAI即将完成其新一轮融资的重要进展。本轮融资由知名投资机构兴盛资本(Thrive Capital)领衔,预计估值将突破千亿美元大关,标志着OpenAI人工智能领域的强劲
    的头像 发表于 08-29 15:37 415次阅读

    人工智能如何强化智能家居设备的功能

    ,以配合用户的生活习惯与作息。本文将为您介绍人工智能将如何强化智能家居设备的功能,以及由芯科科技(Silicon Labs)所推出的解决方案,将如何增进智能家居设备的功能性与
    的头像 发表于 08-27 10:46 826次阅读
    <b class='flag-5'>人工智能</b>如何<b class='flag-5'>强化</b><b class='flag-5'>智能</b>家居设备的功能

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    https://t.elecfans.com/v/25653.html 人工智能 初学者完整学习流程实现手写数字识别案例_Part1 13分59秒 https://t.elecfans.com/v
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    ://t.elecfans.com/v/25653.html 人工智能 初学者完整学习流程实现手写数字识别案例 28分55秒 https://t.elecfans.com/v/27184.html
    发表于 04-01 10:40

    2024 人工智能安全报告

    近日,奇安信集团对外发布《2024人工智能安全报告》(以下简称《报告》)。据悉,这是我国首份人工智能安全报告。《报告》认为,人工智能是新一轮
    的头像 发表于 03-15 08:26 571次阅读
    2024 <b class='flag-5'>人工智能</b><b class='flag-5'>安全</b>报告

    知语云智能科技揭秘:无人机威胁如何破解?国家安全新防线!

    随着科技的飞速发展,无人机技术已经深入到各个领域,给我们的生活带来了极大的便利。然而,与此同时,无人机也带来了潜在的安全威胁。知语云智能科技作为国内领先的智能科技公司,一直致力于研究无
    发表于 02-27 10:41

    知语云智能科技无人机防御系统:应对新兴威胁的先锋力量

    随着科技的飞速发展,无人机技术在各个领域的应用日益广泛,但随之而来的是无人机威胁的不断升级。为了有效应对这些新兴威胁,知语云智能科技推出了先进的无人机防御系统,为空中
    发表于 02-26 16:35

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    知语云全景监测技术:现代安全防护的全面解决方案

    全景监测技术能够实时监测网络流量、用户行为、系统日志等多维度数据,通过大数据分析和人工智能技术,快速识别异常行为,发现潜在的安全威胁智能分析,精准预警:通过对海量数据的深入挖掘和分
    发表于 02-23 16:40

    OpenAI发布人工智能文生视频大模型Sora

    近日,人工智能领域的领军企业OpenAI宣布推出其最新的人工智能文生视频大模型——Sora。这款模型在继承DALL-E 3卓越画质和遵循指令能力的基础上,实现了对真实物理世界的深度模拟,为视频制作领域带来了前所未有的变革。
    的头像 发表于 02-20 13:54 813次阅读