0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

16家科技巨头保证AI模型安全开发

微云疏影 来源:综合整理 作者:综合整理 2024-05-22 11:55 次阅读

据路透社报道,微软、谷歌以及OpenAI等16家全球科技巨头在5月21至22日举行的“人工智能(AI)首尔峰会”上,公开表态承诺进行AI模型的安全开发,并在无法有效控制最极端风险时,对其尖端系统进行关闭。

此次峰会上,与会公司还包含了中国本土的科技力量如智谱AI(IT之家备注:腾讯、阿里、美团和小米曾对其投资)、IBM、亚马逊、Meta及三星知名企业。

此外,这些公司在会议中就安全性问题达成共识,包括发布明确的评估框架,用以衡量模型可能带来的风险。若风险严重且无法承受,人工智能公司将被迫按下紧急停止按钮,暂停模型和系统的开发或部署。

然而,这并非人工智能行业首次提出此类看似高尚却缺乏实际约束力的安全承诺。早在去年,亚马逊、谷歌、Meta及微软便已签署由美国政府推动的自愿保障措施,以确保其产品在上市前具备足够的安全性。

尽管如此,被誉为“人工智能教父”的计算机科学家约书亚·本吉奥对此类承诺表示欢迎,同时也强调自愿承诺需伴随着严格的监管机制。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6636

    浏览量

    104573
  • 人工智能
    +关注

    关注

    1797

    文章

    47867

    浏览量

    240779
  • 模型
    +关注

    关注

    1

    文章

    3372

    浏览量

    49299
收藏 人收藏

    相关推荐

    AI开发平台模型怎么用

    AI开发平台极大地简化了AI应用的开发流程,从环境搭建、模型训练到部署集成,每一步都提供了丰富的工具和资源。那么,
    的头像 发表于 02-11 09:53 59次阅读

    NVIDIA推出加速物理AI开发的Cosmos世界基础模型

    经数百万小时的驾驶和机器人视频数据训练的先进模型,可用于普及物理 AI 开发,并以开放模型许可形式提供。
    的头像 发表于 01-09 11:05 311次阅读

    AI大语言模型开发步骤

    开发一个高效、准确的大语言模型是一个复杂且多阶段的过程,涉及数据收集与预处理、模型架构设计、训练与优化、评估与调试等多个环节。接下来,AI部落小编为大家详细阐述
    的头像 发表于 12-19 11:29 344次阅读

    智能网联汽车ISO 26262 功能安全开发解决方案

    ,经纬恒润功能安全服务团队提供覆盖功能安全流程咨询及ISO26262功能安全认证、产品开发及认证、功能安全开发及工具平台的综合解决方案。
    的头像 发表于 12-19 09:39 396次阅读
    智能网联汽车ISO 26262 功能<b class='flag-5'>安全开发</b>解决方案

    LG AI Research使用亚马逊云科技开发AI模型 加快癌症诊断速度

    16日 /美通社/ -- 亚马逊云科技在2024 re:Invent全球大会上宣布,韩国LG集团旗下人工智能研究中心LG AI Research基于全球领先的云计算平台开发了新的病理基础模型
    的头像 发表于 12-16 15:13 150次阅读
    LG <b class='flag-5'>AI</b> Research使用亚马逊云科技<b class='flag-5'>开发</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b> 加快癌症诊断速度

    AMD发布10亿参数开源AI模型OLMo

    AMD公司近日宣布了一项重大进展,推出了首个完全开放的10亿参数语言模型系列——AMD OLMo。这一举措为开发者和研究人员提供了强大的AI研究工具,有助于推动
    的头像 发表于 11-12 18:08 520次阅读

    格陆博科技荣获ISO/SAE 21434《道路车辆-网络安全开发流程认证》

    近日,格陆博科技正式获得国际知名第三方认证机构TÜV NORD(杭州汉德质量认证服务有限公司)授予ISO/SAE 21434《道路车辆-网络安全开发流程认证》,标志着格陆博科技现有
    的头像 发表于 08-15 11:25 704次阅读

    微软、英伟达、OpenAI等公司宣布成立安全人工智能联盟

    与持续进化,并加速其在各类应用中的融合。然而,这股AI浪潮也伴随着安全开发与应用的严峻挑战,如何确保AI的合理、安全利用,防止滥用,以及保障数据在
    的头像 发表于 07-19 16:37 651次阅读

    谷歌等14科技巨头联合成立安全AI联盟

    在7月18日举行的阿斯彭安全论坛上,全球科技界的领军力量——谷歌、微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI等14顶尖企业,共同宣布了一个具有里程碑意义的举措:成立安全人工智能联盟(CoSAI)。这
    的头像 发表于 07-19 15:38 494次阅读

    聆思CSK6视觉语音大模型AI开发板入门资源合集(硬件资料、大模型语音/多模态交互/英语评测SDK合集)

    本帖最后由 jf_40317719 于 2024-6-18 17:39 编辑 视觉语音大模型 AI 开发套件( CSK6-MIX )是围绕 CSK6011A 芯片设计的具备丰富语音图像功能
    发表于 06-18 17:33

    微软、谷歌等科技巨头承诺安全开发AI模型

    近日,微软、谷歌、OpenAI等16科技巨头在“人工智能(AI)首尔峰会”上达成共识,承诺在AI模型
    的头像 发表于 05-22 11:25 553次阅读

    英国AI安全研究所推出AI模型安全评估平台

    据报道,英国人工智能安全研究院近日发布了名为“Inspect”的AI模型安全评估平台,此平台采用开源技术且对全球AI工程师免费开放,旨在提升
    的头像 发表于 05-13 15:20 510次阅读

    微软开发AI语言模型MAI-1,挑战行业巨头

    据最新消息,微软正积极开发一款新型AI语言模型MAI-1,以提升在快速发展的AI市场中的竞争力。
    的头像 发表于 05-08 10:27 485次阅读

    AI安全基准测试 v0.5: 聚焦通用聊天文本模型安全

    随着AI技术的快速发展,相关安全问题也日益凸显。仅过去数周内,便有LastPass公司遭遇音频深度伪造攻击等案例浮出水面。为了应对这一挑战,新推出的AI Safety基准测试将成为模型
    的头像 发表于 04-19 11:12 496次阅读

    防止AI模型被黑客病毒入侵控制(原创)聆思大模型AI开发套件评测4

    搭建的AI模型安全防护系统 module ai_model_protection( input logic clk, // 好比是AI
    发表于 03-19 11:18