据路透社报道,微软、谷歌以及OpenAI等16家全球科技巨头在5月21至22日举行的“人工智能(AI)首尔峰会”上,公开表态承诺进行AI模型的安全开发,并在无法有效控制最极端风险时,对其尖端系统进行关闭。
此次峰会上,与会公司还包含了中国本土的科技力量如智谱AI(IT之家备注:腾讯、阿里、美团和小米曾对其投资)、IBM、亚马逊、Meta及三星等知名企业。
此外,这些公司在会议中就安全性问题达成共识,包括发布明确的评估框架,用以衡量模型可能带来的风险。若风险严重且无法承受,人工智能公司将被迫按下紧急停止按钮,暂停模型和系统的开发或部署。
然而,这并非人工智能行业首次提出此类看似高尚却缺乏实际约束力的安全承诺。早在去年,亚马逊、谷歌、Meta及微软便已签署由美国政府推动的自愿保障措施,以确保其产品在上市前具备足够的安全性。
尽管如此,被誉为“人工智能教父”的计算机科学家约书亚·本吉奥对此类承诺表示欢迎,同时也强调自愿承诺需伴随着严格的监管机制。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
微软
+关注
关注
4文章
6636浏览量
104573 -
人工智能
+关注
关注
1797文章
47867浏览量
240779 -
模型
+关注
关注
1文章
3372浏览量
49299
发布评论请先 登录
相关推荐
NVIDIA推出加速物理AI开发的Cosmos世界基础模型
经数百万小时的驾驶和机器人视频数据训练的先进模型,可用于普及物理 AI 开发,并以开放模型许可形式提供。
AI大语言模型开发步骤
开发一个高效、准确的大语言模型是一个复杂且多阶段的过程,涉及数据收集与预处理、模型架构设计、训练与优化、评估与调试等多个环节。接下来,AI部落小编为大家详细阐述
LG AI Research使用亚马逊云科技开发AI模型 加快癌症诊断速度
16日 /美通社/ -- 亚马逊云科技在2024 re:Invent全球大会上宣布,韩国LG集团旗下人工智能研究中心LG AI Research基于全球领先的云计算平台开发了新的病理基础模型
![LG <b class='flag-5'>AI</b> Research使用亚马逊云科技<b class='flag-5'>开发</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b> 加快癌症诊断速度](https://file1.elecfans.com//web3/M00/02/80/wKgZO2df0yuAGrTwAABkKWhp4aE739.jpg)
AMD发布10亿参数开源AI模型OLMo
AMD公司近日宣布了一项重大进展,推出了首个完全开放的10亿参数语言模型系列——AMD OLMo。这一举措为开发者和研究人员提供了强大的AI研究工具,有助于推动
格陆博科技荣获ISO/SAE 21434《道路车辆-网络安全开发流程认证》
近日,格陆博科技正式获得国际知名第三方认证机构TÜV NORD(杭州汉德质量认证服务有限公司)授予ISO/SAE 21434《道路车辆-网络安全开发流程认证》,标志着格陆博科技现有
微软、英伟达、OpenAI等公司宣布成立安全人工智能联盟
与持续进化,并加速其在各类应用中的融合。然而,这股AI浪潮也伴随着安全开发与应用的严峻挑战,如何确保AI的合理、安全利用,防止滥用,以及保障数据在开
谷歌等14家科技巨头联合成立安全AI联盟
在7月18日举行的阿斯彭安全论坛上,全球科技界的领军力量——谷歌、微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI等14家顶尖企业,共同宣布了一个具有里程碑意义的举措:成立安全人工智能联盟(CoSAI)。这
聆思CSK6视觉语音大模型AI开发板入门资源合集(硬件资料、大模型语音/多模态交互/英语评测SDK合集)
本帖最后由 jf_40317719 于 2024-6-18 17:39 编辑
视觉语音大模型 AI 开发套件( CSK6-MIX )是围绕 CSK6011A 芯片设计的具备丰富语音图像功能
发表于 06-18 17:33
英国AI安全研究所推出AI模型安全评估平台
据报道,英国人工智能安全研究院近日发布了名为“Inspect”的AI模型安全评估平台,此平台采用开源技术且对全球AI工程师免费开放,旨在提升
AI安全基准测试 v0.5: 聚焦通用聊天文本模型安全性
随着AI技术的快速发展,相关安全问题也日益凸显。仅过去数周内,便有LastPass公司遭遇音频深度伪造攻击等案例浮出水面。为了应对这一挑战,新推出的AI Safety基准测试将成为模型
防止AI大模型被黑客病毒入侵控制(原创)聆思大模型AI开发套件评测4
搭建的AI大模型安全防护系统
module ai_model_protection(
input logic clk, // 好比是AI心
发表于 03-19 11:18
评论