0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DARPA在ChatGPT出现的背景下寻找实现可信赖AI的道路

QuTG_CloudBrain 来源:智汇杰瑞 2023-04-28 11:26 次阅读

美国防高级研究计划局(DARPA)最近发起了“人工智能前沿”(AI Forward)计划,用于发现和探索新的研究方向,以构建和部署与国家安全相关的、可信赖的人工智能(AI)和机器学习应用程序。

DARPA希望通过“人工智能前沿”计划与专家们通力合作,致力于近期内使可信赖的人工智能技术成为现实,同时为DARPA相关的信息技术战略投资提供意见。

自从2022年11月ChatGPT公开供公众使用之后,其广受欢迎。这种交互式聊天机器人可以在一定程度上准确地完成各种不同的任务,可以在人类的提示下生成音频、代码、图像、文本、视频和其他内容,并能以对话的方式与人们进行令人信服的互动,这标志着生成式人工智能的一种具体应用。

尽管目前ChatGPT等生成式人工智能系统能力非常引人注目,但美国防部(DoD)认为,它们尚未达到DoD所需要的可靠性水平。

一、ChatGPT带来的新兴能力

DARPA专家认为,人工智能技术的发展将经历三波浪潮。第一波是基础性的,包括基于规则的人工智能系统。这些人工智能系统遵循人类定义的规则。第二波人工智能系统引入了统计方法,可以对外来信息进行聚类和分类,然后根据数据预测任何下一步行动。当第三波人工智能浪潮完全实现时,人工智能系统将基本上具备识别和响应物理世界的能力,并可就其决策提供准确的情境解释。

DARPA专家认为,ChatGPT这样的大型语言模型属于第二波人工智能技术范畴,目前还没有看到任何第三波人工智能的成功例子。虽然现在人们建立了ChatGPT这样规模巨大的人工智能模型,但并没有全面了解它们知道什么、不知道什么、它们有什么能力,而这是一个超级艰巨的问题。要真正理解这些模型及其功能,将需要付出大量的、专门的努力,这正是AI Forward计划的全部内容。

近期,超过1000名技术领袖和科学家写了一封公开信,呼吁至少在接下来的六个月内立即暂停生产比GPT-4(或最新版本的病毒文本生成引擎)更强大的人工智能模型。

其实,早在ChatGPT上市之前,DARPA就已经提出了AI Forward计划,因为与商业行业相比,美国国防部对人工智能潜在的破坏和风险有着更深层次的理解和关注。

二、推进AI Forward技术

为了启动AI Forward计划,DARPA将在2023年6月举办一个虚拟研讨会,并于7月下旬开始在波士顿举办一次现场研讨会,届时参与者将就“引人注目的新方向”进行头脑风暴,以设计高度可信的AI。随着这些活动的结束,DARPA将邀请参与者编写白皮书,为快速探索DARPA可能资助的特定主题提供决策信息。DARPA认为,在可能对创建可信的人工智能系统至关重要的高级别类别中,最重要的两个领域涉及人类理解的人工智能及此类系统在多个方面的基础理论,以及如何开发这些技术。

尽管当前出现了类似GPT-4这样的大型多模态人工智能模型,DARPA也没有据此来构建所需要的人工智能系统。因为,如果这样做可能为滥用和难以控制的意外打开大门。

此外,DARPA还在AI Forward计划中寻求与合作者进行人和人工智能的合作。DARPA希望机器能够成为不同背景的人的队友,为人提供流畅、直观、值得信赖的服务。

目前,DARPA官员对AI Forward计划可能实现的所有目标持开放态度,而不仅仅考虑一种解决方案。因为人工智能的功能和运作方式与人类不同,至少对当前一代和可预见的近期人工智能来说是这样。这需要人们用不同的方式来衡量和评估它们。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1789

    文章

    46576

    浏览量

    236893
  • DARPA
    +关注

    关注

    4

    文章

    72

    浏览量

    27796
  • ChatGPT
    +关注

    关注

    29

    文章

    1543

    浏览量

    7331

原文标题:DARPA在ChatGPT出现的背景下寻找实现可信赖AI的道路

文章出处:【微信号:CloudBrain-TT,微信公众号:云脑智库】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    ChatGPT背后的AI背景、技术门道和商业应用

    ,但是当一篇篇文章/报告不断推送到我的眼前,我后知后觉地发现这次真的不一样。 很直接的一点是,ChatGPT已经影响到非AI、非互联网、非计算机的每一个人了。 你会看到,众多科技界大佬,马斯克、纳德拉、李开复、李彦宏、周鸿祎等,都在发声称
    的头像 发表于 10-18 15:42 1654次阅读
    <b class='flag-5'>ChatGPT</b>背后的<b class='flag-5'>AI</b><b class='flag-5'>背景</b>、技术门道和商业应用

    HPM6750evkmini如何实现可信的执行环境?

    HPM6700的datasheet中的1.2.15 信息安全系统有提到“基于BOOT ROM 的安全启动机制,支持加密启动,支持可信的执行环境”,请问可信的执行环境如何实现的?有相关
    发表于 09-25 09:27

    OpenAI 深夜抛出王炸 “ChatGPT- 4o”, “她” 来了

    和情绪的选项 实时视频捕捉,ChatGPT 交互时无需发送照片 有能力会议和视频通话中提供协助 发布会为其潜在影响提供了清晰的愿景。随着企业驾驭不断变化的技术领域,拥抱ChatGPT
    发表于 05-27 15:43

    中国开源软件推进联盟携手IBM发布《可信赖的企业级生成式AI白皮书》

    今天,IBM 北京举行“AI for Business论坛”,与客户、合作伙伴、生态联盟等行业参与者一起,探讨如何将生成式 AI 应用到企业创新和实践当中。
    的头像 发表于 05-23 18:26 843次阅读

    IBM助力客户赢得中国信通院“可信AI案例”奖

    IBM近日中国信通院举办的“可信AI案例”评选中荣获殊荣。该公司与延锋国际汽车技术有限公司及苏州环球科技股份有限公司合作,凭借IBM智能自动化软件共同打造的案例成功入选"AI原生技术
    的头像 发表于 05-09 11:35 577次阅读

    FPGA设计中是否可以应用ChatGPT生成想要的程序呢

    当下AI人工智能崛起,很多开发领域都可看到ChatGPT的身影,FPGA设计中,是否也可以用ChatGPT辅助设计呢?
    发表于 03-28 23:41

    NanoEdge AI的技术原理、应用场景及优势

    ,可以实现对交通状况的实时分析和优化,提高道路通行效率。 4.医疗健康:医疗设备和可穿戴设备中应用 NanoEdge AI,可以实现对患者
    发表于 03-12 08:09

    用激光打标技术打造可信赖的医疗器械标识

    用激光打标技术打造可信赖的医疗器械标识,以下是一些常见的例子:1.标识医疗器材:激光打标机可以用于医疗器材上永久地标识出制造商信息、产品型号、序列号、生产日期等重要信息,这些信息对于产品的追溯
    的头像 发表于 02-23 15:54 273次阅读
    用激光打标技术打造<b class='flag-5'>可信赖</b>的医疗器械标识

    富士通发布最新的人工智能(AI)战略,聚焦深化人类与AI之间的协作

    富士通株式会社(以下简称“富士通”)发布了最新的集团人工智能(AI)战略,聚焦深化人类与AI之间的协作,并提出了将AI作为“可信赖的助手”这一愿景,为提升人类生产力与创造力提供全方位支
    的头像 发表于 02-21 17:09 705次阅读
    富士通发布最新的人工智能(<b class='flag-5'>AI</b>)战略,聚焦深化人类与<b class='flag-5'>AI</b>之间的协作

    【国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4

    访问ChatGPT 4这样的AI模型是非常复杂的,因为这涉及到大量的数据传输、协议实现、并行处理、优化等等。更重要的是,ChatGPT 4这样的模型通常是运行在强大的服务器集群上。不过
    发表于 02-14 21:58

    【先楫HPM5361EVK开发板试用体验】(原创)5.手把手实战AI机械臂

    HPM5361EVK开发板。现在开始设计实战AI机械臂的程序。 代码结构 由于编写一个完整的用先楫HPM5361EVK开发板控制三组四自由度机械臂,并加入红外线传感器、机器视觉和ChatGPT连接
    发表于 02-06 10:28

    业内领先的AI芯片企业星宸科技官宣将举办首届开发者大会!

    星宸科技(SigmaStar)成立于2017年,正致力于研发高性能soc芯片,智能城市、智能家居、智能外出性、智能办公、智能医疗、智能工厂等众多现场的智能终端安全、可信赖的芯片正在致力于提供。
    的头像 发表于 12-08 11:12 1323次阅读

    ChatGPT原理 ChatGPT模型训练 chatgpt注册流程相关简介

    ChatGPT注册没有外国手机号验证怎么办? ChatGPT作为近期火爆网络的AI项目,受到了前所未有的关注。我们可以与AI机器人实时聊天,获得问题的答案。但受
    的头像 发表于 12-06 16:28 810次阅读
    <b class='flag-5'>ChatGPT</b>原理 <b class='flag-5'>ChatGPT</b>模型训练 <b class='flag-5'>chatgpt</b>注册流程相关简介

    海纳AI获数千万A轮融资,继续领跑AI面试测评市场

    头部投资机构垂类行业场景中的又一笔重要投资。这笔资金将用于人才招募、AI模型研发、营销体系搭建,继续提升海纳AI的产品和服务品质、进一步扩大竞争优势,为更多客户提供持续可信赖
    的头像 发表于 12-01 10:38 824次阅读

    功能视角可信数据空间系统架构

    结合供需矩阵形成可信工业数据空间的功能视图(如图2所示),自下而上分别为: 数据接入层、传输处理层、中间服务层、数据控制层以及数据应用层。其中蓝色的三层是数据共享流通的基础与载体,黄色的两层实现了数据共享流通的可信与透明,也是
    的头像 发表于 11-06 16:07 1273次阅读