0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

埃隆•马斯克的毁灭开关理论和机器人标准需求分析

张辉 来源:DevicePlus 作者:DevicePlus 2023-02-28 17:05 次阅读

这篇文章来源于DevicePlus.com英语网站的翻译稿。

埃隆·马斯克一直是技术创新和未来商业模式的前沿代表。所以,当他对硅谷加速采用人工智能AI)和机器人技术感到害怕时,很多人感到惊讶。

随着争论的持续,您可能会怀疑他说的是否有道理。我们是否需要支持毁灭开关的AI和机器人标准?

马斯克(PayPal、特斯拉和SpaceX创始人)认为,人类或将无力抵抗发展到集中化的人工智能(AI)。他还认为AI的发展速度比人们想象的要快得多,并且很可能会摧毁人类。

该思想与马斯克前几年的说法遥相呼应。当时,马斯克表示人类与AI的融合不可避免,因此为了对人工智能实施更多控制,最佳解决方案是人类-智能共生体。

马斯克并不孤单!

理论物理学家斯蒂芬霍金表示,如果技术进步失控,那么智能程序和机器人可能会以人类无法比拟的速度持续进化升级,并能快速重新设计自己,我们都应该担心这一点。

此外,他认为当AI超越人类智慧时,我们将面临可怕的后果。生存风险研究中心(CSER)和剑桥大学Leverhulme未来智能中心的专家也表现出相同的担忧,并将AI列为未来最大的顾虑。

另外,他们还表示, 到2075年自主AI就能够赶上人类智能水平。因此,如果不加以控制,这些智能机器人可能会引发核战并摧毁整个人类。

然而,伦敦实验室DeepMind的联合创始人Demis Hassabis提出了不同意见。虽然AI经历了一段加速发展时期,但仍然不是马斯克所担心的全能自我进化软件。

如今的AI为Google搜索引擎、基本数字助理(比如Apple的Siri)以及Facebook使用的照片标记技术等领域提供支持。但是,人们的最终目标是构建一种可以模仿人类学习的高适应性自学AI,这并不是什么秘密。

因此,可以得出结论,Hassabis和马斯克都是对的。不受限制的AI发展是一个非常现实的危险,但是用世界末日描述这个问题可能是杞人忧天(更像是一种干扰)。

然而,即使是Hassabis的合作伙伴和DeepMind联合创始人Shane Legg也认为AI技术将导致人类灭绝。

AI在短期内为人民带来了巨大的好处,然而,参与机器人标准的讨论和对话从而制定相关标准也非常重要。

这意味着现在就应该拟定协议来管理人工智能和机器人,而不是在他们获得卓越智能之后。因此,在人工智能中加入毁灭开关可能是一个好主意,但是全球管理机构也必须回答一些道德问题。

比如,AI应该像人类一样获得权利吗?更重要的是,当AI造成伤害时,谁应该承担责任?

AI、机器人以及机器人定律

科幻作家Isaac Asimov在20世纪中期就考虑过这些事情。他建议实施以下机器人三大定律,以确保对人类的保护。

第一定律:机器人不得伤害人类或坐视人类遭受危险而袖手不管。第二定律:机器人必须始终服从人类的命令,当该命令与第一定律冲突时例外。

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己。虽然这些虚构的法则可能会让人想起阿诺德·施瓦辛格和终结者第一部,但可能是一个很好的起点。

马斯克对于的AI恐惧并没有被忽视。事实上,许多组织正在就系统地管理AI做出努力。亚马逊、Facebook、谷歌、IBM、微软等公司已经共同成立了AI合作组织(Partnership on Artificial Intelligence to Benefit People and Society)。Orwellian-sounding团队希望在研发AI和机器人技术最佳实践的同时经营一个开放式平台,以鼓励人们对该主题进行广泛讨论。此外,美国政府去年发布了自动驾驶汽车指南。

世界上最古老的两个科学组织——英国皇家学会和英国国家学术院——也发表了一份报告,呼吁建立一个国家机构,以管理AI的进化发展。可以肯定的是,尽管许多人不像马斯克那样激进,但是这些日益增长的担忧在世界范围内得到了共识。

然而,人们仍然存在许多分歧,因此我们仍未就如何实施达成任何协议。人们对机器人标准同样也未达成共识,所以我们只能拭目以待最终结果。

有一件事是肯定的:这次讨论生正逢时,而且世界上的许多伟大思想都已经参与其中。我们朝着正确方向迈出了一步,希望能够推动毁灭开关理论和最佳实践向前发展。

pYYBAGPbhjqAbi1JAAAGd6_rQT0867.png

DevicePlus 编辑团队

设备升级版适用于所有热爱电子和机电一体化的人。

审核编辑黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    211

    文章

    28380

    浏览量

    206919
  • AI
    AI
    +关注

    关注

    87

    文章

    30731

    浏览量

    268893
收藏 人收藏

    评论

    相关推荐

    机器视觉 欢创播报 马斯克展示机器人征服崎岖地形

    1 马斯克展示机器人征服崎岖地形 12月10日,特斯拉发布了一段视频,展示人形机器人“擎天柱”在复杂地形上行走的最新进展。视频显示,机器人能够在有植被的山坡上行走,虽然笨拙但全程没有摔
    的头像 发表于 12-12 11:03 162次阅读
    <b class='flag-5'>机器</b>视觉 欢创播报  <b class='flag-5'>马斯克</b>展示<b class='flag-5'>机器人</b>征服崎岖地形

    马斯克旗下xAI计划推出Grok聊天机器人独立应用

    近日,据最新报道,·马斯克旗下的xAI公司计划最早于12月推出一款独立的聊天机器人应用程序,这款应用将围绕其旗下的Grok聊天机器人进行
    的头像 发表于 11-29 13:38 167次阅读

    马斯克预测:成本将下降,2040年机器人数量或超人类

    10月30日讯,在沙特阿拉伯举办的“未来投资倡议”大会上,·马斯克通过视频连线分享了他对人形机器人未来发展的独到见解。他预测,至2040年,人形
    的头像 发表于 10-30 15:03 541次阅读

    马斯克旗下AI初创公司发布Grok-2聊天机器人

    ·马斯克麾下的创新AI企业xAI今日震撼发布了其最新力作——Grok-2聊天机器人,该产品在性能上自信地宣称已能与业界巨头OpenAI、谷歌及Anthropic的顶尖产品并驾齐驱。
    的头像 发表于 08-15 16:05 676次阅读

    马斯克连线车主俱乐部聊Optimus人形机器人 从汽车到人体的学习

    马斯克以网络连线的方式在特斯拉硅谷车主的一场活动中接受了采访。在特斯拉硅谷车主俱乐部(X Takeover)的聊天中马斯克谈到了星舰的第五次试飞、星链Mini、Optimus人形机器人,以及
    的头像 发表于 07-31 15:23 860次阅读

    马斯克称特斯拉明年将小规模生产人形机器人

    特斯拉首席执行官·马斯克近日在社交媒体上透露,特斯拉计划在明年生产出首批“真正有用”且限量的人形机器人,这些机器人将首先在公司内部投入使
    的头像 发表于 07-23 17:46 700次阅读

    马斯克自曝训练Grok 3用了10万块NVIDIA H100

    在科技界的前沿阵地上,·马斯克再次以其前瞻性的视野和大胆的尝试引领着新的风潮。近日,马斯克在社交媒体X上的一则回应,不经意间透露了其即将推出的AI聊天
    的头像 发表于 07-03 14:16 484次阅读

    马斯克宣布Optimus机器人计划:引领未来生产自动化新纪元

    在科技浪潮不断翻涌的今天,特斯拉再次站在了行业的前沿。6月14日,在得克萨斯州奥斯汀举行的特斯拉年度股东大会上,公司创始兼CEO·马斯克揭晓了一项震撼人心的计划——特斯拉将从20
    的头像 发表于 06-15 14:43 1326次阅读

    马斯克承诺明年开始生产擎天柱机器人 马斯克宣布赢得薪酬方案投票

    在特斯拉工厂工作。 在股东大会上马斯克强调特斯拉不仅仅是简单的汽车制造商,在高科技机器人行业也是领导者,马斯克甚至预测,特斯拉的总市值有望超过30万亿美元。 小编想说,如果机器人都进工
    的头像 发表于 06-14 14:51 449次阅读

    马斯克计划打造超级计算机推动AI发展

    科技巨头·马斯克近日在投资者会议上透露,其人工智能初创公司xAI正全力筹备打造一台超级计算机。这台计算机将作为下一版人工智能聊天机器人Grok的强大后盾,为其提供强大的算力支持。
    的头像 发表于 05-28 09:18 532次阅读

    马斯克称特斯拉视频生成技术超过Sora

    特斯拉CEO·马斯克在社交媒体平台上发表言论,声称特斯拉所掌握的视频生成技术超越了OpenAI最新发布的Sora模型。马斯克自信地表示,特斯拉在这一领域的技术实力堪称全球顶尖,甚至
    的头像 发表于 02-20 14:16 610次阅读

    特斯拉CEO马斯克计划购买AMD芯片

    特斯拉首席执行官·马斯克近日表示,特斯拉计划从AMD购买芯片,以应对人工智能计算硬件支出的增长。然而,他并未透露具体的购买数量。
    的头像 发表于 02-04 09:57 719次阅读

    马斯克的“脑机”到底是干什么的

    近日,·马斯克的脑机接口公司Neuralink宣布完成了首例人类大脑设备植入手术。这一技术革新将有望引领全新的科技潮流,对人类生活产生深远影响。
    的头像 发表于 01-31 09:48 1023次阅读

    特斯拉计划明年出货首批人形机器人

    特斯拉CEO·马斯克近日宣布,公司计划在2025年出货首批人形机器人Optimus。这一时间表表明,特斯拉正加速其在机器人领域的布局,以
    的头像 发表于 01-26 15:46 534次阅读

    马斯克展示机器人“擎天柱”叠衣服

    看来特斯拉人形机器人又进化了;特斯拉果然不是一家汽车企业,而是一家机器人和AI企业。钢铁侠马斯克展示机器人“擎天柱”叠衣服;马斯克在平台上发
    的头像 发表于 01-16 11:47 899次阅读