0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT之父:GPT-4是人类迄今最复杂的软件

数据分析与开发 来源:CSDN 2023-04-06 14:18 次阅读

3月20日,OpenAI 联合创始人& CEO Sam Altman 和科技主播 Lex Fridman 进行对谈,主要讨论 GPT-4、通用 AI(AGI)、 OpenAI 公司、AI 带来的潜在问题,以及 AI 的未来。总体来说,Sam Altman 认为,GPT-4 等 AI 系统并非少数人的成果,而是源于无数人的共同努力,是人类智慧的结晶,成果也应当由人类共享。笔者整理了一些对话中大家比较关注的点,看看 Sam Altman 是如何回应的。

GPT-4 是通用 AI 吗?

据 OpenAI 官方称,GPT-4 是 OpenAI 扩展深度学习最新里程碑,虽然目前在许多现实场景中仍然不如人类,但在专业和学术基准上均能体现出人类的水平。

那 GPT-4 到底属不属于通用AI(AGI)的范畴?对于这个问题,Altman 表示暂且不纠结其具体定义,只从“I know it when I see it”的角度去思考。当一个事物出现之前,人们很难具体想象或理解得到它到底到哪种程度。比如在使用 GPT-4 之前,先在一本科幻小说里看到有个角色是 AGI,而这个角色是 GPT-4,描写了 GPT-4 能够做到的如今 AI 做不到的事情,他会觉得这本书很荒谬。所以距离 GPT-4 成为真正的通用 AI,还有很长的路要走,因为覆盖面、普适度还不够。

Altman 认为,所有不能大大增加人类科学知识综合的系统,不能发现、发明,推动基础科学的智能,都不是超级智能。要做到这一点,人们还需要在相当重要的方面扩大 GPT 范式,而目前在这方面还没有太多 Idea,还需要再摸索有什么值得尝试的地方。

GPT-4 是人们想象中的“未来 AI”吗?

人们对未来 AI 的想象是非常丰富的,值得一谈的是,人们认为“更好”的 AI,就是与人类无限相似,甚至超越人类能力的存在;但另一方面,又对 AI 是否“太像”人类而感到惴惴不安。这种现象归根结底是人们既希望 AI 强大到能够快速理解人类意图,却又极其不希望其拥有人类的意识。

AI 是否会“觉醒”?对此,Altman 的态度是:人们围绕 AI 的一些恐惧可能并不会成为现实。人类因为天生对改变、不确定性惧怕,面对新的工具,也会因为其过于好用而感到害怕。但 Altman 指出,哪怕在 AI 非常强大之后,还是无法代替人。就像当年 Alpha Go 在国际象棋中赢了人类,但现在还是有很多人在玩国际象棋,而且人们还是更愿意看真人下象棋,而不是两个 AI 下象棋。

“人们仍然喜欢戏剧性,喜欢我们有的、而 AI 没有那些缺陷。”Altman 说。

那么,怎样判断 AI 是否拥有“人的意识”?Altman 提到了一些用于判断的测试。比如 OpenAI 首席科学家 Ilya Sutskever 提出的标准:如果你训练模型的时候,对数据集做非常精心的设定,确保在训练过程中 AI 不接触到“意识”、主观体验或任何类似的东西,然后你和这个模型讨论一些它没有训练过的东西,如果模型对于你说的大部分内容都不理解,但当你描述意识的主观体验,模型却立即回应“知道你在说什么”时,那可能就意味着 AI 可能发展出了意识。

科技主播 Lex 对此补充了一个场景,在电影《机械姬》最后,片中的 AI 机器人机械姬逃出实验室后,露出了一个开心的微笑。这时没有别人在场,所以她是在为自己、为自由而笑。《机械姬》的导演认为,“为自己而笑”可以作为一个“AI 是否具有意识”的图灵测试。

如今的 AI,还有哪些等待解决的问题?

即使 OpenAI 表示 GPT-4 是如今功能最强大、对齐最好的模型,但它仍然是一个需要不断进步和优化的工具。比如“AI 的偏见”问题。此前有人向 ChatGPT 提问,让其夸赞现任国家领导和往届国家领导,结果 ChatGPT 夸现任领导的句子要比往届领导的要长。对此,Altman 认为“小问题即大问题”,之所以会早早就公开发布,就是为了发现这类问题,并且不断对其进行改进。许多时候,人们是没有办法预料到未来会发生什么事情,比如在小时候无法想象到自己会造出AI,而且造出 AI 后,人们在纠结“夸谁夸得更长”的问题,所以说 AI 的进步是全人类推进的。

Altman 表示,当 AI 快速起飞(take off)之后,技术可能在短时间内实现爆发式增长。如果 AI 的起飞无法避免,短期内就要开始不断的进行优化,而不是任其发展 3 年、10 年之后再去干预。解决问题的方法包括:不断迭代、尽早学习、避免只有一次机会的情况,让外界尽早接触这些技术,让公众参与塑造 AI 的发展。Altman 计划全球巡回,进行用户访谈,了解不同用户的需求。未来解决路径包括给用户控制权,让用户能从全局层面给 AI 下指令。

OpenAI 的坚守和未来

Altman 告诉我们,GPT-4 是人类迄今所实现的最复杂的软件,那 GPT-4 背后的 OpenAI 为什么这么强?Altman 总结了一下。首先是做事的态度是探求真理(truth seeking),做一切能达成最优表现的事,不管它是否优雅。就像LLM(大语言模型)这个路线曾经饱受鄙夷,但他们还是坚持下来了。

其次是“不积跬步无以至千里”的理念。实现 GPT-4 并不是单纯的解决 3-5 件关键问题的事情,而是需要搞定大量纷繁复杂的小事,乘法效应让技术飞跃得以实现。比如数据获取、清洁、训练、优化和搭结构等方面的问题。以小取大。最后,团队的能力也非常重要,至今为止,Altman 依然亲自审核及批准 OpenAI 的每一个招聘决定,招聘的优先级在团队工作中非常重要;同时也要给予团队成员足够的信任和自主权,才能实现高速发展。

谈到对未来 AI 的期许,Altman 的说法是:解释所有物理现象,解决所有未解之谜。未来或许将有很多个 AGI 存在,不同的 AGI 会在不同的领域和应用上发挥作用,这是一种有益的现象。而 OpenAI 建立时定位就是非盈利组织,没有无限逐利的动力,所以能够更好地抵抗市场压力。但这种背景下就没有足够的资金来支撑完成任务,所以他们转变为“盈利有上限”的组织,来获得资本的某些加成,同时不完全导向逐利。

接下来 OpenAI 不会执着于模型参数大小(Parameter count race),而是最看重如何实现最佳性能。在面对市场压力和竞争时,Altman 强调,坚持信念和使命,虽然市场上随时都会出现更领先的技术,但 OpenAI 不会为了追赶而放弃安全性,踏实走好每一步。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 软件
    +关注

    关注

    69

    文章

    4937

    浏览量

    87422
  • GPT
    GPT
    +关注

    关注

    0

    文章

    354

    浏览量

    15354
  • 深度学习
    +关注

    关注

    73

    文章

    5502

    浏览量

    121124

原文标题:ChatGPT 之父:GPT-4 是人类迄今最复杂的软件

文章出处:【微信号:DBDevs,微信公众号:数据分析与开发】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Llama 3 与 GPT-4 比较

    沿。 一、技术架构 Llama 3和GPT-4都是基于深度学习的自然语言处理(NLP)模型,但它们的设计理念和技术细节有所不同。 Llama 3 采用了一种创新的混合架构,结合了传统的Transformer模型和最新的神经网络技术。这种架构使得Llama 3在处理复杂的语
    的头像 发表于 10-27 14:17 336次阅读

    OpenAI推出新模型CriticGPT,用GPT-4自我纠错

    基于GPT-4的模型——CriticGPT,这款模型专为捕获ChatGPT代码输出中的错误而设计,其独特的作用在于,让人们能够用GPT-4来查找GPT-4的错误。
    的头像 发表于 06-29 09:55 546次阅读

    OpenAI API Key获取:开发人员申请GPT-4 API Key教程

      OpenAI的GPT-4模型因其卓越的自然语言理解和生成能力,成为了许多开发者的首选工具。获取GPT-4 API Key并将其应用于项目,如开发一个ChatGPT聊天应用,不仅是实践人工智能技术
    的头像 发表于 06-24 17:40 2354次阅读
    OpenAI API Key获取:开发人员申请<b class='flag-5'>GPT-4</b> API Key教程

    国内直联使用ChatGPT 4.0 API Key使用和多模态GPT4o API调用开发教程!

    1. 前言 ChatGPT-4o API 是 OpenAI 提供的强大工具,可用于自然语言处理和多模态任务。在国内直联使用这些服务需要一些配置和技巧。本文将详细介绍GPT-4o模型以及如何获取
    的头像 发表于 06-08 00:33 4939次阅读
    国内直联使用<b class='flag-5'>ChatGPT</b> 4.0 API Key使用和多模态<b class='flag-5'>GPT4</b>o API调用开发教程!

    开发者如何调用OpenAI的GPT-4o API以及价格详情指南

    ​目前,OpenAI新模型GPT-4o和GPT-4 Turbo的价格如下: GPT-4o 对比 GPT-4 Turbo GPT-4o 拥有与
    的头像 发表于 05-29 16:00 1.1w次阅读
    开发者如何调用OpenAI的<b class='flag-5'>GPT-4</b>o API以及价格详情指南

    GPT-4人工智能模型预测公司未来盈利胜过人类分析师

    据悉,本次研究中,研究人员仅向GPT-4提供了匿名的财务数据,包括资产负债表和损益表,并要求其预测未来盈利增长。尽管未获得其他信息,GPT-4仍能达到60%的准确度,远超人类分析师的平均水平(53%-57%)。
    的头像 发表于 05-27 16:41 586次阅读

    OpenAI 深夜抛出王炸 “ChatGPT- 4o”, “她” 来了

    功能和实际应用。 GPT-4 turbo****的增强功能 ChatGPT-4o带来了几个值得注意的升级,增强了性能和可用性: · 更快的响应时间和更高的准确性: 是客户服务和其他快节奏环境中所
    发表于 05-27 15:43

    OpenAI推出面向所有用户的AI模型GPT-4o

    在周一的直播盛会上,OpenAI揭开了其最新的人工智能模型GPT-4o的神秘面纱。这款新模型旨在为其著名的聊天机器人ChatGPT提供更强大、更经济的支持。GPT-4o是此前备受瞩目的GPT-
    的头像 发表于 05-15 09:23 401次阅读

    OpenAI全新GPT-4o能力炸场!速度快/成本低,能读懂人类情绪

    电子发烧友网报道(文/李弯弯)当地时间5月13日,OpenAI举行春季发布会,宣布将推出桌面版ChatGPT,并发布全新旗舰AI模型GPT-4
    的头像 发表于 05-15 00:15 7821次阅读

    OpenAI计划宣布ChatGPTGPT-4更新

    人工智能领域的领军企业OpenAI近日宣布,将于5月13日进行一场产品更新直播,届时将揭晓ChatGPTGPT-4的新进展。这一消息立即引发了外界对OpenAI下一项重大技术发布的广泛猜测和期待。
    的头像 发表于 05-13 11:06 582次阅读

    阿里云发布通义千问2.5大模型,多项能力超越GPT-4

    阿里云隆重推出了通义千问 2.5 版,宣称其“技术进步,全面超越GPT-4”,尤其是在中文环境中的多种任务(如文本理解、文本生成、知识问答及生活建议、临时聊天及对话以及安全风险评估)方面表现出色,超越了GPT-4
    的头像 发表于 05-09 14:17 955次阅读

    商汤科技发布5.0多模态大模型,综合能力全面对标GPT-4 Turbo

    商汤科技发布5.0多模态大模型,综合能力全面对标GPT-4 Turbo 4月23日,商汤科技董事长兼CEO徐立在2024商汤技术交流日上发布了行业首个云、端、边全栈大模型产品矩阵,能够满足不同规模
    的头像 发表于 04-24 16:49 1100次阅读

    微软Copilot全面更新为OpenAI的GPT-4 Turbo模型

    起初,Copilot作为Bing Chat AI助手推出,初期采用GPT-3.5模型,随后升级至GPT-4取得显著进步,如今再次更新至性能卓越的GPT-4 Turbo模型,这无疑将使得Copilot功能再上新台阶。
    的头像 发表于 03-13 13:42 724次阅读

    OpenAI推出ChatGPT新功能:朗读,支持37种语言,兼容GPT-4GPT-3

    据悉,“朗读”功能支持37种语言,且能够自主识别文本类型并对应相应的发音。值得关注的是,该功能对GPT-4以及GPT-3.5版本的ChatGPT均适用。此举彰显了OpenAI致力于“多模态交互”(multimodal capab
    的头像 发表于 03-05 15:48 917次阅读

    全球最强大模型易主,GPT-4被超越

    近日,AI领域的领军企业Anthropic宣布推出全新的Claude 3系列模型,其中包括最强版Claude 3 Opus。据该公司称,Claude 3系列在推理、数学、编码、多语言理解和视觉方面全面超越了包括GPT-4在内的所有大型模型,重新树立了行业基准。
    的头像 发表于 03-05 09:58 650次阅读