0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GPT-4两句话复刻DeepMind最快排序算法?

AI智胜未来 来源:新智元 2023-06-12 17:04 次阅读

【导读】网友用GPT-4复现了AlphaDev的排序算法优化,让DeepMind的新论文看起来没有那么耀眼了。

前几天,Google DeepMind基于AlphaZero开发了一种新算法——AlphaDev。

据称,这个算法可以创造出比人类编写的算法快3倍的排序算法。

消息刚出的时候,很多网友都认为这是机器学习领域的重大突破。

但经过一段时间的发酵之后,部分网友对AlphaDev取得的成就的评价似乎出现了分歧。

先是一位推特网友表示,用GPT-4也成功地发现了和AlphaDev发现的几乎一样的算法。

a678513a-08f8-11ee-962d-dac502259ad0.png

然后不少网友也在讨论,觉得AlphaDev取得的实际成果和他们自己吹的「历史性突破」差距过大。

网友的这些讨论甚至把马库斯也引来围观看热闹了。

a68519b0-08f8-11ee-962d-dac502259ad0.png

此外,马院士也回复了用GPT-4发现算法的网友,「推特老板到此一游」

a69b08f6-08f8-11ee-962d-dac502259ad0.png

GPT-4也能「发现」同样的算法

现在我们来看看这位用GPT-4发现和AlphaDev几乎一样算法的网友到底是怎么做到的。

他把自己的Prompt和GPT-4的回复都Po了出来。

顺便问了一句,我这东西能发Nature吗?

网友的提示词有两个部分,第一个部分让GPT-4针对这段排序算法进行优化,标注出哪段指令可以删除,再一步一步解释原因,然后回头再验证一遍。

a70031cc-08f8-11ee-962d-dac502259ad0.png

a719abde-08f8-11ee-962d-dac502259ad0.png

a728295c-08f8-11ee-962d-dac502259ad0.png

a74109ea-08f8-11ee-962d-dac502259ad0.png

然后他又给了第二部分提示词,让GPT-4根据上面的提示词继续做,让Temperature=0(保持结果的一致性)。

a74b1a2a-08f8-11ee-962d-dac502259ad0.png

a766c694-08f8-11ee-962d-dac502259ad0.png

a7708f1c-08f8-11ee-962d-dac502259ad0.png

最后GPT-4还小小地总结了一下。

认为删除「mov S P」,再把删除后代码的P用S替换一下就行。

AlphaDev发现的算法

如下图示例,原始sort3实现,有min(A, B, C),使用AlphaDev Swap Move,AlphaDev发现,你只需要min(A, B)。

a7a56d40-08f8-11ee-962d-dac502259ad0.png

对比网友用GPT-4的优化内容,只能说是一模一样!

不知道是GPT-4过于强大,还是说AlphaDev确实也就那样?

AlphaDev被吹得有些过头了?

马库斯也在推特上转载了一段YC社区网友对于AlphaDev发现的算法这个事比较刻薄评价。

a7e093ca-08f8-11ee-962d-dac502259ad0.png

YC社区的用户orlp指出,他们能够在某个libc++算法上取得70%的改进主要是因为这个库在过去10年中没有得到积极开发。

此外,DeepMind的改进能起作用其实是因为库本身在无分支排序网络的高效实现方面存在一些问题。

a8006b78-08f8-11ee-962d-dac502259ad0.png

其他用户指出,这种观点「过于极端」了,算法能够自动生成新的排序算法已经是很了不起的一件事了。

orlp回复说,虽然该算法确实能够自动生成良好的代码,但它远未达到革命性或改进现有技术水平的程度。

a80a3810-08f8-11ee-962d-dac502259ad0.png

a820021c-08f8-11ee-962d-dac502259ad0.png

网友主要的观点认为算法并没有找到全新的排序方法,而只是对代码进行了优化。

但是,其实已经存在「超级优化器」的程序能够以不同的原理实现类似的效果。

a8330e34-08f8-11ee-962d-dac502259ad0.png

论文地址:https://courses.cs.washington.edu/courses/cse501/15sp/papers/massalin.pdf

而且在GitHub上也有项目已经完成了更加快速的排列网络的自动搜索,效果似乎比AlphaDev的算法还要好。

项目地址:https://github.com/bertdobbelaere/SorterHunter

不少国内网友还是选择相信AlphaDev,搞不好是因为GPT-4抄得快,不一定是原创

a847a0f6-08f8-11ee-962d-dac502259ad0.jpg

不过确实有些读者认为,这类改进确实意义不算特别大。

a85c0190-08f8-11ee-962d-dac502259ad0.jpg

a867d948-08f8-11ee-962d-dac502259ad0.jpg


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4598

    浏览量

    92613
  • GPT
    GPT
    +关注

    关注

    0

    文章

    351

    浏览量

    15308
  • DeepMind
    +关注

    关注

    0

    文章

    129

    浏览量

    10818

原文标题:GPT-4两句话复刻DeepMind最快排序算法?马库斯:过于讽刺

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    Llama 3 与 GPT-4 比较

    随着人工智能技术的飞速发展,我们见证了一代又一代的AI模型不断突破界限,为各行各业带来革命性的变化。在这场技术竞赛中,Llama 3和GPT-4作为个备受瞩目的模型,它们代表了当前AI领域的最前
    的头像 发表于 10-27 14:17 264次阅读

    OpenAI推出新模型CriticGPT,用GPT-4自我纠错

    基于GPT-4的模型——CriticGPT,这款模型专为捕获ChatGPT代码输出中的错误而设计,其独特的作用在于,让人们能够用GPT-4来查找GPT-4的错误。
    的头像 发表于 06-29 09:55 516次阅读

    OpenAI API Key获取:开发人员申请GPT-4 API Key教程

      OpenAI的GPT-4模型因其卓越的自然语言理解和生成能力,成为了许多开发者的首选工具。获取GPT-4 API Key并将其应用于项目,如开发一个ChatGPT聊天应用,不仅是实践人工智能技术
    的头像 发表于 06-24 17:40 2097次阅读
    OpenAI API Key获取:开发人员申请<b class='flag-5'>GPT-4</b> API Key教程

    开发者如何调用OpenAI的GPT-4o API以及价格详情指南

    ,高达每分钟1000万字符。 速度 :GPT-4o的速度是GPT-4 Turbo的倍。 视觉能力 :在视觉能力相关的评估中,GPT-4o表现优于G
    的头像 发表于 05-29 16:00 1w次阅读
    开发者如何调用OpenAI的<b class='flag-5'>GPT-4</b>o API以及价格详情指南

    GPT-4人工智能模型预测公司未来盈利胜过人类分析师

    据悉,本次研究中,研究人员仅向GPT-4提供了匿名的财务数据,包括资产负债表和损益表,并要求其预测未来盈利增长。尽管未获得其他信息,GPT-4仍能达到60%的准确度,远超人类分析师的平均水平(53%-57%)。
    的头像 发表于 05-27 16:41 545次阅读

    OpenAI计划宣布ChatGPT和GPT-4更新

    人工智能领域的领军企业OpenAI近日宣布,将于5月13日进行一场产品更新直播,届时将揭晓ChatGPT和GPT-4的新进展。这一消息立即引发了外界对OpenAI下一项重大技术发布的广泛猜测和期待。
    的头像 发表于 05-13 11:06 561次阅读

    阿里云发布通义千问2.5大模型,多项能力超越GPT-4

    阿里云隆重推出了通义千问 2.5 版,宣称其“技术进步,全面超越GPT-4”,尤其是在中文环境中的多种任务(如文本理解、文本生成、知识问答及生活建议、临时聊天及对话以及安全风险评估)方面表现出色,超越了GPT-4
    的头像 发表于 05-09 14:17 914次阅读

    商汤科技发布5.0多模态大模型,综合能力全面对标GPT-4 Turbo

    商汤科技发布5.0多模态大模型,综合能力全面对标GPT-4 Turbo 4月23日,商汤科技董事长兼CEO徐立在2024商汤技术交流日上发布了行业首个云、端、边全栈大模型产品矩阵,能够满足不同规模
    的头像 发表于 04-24 16:49 1058次阅读

    微软Copilot全面更新为OpenAI的GPT-4 Turbo模型

    起初,Copilot作为Bing Chat AI助手推出,初期采用GPT-3.5模型,随后升级至GPT-4取得显著进步,如今再次更新至性能卓越的GPT-4 Turbo模型,这无疑将使得Copilot功能再上新台阶。
    的头像 发表于 03-13 13:42 673次阅读

    全球最强大模型易主,GPT-4被超越

    近日,AI领域的领军企业Anthropic宣布推出全新的Claude 3系列模型,其中包括最强版Claude 3 Opus。据该公司称,Claude 3系列在推理、数学、编码、多语言理解和视觉方面全面超越了包括GPT-4在内的所有大型模型,重新树立了行业基准。
    的头像 发表于 03-05 09:58 616次阅读

    ChatGPT plus有什么功能?OpenAI 发布 GPT-4 Turbo 目前我们所知道的功能

    OpenAI 发布 GPT-4 Turbo 目前我们所知道的功能分析解答 在最近的OpenAI DevDay上,该组织发布了一项备受期待的公告:推出GPT-4 Turbo,这是对其突破性AI模型
    的头像 发表于 12-13 09:19 1059次阅读
    ChatGPT plus有什么功能?OpenAI 发布 <b class='flag-5'>GPT-4</b> Turbo 目前我们所知道的功能

    AI观察 | 今年最火的GPT-4,正在缔造科幻版妙手仁心!

    近来,微软对于提示工程能力的最新研究 1 (链接详见文末)再次吸引了一众媒体的目光:“无需额外微调、无需专业策划,仅凭提示GPT-4就能化身专家!”报道中这样描述道 2 。 基于最新提示策略
    的头像 发表于 12-11 08:15 458次阅读
    AI观察 | 今年最火的<b class='flag-5'>GPT-4</b>,正在缔造科幻版妙手仁心!

    新火种AI|谷歌深夜发布复仇神器Gemini,原生多模态碾压GPT-4

    谷歌背水一战,发布Gemini,狙击GPT-4
    的头像 发表于 12-08 09:09 1094次阅读
    新火种AI|谷歌深夜发布复仇神器Gemini,原生多模态碾压<b class='flag-5'>GPT-4</b>?

    OpenAI发布的GPT-4 Turbo版本ChatGPT plus有什么功能?

    GPT-4的最新版本。OpenAI凭借承诺增强功能和成本效率的模型实现了巨大飞跃,为人工智能行业树立了新标准。 我们来看看OpenAI带来了什么: 文本和图像理解 GPT-4 Turbo凭借个独特的版本脱颖而出:以文本为中心的
    的头像 发表于 12-05 17:57 2384次阅读
    OpenAI发布的<b class='flag-5'>GPT-4</b> Turbo版本ChatGPT plus有什么功能?

    微软Copilot(Bing Chat)将升级至GPT-4 Turbo

    微软Copilot(Bing Chat)将升级至GPT-4 Turbo 微软广告和网络服务负责人Mikhail Parakhin在X平台透露,Copilot(Bing Chat)目前还在解决一些问题
    的头像 发表于 11-28 18:37 1136次阅读