0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

李开复:中国擅长打造经济实惠的AI推理引擎

要长高 2024-10-22 16:54 次阅读

10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI推理引擎,这是推动AI应用快速发展的关键因素。

根据加州大学伯克利分校SkyLab和LMSYS研究人员最新发布的大模型排名,零一万物与Grok-2和马斯克创立的xAI一同位列全球第三,仅次于OpenAI和谷歌的最新模型。李开复透露,Yi-Lightning的推理成本仅为每百万token 0.99元人民币(14美分),而OpenAI的较小模型o1-mini则需26美分每百万token,其更大的GPT-4o模型更是高达4.40美元每百万token。

此外,李开复还提到,Yi-Lightning的“预训练”成本为300万美元,仅为OpenAI训练GPT-4成本的3%,但性能却超越了后者。

面对尖端AI芯片供应紧张的现状,国内AI企业过去一年纷纷致力于开发高质量数据集,以训练出具有特色的“混合专家”模型。李开复指出,零一万物采用了优于传统网络抓取的数据收集方法,如扫描书籍、爬取深网数据以及使用创新的合成数据技术等。

他进一步强调,中国在数据标注和排序方面拥有大量技术精湛且勤奋的工程师,这使得中国在AI应用落地方面更具优势。“中国的优势不在于无预算限制的突破性研究,而在于能够以更好、更快、更可靠和更低成本的方式实现AI技术的实际应用。”李开复表示。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    29611

    浏览量

    267911
  • OpenAI
    +关注

    关注

    9

    文章

    1027

    浏览量

    6374
收藏 人收藏

    评论

    相关推荐

    城西科创大走廊打造中国AI+”产业地标 “中国云谷”正式启动建设

    全力打造中国AI+”产业地标,10月30日,“中国云谷”建设发展大会在杭州城西科创大走廊紫金港科技城召开,“中国云谷”正式启动建设,着力
    的头像 发表于 10-31 12:29 64次阅读
    城西科创大走廊<b class='flag-5'>打造</b>“<b class='flag-5'>中国</b><b class='flag-5'>AI</b>+”产业地标 “<b class='flag-5'>中国</b>云谷”正式启动建设

    NVIDIA助力丽蟾科技打造AI训练与推理加速解决方案

    丽蟾科技通过 Leaper 资源管理平台集成 NVIDIA AI Enterprise,为企业和科研机构提供了一套高效、灵活的 AI 训练与推理加速解决方案。无论是在复杂的 AI 开发
    的头像 发表于 10-27 10:03 123次阅读
    NVIDIA助力丽蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>训练与<b class='flag-5'>推理</b>加速解决方案

    澎峰科技高性能大模型推理引擎PerfXLM解析

    模型的高性能推理框架,并受到广泛关注。在历经数月的迭代开发后,澎峰科技重磅发布升级版本,推出全新的高性能大模型推理引擎:PerfXLM。
    的头像 发表于 09-29 10:14 312次阅读
    澎峰科技高性能大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLM解析

    AMD助力HyperAccel开发全新AI推理服务器

    提高成本效率。HyperAccel 针对新兴的生成式 AI 应用提供超级加速的芯片 IP/解决方案。HyperAccel 已经打造出一个快速、高效且低成本的推理系统,加速了基于转换器的大型语言模型
    的头像 发表于 09-18 09:37 297次阅读
    AMD助力HyperAccel开发全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服务器

    摩尔线程携手东华软件完成AI大模型推理测试与适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成大模型推理测试与适配。依托摩尔线程的全功能GPU国产算力,东华软件打造安全可信的基于私有化大模型的“智多型(A.I.Cogniflex)”
    的头像 发表于 07-31 10:51 606次阅读

    深度学习编译器和推理引擎的区别

    深度学习编译器和推理引擎在人工智能领域中都扮演着至关重要的角色,但它们各自的功能、应用场景以及优化目标等方面存在显著的差异。以下是对两者区别的详细探讨。
    的头像 发表于 07-17 18:12 1160次阅读

    李开复展望AI未来:2025年AI或超博士水平

    在6月29日举办的知乎第十届盐Club新知青年大会上,科技巨头李开复,身兼零一万物CEO和创新工场董事长双重身份,发表了对人工智能(AI)未来的深度见解。他回顾了自己与AI相伴的40年历程,并大胆预测,大模型技术的飞速进步将使
    的头像 发表于 06-29 15:56 712次阅读

    如何基于OrangePi AIpro开发AI推理应用

    。通过昇腾CANN软件栈的AI编程接口,可满足大多数AI算法原型验证、推理应用开发的需求。AscendCL(AscendComputingLanguage,昇腾计算
    的头像 发表于 06-04 14:23 427次阅读
    如何基于OrangePi AIpro开发<b class='flag-5'>AI</b><b class='flag-5'>推理</b>应用

    李开复中国须独立研发ChatGPT 

    李开复援引“ChatGPT 时刻”概念,指出美国在约 17 个月前就已体验到这一波热潮(注:ChatGPT 最早于 2022 年 12 月走红)。然而,他认为中国尚未达到这一阶段,目前国内的聊天机器人或工具仍有待改进。
    的头像 发表于 05-13 16:05 467次阅读

    开发者手机 AI - 目标识别 demo

    识别demo: JS实现UI界面的功能; Native接口及实现主要为JS提供接口进行AI推理。通过Native方式完成推理的前处理、推理以及后处理,这里通过调用opencv、Mind
    发表于 04-11 16:14

    苹果收购加拿大AI初创公司DarwinAI,积极布局生成式人工智能领域

    DarwinAI以研发能够在制造环节实现零部件视觉检测的AI技术见长,目前已向诸多行业接触客户。值得注意的是,他们擅长打造紧凑型快速的AI系统,苹果对此技术颇感兴趣,因其正致力于研发能实现在移动设备上运行
    的头像 发表于 03-15 15:33 564次阅读

    AI推理框架软件ONNX Runtime正式支持龙架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
    的头像 发表于 03-12 12:23 519次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架软件ONNX Runtime正式支持龙架构

    新火种AI | AI发展何去何从?李开复:中美大模型只能存活五六家

    12月14日,在一场与AI相关的对话中,零一万物的CEO李开复被问到了一个问题:大模型赛道最终能有几家活下来?对此,李开复也算是知无不言,他认为,除了大厂,中美加起来应该可以支撑五六家左右。
    的头像 发表于 12-21 09:19 304次阅读
    新火种<b class='flag-5'>AI</b> | <b class='flag-5'>AI</b>发展何去何从?<b class='flag-5'>李开复</b>:中美大模型只能存活五六家

    HarmonyOS:使用MindSpore Lite引擎进行模型推理

    场景介绍 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件设备 AI 模型推理的功能,目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。 本文介绍
    发表于 12-14 11:41

    澎峰科技发布大模型推理引擎PerfXLLM

    要的巨额开销也引发了相关研究者的关注。如何高效地进行推理,并尽可能地减少成本,从而促进大模型应用的落地成为了目前的关键问题。 于是,澎峰科技研发了一款 大模型推理引擎—PerfXLLM ,并且已经在 高通的 骁龙8Gen2 平台
    的头像 发表于 11-25 15:35 1018次阅读
    澎峰科技发布大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLLM