0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

李开复:中国擅长打造经济实惠的AI推理引擎

要长高 2024-10-22 16:54 次阅读

10月22日上午,零一万物公司的创始人兼首席执行官李开复在与外媒的交流中透露,其公司旗下的Yi-Lightning(闪电模型)在推理成本上已实现了显著优势,比OpenAI的GPT-4o模型低了31倍。他强调,中国擅长打造经济实惠的AI推理引擎,这是推动AI应用快速发展的关键因素。

根据加州大学伯克利分校SkyLab和LMSYS研究人员最新发布的大模型排名,零一万物与Grok-2和马斯克创立的xAI一同位列全球第三,仅次于OpenAI和谷歌的最新模型。李开复透露,Yi-Lightning的推理成本仅为每百万token 0.99元人民币(14美分),而OpenAI的较小模型o1-mini则需26美分每百万token,其更大的GPT-4o模型更是高达4.40美元每百万token。

此外,李开复还提到,Yi-Lightning的“预训练”成本为300万美元,仅为OpenAI训练GPT-4成本的3%,但性能却超越了后者。

面对尖端AI芯片供应紧张的现状,国内AI企业过去一年纷纷致力于开发高质量数据集,以训练出具有特色的“混合专家”模型。李开复指出,零一万物采用了优于传统网络抓取的数据收集方法,如扫描书籍、爬取深网数据以及使用创新的合成数据技术等。

他进一步强调,中国在数据标注和排序方面拥有大量技术精湛且勤奋的工程师,这使得中国在AI应用落地方面更具优势。“中国的优势不在于无预算限制的突破性研究,而在于能够以更好、更快、更可靠和更低成本的方式实现AI技术的实际应用。”李开复表示。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    31493

    浏览量

    270183
  • OpenAI
    +关注

    关注

    9

    文章

    1123

    浏览量

    6676
收藏 人收藏

    评论

    相关推荐

    生成式AI推理技术、市场与未来

    OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布,预示着生成式AI研究正从预训练转向推理(Inference),以提升AI逻辑推理
    的头像 发表于 01-20 11:16 382次阅读
    生成式<b class='flag-5'>AI</b><b class='flag-5'>推理</b>技术、市场与未来

    什么是AI查询引擎

    AI 查询引擎可高效处理、存储和检索大量数据,以增强生成式 AI 模型的输入。
    的头像 发表于 01-10 10:00 177次阅读

    智谱GLM-Zero深度推理模型预览版正式上线

    。 GLM-Zero-Preview专注于提升AI推理能力,擅长处理数理逻辑、代码以及需要深度推理的复杂问题。据官方介绍,与同基座模型相比,GLM-Zero-Preview在不显著降
    的头像 发表于 01-02 10:55 163次阅读

    AI推理CPU当道,Arm驱动高效引擎

    本应发挥关键作用,但其重要性却常常被忽视。   “对于那些希望将大语言模型(LLM)集成到产品和服务中的企业和开发者来说,CPU 通常是首选”。Arm 中国区业务全球副总裁邹挺在接受采访时表示。为了适应AI推理的应用落地,CPU
    的头像 发表于 11-13 14:34 2622次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>CPU当道,Arm驱动高效<b class='flag-5'>引擎</b>

    城西科创大走廊打造中国AI+”产业地标 “中国云谷”正式启动建设

    全力打造中国AI+”产业地标,10月30日,“中国云谷”建设发展大会在杭州城西科创大走廊紫金港科技城召开,“中国云谷”正式启动建设,着力
    的头像 发表于 10-31 12:29 209次阅读
    城西科创大走廊<b class='flag-5'>打造</b>“<b class='flag-5'>中国</b><b class='flag-5'>AI</b>+”产业地标 “<b class='flag-5'>中国</b>云谷”正式启动建设

    NVIDIA助力丽蟾科技打造AI训练与推理加速解决方案

    丽蟾科技通过 Leaper 资源管理平台集成 NVIDIA AI Enterprise,为企业和科研机构提供了一套高效、灵活的 AI 训练与推理加速解决方案。无论是在复杂的 AI 开发
    的头像 发表于 10-27 10:03 310次阅读
    NVIDIA助力丽蟾科技<b class='flag-5'>打造</b><b class='flag-5'>AI</b>训练与<b class='flag-5'>推理</b>加速解决方案

    澎峰科技高性能大模型推理引擎PerfXLM解析

    模型的高性能推理框架,并受到广泛关注。在历经数月的迭代开发后,澎峰科技重磅发布升级版本,推出全新的高性能大模型推理引擎:PerfXLM。
    的头像 发表于 09-29 10:14 567次阅读
    澎峰科技高性能大模型<b class='flag-5'>推理</b><b class='flag-5'>引擎</b>PerfXLM解析

    AMD助力HyperAccel开发全新AI推理服务器

    提高成本效率。HyperAccel 针对新兴的生成式 AI 应用提供超级加速的芯片 IP/解决方案。HyperAccel 已经打造出一个快速、高效且低成本的推理系统,加速了基于转换器的大型语言模型
    的头像 发表于 09-18 09:37 465次阅读
    AMD助力HyperAccel开发全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>服务器

    摩尔线程携手东华软件完成AI大模型推理测试与适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成大模型推理测试与适配。依托摩尔线程的全功能GPU国产算力,东华软件打造安全可信的基于私有化大模型的“智多型(A.I.Cogniflex)”
    的头像 发表于 07-31 10:51 825次阅读

    深度学习编译器和推理引擎的区别

    深度学习编译器和推理引擎在人工智能领域中都扮演着至关重要的角色,但它们各自的功能、应用场景以及优化目标等方面存在显著的差异。以下是对两者区别的详细探讨。
    的头像 发表于 07-17 18:12 1336次阅读

    李开复展望AI未来:2025年AI或超博士水平

    在6月29日举办的知乎第十届盐Club新知青年大会上,科技巨头李开复,身兼零一万物CEO和创新工场董事长双重身份,发表了对人工智能(AI)未来的深度见解。他回顾了自己与AI相伴的40年历程,并大胆预测,大模型技术的飞速进步将使
    的头像 发表于 06-29 15:56 992次阅读

    李开复中国须独立研发ChatGPT 

    李开复援引“ChatGPT 时刻”概念,指出美国在约 17 个月前就已体验到这一波热潮(注:ChatGPT 最早于 2022 年 12 月走红)。然而,他认为中国尚未达到这一阶段,目前国内的聊天机器人或工具仍有待改进。
    的头像 发表于 05-13 16:05 549次阅读

    开发者手机 AI - 目标识别 demo

    识别demo: JS实现UI界面的功能; Native接口及实现主要为JS提供接口进行AI推理。通过Native方式完成推理的前处理、推理以及后处理,这里通过调用opencv、Mind
    发表于 04-11 16:14

    苹果收购加拿大AI初创公司DarwinAI,积极布局生成式人工智能领域

    DarwinAI以研发能够在制造环节实现零部件视觉检测的AI技术见长,目前已向诸多行业接触客户。值得注意的是,他们擅长打造紧凑型快速的AI系统,苹果对此技术颇感兴趣,因其正致力于研发能实现在移动设备上运行
    的头像 发表于 03-15 15:33 698次阅读

    AI推理框架软件ONNX Runtime正式支持龙架构

    近日,知名AI推理框架开源社区ONNX Runtime正式发布支持龙架构的版本1.17.0。
    的头像 发表于 03-12 12:23 622次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架软件ONNX Runtime正式支持龙架构