0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔大模型全适配,大语言模型已成功部署于CPU

微云疏影 来源:综合整理 作者:综合整理 2023-12-11 15:41 次阅读

据媒体报道,美当地时间12月8日,联想集团举办了“AI PC产业创新论坛”活动,在会议中,英特尔中国区技术总经理高宇强调新一代酷睿Ultra处理器已适配超过10款中国国内的大型计算机模型。

他进一步指出,英特尔作为芯片制造商,始终致力于对“合适尺寸”模型的全面适配。面对大模型领域激烈的市场竞争,每个季度大约有4-5款新模型上市,一旦发现任何新的模型,英特尔承诺将立即派遣技术团队与相关模型厂商展开联合研究,推动目标模型在平台上的移植工作。

此外,在AI算力解决方案方面,英特尔采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特尔CPU上已成功应用大语言模型,且运行速度流畅;未来,这一模型也将在英特尔NPU上完成部署。展望未来,英特尔将持续深化与其包括联想集团在内的国内产业链的合作关系。

英特尔曾在上文提及的文章中明确表示,AI PC是指具备完整AI功能的PC设备。通过让AI在云端和PC之间协同工作,或者使大语言模型在单机环境下独立运行,实现对PC用户体验的根本性改造以及生产能力和创造力的充分释放。

值得一提的是,随着12月15日在国内的酷睿Ultra系列处理器发布会日益临近,这款新品同样拥有集成式NPU,能够提供低延时的Al计算服务。同时,英特尔表态自MeteorLake开始,将把Al广泛引入PC,引领全球数亿台PC迈入Al时代。此外,基于强大的x86生态系统,英特尔为广大用户提供丰富多样的软件模型和工具。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    453

    文章

    50360

    浏览量

    421628
  • 英特尔
    +关注

    关注

    60

    文章

    9879

    浏览量

    171410
  • 大模型
    +关注

    关注

    2

    文章

    2314

    浏览量

    2449
收藏 人收藏

    评论

    相关推荐

    使用PyTorch在英特尔独立显卡上训练模型

    《PyTorch 2.5重磅更新:性能优化+新特性》中的一个新特性就是:正式支持在英特尔独立显卡上训练模型
    的头像 发表于 11-01 14:21 208次阅读
    使用PyTorch在<b class='flag-5'>英特尔</b>独立显卡上训练<b class='flag-5'>模型</b>

    英特尔IT的发展现状和创新动向

    AI大模型的爆发,客观上给IT的发展带来了巨大的机会。作为把IT发展上升为战略高度的英特尔,自然在推动IT发展中注入了强劲动力。英特尔IT不仅专注创新、AI和优化,以及
    的头像 发表于 08-16 15:22 505次阅读

    如何将Llama3.1模型部署英特尔酷睿Ultra处理器

    本文从搭建环境开始,一步一步帮助读者实现只用五行代码便可将Llama3.1模型部署英特尔 酷睿 Ultra 处理器上。
    的头像 发表于 07-26 09:51 1928次阅读
    如何将Llama3.1<b class='flag-5'>模型</b><b class='flag-5'>部署</b>在<b class='flag-5'>英特尔</b>酷睿Ultra处理器

    英特尔助力京东云用CPU加速AI推理,以大模型构建数智化供应链

    英特尔助力京东云用CPU加速AI推理,以大模型构建数智化供应链
    的头像 发表于 05-27 11:50 494次阅读
    <b class='flag-5'>英特尔</b>助力京东云用<b class='flag-5'>CPU</b>加速AI推理,以大<b class='flag-5'>模型</b>构建数智化供应链

    已有超过500款AI模型英特尔酷睿Ultra处理器上得以优化运行

    近日,英特尔宣布在全新英特尔 酷睿 Ultra处理器上,有超过500款AI模型得以优化运行。
    的头像 发表于 05-11 09:31 667次阅读

    英特尔酷睿Ultra处理器突破500个AI模型优化

    英特尔在最新推出的英特尔® 酷睿™ Ultra处理器上宣布,超过500款AI模型已得到优化运行。这款处理器无疑是市场上领先的AI PC处理器,它不仅带来了前所未有的AI体验,还集成了沉浸式图形处理和出色的电池续航能力。
    的头像 发表于 05-09 11:18 729次阅读

    【大语言模型:原理与工程实践】大语言模型的应用

    ,它通过抽象思考和逻辑推理,协助我们应对复杂的决策。 相应地,我们设计了两类任务来检验大语言模型的能力。一类是感性的、无需理性能力的任务,类似人类的系统1,如情感分析和抽取式问答等。大
    发表于 05-07 17:21

    【大语言模型:原理与工程实践】大语言模型的评测

    在知识获取、逻辑推理、代码生成等方面的能力。这些评测基准包括语言建模能力、综合知识能力、数学计算能力、代码能力和垂直领域等多个维度。对于微调模型,对话能力的评测关注模型在对话任务中的
    发表于 05-07 17:12

    【大语言模型:原理与工程实践】大语言模型的基础技术

    语言模型基础技术21随着Transformer结构在机器翻译领域取得巨大成功,研究人员开始探索其在其他自然语言处理任务中的潜力。很快,Transformer 结构被证明不仅适用于序列
    发表于 05-05 12:17

    【大语言模型:原理与工程实践】揭开大语言模型的面纱

    了如BERT和GPT等划时代的模型。BERT通过双向训练增强了文本理解能力,而GPT则展示了强大的文本生成能力。 大语言模型,拥有数百亿甚至更多参数,已成为自然
    发表于 05-04 23:55

    英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3

    英特尔丰富的AI产品——面向数据中心的至强处理器,边缘处理器及AI PC等产品为开发者提供最新的优化,助力其运行Meta新一代大语言模型Meta Llama 3
    的头像 发表于 04-28 11:16 578次阅读

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特尔最新商用AI PC

    北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息与英特尔正式宣布,浪潮信息"源2.0系列基础大模型"已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理
    的头像 发表于 03-27 22:52 456次阅读
    浪潮信息&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持<b class='flag-5'>英特尔</b>最新商用AI PC

    浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速度提升100%。
    的头像 发表于 03-27 13:50 579次阅读
    浪潮信息与<b class='flag-5'>英特尔</b>合作推出一种大<b class='flag-5'>模型</b>效率工具“YuanChat”

    英特尔CPU部署Qwen 1.8B模型的过程

    本文介绍了在英特尔 13 代酷睿 CPU i5 - 13490F 设备上部署 Qwen 1.8B 模型的过程,你需要至少 16GB 内存的机器来完成这项任务,我们将使用
    的头像 发表于 01-12 10:28 2504次阅读

    CPU如何加速AI部署与应用?第五代英特尔® 至强® 给你支招!

    属于各自所有者资产。 12月15日|2023英特尔新品发布会暨AI技术创新派对等你来! 平台赋能,算力共建,智贯东西 “2023 英特尔算力大会暨东数西算大会”成功举办 2023 英特尔
    的头像 发表于 12-16 16:15 496次阅读
    <b class='flag-5'>CPU</b>如何加速AI<b class='flag-5'>部署</b>与应用?第五代<b class='flag-5'>英特尔</b>® 至强® 给你支招!