0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通与Meta合作优化Meta Llama 3,实现终端侧运行

微云疏影 来源:综合整理 作者:综合整理 2024-04-22 09:51 次阅读

要点如下:

· 高通与Meta携手优化Meta Llama 3大语言模型,将在骁龙旗舰平台实现终端侧执行,加速产品上市并充分利用终端侧AI优势。

· 开发者可借助高通AI Hub的资源及工具,在骁龙平台优化运行Llama 3,进一步缩短产品上市周期且充分发挥AI潜能。

· 高通凭借业界顶尖的NPU、CPUGPU技术组合,赋予生成式AI应用即时性、高可靠性、隐私保护、情境感知个性化及经济效益。

2024年4月19日,圣迭戈——高通技术公司与Meta宣布达成合作,共同优化Meta Llama 3大语言模型(LLM)在智能手机、PC、VR/AR头显及汽车等终端设备上的执行。终端侧运行Llama 3具备卓越的响应速度、更强的隐私保护和可靠性,同时为用户带来个性化体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“我们对Meta开放Meta Llama 3的策略表示赞赏,高通与Meta均致力于赋能开发者,推动AI创新。高通的终端侧AI领导地位,结合覆盖各类边缘终端的广泛市场布局,使我们有能力在全球范围内扩大Llama生态系统优势,助力客户、合作伙伴及开发者创造全新AI体验。”

本次合作旨在赋能OEM厂商及开发者,在搭载未来旗舰骁龙®平台的终端设备上支持Llama 3,推动生成式AI功能的普及。高通技术公司的异构计算技术能够无缝整合业界领先的CPU、GPU和NPU处理器,并结合先进的内存架构,助力客户、合作伙伴及开发者实现最佳应用性能、能效及电池续航。

开发者可通过高通AI Hub获取相关资源和工具,以便在骁龙平台优化运行Llama 3。高通AI Hub现已提供约100个优化AI模型,有助于开发者缩短产品上市周期,并充分发挥终端侧AI优势。如需了解更多信息,敬请关注高通每月开发者简报。

高通技术公司与Meta共同致力于推动创新,打造下一代AI体验。此次合作是双方长期合作关系的重要里程碑,彰显了双方以强大AI能力赋能开发者和用户的坚定决心。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7385

    浏览量

    190189
  • Meta
    +关注

    关注

    0

    文章

    256

    浏览量

    11326
  • 语言模型
    +关注

    关注

    0

    文章

    497

    浏览量

    10236
收藏 人收藏

    评论

    相关推荐

    Meta发布Llama 3.2量化版模型

    近日,Meta在开源Llama 3.2的1B与3B模型后,再次为人工智能领域带来了新进展。10月24日,Meta正式推出了这两个模型的量化版本,旨在进一步
    的头像 发表于 10-29 11:05 239次阅读

    联想与Meta合作推出AI Now个人AI智能体

    联想集团近日在美国西雅图举办了年度Tech World大会,会上联想CEO杨元庆与Meta创始人兼CEO马克・扎克伯格共同宣布了一项重要合作。双方基于MetaLlama大模型,推出了
    的头像 发表于 10-17 16:58 454次阅读

    亚马逊云科技上线Meta Llama 3.2模型

    亚马逊云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平台上正式上线。该模型包括Meta首款多模态模型,现已在Amazon Bedrock和Amazon SageMaker中全面可用。
    的头像 发表于 10-11 18:08 393次阅读

    亚马逊云科技正式上线Meta Llama 3.2模型

    亚马逊云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模态模型,现已在Amazon Bedrock和Amazon SageMaker中正式可用。
    的头像 发表于 10-11 09:20 421次阅读

    PerfXCloud平台成功接入Meta Llama3.1

    近日,Meta对外宣布推出迄今为止最强大的开源模型——Llama3.1 405B,同时还发布了全新优化升级的70B和8B版本,技术革新的浪潮再次汹涌来袭!在此,我们满怀欣喜地向您宣告,PerfXCloud平台现已成功接入
    的头像 发表于 07-25 10:26 561次阅读

    Meta发布全新开源大模型Llama 3.1

    科技巨头Meta近期震撼发布了其最新的开源人工智能(AI)模型——Llama 3.1,这一举措标志着Meta在AI领域的又一重大突破。Meta创始人马克·扎克伯格亲自站台,盛赞
    的头像 发表于 07-24 18:25 1369次阅读

    Meta即将发布超强开源AI模型Llama 3-405B

    在人工智能领域的激烈竞争中,Meta公司再次掷出重磅炸弹,宣布将于7月23日正式发布其最新力作——Llama 3-405B,一个拥有惊人4050亿参数的开源大模型。这一举措不仅标志着Meta
    的头像 发表于 07-18 09:58 920次阅读

    Meta发布基于Code Llama的LLM编译器

    近日,科技巨头Meta在其X平台上正式宣布推出了一款革命性的LLM编译器,这一模型家族基于Meta Code Llama构建,并融合了先进的代码优化和编译器功能。LLM编译器的推出,标
    的头像 发表于 06-29 17:54 1418次阅读

    Meta Llama 3基础模型现已在亚马逊云科技正式可用

    亚马逊云科技近日宣布,Meta公司最新发布的两款Llama 3基础模型——Llama 3 8B和Llam
    的头像 发表于 05-09 10:39 353次阅读

    通支持Meta Llama 3在骁龙终端运行

    通与Meta携手合作,共同推动MetaLlama 3大语言模型(LLM)在骁龙驱动的各类
    的头像 发表于 05-09 10:37 386次阅读

    英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3

    英特尔丰富的AI产品——面向数据中心的至强处理器,边缘处理器及AI PC等产品为开发者提供最新的优化,助力其运行Meta新一代大语言模型Meta L
    的头像 发表于 04-28 11:16 552次阅读

    NVIDIA全面加快Meta Llama 3的推理速度

    Meta 最新开源大语言模型采用 NVIDIA 技术构建,其经过优化后可在云、数据中心、边缘和 PC 的 NVIDIA GPU 上运行
    的头像 发表于 04-23 09:52 406次阅读

    通支持Meta Llama 3大语言模型在骁龙旗舰平台上实现终端执行

    通和Meta合作优化Meta Llama 3大语言
    的头像 发表于 04-20 09:13 428次阅读

    Meta推出最强开源模型Llama 3 要挑战GPT

    Meta推出最强开源模型Llama 3 要挑战GPT Facebook母公司Meta Platforms(META.US)推出了开源AI大模
    的头像 发表于 04-19 17:00 783次阅读

    Meta发布开源大模型Code Llama 70B

    近日,Meta宣布推出了一款新的开源大模型Code Llama 70B,这是其“Code Llama家族中体量最大、性能最好的模型版本”。这款新模型提供三种版本,并免费供学术界和商业界使用。
    的头像 发表于 01-31 09:24 849次阅读