0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Meta发布Llama 3.2量化版模型

CHANBAEK 来源:网络整理 2024-10-29 11:05 次阅读

近日,Meta在开源Llama 3.2的1B与3B模型后,再次为人工智能领域带来了新进展。10月24日,Meta正式推出了这两个模型的量化版本,旨在进一步优化模型性能,拓宽其应用场景。

据Meta介绍,量化后的Llama 3.2模型在大小上平均减少了56%,RAM使用量也平均降低了41%。这一显著的优化使得模型在运行过程中能够占用更少的资源,同时速度提高了2至4倍。此外,量化后的模型还降低了功耗,这对于将其部署到移动设备上具有重要意义。

此次Meta推出的量化版Llama 3.2模型,不仅展示了其在人工智能领域的持续创新能力,也为更多开发者提供了高效、便捷的工具。随着这些模型在移动设备上的广泛应用,人工智能将更深入地融入人们的日常生活,为社会带来更多的便利和可能性。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238214
  • 开源
    +关注

    关注

    3

    文章

    3309

    浏览量

    42471
  • Meta
    +关注

    关注

    0

    文章

    270

    浏览量

    11378
收藏 人收藏

    评论

    相关推荐

    Meta重磅发布Llama 3.3 70B:开源AI模型的新里程碑

    ​在人工智能领域,Meta的最新动作再次引起了全球的关注。今天,我们见证了Meta发布Llama 3.3 70B 模型,这是一个开源的人
    的头像 发表于 12-18 16:46 73次阅读
    <b class='flag-5'>Meta</b>重磅<b class='flag-5'>发布</b><b class='flag-5'>Llama</b> 3.3 70B:开源AI<b class='flag-5'>模型</b>的新里程碑

    用Ollama轻松搞定Llama 3.2 Vision模型本地部署

    Ollama的安装。 一,Llama3.2 Vision简介 Llama 3.2 Vision是一个多模态大型语言模型(LLMs)的集合,它包括预训练和指令调整的图像推理生成
    的头像 发表于 11-23 17:22 913次阅读
    用Ollama轻松搞定<b class='flag-5'>Llama</b> <b class='flag-5'>3.2</b> Vision<b class='flag-5'>模型</b>本地部署

    使用NVIDIA TensorRT提升Llama 3.2性能

    Llama 3.2 模型集扩展了 Meta Llama 开源模型集的
    的头像 发表于 11-20 09:59 203次阅读

    使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

    前面我们分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta发布Llama3.2:一个多语言大型语言
    的头像 发表于 10-12 09:39 562次阅读
    使用OpenVINO 2024.4在算力魔方上部署<b class='flag-5'>Llama-3.2</b>-1B-Instruct<b class='flag-5'>模型</b>

    亚马逊云科技上线Meta Llama 3.2模型

    亚马逊云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平台上正式上线。该模型包括Meta
    的头像 发表于 10-11 18:08 444次阅读

    亚马逊云科技正式上线Meta Llama 3.2模型

    亚马逊云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模态模型,现已在Amazon Bedrock和Amazon SageM
    的头像 发表于 10-11 09:20 505次阅读

    Meta发布多模态LLAMA 3.2人工智能模型

    Meta Platforms近日宣布了一项重要技术突破,成功推出了多模态LLAMA 3.2人工智能模型。这一创新模型不仅能够深度解析文本信息
    的头像 发表于 09-27 11:44 398次阅读

    Meta Llama 3.1系列模型可在Google Cloud上使用

    我们很高兴宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,这包括全新的 405B,即 Meta 迄今为止功能最强大、用途最广泛的模型。这些
    的头像 发表于 08-02 15:42 377次阅读

    Meta发布全新开源大模型Llama 3.1

    科技巨头Meta近期震撼发布了其最新的开源人工智能(AI)模型——Llama 3.1,这一举措标志着Meta在AI领域的又一重大突破。
    的头像 发表于 07-24 18:25 1430次阅读

    Meta即将发布超强开源AI模型Llama 3-405B

    在人工智能领域的激烈竞争中,Meta公司再次掷出重磅炸弹,宣布将于7月23日正式发布其最新力作——Llama 3-405B,一个拥有惊人4050亿参数的开源大模型。这一举措不仅标志着
    的头像 发表于 07-18 09:58 983次阅读

    Meta Llama 3基础模型现已在亚马逊云科技正式可用

    亚马逊云科技近日宣布,Meta公司最新发布的两款Llama 3基础模型——Llama 3 8B和Llam
    的头像 发表于 05-09 10:39 394次阅读

    英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3

    英特尔丰富的AI产品——面向数据中心的至强处理器,边缘处理器及AI PC等产品为开发者提供最新的优化,助力其运行Meta新一代大语言模型Meta Llama 3
    的头像 发表于 04-28 11:16 623次阅读

    Meta推出最强开源模型Llama 3 要挑战GPT

    Meta推出最强开源模型Llama 3 要挑战GPT Facebook母公司Meta Platforms(META.US)推出了开源AI大
    的头像 发表于 04-19 17:00 832次阅读

    LLaMA 2是什么?LLaMA 2背后的研究工作

    Meta 发布LLaMA 2,是新的 sota 开源大型语言模型 (LLM)。LLaMA 2 代表着
    的头像 发表于 02-21 16:00 1101次阅读

    Meta发布开源大模型Code Llama 70B

    近日,Meta宣布推出了一款新的开源大模型Code Llama 70B,这是其“Code Llama家族中体量最大、性能最好的模型版本”。这
    的头像 发表于 01-31 09:24 920次阅读