0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

墨芯完成智谱大模型适配黄金认证助推国产算力商业化进程

墨芯人工智能 来源:墨芯人工智能 2023-11-27 09:16 次阅读

在推动大模型算力量级提升的道路上,稀疏计算引领者墨芯人工智能(以下简称“墨芯”)再次迈出重要的一步。

近日,墨芯旗下产品S30计算卡经过智谱AI内部专家的严格测评,荣获黄金级别认证,充分显示了其与智谱AI(以下简称“智谱”)的ChatGLM2-6B开源大模型在推理与微调方面的高度兼容性和卓越适配能力

df8c5f74-8cc0-11ee-939d-92fbcf53809c.jpg

墨芯获得智谱ChatGLM2-6B模型黄金认证证书

除了上述已经成功适配的ChatGLM2-6B大模型外,墨芯正通过基于S30计算卡的定制化算力为智谱提供一体化解决方案,同时也积极参与到智谱其他闭源商业大模型的兼容性适配中,这一过程也加速了智谱AI大模型的商用步伐。

墨芯的助力,不仅是对智谱现有AI产品矩阵的算力加持,更是对其未来AI技术应用领域落地的一次积极探索。通过这种合作,墨芯和智谱AI共同推动了国产大模型技术的商业化进程,加快了其在多个行业中的实际应用和普及。墨芯的S30计算卡作为这一合作的关键组成部分,其强大的算力和高效的适配能力不仅提升了智谱AI大模型的开发和部署,也为之后在更多领域的合作提供了坚实的基础,进一步推动了国产大模型的广阔应用和行业渗透。

此外,S30计算卡在技术创新上的突破,特别是在稀疏计算和AI算法优化方面的先进性,为智谱的AI大模型提供了强大的后端支撑。这不仅加强了智谱大模型的性能和适用性,而且在促进国产AI技术的商业化和产业化方面发挥了重要作用。通过这种强强联手模式,墨芯和智谱共同展现了国内AI技术在未来无限的竞争力和创新潜力。

通过本次认证的S30计算卡搭载墨芯首颗Antoum芯片,以其高达32倍稀疏率的强劲AI算力,专注服务与数据中心AI推理的多元需求。其应用领域覆盖了互联网、通信、智慧城市建设、生命科学、自动驾驶等关键行业,体现了其广泛的适用性和灵活性。

墨芯的双稀疏算法和Antoum架构的创新,使S30在同行业产品中处于领先地位,更显著优化了客户的总拥有成本(TCO)。

S30计算卡在行业内以其卓越的推理加速性能始终保持领先。此前,在9月举办的最新一届的全球权威测评MLPerf Inference 3.1推理评测中,墨芯S30计算卡,以其无与伦比的性能,在处理GPT-J(60亿参数)大模型推理任务时,无论是单卡还是多卡配置,均力压群雄,荣登榜首。这是墨芯连续第三次在MLPerf推理评测中取得领先成绩,进一步夯实其在AI算力领域的领导地位。

dfb48972-8cc0-11ee-939d-92fbcf53809c.png

墨芯S30计算卡在GPT-J-99模型中的性能表现

ChatGLM2-6B模型由智谱AI与清华大学KEG实验室共同研发,是一款功能强大的开源中英双语对话模型。其在沿袭了初代模型的流畅对话和低部署难度的基础上,进一步提升了推理速度和降低显存占用,整体性能更加出色。

S30计算卡的黄金认证,不仅是其技术实力的显著证明,更是墨芯赋能智谱大模型商业化进程的关键一环,不仅证实了S30计算卡在运行智谱ChatGLM2-6B大模型时的稳定性和高吞吐能力,也标志着墨芯与智谱在共同推进大模型技术发展和生态建设方面的成功合作。未来,墨芯人工智能将与智谱AI在更多领域展开广阔合作,共同致力于推动国产AI大模型生态圈的协同进步与创新。

关于

智谱AI

ABOUT ZHIPU AI

北京智谱华章科技有限公司(简称“智谱AI”)致力于打造新一代认知智能大模型,专注于做大模型的中国创新。公司合作研发了中英双语千亿级超大规模预训练模型GLM-130B,并基于此推出对话模型ChatGLM,开源单卡版模型ChatGLM-6B。同时,团队还打造了AIGC模型及产品矩阵,包括AI提效助手智谱清言、高效率代码模型CodeGeeX、多模态理解模型CogVLM和文生图模型CogView等。公司践行Model as a Service(MaaS)的市场理念,推出大模型MaaS开放平台,打造高效率、通用化的“模型即服务”AI开发新范式。

关于墨芯

人工智能

ABOUT MOFFETT AI

墨芯人工智能是稀疏计算引领者,致力于提供云端和终端AI计算平台和服务。通过全球领先的稀疏计算技术优势,打造软硬协同的新一代智能计算平台。产品性能位居行业领先,相较行业主流产品,在算力、能效比与成本等方面均实现数量级优化。面向互联网、运营商、金融、制造、医疗、交通、能源、生命科学、自动驾驶等众多行业与场景,提供高算力、低功耗、高性价比的AI算力服务,赋能前沿科技的进步与社会的智能化升级。






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238251
  • ai技术
    +关注

    关注

    1

    文章

    1266

    浏览量

    24285

原文标题:墨芯完成智谱大模型适配黄金认证,助推国产算力商业化进程

文章出处:【微信号:墨芯人工智能,微信公众号:墨芯人工智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    芯片、模型生态分散,无问穹、沐曦、壁仞谈国产瓶颈破局之道

      电子发烧友网报道(文/李弯弯)近日,2024世界人工智能大会正在举行,无问穹联合创始人兼CEO夏立雪在大会论坛上谈到一个现象,从GPT-3到GPT-4,无论是还是大模型能力都
    的头像 发表于 07-07 11:14 4521次阅读
    芯片、<b class='flag-5'>模型</b>生态分散,无问<b class='flag-5'>芯</b>穹、沐曦、壁仞谈<b class='flag-5'>国产</b><b class='flag-5'>算</b><b class='flag-5'>力</b>瓶颈破局之道

    模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问
    发表于 08-20 09:04

    小鹏汇天获1.5亿美元B1轮融资,加速飞行汽车商业化进程

    小鹏汇天近日宣布成功完成1.5亿美元的B1轮融资,并同步启动B2轮融资计划,标志着公司在飞行汽车领域的研发与商业化进程迈入新阶段。此次融资不仅为小鹏汇天提供了坚实的资金保障,更将助力其加速推进飞行汽车的研发、规模量产及市场布局。
    的头像 发表于 08-06 10:59 1011次阅读

    摩尔线程携手东华软件完成AI大模型推理测试与适配

    近日,摩尔线程与东华软件云筑AI创新中心宣布,双方已完成模型推理测试与适配。依托摩尔线程的全功能GPU国产
    的头像 发表于 07-31 10:51 733次阅读

    萝卜快跑爆火的背后,美格智能如何助力无人车商业化

    无人车商业化进程已经迈入加速赛,美格智能将继续坚持研发投入,与产业伙伴共同构建面向智能汽车产业的新质生产,助力无人车商业化加速发展!
    的头像 发表于 07-16 16:39 458次阅读

    萝卜快跑爆火的背后,美格智能如何助力无人车商业化

    无人车商业化进程已经迈入加速赛,美格智能将继续坚持研发投入,与产业伙伴共同构建面向智能汽车产业的新质生产,助力无人车商业化加速发展!
    的头像 发表于 07-16 16:37 1273次阅读
    萝卜快跑爆火的背后,美格智能如何助力无人车<b class='flag-5'>商业化</b>?

    商汤大装置服务获国家级认证

    商汤大装置服务获国家级认证! 近日,经过中国电子技术标准研究院专家审核,商汤科技通过
    的头像 发表于 06-22 10:59 609次阅读

    摩尔线程与智AI完成模型性能测试与适配

    近日,摩尔线程与智AI在人工智能领域开展了一轮深入的合作,共同对GPU大模型进行了适配及性能测试。此次测试不仅涵盖了大模型的推理能力,还涉及了基于摩尔线程夸娥(KUAE)千卡智
    的头像 发表于 06-14 16:40 1066次阅读

    摩尔线程千卡智集群与滴普企业大模型完成训练及推理适配

    近日,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程夸娥(KUAE)千卡智集群与滴普企业大模型Deepexi已完成训练及推理适配
    的头像 发表于 05-29 10:28 465次阅读
    摩尔线程千卡智<b class='flag-5'>算</b>集群与滴普企业大<b class='flag-5'>模型</b>已<b class='flag-5'>完成</b>训练及推理<b class='flag-5'>适配</b>

    人工智能荣获“2024AI层创新企业奖”

    近日,稀疏计算引领者人工智能宣布,公司荣获由中国科技产业智库「甲子光年」主办的“甲子引力X:星辰100榜单”评选的“2024AI层创新企业奖”。
    的头像 发表于 05-17 09:06 455次阅读
    <b class='flag-5'>墨</b><b class='flag-5'>芯</b>人工智能荣获“2024AI<b class='flag-5'>算</b><b class='flag-5'>力</b>层创新企业奖”

    广东:到2025年,规模38E,智50%,国产70%

    日前,广东省通信管理局等九部门印发了《广东省基础设施高质量发展行动暨“粤”行动计划(2024-2025年)》(以下简称《行动计划》),明确了计算、运载力、存储
    的头像 发表于 04-23 08:25 459次阅读
    广东:到2025年,<b class='flag-5'>算</b><b class='flag-5'>力</b>规模38E,智<b class='flag-5'>算</b>50%,<b class='flag-5'>国产</b><b class='flag-5'>算</b><b class='flag-5'>力</b>70%

    连续完成两轮数亿元融资,获蚂蚁集团等加持助推二代AI芯片

    人工智能科技(深圳)有限公司在近期连续完成了两轮数亿元的融资,这两轮融资分别由不同的投资方领投,并获得了包括蚂蚁集团在内的多家机构的加持,以助推其二代AI芯片的研发和市场拓展。
    的头像 发表于 04-15 15:49 933次阅读

    微软携手法国AI初创企业Mistral推动AI模型商业化

    微软近日与法国人工智能初创企业Mistral达成合作协议,旨在推动AI模型商业化应用。据悉,微软将提供全方位支持,帮助这家成立仅10个月的公司将其先进的AI模型推向市场。同时,微软还将持有Mistral的少量股份,但具体的财务
    的头像 发表于 02-28 10:23 530次阅读

    中国电信规划在上海建设首个国产超大规模液冷集群

    中国电信规划建设首个国产超大规模液冷集群 人工智能技术的快速发展催生了巨大的需求;中国电信规划在上海规划建设可支持万亿参数大
    的头像 发表于 02-22 18:48 1327次阅读

    云途半导体完成大额融资,加速高端汽车芯片国产化进程

    云途半导体自成立以来,始终专注于高端汽车芯片的研发,致力于推进其国产商品质汽车芯片实现商业化。迄今为止,云途半导体已经完成六轮融资,获得了小米产投、北汽产投等业界翘楚的支持,同时也赢得蓝驰创投、临
    的头像 发表于 02-02 10:14 860次阅读