0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

美格高算力AI模组为SoC阵列式服务器提供澎湃算力

g5il_meigsmart 来源:美格智能 2023-07-27 17:13 次阅读

本期我们带来高算力AI模组前沿应用,基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算,有望成为未来信息化社会的智能算力底座。

性能优势+AI驱动

ARM架构服务器加速渗透

一直以来,基于ARM架构的各类处理器芯片,以其低功耗、高效能、高可靠性、成本优势等综合特性,广泛应用于手机、平板电脑物联网终端设备等各类通信电子产品领域,极大推动了人类社会的信息化和智能化进程。

而在服务器领域,之前一直是基于X86架构的产品占据主导,近年来,随着下游对于异构算力、智能算力需求的不断增长,以及类似于云游戏等安卓原生态应用的大规模兴起,越来越多的厂商开始将ARM架构应用于服务器领域,并推出了一系列相关产品。

去年以来,在智能算力需求的不断增长,以及生成式AI对于异构算力的庞大需求,ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势,而对于传统服务器领域的渗透,也有加速的迹象。

ARM架构服务器的特点:

一、低功耗:ARM架构具有低功耗优势,其采用的处理器芯片,与传统X86架构芯片相比功耗更低,且具有更高的能效比,在IDC架构中集成ARM服务器,可以降低电费支出、节约能源消耗。

二、高效能:ARM架构具有更好的多核线程驱动性能,能够实现更好的并行处理和任务处理能力。

三、成本低:ARM架构处理器芯片,较X86架构芯片的制造成本更低,ARM架构服务器价格具有极高性价比,且开发成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和稳定性。

据了解,亚马逊、浪潮、腾讯、百度、阿里等头部企业,都推出了基于ARM架构的服务器产品,因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。

据TrendForce集邦咨询研究显示,近年企业对于人工智能、高效能运算等数字转型需求加速,带动云端采用比例增加,全球主要云端服务业者为提升服务弹性,陆续导入ARM架构服务器,预期至2025年ARM架构在数据中心服务器渗透率将达22%。

基于ARM架构的SoC阵列式服务器

智能算力领域的新兴力量

以ARM架构为基础,创新性的采用SoC芯片作为算力来源,以灵活的阵列式架构打造的SoC阵列式服务器,也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器,以高能效比、高性价比、高密度为设计原则,在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板,可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。

服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统,包含CPUGPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计,可以实现不停机维护,在通信方面配置了10G/25G交换节点,支持SDN自动化网络部署,并且内置了多维智能管理节点,可以进行全方位远程运维工作,有效减低运维成本。

以云游戏场景为例,随着《原神》、《崩坏》等爆款游戏的全球风靡,除了游戏运行向移动端转移外,也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器,在支撑云游戏运行上,存在兼容性差、成本高昂等问题,而ARM架构的阵列式服务器,基于对安卓生态天然的兼容性,避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗,近年来在云游戏场景,几乎占据主导地位,目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。

美格高算力AI模组

为SoC阵列式服务器提供澎湃算力

美格智能作为行业内最早推出高算力AI模组产品的企业,也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用,从而真正让产品的AI能力能够助力行业。

美格智能助力客户定制推出SoC阵列服务器产品,集成了CPU+GPU+NPU+TPU复合异构算力集群,可以构建大规模智能算力矩阵;每个算力节点采用刀片+阵列式设计,支持热插拔,轻松维护;整机80GB带宽,每个板卡满负载1GB带宽;内置BMC多功能综合监控可视化管理系统,可轻松远程管理。

该SoC阵列式服务器,采用美格智能为其专门定制的高算力AI模组SNM970,基于高通 QCS8550(8 Gen2)研发,支持16GB LPDDR5X + 256GB UFS 4.0内存,服务器中最高可配置80路高算力AI模组,单颗模组内部支持Android虚拟化,可虚拟出多路计算单元(如80路模组服务器,单颗模组根据下游算力需求,可以虚拟出多路虚拟机,比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏),更好的进行算力配置,充分发挥了高算力、高性价比、高能效比的优势,为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。

随着各行各业对于算力需求的爆发式增长,以及新兴应用场景对于创新型服务器的迫切需求,美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。

目前,美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作,陆续打造出了针对SoC阵列式服务器场景,基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组,同时做到封装兼容,更好助力客户产品的算力提升和产品迭代,为相关产品后续在AIGC领域的应用推广,以及向传统服务器市场的渗透,提供更好助力。

中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》,以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求,国内相关厂商也在为下一代服务器的产品标准在开始探讨,相关产品将逐步进入发展快车道。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    9109

    浏览量

    85310
  • AI
    AI
    +关注

    关注

    87

    文章

    30665

    浏览量

    268838
  • 模组
    +关注

    关注

    6

    文章

    1485

    浏览量

    30356
  • 美格智能
    +关注

    关注

    2

    文章

    246

    浏览量

    11111

原文标题:高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器

文章出处:【微信号:meigsmart,微信公众号:美格智能】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象
    的头像 发表于 11-15 14:22 510次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企业AI租赁是什么

    企业AI租赁是指企业通过互联网向专业的提供商租用所需的计算资源,以满足其
    的头像 发表于 11-14 09:30 419次阅读

    GPU开发平台是什么

    随着AI技术的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的
    的头像 发表于 10-31 10:31 162次阅读

    再跃升!亿万克发布新一代AI服务器——G882N7+!

    的特质,但告急。想要打破数智时代的瓶颈,异构智成为有效方案。 近期,亿万克面向激增的AI
    的头像 发表于 10-25 17:02 197次阅读

    青云科技强化AI架构,升级产品与服务体系

    10月9日,青云科技正式揭晓了其升级版的产品与服务阵容、行业及场景定制化解决方案,以及全新的生态战略。该公司旨在通过AI平台、AI
    的头像 发表于 10-10 16:42 458次阅读

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    中科曙光入选2024服务产业图谱及服务产品名录

    近日,中国信通院公布首个《服务产业图谱(2024年)》及《服务产品名录(2024年)》。
    的头像 发表于 08-06 14:23 668次阅读

    服务器为什么选择GPU

    随着人工智能技术的快速普及,需求日益增长。智中心的服务器作为支撑大规模数据处理和计算的核心设备,其性能优化显得尤为关键。而GPU服务器
    的头像 发表于 07-25 08:28 599次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>为什么选择GPU

    AI服务器散热,需要用到哪些导热界面材料?

    在数字经济、AI大模型等发展的带动下,全球服务器的市场需求急剧提升,利用其强大的计算能力,能够处理复杂的算法和海量数据。与此同时,生成式人工智能的大需求也拉高了
    的头像 发表于 05-30 10:44 623次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>高</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>散热,需要用到哪些导热界面材料?

    十问:超,通存比

    邬贺铨指出,现有测算方法难以精准衡量。国内企业服务器的出货量并不等于国内市场的使用量,而且进口国外的服务器未统计在内;服务器出货量也不等
    的头像 发表于 04-13 11:40 4438次阅读

    256Tops!CSA1-N8S1684X服务器

    (基于BM1684X的服务器
    的头像 发表于 03-23 08:02 1604次阅读
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    卫星通信序幕拉开,AI浪潮澎湃

    AI浪潮催生要求,基础设施需求持续提升。AIGC带来的超大需求拉动通信基础设施建设及扩容,光模块作为数据传输的基础部件,需求首先迎来
    发表于 01-03 10:22 383次阅读
    卫星通信序幕拉开,<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮<b class='flag-5'>澎湃</b>

    弘信电子与AI服务器合资,助力国产芯片落地

    此外,弘信电子近期在AI业务上取得了突破性进展,这并非源自本土化的积累,而是依赖于团队敏锐的战略眼光和强烈的创新动力。此次投资是弘信电子在AI
    的头像 发表于 12-25 09:30 945次阅读

    一文读懂:什么是“”?

    的定义即计算能力(ComputingPower)。《中国白皮书(2022年)》将其定
    的头像 发表于 12-22 08:27 7044次阅读
    一文读懂:什么是“<b class='flag-5'>算</b><b class='flag-5'>力</b>”?