0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

无问芯穹发布千卡规模异构芯片混训平台

CHANBAEK 来源:网络整理 2024-07-08 14:27 次阅读

科技日新月异的今天,人工智能领域的每一次突破都引领着行业的新一轮变革。2024年世界人工智能大会AI基础设施论坛上,无问芯穹以其卓越的创新力和前瞻视野,再次成为全场瞩目的焦点。7月4日,无问芯穹联合创始人兼CEO夏立雪在会上震撼发布了全球首个千卡规模异构芯片混训平台,这一里程碑式的成果不仅标志着AI计算能力的巨大飞跃,也预示着异构计算时代的新篇章已经开启。

无问芯穹此次发布的千卡异构混合训练集群,其算力利用率高达97.6%,这一数字背后是团队对AI计算优化技术的深刻理解和不懈追求。通过高效整合并优化不同种类的异构芯片资源,该平台实现了前所未有的计算效能,为大规模、复杂的人工智能模型训练提供了强有力的支撑。尤为值得一提的是,Infini-AI云平台作为无问芯穹的核心产品,现已集成了这一千卡异构混训能力,成为全球首个支持单任务千卡规模异构芯片混合训练的平台。这一创新不仅打破了传统AI计算平台的局限,更以其万卡级别的扩展性,为未来的AI应用提供了无限可能。

无问芯穹始终站在行业前沿,对“M种模型”与“N种芯片”的行业格局有着深刻的理解和前瞻的判断。面对日益多元化的AI模型和计算芯片,无问芯穹率先构建了“MxN”中间层的生态格局,通过自主研发的核心技术和算法优化,实现了多种大模型算法在多元芯片上的高效、统一部署。这一创新不仅简化了AI应用的开发流程,降低了技术门槛,更极大地提升了计算资源的利用率和整体性能。

截至目前,Infini-AI云平台已经成功支持了包括Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3系列在内的30多个AI模型,覆盖了自然语言处理、计算机视觉等多个领域。同时,该平台还兼容了AMD、华为昇腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA等10余种主流计算卡,充分展现了其强大的兼容性和扩展性。

从7月开始,通过试训申请的用户已经可以在Infini-AI平台上一键发起700亿参数规模的大模型训练,这一功能的实现无疑为科研机构、企业和个人开发者提供了前所未有的便利和高效。无问芯穹的这一创新不仅推动了AI技术的快速发展,更为全球AI产业的繁荣注入了新的动力。

展望未来,无问芯穹将继续秉承创新、开放、合作的理念,不断深化在AI计算领域的研究和应用,为构建更加智能、高效、可持续的AI生态贡献自己的力量。随着千卡规模异构芯片混训平台的广泛应用和不断优化,我们有理由相信,一个全新的AI计算时代已经到来。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    451

    文章

    49750

    浏览量

    418325
  • AI
    AI
    +关注

    关注

    87

    文章

    29057

    浏览量

    266900
  • 人工智能
    +关注

    关注

    1788

    文章

    46142

    浏览量

    235809
收藏 人收藏

    评论

    相关推荐

    芯片、模型生态分散,、沐曦、壁仞谈国产算力瓶颈破局之道

      电子发烧友网报道(文/李弯弯)近日,2024世界人工智能大会正在举行,联合创始人兼CEO夏立雪在大会论坛上谈到一个现象,从GPT-3到GPT-4,无论是算力还是大模型能力都
    的头像 发表于 07-07 11:14 4206次阅读
    <b class='flag-5'>芯片</b>、模型生态分散,<b class='flag-5'>无</b><b class='flag-5'>问</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>、沐曦、壁仞谈国产算力瓶颈破局之道

    国产千卡GPU集群完成大模型训练测试,极具高兼容性和稳定性

    卡集群的方式成为了必然的选择。   2023年底,摩尔线程推出首个全国产千卡千亿模型训练平台“摩尔线程KUAE智算中心”。摩尔线程相关负责人此前谈到,百卡或更小规模都是实验性的,千卡
    的头像 发表于 06-11 07:50 3007次阅读
    国产<b class='flag-5'>千卡</b>GPU集群完成大模型训练测试,极具高兼容性和稳定性

    获完成5亿元A轮融资

    近日,大模型基础设施领域的创新企业宣布成功完成5亿元人民币的A轮融资。此轮融资由社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创投及洪泰基金联合领投,联想创投、小米
    的头像 发表于 09-03 15:41 225次阅读

    上海获多家投资方投资

    近日,上海智能科技有限公司宣布完成新一轮工商变更,公司股东阵容显著增强。此次变更中,顺为资本旗下北京顺赢股权投资合伙企业、联想旗下的中小企业发展基金联想(天津)合伙企业等多家知
    的头像 发表于 08-08 16:27 580次阅读

    异构整合不同架构芯片资源,提高算力利用率

    的解决方案。通过混合使用多种异构芯片,可以充分利用不同芯片的优势,提高算力利用率,降低算力成本,并推动AI技术的广泛应用。   异构
    的头像 发表于 07-18 00:11 3157次阅读

    国产GPU可替代!摩尔线程千卡集群点亮新成就

    摩尔线程、联合宣布,双方已经正式完成MT-infini-3B 3B(30亿参数)规模大模型的实
    的头像 发表于 05-29 11:27 563次阅读
    国产GPU可替代!摩尔线程<b class='flag-5'>千卡</b>集群点亮新成就

    摩尔线程、合作完成国产全功能GPU千卡集群

    据介绍,此项训练历时13.2天,过程稳定而有序,集群整体运行稳定性达到了100%。相较于单机训练,千卡集群的扩展效率提升了超过90%。
    的头像 发表于 05-27 14:40 523次阅读

    摩尔线程与在国产GPU上首次实现大模型实

    近日,摩尔线程与共同宣布,双方已正式完成基于国产全功能GPU千卡集群的3B规模大模型实
    的头像 发表于 05-27 10:59 566次阅读

    摩尔线程与宣布完成基于GPU千卡集群的3B规模大模型实

    摩尔线程联合宣布,双方已在本周正式完成基于国产全功能GPU千卡集群的3B规模大模型实
    的头像 发表于 05-27 10:44 394次阅读
    摩尔线程与<b class='flag-5'>无</b><b class='flag-5'>问</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>宣布完成基于GPU<b class='flag-5'>千卡</b>集群的3B<b class='flag-5'>规模</b>大模型实<b class='flag-5'>训</b>

    摩尔线程助力AI大模型训练与计算升级,共建美好数字化未来

    此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini
    的头像 发表于 04-28 16:42 850次阅读

    俄罗斯自主芯片遇挫,超半数成废片

    摩尔线程是第一家接入并成功完成千卡级别大模型训练的国产GPU公司,“夸娥”(KUAE)集群已经与
    的头像 发表于 04-02 10:27 409次阅读
    俄罗斯自主<b class='flag-5'>芯片</b>遇挫,超半数成废片

    摩尔线程与联手开启千亿大模型服务新篇章

    3月31日,AI算力优化论坛暨产品发布会在上海成功举办,重磅发布了“
    的头像 发表于 04-01 11:11 540次阅读
    摩尔线程与<b class='flag-5'>无</b><b class='flag-5'>问</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>联手开启千亿大模型服务新篇章

    燧原科技与签约宣布共同打造千卡集群案例

    3月31日,在举办的以“多元计算·泛在链接”为主题的AI算力优化论坛暨产品发布会上,燧原科技与
    的头像 发表于 04-01 10:48 732次阅读

    AMD与达成战略合作,共同推进商用AI性能

    近日,AMD与宣布达成战略合作。未来,双方将携手并进,致力于大幅提高商用AI应用的性能,共同推动整个生态系统的发展。
    的头像 发表于 01-10 18:23 1406次阅读

    百度,腾讯竞相入股!这家初创芯片公司究竟是何方神圣?

    最近,一家名为“上海智能科技有限公司”(以下简称
    的头像 发表于 12-14 11:36 584次阅读
    百度,腾讯竞相入股!这家初创<b class='flag-5'>芯片</b>公司究竟是何方神圣?