围绕“创新:构建更美好世界”主题,由科技部、发改委、工信部、国资委、中科院、工程院、科协及北京市政府联合举办的2024年中关村论坛于近日在京举行。本次论坛汇聚了来自100多个国家和地区的嘉宾,以及150多家外国政府部门和国际组织机构。同时,一系列人工智能新技术、新应用、新模式在此次论坛上得到展示和发布。
在论坛期间,中关村国际技术交易大会开幕式暨全球技术交易生态伙伴大会成功举办,并发布了《百项新技术新产品榜单》。值得关注的是,摩尔线程夸娥(KUAE)智算中心全栈解决方案荣获该榜单重点推荐。得益于其高兼容性、稳定性、扩展性及算力利用率等优势,摩尔线程夸娥智算集群能够为千亿参数级别的大模型训练提供强大的算力支持。
此外,在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程与无问芯穹联合宣布,双方正致力于开发基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩尔线程成为首家接入无问芯穹并进行千卡级别大模型训练的国产GPU厂商。无问芯穹联合创始人兼CEO夏立雪表示,经过无问芯穹Infini-AI平台实训与联合优化,摩尔线程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表现出色,且在实训过程中实现了长时间稳定训练,为千亿参数级别大模型训练提供了持续高效的高性能算力支持。未来,他们计划将此合作模型在Infini-AI平台上向公众开放。
论坛首日,在北京银行新质生产力与组合金融发展大会上,摩尔线程创始人兼CEO张建中发表了以《构建AGI时代的金融科技新质生产力》为题的主旨演讲,强调人工智能作为新质生产力的创新引擎,将在金融行业中发挥重要作用。他指出,人工智能将通过个性化服务产品、智能化投资决策、自动化风险管理、安全化合规监管、便捷化降本增效等方式,有效应对金融科技领域所面临的诸多挑战。在大模型时代背景下,每个金融企业都应具备自身的大模型和训练基础设施,而安全普惠的国产化算力则是金融行业不可或缺的要素。摩尔线程依托全功能GPU,打造了涵盖芯片至智算中心的先进算力基础设施,以及覆盖软件加速库至大模型分布式训练系统的全栈软件服务,为我国金融行业的数智化转型提供了算力加速。
在中关村国际技术交易大会高精尖技术产品首发会上,摩尔线程联合创始人兼执行总裁王东重点解析了夸娥(KUAE)智算中心全栈解决方案的优点及价值,展示了解决大规模GPU算力建设和运营管理问题的能力。该方案由夸娥(KUAE)计算集群、KUAE Platform集群管理平台及KUAE ModelStudio模型服务组成,实现了开箱即用。目前,摩尔线程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在内的数十种主流大模型的训练与微调。实践证明,使用摩尔线程夸娥(KUAE)千卡集群进行70B至130B参数规模的大模型训练,其线性加速比高达91%且算力利用率稳定。
中关村论坛作为中国面向全球科技创新交流合作的国家级平台,已成功举办14届。摩尔线程作为中关村独角兽芯片企业与北京市“专精特新”企业,受邀在中关村展示中心常设展出人工智能集群展区和集成电路集群展区。凭借全功能GPU的多元计算优势,摩尔线程已形成以夸娥智算集群为核心的全栈AI产品线,致力于成为大模型和通用人工智能的先进算力基础设施。展望未来,摩尔线程将持续以AI为核心,以技术创新驱动发展,不断拓宽加速计算领域,为构建更美好的数智世界贡献力量。
-
gpu
+关注
关注
28文章
4700浏览量
128672 -
摩尔线程
+关注
关注
1文章
198浏览量
4508 -
大模型
+关注
关注
2文章
2314浏览量
2448
发布评论请先 登录
相关推荐
评论