0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

昇思人工智能框架峰会2024圆满落幕|软通动力大模型一体机发布

全球TMT 来源:全球TMT 作者:全球TMT 2024-03-26 17:42 次阅读

北京2024年3月26日 /美通社/ --2024年3月22日] 人工智能框架作为软件根技术,已成为加速人工智能大模型开发、推动产业智能化发展的核心力量。以"为智而昇,思创之源"为主题的昇思人工智能框架峰会2024在北京国家会议中心举办,旨在汇聚AI产业界创新力量,推动根技术持续创新,共建人工智能开源新生态。软通动力作为联合承办方深度参与该峰会。

wKgaomYCmGyAKlSXAAC7C-3owNc443.jpg


大会期间,昇思MindSpore开源社区理事会第三次闭门会议召开,软通动力高级副总裁、数字基础设施与集成总经理谢睿作为理事会成员代表出席,与行业伙伴共探MindSpore未来发展趋势。

会上,软通动力数字基础设施与集成技术总监单继岭发表了题为"软通动力训推一体化平台加速企业智能化升级"的主题演讲,旨通过一体机形式帮助客户实现大模型场景推理"最后一公里"。

此外,昇思人工智能框架峰会2024的举办为业界提供了一个交流合作的平台。大会期间,软通动力在峰会展区亮相了"AI训推一体化平台"和"天璇2.0MaaS平台,与众多伙伴进行了互动与合作。

wKgZomYCmG2AFB0oAACeV1pbT00954.jpg


软通动力AI训推一体化平台,打通AI应用最后一公里

人工智能作为引领未来的战略性技术,正在深刻推动着人类社会和产业变革;人工智能框架作为软件根技术,在AI技术的迭代中扮演着重要角色。在此背景下,软通动力推出AI训推一体化平台,该平台集成了昇腾AI基础硬件平台、天鹤OS操作系统等组件,并搭载天璇2.0 MaaS平台,支持一站式AI开发,叠加行业AI大模型,深度适配企业不同AI应用场景。软通AI训推一体化平台支持昇思MindSpore 全场景AI框架,具备用户态易用、运行态高效、部署态灵活的特点,可以为用户提供设计友好、运行高效的开发体验。目前,软通AI训推一体化平台已覆盖央国企、科技机构、教育实训、金融等打造多个offering服务不同客户。

当前,大模型在各行各业的规模化应用落地面临精准度不够、与业务系统联动不足、数据安全担忧、算力成本居高不下等问题,为提升大模型在实际业务中的有效应用,软通动力联合百川智能推出"软通-百川AI大模型一体机"。 软通动力副总裁、数字基础设施与集成副总经理刘雅、数字基础设施与集成技术总监单继岭;百川智能政企事业群产研总经理李剑、政企事业群一体机负责人谢楠共同出席发布仪式。

wKgaomYCmG2Ae2QPAAEqZwNapWo041.jpg


作为自主创新的软硬一体解决方案,该一体机基于昇腾AI基础硬件平台,预装百川大模型能力,支持多轮对话、报告生成、内容生成、代码生成、知识检索、文本分类、API平台、企业知识库等多样化功能,在许多复杂的客户业务场景中,助力用户实现大模型场景推理的"最后一公里"。

【同方AI算力底座】

软通-百川AI大模型一体机基于昇腾AI硬件底座,具备高能效、高算力、高可靠、易管理、易扩展等优点,可按需选择两款硬件产品:同方超强K620和同方超强A800I A2,整合天鹤OS操作系统,广泛应用于AI算法开发和AI推理服务的场景。核心优势如下:

超强算力:性能领先,加速AI推理效率,单台推理服务器可达2.2 PFLOPS AI算力

超高能效:内置高算力AI芯片、高性能算子库,支持多卡高速互联、分布式存储;

平滑扩展:根据业务需要可以随时扩展存储、算力、服务器;

安全启动:一体机内网部署,数据不出机房,数据安全可靠,构建可信的起点。

【百川基座大模型】

软通-百川AI大模型一体机基于全场景昇思MindSpore AI开发框架,预装百川大模型助力企业快速开展业务大模型场景推理,根据推理结果实现微调,提高模型预测的准确率;解决企业大模型快速部署上线、算力成本居高不下、数据安全担忧等问题。

丰富的基座大模型:内置了Baichuan2 3B、7B、13B、33B大模型参数,且支持192K长窗口,单次可输入超35万字,极致的Transformer计算工程优化;

搜索增强+知识库:基于搜索增强的企业知识库与实时信息获取,业界领先的Embedding model,稀疏检索+向量检索实现的多路召回能力,融合互联网在线搜索和信息整合能力;

全生命周期服务:安装部署、模型部署、推理服务等全生命周期,提供优质高效技术服务。

随着人工智能技术的不断发展和普及,大模型一体机将在更多领域得到应用和推广。未来,软通动力将联合华为、百川智能等伙伴继续发挥优势,不断创新突破,为人工智能技术的发展和产业的繁荣做出更大的贡献。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 一体机
    +关注

    关注

    0

    文章

    855

    浏览量

    32664
  • 人工智能
    +关注

    关注

    1791

    文章

    46820

    浏览量

    237459
  • 软通动力
    +关注

    关注

    1

    文章

    756

    浏览量

    15130
  • 大模型
    +关注

    关注

    2

    文章

    2314

    浏览量

    2452
收藏 人收藏

    评论

    相关推荐

    联想发布智能一体机解决方案

    。 通过深度整合硬件与软件资源,联想智能一体机解决方案为用户提供了大模型智能应用落地的最小单元。借助最优算力适配,该方案能够助力用户快速实
    的头像 发表于 10-31 11:19 330次阅读

    智能一体机,大模型时代叶见菩提

    轻量级,懂客户,让智能一体机成为可靠选择
    的头像 发表于 10-25 18:00 1601次阅读
    <b class='flag-5'>智能</b><b class='flag-5'>体</b><b class='flag-5'>一体机</b>,大<b class='flag-5'>模型</b>时代<b class='flag-5'>一</b>叶见菩提

    图为大模型一体机新探索,赋能智能家居行业

    与效率。 其中,图为AI大模型一体机作为人工智能领域的最新成果,正逐步成为智能家居行业的重要驱动力。本文将深入探讨图为图为AI大
    的头像 发表于 10-24 11:05 196次阅读

    浪潮信息发布元脑企智一体机

    2024中国算力大会上,浪潮信息正式发布了其创新的元脑企智一体机。这款一体机融合了元脑企智EPAI企业大模型开放平台和元脑服务器,通过软硬
    的头像 发表于 09-30 16:50 1340次阅读

    道SEEKVIEU一体机电脑

    一体机
    jf_69621499
    发布于 :2024年09月03日 08:50:17

    通计算(同方计算机)绿色AI一体机引领科技新潮流

    近日, 通计算(同方计算机) “绿色AI一体机” 在科技界和媒体圈内引起了广泛关注。 绿色AI一体机经问世,以其环保节能的特性和强大的人工智能
    的头像 发表于 06-24 14:38 614次阅读

    聚徽触控-工控一体机和 PLC 一体机有什么不同

    在工业自动化领域,工控一体机和 PLC 一体机都扮演着重要角色。尽管它们在某种程度上有所重叠,但它们在功能、应用和设计结构等方面存在显著的不同。工控一体机和 PLC 一体机有什么不同,
    的头像 发表于 06-21 10:05 398次阅读

    集特一体机

    显卡一体机
    jf_67464575
    发布于 :2024年05月22日 09:05:55

    动力受邀参加华为举办的“AI框架及大模型技术论坛”

    5月11日,鲲鹏腾开发者大会2024期间,华为举办“AI框架及大模型技术论坛”,
    的头像 发表于 05-13 09:30 480次阅读

    【机器视觉】欢创播报 | 百度智能发布千帆大模型一体机

    1 百度智能发布千帆大模型一体机 编辑 ​ 4月9日上午,百度智能云GENERATE全球生态大会在成都召开。会上,百度
    的头像 发表于 04-11 10:49 556次阅读
    【机器视觉】欢创播报 | 百度<b class='flag-5'>智能</b>云<b class='flag-5'>发布</b>千帆大<b class='flag-5'>模型</b><b class='flag-5'>一体机</b>

    格灵深瞳受邀参加人工智能框架峰会2024并发表主题演讲

    人工智能框架作为软件根技术,已成为加速人工智能模型开发、推动产业智能化发展的核心力量。
    的头像 发表于 03-26 13:40 492次阅读

    动力模型一体机亮相2024人工智能框架峰会

    人工智能框架作为软件根技术,已成为加速人工智能模型开发、推动产业智能化发展的核心力量。
    的头像 发表于 03-26 09:35 698次阅读
    <b class='flag-5'>软</b>通<b class='flag-5'>动力</b>大<b class='flag-5'>模型</b><b class='flag-5'>一体机</b>亮相<b class='flag-5'>2024</b><b class='flag-5'>昇</b><b class='flag-5'>思</b><b class='flag-5'>人工智能</b><b class='flag-5'>框架</b><b class='flag-5'>峰会</b>

    国际【问】系列大模型应用一体机正式发布

    的最新应用实践,携手华鲲振宇正式发布了中国际【问】系列大模型应用一体机,联合华为发布了“同舟共济”行动计划。会上,中
    的头像 发表于 03-19 19:34 1335次阅读
    中<b class='flag-5'>软</b>国际【问】系列大<b class='flag-5'>模型</b>应用<b class='flag-5'>一体机</b>正式<b class='flag-5'>发布</b>

    嵌入式触摸工业一体机人工智能化设备上的应用分析

    随着科技的迅速发展,人工智能已经逐渐渗透到各个领域,为生产和日常生活带来了巨大的变革。在工业领域,嵌入式触摸工业一体机作为种前沿的技术装备,为人工智能化设备的应用提供了强大的支持和平
    的头像 发表于 01-08 14:57 312次阅读

    模型引爆市场,训推一体机成算力行业趋势

    动力量。然而大模型的训练和部署需要大量的计算资源。   训推一体机成为算力行业趋势   今年7月,华为携手伙伴联合发布腾AI大
    的头像 发表于 12-05 00:14 2646次阅读