在大力发展新质生产力背景下,人工智能正成为高质量发展的最大增量。而大模型以其模型精度高、泛化能力强、支持多模态的特点,成为人工智能技术发展的核心方向。
当下,大模型在企业数字化场景的落地中会遇到,场景选择、数据准备、模型训练、算力获取、效率提升等诸多挑战。基于此,中软国际在整合大模型应用架构各层能力和生态资源后,打造大模型开发和应用服务的专业平台--中软国际模型工场,为政企客户、模型供应商、算力中心提供从规划设计到应用落地的一站式端到端大模型应用开发服务。
▲中软国际模型工场服务架构
政企客户服务场景
在面向政企客户的大模型应用开发场景时,模型工场基于主流大模型为底座,以咨询引导、模型赋能、应用落地,三个层次的服务架构,采用咨询导入、规划设计、原型验证、模型微调/应用开发、应用集成、部署运营的六步应用开发工程法,为政企客户提供从概念到部署的全周期服务。
模型供应商服务场景
在面向模型供应商的服务场景时,模型工场可提供模型场景调研分析及设计、数据标注、Prompt撰写及优化、模型工程部署、AI应用集成开发支持、模型迁移、模型开发和训练、模型运维的八大服务。
模型场景调研分析及设计服务:根据客户场景、数据的调研与分析,识别客户业务中存在的痛点及需求,提供模型选型与落地实施方案。
▲模型场景调研分析及设计服务
数据标注管理服务:为客户提供数据采集与标注服务,包括数据采集处理、标注审核、质检评估及发布等服务,数据集版本管理,支撑模型数据训练和推理。
▲数据标注管理服务
Prompt撰写及优化服务:结合客户NLP任务目标,以及数据分布和特征规律,编写合适的Prompt,并进行优化调整。
▲Prompt撰写及优化服务
模型开发和训练服务:基于ModelArts平台,构建L2级AI模型开发工程,包括模型设计、特征工程、模型训练、验证融合等开发实施。
▲模型开发和训练服务
模型工程部署服务:把模型部署在生成环境,并实时进行模型推断,提升模型运行效率。
▲模型工程部署服务
AI应用集成开发支持服务:根据业务应用需求,实现基于大模型进行业务应用开发和实施服务。
▲AI应用集成开发支持服务
模型迁移服务:提供业务、应用及模型、算法及算子的昇腾环境迁移,并提供调测及集成对接等服务。
▲模型迁移服务
模型运维服务:针对私域模型的训练、推理和部署过程,提供有效管理和维护服务,保障模型稳定高效运行。
▲模型运维服务
算力中心服务场景
在面向算力中心服务场景时,中软国际自主研发了大模型运营管理系统(LMBSS),全面提升算力中心在大模型运营领域的核心竞争力。该系统可构建多种大模型纳管与商品化,支持大模型资源的全生命周期流程管理,提供大模型运营业务中灵活的计量计费,提供合同、折扣、营销、发票、工单等运营支撑服务能力,助力智算中心构建一体化大模型服务平台,推动客户构建大模型服务生态。
▲LMBSS大模型运营管理系统
打通AI应用最后一公里!中软国际模型工场正成为推动千行百业智能化升级的重要力量,助力行业向更高效,更智能的未来迈进,携手客户、伙伴共同探索大模型在企业服务的无限可能。
-
人工智能
+关注
关注
1791文章
47234浏览量
238351 -
中软国际
+关注
关注
0文章
517浏览量
7190 -
大模型
+关注
关注
2文章
2438浏览量
2668
原文标题:共赢数智新机遇 | 中软国际模型工场,打通大模型应用最后一公里!
文章出处:【微信号:CSI00354,微信公众号:中软国际】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论