近日,由上海天数智芯半导体有限公司(以下简称“天数智芯”)主导的DeepSpark开源社区正式发布了百大应用开放平台24.06版本。 百大应用开放平台作为国内领先的AI和通用计算应用开发及评测平台,甄选上百个与行业应用深度耦合的开源算法和模型,支持主流生态应用框架,并针对行业需求构建多维度评测体系,广泛支持各类落地场景。
本次24.06版本首度上线了多维度评测系统社区版,旨在从速度、精度、显存占用、功耗、线性度、稳定性等多个维度来全面评价通用GPU加速卡在模型训练或推理中的综合表现。多维度评测系统社区版首期支持的36个训练模型均来自DeepSparkHub百大训练模型库,欢迎社区用户使用体验。
同时,24.06版本继续丰富DeepSparkHub百大模型训练库和DeepSparkInference推理模型库中的模型示例。
24.06版本在DeepSparkHub百大训练模型库中新增了7个基于PyTorch框架的模型以及对OpenPCDet工具箱的支持,同时上线了8个基于DeepSpeed、Megatron-DeepSpeed和Firefly的大语言模型训练示例。迄今为止在DeepSparkHub百大训练模型库累计开源上线的模型数量达到了276个。
24.06版本在DeepSparkInference推理模型库中新增了基于天数智芯自研推理引擎IGIE和IxRT的31个推理模型示例,同时还新增了4个基于vLLM、TensorRT-LLM和Text Generation Inference的大语言模型推理示例。值得一提的是,今年6月天数智芯与启智社区合作举办的芯动开源首场-天数智芯专场活动中全面采用了来自DeepSparkInference的推理模型,社区用户累计完成了近300次推理模型执行和结果提交,充分展现了智铠100通用GPU推理加速卡的通用性。
随着DeepSparkHub百大训练模型库和DeepSparkInference推理模型库的持续丰富,进一步展示了天数智芯通用GPU产品天垓和智铠的通用性和易用性。欢迎行业合作伙伴、社区用户和开发者以任何形式参与DeepSpark开源社区。
审核编辑:彭菁
-
AI
+关注
关注
87文章
27608浏览量
265224 -
开源
+关注
关注
3文章
3055浏览量
41834 -
模型
+关注
关注
1文章
2887浏览量
48086 -
天数智芯
+关注
关注
0文章
94浏览量
5413
原文标题:DeepSpark 开源社区百大应用开放平台24.06版本正式发布
文章出处:【微信号:IluvatarCoreX,微信公众号:天数智芯】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
百度文心大模型4.0免费了 百度文心智能体平台免费开放文心大模型4.0
开放原子开源大赛—基于OpenHarmony的团结引擎应用开发赛正式启动!
开源物联,协同成长 | TobudOS开放原子训练营第四季线下培训圆满落幕
润开鸿DAYU200及DAYU210联袂通过OpenHarmony 3.2 Release版本兼容性测评
天数智芯再迎突破 携手启智社区共建国产算力服务平台
![<b class='flag-5'>天数</b>智<b class='flag-5'>芯</b>再迎突破 携手启智<b class='flag-5'>社区</b>共建国产算力服务<b class='flag-5'>平台</b>](https://file1.elecfans.com/web2/M00/A7/A0/wKgZomUOpTmANgvTAAA_sloy5tY097.png)
评论