7月13-14日,第三届中国集成电路设计创新大会暨无锡IC应用博览会(ICDIA 2023)在无锡举行。天数智芯副总裁郭为受邀出席“AIoT与ChatGPT”分论坛并发表了题为《国产GPU的大模型实践》的主题演讲,全面介绍了天数智芯通用GPU产品特色以及在大模型上的应用情况。
天数智芯副总裁郭为
郭为指出,算力关乎大模型产品的成败。作为中国领先的通用GPU 高端芯片及超级算力系统提供商,天数智芯先后发布了训练产品天垓100、推理产品智铠100,充分发挥产品自主可控、性能高、通用性强、灵活性高等特点,广泛支持主流AI生态和国内外开发框架,倾力打造了高性价比、广通用的全栈式集群解决方案,为大模型提供了强大算力支撑。
郭为介绍,去年以来天数智芯在大模型训练、推理支持上取得了显著进展。基于天垓100的自主算力集群已率先完成国内70亿参数大模型训练,200P规模算力集群正在开展650亿参数大模型预训练。此外,天垓100正支持各垂直行业大模型训练微调,可支持全量参数微调、Lora快速微调、提示词微调等所有训练微调方法。智铠100支持千亿级参数大模型推理,基于智铠100的推理一体机已应用于法律、金融等行业客户大模型推理业务中,提供较国际主流产品更优的性能、性价比及能耗。
郭为表示,天数智芯将始终以服务国家战略为主线,持续推进通用GPU核心技术创新突破,打造更可信、更高效、更绿色的世界一流算力引擎,赋能大模型创新发展。
作为国内集成电路领域推动“创新”与“应用”的重要平台,ICDIA致力于推动IC设计与芯片应用、促进芯片与系统整机供需对接,实现芯片企业和整机企业的互惠发展。科技部重大专项司副司长邱钢,江苏省科技厅二级巡视员杨小平,无锡市副市长周文栋,国家01专项技术总师、中国集成电路设计创新联盟理事长、清华大学教授魏少军等出席了本届会议。
END
原文标题:夯实算力基础 赋能大模型创新发展
文章出处:【微信公众号:天数智芯】欢迎添加关注!文章转载请注明出处。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
原文标题:夯实算力基础 赋能大模型创新发展
文章出处:【微信号:IluvatarCoreX,微信公众号:天数智芯】欢迎添加关注!文章转载请注明出处。
相关推荐
随着汽车智能化、网联化的发展,车联网作为智能交通系统的重要组成部分,正逐渐成为全球汽车产业创新发展的重要战略方向。边缘GPU算力作为一种新兴的计算技术,具有高性能、低延迟、安全可靠等特点,为车联网
发表于 10-25 08:08
•146次阅读
中心等算力基础设施的迅猛发展正推动着储能技术的应用进入一个新的阶段。 储能为数据中心赋能
发表于 10-09 00:08
•3915次阅读
2024世界人工智能大会——“AI赋能民营经济产业创新发展主题论坛”在中信银行大厦会场举行。本次论坛由上海市工商业联合会与上海市经济和信息化委员会共同主办,全国工商联副主席、上海市政协副主席、市
发表于 09-11 14:23
•354次阅读
现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的算力,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问
发表于 08-20 09:04
,芯师爷携手慕尼黑上海电子展,在上海举办“2024算力技术创新发展生态大会”。在本次盛会中,RISC-V备受瞩目,与会嘉宾普遍认为,RISC-V已成为算
发表于 07-13 08:20
•493次阅读
围绕网络强国战略与社会经济转型需求,总结我国物联网与智慧城市创新成果,提升城市治理现代化水平,赋能数字经济发展,6月27日,以“数智赋能人民
发表于 07-02 08:18
•307次阅读
5月25日,以“科技赋能发展,加速产业腾飞”为主题的低空经济创新发展论坛在广电计量总部基地成功举办。
发表于 05-29 09:46
•587次阅读
5月23日,以“释放数据要素价值发展新质生产力”为主题的第七届数字中国建设峰会于福州拉开帷幕,算能受邀出席并亮相展会,活动期间,算
发表于 05-29 08:33
•385次阅读
5月10日-5月11日, 以“科创赋能 绿智未来”为主题的2024 第十届中国(宁波)绿智轨道交通创新发展论坛在宁波举行。
发表于 05-11 15:50
•526次阅读
2024年4月22日,首届朝阳区科技创新发展大会在北京昆泰嘉瑞文化中心成功举办。
发表于 04-23 10:51
•505次阅读
随着大数据模型与各行业深度整合,以GPU为代表的智能算力需求持续攀升。同时,政府出台多项扶持政策,积极推行“人工智能+”战略,激励AI芯片行业创新发展,以更好地
发表于 04-22 09:32
•421次阅读
4月19日,在以“重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型算力基础设施代表,受邀出席了中国智算中心创新论坛,发表了题为《以网络为中心的AI
发表于 04-20 11:31
•782次阅读
解决行业的上网问题,演变为解决行业 “上好算力,用好AI” 的问题,真正实现顺网新发展战略—— “立足算力,聚焦AI” ,满足AI智
发表于 01-22 09:20
•364次阅读
大家好,欢迎收看河套 IT WALK 第 132 期。 今天,首届网络创新发展峰会在深圳举办;AI领域的翘楚——OpenAI市值在资本市场上突破了重要里程碑,超过1000亿美元。 首届网络创新发展
发表于 12-25 19:50
•971次阅读
近日,由APEC电子商务工商联盟指导,APEC-ECBA数字贸易创新委员会主办“数字产业与贸易创新发展会议暨跨境云商企业家对洽会”,大会主题“数字驱动,创新引领”——助力中国智造提升国际竞争力
发表于 12-14 09:15
•536次阅读
评论