0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

燧原科技集群式AI算力服务将助国产大模型“百舸争流”

燧原科技Enflame 来源:上海经信委 2024-03-28 11:03 次阅读

根据《上海打造未来产业创新高地发展壮大未来产业集群行动方案》(沪府发〔2022〕11号)部署,市经济信息化委联合市委组织部、市发展改革委、市教委、市科委、市市场监管局、市国资委等单位共同指导举办了2023全球“未来产业之星”大赛(简称“大赛”),立足国际视野、面向全球聚焦前沿科技与应用创新,以“项目+人才”双轮驱动的模式,推进未来产业领域的技术创新和成果产业化,为上海打造未来产业创新高地提供项目和人才支撑。

首届大赛吸引海内外536个高能级项目和高层次人才报名,全面覆盖5大未来产业领域、16个技术方向。经过初、复、决赛多轮竞逐,涌现出一批未来产业优秀项目及人才。2024年上海市产业技术创新大会上,举行了大赛颁奖仪式,10个项目和10位人才获超能奖。

即日起,上海经信委推出“未来产业之星”专栏,宣传介绍大赛优秀项目,展示未来产业前沿技术及企业风采。

未来智能

涵盖了人工智能、大数据、云计算等前沿技术的智能计算技术正以惊人的速度改变着我们的生活和工作方式,也是未来科技的“航向标”。前年底,以ChatGPT为标志性事件的包括对话机器人、文字续写等文生文领域的一系列示范性创新应用的出现,迅速引领人工智能进入了以内容生成为核心特色的AI2.0时代。在大模型“百家争鸣”、风起云涌的契机下,应如何做好准备,迎接人工智能的大规模产业化?

在上海燧原科技有限公司产品市场高级总监陈超看来,人工智能对人类生产力产生巨大影响的同时,对于基础设施的算力服务范式同样产生了根本性的变革。“未来的通用人工智能AGI必然需要通过集群式的AI算力提供持续的、规模性的、集约性的算力服务提供,”陈超说,在这一趋势下,面向超大模型的云燧智算机CloudBlazer POD,即旨在满足AIGC时代对超大规模算力的迫切需求。

据了解,燧原科技专注人工智能芯片、板卡和集群产品的研发,其基于云燧智算机的系统产品形态,可提供高算力密度、高性能的同时具备高扩展性和高性价比的集群算力形态,为包括各类型的智算中心和大模型训练与开发提供极具性价比优势的系统方案。

陈超指出,当前智算中心以及客户端针对系统集群有几大痛点,一是从智算中心需求立项,到集群架构方案确定、采购招标、交付建设直到上线运营,时间跨度非常大;二是智算中心一直诟病算力利用率较低,不能充分发挥集群的算力优势,导致企业的投入产出效率太低,收回投入遥遥无期;三是当集群规模越大,设备的稳定性严重影响到业务的持续运行,降低了集群的可用时间占比,极致严重的情况下会导致业务不可运行。

针对这些问题,燧原科技基于云燧智算机的方案打通了生产供应全流程,从整体方案层面进行设计优化,平衡算力、存储和网络的配比与配置,从而大幅度提高了集群的算力利用率,同时云燧智算机从芯片、板卡、服务器、单POD机柜到多机柜联合设计了一系列的系统级压力测试方案,保证提供24小时稳定的算力基础设施。

在产品落地和大规模产业化的过程中,这一未来技术会遇到怎样的挑战?

陈超表示,一方面,部署场景是多元化的,数据中心的选址和布局,客户的应用场景都是不一样的。如何在软硬件层面兼容客户多元化的需求,提供面向应用的高效能支撑,是云燧智算机持续迭代优化的源动力。

另一方面,客户对于降本增效的需求是持续存在的。如何纳入新的技术与产品形态,如何打造匹配不同诉求的集群方案,是云燧智算机持续优化方案、优化供应链、优化生产各环节的聚焦点。

此外,在算力密度持续增高,算力规模持续放大的形势下,数据中心对于能效提出了更高的要求,系统级散热方案也在持续优化,从传统的风冷向液冷的多技术方案持续演进。

在陈超看来,大赛面向全球聚焦前沿科技与应用创新,这种国际化的平台不仅为参赛选手提供了广阔的机会来展示自己的才华和创新力,也为其提供了与来自世界各地的优秀人才互动的机会,促进了国际间的技术和经验交流。

此外,“国际交流与合作能加速创新成果的转化和应用,为全球经济和社会发展带来更多的机遇和变革,”陈超说,燧原科技参与大赛的初衷,正是希望其专为大模型量身定做的AI集群产品得到国内外产、学、研、用各界专家的关注,进一步加强与全球范围内产业专家与合作伙伴的深入沟通交流。

在陈超看来,国际科技竞争日益加剧,集成电路与人工智能的形势尤为严峻。AI芯片是集成电路与人工智能的交汇之处,具有重要战略意义与现实意义,加快建设国产AI芯片生态十分必要且万分紧迫。“多年来,上海及长三角地区一直是中国集成电路和人工智能产业的创新高地,产业链条完整、龙头企业众多、顶尖人才汇聚,拥有全生态技术产品开发及商业化应用的能力,已经具备建设国产AI芯片产业生态的各项准备条件。”

针对国产AI算力芯片产业的未来发展,陈超建议,一是要重视有效算力,推动算尽其用,让国产算力落地见效、开花结果,推动AI技术赋能更多行业;第二,立足国内市场,放眼世界舞台,一方面要逐步实现自主、可控、安全的目标,另一方面要以更加长远的战略眼光,谋划中长期全球科技发展格局,面向全球打造AI芯片生态的更多可能性;三是“AI芯片企业需要加速向规模化方向发展,更快更好地实现自我造血,追求长远的、可持续的、可预测的发展。”



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 云计算
    +关注

    关注

    39

    文章

    7774

    浏览量

    137353
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238257
  • 大数据
    +关注

    关注

    64

    文章

    8882

    浏览量

    137397
  • AI芯片
    +关注

    关注

    17

    文章

    1879

    浏览量

    34992
  • 燧原科技
    +关注

    关注

    0

    文章

    121

    浏览量

    8301

原文标题:【未来产业之星】燧原科技:持续、规模、集约的集群式AI算力服务将助国产大模型“百舸争流”

文章出处:【微信号:gh_1222367b8780,微信公众号:燧原科技Enflame】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【「大模型时代的基础架构」阅读体验】+ 未知领域的感受

    算法的引擎GPU、GPU硬件架构剖析、GPU服务器的设计与实现、GPU集群的网络设计与实现、GPU板卡级调度技术、基于云平台的GPU集群
    发表于 10-08 10:40

    AI计算平台4.0震撼发布

    在2024年度云智大会的璀璨舞台上,度智能云重磅推出了AI异构计算平台的全新力作——4.0版本。此次升级,标志着
    的头像 发表于 09-26 14:46 470次阅读

    百舸争流,迈向深蓝

    云沐资本自创立伊始就聚焦科技品牌领域的投资赋能,深度挖掘产业资源,联动各方投资机构,陪伴优秀创业者共同成长。历经多年实践和迭代,云沐资本近日正式宣布全球化基金完成首关,云沐团队继续秉持科技品牌
    发表于 09-24 17:21 372次阅读
    <b class='flag-5'>百舸争流</b>,迈向深蓝

    弘信电子集团子公司弘绿色与首都在线共建庆阳万卡集群

    弘信电子旗下子公司甘肃弘绿色有限公司(以下简称“弘绿色”)与北京首都在线科技股份有限公司(以下简称“首都在线”)共同签署《共建庆阳万卡集群
    的头像 发表于 09-20 10:47 520次阅读

    弘华创助力庆阳构建产业生态

    全国一体化网络庆阳枢纽节点首批万P成功上线,首个国产万卡
    的头像 发表于 09-20 10:38 482次阅读

    模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型,以及相关的稳定性和性能
    发表于 08-20 09:04

    名单公布!【书籍评测活动NO.41】大模型时代的基础架构:大模型中心建设指南

    工作日内未联系,视为放弃本次试用评测资格! 书籍介绍 大模型是近年来引人注目的热点之一。大模型蓬勃发展的基础,是针对其需求设计的及基础架构。本书针对如何为大
    发表于 08-16 18:33

    兰洋科技与原科技深化江苏地区智合作 共筑基石

    供需正呈现“双向奔赴”的趋势。 近日,国内领先的浸没液冷解决方案技术服务提供商兰洋(宁波)科技有限公司(以下简称“兰洋科技”),与专注人工智能领域云端产品的上海
    的头像 发表于 08-16 10:53 272次阅读

    从千卡集群卡到万卡集群原科技打造更好的AI底座

    :WAIC 2024)上,不仅有国内各大模型厂商同场竞技,也有丰富的基础设施展示,其中包括专注人工智能领域云端产品的
    的头像 发表于 07-07 09:45 2299次阅读
    从千卡<b class='flag-5'>集群</b>卡到万卡<b class='flag-5'>集群</b>,<b class='flag-5'>燧</b>原科技打造更好的<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>底座

    万卡集群解决大模型需求,建设面临哪些挑战

    解决大模型训练对需求的巨大增长问题,尤其是现在模型参数量从百亿级、千亿级迈向万亿级。   国内外企业积极构建万卡集群   目前,在国际上
    的头像 发表于 06-02 06:18 4689次阅读
    万卡<b class='flag-5'>集群</b>解决大<b class='flag-5'>模型</b>训<b class='flag-5'>算</b><b class='flag-5'>力</b>需求,建设面临哪些挑战

    摩尔线程张建中:以国产助力数智世界,满足大模型需求

    摩尔线程创始人兼CEO张建中在会上透露,为了满足国内对AI的迫切需求,他们正在积极寻求与国内顶尖科研机构的深度合作,共同推动更大规模的AI
    的头像 发表于 05-10 16:36 951次阅读

    原科技与无问芯穹签约宣布共同打造千卡集群案例

    3月31日,在无问芯穹举办的以“多元计算·泛在链接”为主题的AI优化论坛暨产品发布会上,原科技与无问芯穹签约宣布已经完成系统级融合,携手在湖北宜昌智
    的头像 发表于 04-01 10:48 872次阅读

    联想向弘华创交付首台搭载国产AI芯片的问天WA5480 G3服务

    3月19日,在联想集团(全球)最大的智能计算设备研发和制造基地——联宝科技,联想集团向弘华创交付联想首台可搭载国产AI芯片的联想问天W
    的头像 发表于 03-22 09:40 860次阅读

    中国电信规划在上海建设首个国产超大规模液冷集群

    中国电信规划建设首个国产超大规模液冷集群 人工智能技术的快速发展催生了巨大的需求;中国电
    的头像 发表于 02-22 18:48 1327次阅读

    上海电信携手徐汇区,发布人工智能公共服务产品,拟建平台

    根据计划,2024年上半年,上海市徐汇区规划建设总算超过四千五PFLOPS(即每秒千万亿次)的15000卡智集群,该
    的头像 发表于 01-24 09:50 665次阅读