0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC加速成长,算力需求变化带来系统级创新

Monika观察 来源:电子发烧友网 作者:莫婷婷 2023-05-30 01:04 次阅读

电子发烧友网报道(文/莫婷婷)随着大模型智能水平的提升,AIGC所需要的算力也在不断增长。根据OpenAI的研究,AI训练所需算力指数增长,且增长速度超越硬件的摩尔定律。燧原科技创新研究院负责人、首席科学家姚建国教授认为,算力分为需求、场景,还有芯片和系统四个层次。算力需求的变化给AI芯片以及系统都带来了一定程度的挑战。

多家厂商发布垂直类大模型,AIGC落地场景逐渐清晰

随着各大公司对AIGC研究的不断深入和技术投入,国内外厂商积极推出属于自己的类ChatGPT模型,例如华为的“盘古”,商汤的“日日新”、深兰科技的“硅基知识”、出门问问的“序列猴子”、深信服的“安全大模型”等等大模型。这么多的大模型,若是放在两年前,业内人士可能会头疼于它的落地场景。

得益于ChatGPT的出现,业内人士看到了更多AIGC落地的可能性,并且推动AI行业进入AIGC时代。百度创始人、董事长兼CEO李彦宏近期公开演讲时就表示,“大模型即将改变世界”。

那么,大模型究竟会如何改变世界呢?这还得从落地场景看。目前,AIGC的典型应用分为文生文、文生图、文生视频。近期中国市场开放一些文生文的应用越来越多,具体的应用包括对话式功能,还支持搜索和营销的场景。

尽管国内厂商还未推出像GPT-4如此强大的通用模型,但是在垂直领域的人工智能大模型却迎来飞跃式的发展,并且有着巨大的想象空间。正如李彦宏提到的,每一个行业都应该有属于自己的大模型。未来技术跟业务深度融合是AIGC发展的最终方向。


算力需求变化带来系统级创新

谈及大模型对算力的需求,姚建国教授表示,AIGC智算中心可以分为三类大模型:基础大模型、场景大模型和应用大模型。

基础大模型通过巨大的算力生成,然后通过预训练算力、超大训练算力支撑,例如ChatGPT。场景大模型是在大模型基础进行调优,通过Fine Tune算力支撑,可以适应不同场景,也就能赋能到不同行业,可以引用一些普惠训练算力。应用大模型主要是通过推理算力,包括云端推理和端侧推理。

对于芯片的需求,基础大模型和场景大模型分别需要大算力训练芯片和中算力训练芯片,且对机器之间的数据互联带宽有较高的要求,都需要高速芯片互联。而应用大模型只需要云端推理算力,且可以使用分布式/单机训练和推理,是性价比较高的大模型之一。

算力肉眼可见地不断增长,燧原科技姚建国教授在公开演讲时也提到了一组数据:从2012年到2018年,训练AI算力增长了30万倍,摩尔定律相同时间通用算力只有7倍的增长。从这里可以看出AIGC对算力需求之高。

算力需求变化带来了三大问题,一是存/算性能失配,内存墙导致访存时延高、效率低;二是冯诺依曼架构下,功耗墙导致传输能耗损失;三是满足大模型需求,性能墙导致算力无法满足。姚建国教授表示,未来不仅仅是单核芯片去解决算力问题,一定会是通过一个系统级解决方案去实现整个算力适应变化。

目前,单独的服务器、集群难以解决大模型的预训练,因此需要有大算力加速,比如说H100提供了Transformer引擎;此外还有机密计算、COP互联加速、CXL协议等等各方面的创新。业内人士普遍认为,系统级创新会是未来的发展趋势

对于大模型未来的发展趋势,IDC中国首席分析师武连峰认为,AI大模型应用深化,从专属AI到通用AI,会是趋势之一。当然,最终实现通用AI的道路还有很长。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AIGC
    +关注

    关注

    1

    文章

    352

    浏览量

    1470
收藏 人收藏

    评论

    相关推荐

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    万卡集群解决大模型训需求,建设面临哪些挑战

    解决大模型训练对需求的巨大增长问题,尤其是现在模型参数量从百亿、千亿迈向万亿。   国
    的头像 发表于 06-02 06:18 4497次阅读
    万卡集群解决大模型训<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>,建设面临哪些挑战

    云耀 X 实例:下一代柔性新物种,双倍性能加速体验

    (以下简称:云耀 X 实例),以创新的柔性技术,为高科技、零售、金融、游戏等行业带来前所未有的跃体验。 云耀 X 实例的推出,标志着云
    的头像 发表于 05-22 19:36 378次阅读
    云耀 X 实例:下一代柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新物种,双倍性能<b class='flag-5'>加速</b>跃<b class='flag-5'>级</b>体验

    AIGC需求革命,边缘计算将不再“边缘”

    AI瓶颈下边缘计算崛起
    的头像 发表于 04-22 14:51 314次阅读

    未来已来!华为云耀 X 实例:应用驱动,业务创新加速

    产品——云耀云服务器 X 实例,以其创新的柔性和强大的性能优势引领着云计算的新时代。 技术创新,助力企业加速转型升级 云耀云服务器 X
    的头像 发表于 04-11 22:22 1105次阅读
    未来已来!华为云耀 X 实例:应用驱动<b class='flag-5'>算</b><b class='flag-5'>力</b>,业务<b class='flag-5'>创新</b><b class='flag-5'>加速</b>

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    ChatGLM2-6B、AIGC、Llama2、SAM、Whisper等超大参数模型 还有一份详细的英文的规格表: 另外,能RADXA微服务器服务器,还是大学生集成电路创新创业大赛之# 第八届集创赛杯赛题目
    发表于 02-28 11:21

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    大模型对需求指数增长,集群成必然选择

    电子发烧友网报道(文/李弯弯)近年来,AIGC技术的火爆,代表着AI正在从感知理解世界向生成创造世界跃迁。在近日举办的全球人工智能论坛上,宝德计算信创BU副总裁邓克武谈到,AIGC
    的头像 发表于 01-23 00:21 2972次阅读
    大模型对<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>指数<b class='flag-5'>级</b>增长,集群成必然选择

    网络面临三大挑战

    2024年,以AIGC为代表的人工智能技术将进一步激发需求网络、智
    的头像 发表于 01-12 10:39 966次阅读

    求解“致用”难题,中国力行业给出首个答案

    首个“高质量”的明确定义,会给力行业带来哪些变化
    的头像 发表于 01-05 09:30 1057次阅读
    求解<b class='flag-5'>算</b><b class='flag-5'>力</b>“致用”难题,中国<b class='flag-5'>算</b>力行业给出首个答案

    卫星通信序幕拉开,AI浪潮澎湃

    AI浪潮催生要求,基础设施需求持续提升。AIGC带来的超大
    发表于 01-03 10:22 335次阅读
    卫星通信序幕拉开,AI<b class='flag-5'>算</b><b class='flag-5'>力</b>浪潮澎湃

    大升级 英特尔至强可扩展处理器持续技术创新

    过去半年中,随着大模型产品的爆发,AI带来的变革已经逐渐凸显。承载着AI的研究和应用,其格局变化尤为明显。 2023年,生成式AI研究和应用的爆发给云计算产业
    的头像 发表于 12-29 14:32 362次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>大升级 英特尔至强可扩展处理器持续技术<b class='flag-5'>创新</b>

    燧原科技与青云科技达成战略合作,创新异构调度

    NEWS 燧原科技与青云科技日前达成战略合作,携手创新异构资源池的灵活调度,共建支持场景落地的AI生态,为AI应用快速落地、AI
    的头像 发表于 12-11 12:20 578次阅读

    探索AIGC未来:CPU源码优化、多GPU编程与中国瓶颈与发展

    ,大大提高人工智能模型的计算能力,更好地满足实际应用的需求。 本文将分析AIGC的最新进展,深入探讨以上话题,以及中国产业的瓶颈和趋势。
    的头像 发表于 12-08 11:49 1452次阅读
    探索<b class='flag-5'>AIGC</b>未来:CPU源码优化、多GPU编程与中国<b class='flag-5'>算</b><b class='flag-5'>力</b>瓶颈与发展

    浪潮信息刘军:智系统创新 加速生成式AI产业发展

    信息对于智系统创新和AI产业发展的思考。   以下为演讲实录整理 当前,生成式人工智能和大模型推动
    的头像 发表于 12-06 14:08 894次阅读
    浪潮信息刘军:智<b class='flag-5'>算</b>力<b class='flag-5'>系统</b><b class='flag-5'>创新</b> <b class='flag-5'>加速</b>生成式AI产业发展