0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亿铸科技熊大鹏探讨AI大算力芯片的挑战与解决策略

要长高 2024-10-25 11:52 次阅读

在SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技的创始人、董事长兼CEO熊大鹏博士发表了题为《超越极限:大算力芯片的技术挑战与解决之道》的演讲,深入剖析了AI大模型时代算力芯片所面临的挑战与机遇。

熊大鹏博士指出,AI大模型技术的快速发展推动了算力需求的急剧增长。随着数据、算力和模型参数量的不断提升,AI大模型的能力显著增强,甚至出现了类似人类的“涌现”能力,预示着AI应用的广泛落地即将到来。然而,现有的芯片硬件性能提升速度已难以满足这种急剧增长的算力需求,摩尔定律正面临前所未有的挑战。

据Omdia最新报告预测,用于云计算和数据中心人工智能GPU和其他加速芯片市场规模将大幅增长,但到2026年市场可能会出现明显拐点,增长动力将从技术采用转向人工智能应用需求的变化。同时,IDC预测未来人工智能服务器将更加注重提高计算能力和处理效率(能效比),以适应更复杂、更大规模的人工智能应用。

面对这一挑战,熊大鹏博士强调,硬件架构的创新成为突破算力瓶颈的关键路径之一。现有的AI芯片面临着“三堵墙”问题:存储墙、能耗墙和编译墙。存储墙是指存储器的数据访问速度跟不上计算单元的数据处理速度,导致性能瓶颈;能耗墙则是指随着芯片性能的提升,能耗和散热问题成为限制性能进一步提升的主要因素;编译墙则是随着AI模型的复杂性增加,编译器需要处理的数据量和计算任务也急剧增加,使得优化变得非常困难。

为了打破这三堵墙,亿铸科技选择了创新之路。熊大鹏博士介绍,亿铸科技采用“存算一体超异构”架构这一全新的芯片设计思路,极大地减少了数据搬运的延迟,提升了整体的计算效率和能效比。这种架构通过将数据搬运量大幅下降,使得有效算力密度能够线性增长,从而突破传统计算模式的瓶颈。

熊大鹏博士进一步指出,未来算力增长将以存储单元为中心,而不是传统的算力单元。通过存算一体架构等技术,可以打破有效算力的天花板,实现更高的有效算力。亿铸科技自成立以来,始终致力于通过存算一体提供更具性价比、更高能效比、更大算力发展空间的AI大算力芯片发展新路径。

展望未来,熊大鹏博士表示,随着AI技术的不断进步和算力需求的不断增长,亿铸科技将通过创新的存算一体架构为AI芯片的发展提供新的方向。在大模型时代,亿铸科技的技术和产品将为AI技术的发展提供强大的支持,推动整个行业向前发展。我们有理由期待,随着亿铸科技技术的不断成熟和应用的不断扩展,AI芯片技术将迎来一个新的发展阶段,为科技进步做出更大的贡献。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    452

    文章

    50022

    浏览量

    419760
  • AI
    AI
    +关注

    关注

    87

    文章

    29429

    浏览量

    267730
  • 算力
    +关注

    关注

    1

    文章

    878

    浏览量

    14659
收藏 人收藏

    评论

    相关推荐

    AI芯片供电电源测试利器:费思低压大电流系列电子负载

    AI芯片作为驱动复杂计算任务的核心引擎,其性能与稳定性成为了决定应用成败的关键因素。而在这背后,供电电源的稳定性和高效性则是保障AI
    的头像 发表于 10-25 11:26 88次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供电电源测试利器:费思低压大电流系列电子负载

    芯片面临的技术挑战和解决策略

    在湾芯展SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿科技创始人、董事长兼CEO发表了题为《超越极限:大
    的头像 发表于 10-23 14:50 131次阅读

    一体架构创新助力国产大AI芯片腾飞

    在湾芯展SEMiBAY2024《AI芯片与高性能计算(HPC)应用论坛》上,亿科技高级副总裁徐芳发表了题为《存一体架构创新助力国产大
    的头像 发表于 10-23 14:48 92次阅读

    【「芯片 | 高性能 CPU/GPU/NPU 微架构分析」阅读体验】--全书概览

    1章 从TOP500和MLPerf看芯片格局 1.1科学最前沿TOP500 1.2 AI
    发表于 10-15 22:08

    亿科技完成数亿元融资

    近日,AI芯片领域的佼佼者亿科技宣布成功完成数亿元融资,再次赢得了资本市场的青睐。
    的头像 发表于 10-14 16:04 178次阅读

    亿科技2024年完成数亿元融资

    和技术创新注入强劲动力。   亿科技始终专注于通过架构创新实现打破和降低 “存储墙”、“能耗墙”以及“编译墙”,面向数据中心、AI云计算、中心侧AI服务器等场景积极进行产品开发,为业
    发表于 10-12 11:04 148次阅读

    今日看点丨小自研芯片流片!是同行三倍;加拿大将对中国电动汽车征收100%关税

    1. 小自研芯片流片!是同行三倍   据报道,小汽车自研的智能驾驶芯片已经成功流片。有知
    发表于 08-27 11:22 1130次阅读
    今日看点丨小<b class='flag-5'>鹏</b>自研<b class='flag-5'>芯片</b>流片!<b class='flag-5'>算</b><b class='flag-5'>力</b>是同行三倍;加拿大将对中国电动汽车征收100%关税

    安谋科技异构组合,破局生成式AI挑战

    近日,此芯科技集团有限公司(以下简称“此芯科技”)AI PC战略暨首款芯片发布会在上海举行,正式推出了其首款专为AI PC打造的异构高能效芯片产品——“此芯P1”。作为国产新一代
    的头像 发表于 08-13 09:12 478次阅读

    亿科技谈大芯片面临的技术挑战和解决策略

    随着人工智能技术的飞速发展,已成为推动产业变革的关键力量,但大模型的快速发展,参数的爆发,对于需求也提出了更高的要求,带来了全新的挑战
    的头像 发表于 08-07 10:03 628次阅读

    数据语料库、算法框架和芯片AI大模型中的作用和影响

    数据语料库、算法框架和芯片的确是影响AI大模型发展的三大重要因素。
    的头像 发表于 03-01 09:42 855次阅读

    Sora需求引发业界对集结国内AI企业探讨

    据周鸿祎观察,Sora视频分析所需恐远超千亿规模模型。因而,考虑到如今国内芯片供应受限,问题至关重要。事实上,Meta已有约50万台
    的头像 发表于 02-25 10:03 495次阅读

    亿“芯”势力赋能AI未来

    对人类生产的提升。如果说大模型的任务是让AI“够聪明”的话,那么的任务就是让AI“够便宜”,两者共同发展直到
    的头像 发表于 01-10 10:21 671次阅读

    弘信电子与AI服务器合资,助力国产芯片落地

    此外,弘信电子近期在AI业务上取得了突破性进展,这并非源自本土化的积累,而是依赖于团队敏锐的战略眼光和强烈的创新动力。此次投资是弘信电子在AI
    的头像 发表于 12-25 09:30 723次阅读

    浅谈为AI而生的存-体芯片

    大模型爆火之后,存一体获得了更多的关注与机会,其原因之一是因为存一体芯片的裸相比传统架构的AI
    发表于 12-06 15:00 339次阅读
    浅谈为<b class='flag-5'>AI</b>大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-体<b class='flag-5'>芯片</b>

    世纪华通三季度总营收37.38亿 积极发AI业务

    世纪华通三季度总营收37.38亿 积极发AI业务 根据世纪华通发布的三季报数据显示,世纪华通第三季度实现营收37.38
    的头像 发表于 11-02 18:44 818次阅读