边缘 AI 是指在边缘设备(例如智能手机、物联网设备和嵌入式系统)上实现 AI 算法,而不是依赖于基于云的基础设施。AI手机和AI PC等边缘AI主力应用,被视为是2024年整个电子供应链在云端AI以外,最有能力带动整体出货动能的关键应用。
IDC数据显示,中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。根据全球技术市场咨询公司ABI Research的数据显示,预计到2025年,边缘AI芯片市场的收入将达到122亿美元,云AI芯片市场的收入达到119亿美元。边缘AI芯片市场有望超越云AI芯片市场规模。
目前,AI正在重塑全球科技产业,以微软、谷歌为代表的国际巨头加紧布局多模态大模型,以英伟达、AMD为代表的芯片巨头主导云端AI算力芯片市场。边缘AI终端有哪些类型?国际大厂、国内芯片公司在边缘AI芯片公司有哪些旗舰产品?本文进行汇总。
未来边缘AI落地产品形态,3+N成为可能
近日,在科创板开市五周年峰会上,云天励飞董事长兼CEO陈宁表示,今后,大模型的参数规模会越来越大,且AI能力会无线提升,直至突破通用人工智能(AGI)。边缘AI未来几年落地的产品形态是“3+N”,3即人形机器人、无人驾驶汽车、低空的无人机三大硬件产品形态;“N”即各类AI硬件产品,包括AI PC、AI手机、智能眼镜等。
海通证券的研报显示,小模型展现性能,边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型的局限,尽管云端大模型在性能上全面超越小模型,但是存在三大局限,包括较高的成本、运行速度以及对互联网连接的依赖。相比之下,小模型允许用户在没有网络的情况下与虚拟助手进行互动,能够解决AI领域的一部分弊端。未来这类模型有望与智能手机集成,甚至内置在家电中,还有IoT终端设备,为用户提供个性化建议。
英特尔推出边缘AI芯片和平台,助力客户终端产品落地
近日,在北京举办的2024年英特尔网络与边缘计算行业大会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti表示:“英特尔专注于帮助企业简化在PC、边缘和数据中心部署AI的复杂流程,以实现让‘AI无处不在’的愿景。英特尔具备全面广泛的芯片基础。从凌动到至强,我们推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向边缘的Arc GPU以及IPU E2100网络适配器。通过软件定义的简便性以及开放多元的生态系统,英特尔能为客户带来丰富的选择。”
以英特尔酷睿处理器为例,酷睿处理器不仅技术含量高,还集成了图形处理能力和AI功能。这使得每一个应用案例都能充分利用多用途处理器(MPU)的优势。酷睿产品的设计非常出色,结合了GPU和客户的需求,以及大模型应用需求等。客户可以利用CPU和GPU,结合英特尔的OpenVINO工具套件,更容易地在平台上运行AI应用。
例如,科东LLM机械臂控制方案基于LLM推理部署在Intel Core Ultra平台上,同时集成了机械臂的控制系统,还有伺服器驱动机械臂本体。这款方案基于科东的机器人操作系统和语言类大模型结合的案例,案例体现了基于AI大模型的视觉识别和运动规划的能力,AI大模型加快了开发层面的高效率,满足了工业场景中轻量化本地部署需求,同时做到数据不出厂。这款方案已经应用在智能工厂。
此外,记者看到宝德AI数字人解决方案基于Intel至强处理器和采用Intel CPU的宝德服务器和工作站为AI算力底座,可以广泛应用于智能语音助手、网络直播、线上教育、零售等。英特尔的多款芯片把 NPU 概念下放到边缘的物联网应用上,使物联网也能在作业时有人工智能的功能。
AMD发力边缘AI市场,推出第二代Versal自适应SoC
今年,继第一代VersalI AI Edge自适应SoC之后,AMD又发布了第二代Versal自适应SoC。在AMD第二代Versal自适应SoC媒体发布会上,AMD自适应与嵌入式计算事业部(AECG)Versal产品营销总监Manuel Uhm表示:“现在的边缘也在发生一场革命,也有越来越多的挑战,因为边缘会面临更多限制,例如功耗和尺寸。”
AMD新发布的第二代Versal 自适应SoC系列为嵌入式系统带来了单芯片的智能性。两款芯片分别是面向AI驱动型嵌入式系统的第二代Versal AI Edge系列和面向经典嵌入式系统的第二代Versal Prime系列。
据悉,面向通用嵌入式领域的第二代Versal Prime系列则着重于将高性能标量计算能力与灵活可编程逻辑相结合,着眼于视频处理、工业控制、软件无线电等对算力和适配性要求极高的场合。相较上一代产品,该系列的CPU性能实现多达10倍的大幅跃升,而继承自Xilinx的可编程逻辑架构则为适配不同接口和加速需求提供了充分保障。
据AMD官方消息,第二代Versal系列芯片的工程样片预计最快将于2025年上半年面世,届时还将推出配套的评估板和系统级模块;而规模化量产也有望在年底实现。
意法半导体推出第二代STM32 MPU和边缘AI套件
意法半导体(ST)推出了边缘AI加速微处理器——第二代STM32 MPU。该处理器提高了工业和物联网边缘应用的性能和安全性,预计在2024上半年批量生产。
7月8日,在慕尼黑上海电子展上的AIoT创新应用论坛上, 意法半导体中国区微控制器、数字IC与射频产品部市场经理丁晓磊分享了ST Edge AI套件的最新进展。ST Edge AI套件,帮助嵌入式开发者优化机器学习模型,帮助数据科学工作者在嵌入式设备上运行机器学习模型,以及帮助产品设计师和创客重新定义产品的重要特性。
本土芯片公司争夺边缘AI市场机会,新品加速上市
近期,两家物联网芯片公司公布上半年业绩报告,乐鑫科技2024年上半年实现营收9.2亿,同比增长37.9%,净利润1.52亿元,同比增长134.85%。除了传统的Wi-Fi芯片产品线带来营收增长外,乐鑫科技推出的ESP32-S系列是边缘侧AI应用芯片,增加了用于加速神经网络计算和信号处理等工作的向量指令,并且已可对接OpenAI的ChatGPT或百度“文心一言”等云端AI应用。
乐鑫科技表示,计算“边缘化”趋势将更多AI和计算能力赋予边缘设备,为SoC设计公司提供更多机会,但同时也提出了更高的PPA要求。
晶晨股份预计2024年上半年实现净利润3.62亿,同比增长95.98%。晶晨股份在业绩预告中显示,晶晨股份基于新一代ARM V9架构和自主研发边缘AI能力的6nm商用芯片已成功流片,并已获首批商用订单。
上海为旌科技成立于2020年8月成立,这家公司的市场总监黄智向业界展示了最新的海山VS839系列及其在智能机器人领域的应用潜力。海山VS839系列芯片是专为AIOT和智能驾驶设计的高性能智慧视觉芯片。该系列芯片采用12纳米工艺,具备四核A55 CPU、双核DSP和4TOPS的NPU算力。海山VS839系列支持星光全彩、红外热成像、3D视觉和环视摄像头等功能,能够提供专业级的图像处理效果,并支撑复杂的AI计算。
7月30日,此芯科技聚焦AI PC领域,发布首款异构高能效SoC此芯P1。此芯科技创始人、CEO孙文剑表示:“此芯科技致力于以高能效算力解决方案,推动端侧AI生态发展,通过AI技术应用,让生活、学习、工作变得更智能、高效、人性化。”
此芯P1使用6nm制造工艺,提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s。
小结:
边缘AI终端市场迎来发展的热潮,但现在也面临三重挑战:一、芯片和硬件选择,企业要根据具体需求做出决定;二是部署和管理的边缘装置规模从 50 台至上万台不等,且要运行不同模型,管理上不易;三是模型迭代,企业需要花费心力进行更新。
随着算力从云端向终端的转移,边缘AI设备的急速增加给芯片厂商带来市场增长机会。哪些芯片厂商能抓住AI PC、智慧工厂、智慧城市、自动驾驶领域等细分市场的增长机会,我们将拭目以待。
-
amd
+关注
关注
25文章
5334浏览量
133322 -
英特尔
+关注
关注
60文章
9735浏览量
170573 -
AI
+关注
关注
87文章
28755浏览量
266029 -
AI芯片
+关注
关注
17文章
1822浏览量
34631 -
边缘AI
+关注
关注
0文章
72浏览量
4842
发布评论请先 登录
相关推荐
软银与英特尔AI芯片合作计划告吹
边缘AI放大招!AI模型支持虚拟数智人和机械臂,英特尔边缘平台助力伙伴加速创新
![<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>放<b class='flag-5'>大招</b>!<b class='flag-5'>AI</b>模型支持虚拟数智人和机械臂,<b class='flag-5'>英特尔</b><b class='flag-5'>边缘</b>平台助力伙伴加速创新](https://file1.elecfans.com/web2/M00/FF/11/wKgZomanB-qANtXQAAjzE5ihff4675.png)
智能边缘放大招!英特尔举办2024网络与边缘计算行业大会,边缘AI创新助力多元化应用
![智能<b class='flag-5'>边缘</b>放<b class='flag-5'>大招</b>!<b class='flag-5'>英特尔</b>举办2024网络与<b class='flag-5'>边缘</b>计算行业大会,<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>创新助力多元化应用](https://file1.elecfans.com/web2/M00/FE/53/wKgZomahqT2Ab7QEAAMWf4ea-Uc528.png)
英特尔CEO:AI时代英特尔动力不减
英特尔特供芯片性能暴降92%!
英特尔进军AI芯片市场:推出Gaudi 3 AI加速卡与Xeon 6处理器
苹果M3芯片和英特尔芯片的差距
苹果M3芯片与英特尔芯片对比
英特尔向竞争对手AMD等开放芯片制造
英特尔推出汽车版AI芯片,与高通、英伟达展开竞争
英特尔发力汽车芯片市场,发布AI PC汽车芯片,收购Silic初创公司
英特尔新处理器,掀AI PC战火
![](https://file1.elecfans.com/web2/M00/AC/8E/wKgZomU7eJCACNjJAAVgjrOVjzA637.png)
评论