《从云到端 AI触手可及》2024年芯原AI专题技术研讨会上,芯原执行副总裁、IP事业部总经理戴伟进作了“大模型推动边缘计算变革的机遇与挑战”的主题演讲,他介绍了目前大模型在边缘计算的变革的同时,也向行业介绍了芯原AI相关的技术演讲和IP产品系列。
图:芯原执行副总裁、IP事业部总经理戴伟进在技术研讨会上作演讲介绍大模型的技术发展趋势
戴伟进首先在发言中表示,AI已经从部署到每个地方,演进到布置到每个人,大模型应该进入到了边缘设备中。以语言为基础的多模态大模型(Multimodal)
2024年初OpenAI正式上线,全球各种GPT迅速跟进。2024年科技企业将大型人工智能模型要引入到嵌入式系统中落地,AI手机、AI PC和汽车的大模型边缘终的落地,并引发了广泛的关注。可惜目前在国内的AI大模型在边缘终端的落地还受政策影响中。
2024年初OpenAI正式上线,全球各种GPT迅速跟进。2024年科技企业将大型人工智能模型要引入到嵌入式系统中落地,AI手机、AI PC和汽车的大模型边缘终的落地,并引发了广泛的关注。可惜目前在国内的AI大模型在边缘终端的落地还受政策影响中。
戴伟进表示,GPT多模态的能已经能够处理图像和文本的输入,他预测在下一代的GPT-5中将加入视频处理模块。据最新的谷歌发布的大模型AI手机 Project Astra项目的演示中,基于Gemini大模型,视频处理模块的AI技术已经实现。2024年2月16日 ,OpenAI发布了首个视频生成模型Sora,支持60秒一镜到底的视频,包含高细致背景、多角度镜头以及富有情感的多个角色,所合成的视频内容与物理世界规律保持一致。谷歌则随即发布对标Sora的高质量视频生成模型Veo。
微软不久前的Copilot+PC的最新技术亮点则是把AI PC的产品新技术推到了新的高潮。三星Galaxy S24系列手机内置即圈即搜、通话实时翻译、笔记助手、智能修图和智能写作五大AI功能,国内一些品牌也随即宣布跟进。AI PC和AI手机成为今年行业最热产品词条。
可以说,AI PC的时代全面到来。受技术封锁的影响,国内的技术厂商急切需要有AI IP相关的技术厂商抱团共同跟进。
不过国内AI技术发展的挑战并不如我们想像中那么困难。戴伟进透露,芯原在AI IP早些年就已经布局,公司的NPU IP全球出货量超过1亿颗。GPU在全球累计出货量过去20年累计近20亿颗。
芯原的5纳米媒体加速器视频,即视频处理器AI Video在全球范围内处于领先地位。
且已经在边缘设计上运行大模型。包括在嵌入式设备、边缘服务器和数据中心,都有产品开始被客户采用。
从上图可以看到芯原的在嵌入式设备的相关NPU和GPU的IP产品。
芯原的AI计算软件与各种软件工具等平台的适配。
芯原在AGI领域,其NPU的性能处于全球领先的地位,LLaMA 7B能达到20 Tokens/s。
戴伟进最近也展示了Open Se Cura项目。该项目跟谷歌协作开发,可以在可穿戴低功耗的终端、AI手机以及云云计算大模型上部署。
-
边缘计算
+关注
关注
22文章
2874浏览量
46471 -
大模型
+关注
关注
2文章
1884浏览量
1506
发布评论请先 登录
相关推荐
是德科技Keysight World Tech Day B5G/6G助力连接无处不在分论坛
![是德科技Keysight World Tech Day B5G/6G助力连接<b class='flag-5'>无处不在</b>分论坛](https://file1.elecfans.com/web2/M00/E6/A4/wKgaomZEMauAfSxoAAAxjyqKRR0408.png)
2024高通与美格智能边缘智能技术进化日圆满举行
高通持续推动终端侧生成式AI变革,推出高通AI Hub赋能开发者
和硕童子贤:10年后手机或都将内置AI芯片 AI将无处不在
数字与现实世界中的Key | Samtec连接器无处不在
![数字与现实世界中的Key | Samtec连接器<b class='flag-5'>无处不在</b>](https://file1.elecfans.com/web2/M00/B0/22/wKgZomVUYRyAM6bJAA0VvvO8lDk902.png)
科技赋能,让AI无处不在
![科技赋能,让AI<b class='flag-5'>无处不在</b>](https://file1.elecfans.com/web2/M00/A7/9D/wKgZomUOmiiANGJZAAAkgiGDmdY419.jpg)
评论