在今天举办的芯原AI专题技术研讨会上,芯原执行副总裁、IP事业部总经理戴伟进先生带来了《大模型推动边缘计算变革的机遇与挑战》的主题演讲。
过去这些年,AGI大模型在诸多方面实现了突破性进展,包括模型自主使用工具、模型自我迭代/自我设计、模型的情感能力等。现在很明显的趋势是,将大型人工智能模型引入嵌入式系统,而最明显的边缘设备应用则是“手机、AI-PC、汽车”。
大语言模型最主要的能力是自然的人机交互,包括:1、多模态能力;2、更自然的对话和更真实的信息;3、通用人工智能。目前已经有不少相关的产品发布,如,OPenAI发布具有突破性的Sora视频生成模型,采用Transformer架构是一个在不同时长、分辨率和宽高比的视频及图象上训练而成的扩散模型。
对标Sora的高质量视频生成模型,谷歌宣布推出全新的Project Astra项目、基于Gemini,可以本地运行在Pixel手机或AR眼镜上,在各个生活场景中与用户实现低延时全方位的语音交互,是对标OpenAI GPT-4o的最新模型。
微软CoPilot+PC最新技术亮点:(1)算力升级。(2)回溯记忆。(3)实时字幕。(4)渲染交互。AGIBot在2023年8月推出具身智能机器人“远征A1”,百亿参数大模型加持、目标成本20万元以内。采用了语言任务模型WorkGPT,结合了LLM和VLM等AI技术,能够为机器人提供自主感知环境、理解任务、编排动作的能力,并且实现了思维链。
在本次会议上,戴伟进先生详细介绍了芯原的NPU技术。芯片原神经网络处理器(NPU)已在全球累积出货超过1亿颗,涵盖:AI视觉、AI语音、AI图象、AIoT/智慧家居、AR/VR、自动驾驶、PC、智能手机、监控、数据中心、可穿戴设备、智慧医疗、机器人等。
芯原图形处理器(GPU)已在全球累积出货近20亿颗,70项国内外专利、耕耘嵌入式市场近20年。
芯原视频处理器(VPU)全球领先-AI Video,AI赋能智能视频处理等行业。今天已经在边缘设备运行大模型,包括:AIPC、医疗系统设备,计算机和工业应用领域等等。
芯原AI-Computing处理器技术可编程、可扩展、高性能、低功耗。芯原AI-ComputingIP产品,包括:数据中心、边缘服务器等。NPU IP VIP9X00是推断、增量训练,GPGPU IP CC8X00是通用计算,NPU+GPUIP GC9X00AI是AI-GPU/AI-PC,Tensor Core GPU IP CCTC-MP、大模型预演模型推理、训练。
芯原 AI-Computing软件框架方面,芯原Acuity工具、库和软件堆栈。Project Open Se Cura-边缘与云协同计算(大模型、轻量大模型),芯原应用与谷歌眼镜、使其极低功耗、常开、环境计算。大语言模型正在云端和移动设备上,那些大语言模型的主要组件可以实现捕捉、信号和感知信息,可以评估和融合。
-
AI
+关注
关注
87文章
30191浏览量
268444 -
芯原
+关注
关注
0文章
79浏览量
11500 -
NPU
+关注
关注
2文章
271浏览量
18551 -
AI PC
+关注
关注
0文章
123浏览量
204
发布评论请先 登录
相关推荐
评论