0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

什么叫端测AI

嵌入式应用研究院 来源:嵌入式应用研究院 2023-06-19 15:02 次阅读

什么叫端测AI?

这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是云·边·端协同,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软件架构,它都会往这个方向去发展,所谓的云边端协同。

那么是怎么个云边端协同法呢?首先我们要知道这几个关键字的意思,云就是云计算,边就是边缘计算,端就是设备端。

设备端一般就是拿在用户手里的、放在用户桌子上的、装在用户家里面的、其实就是跟用户直接相关的这一端,我们叫端;边是边缘计算,那什么叫边缘计算,这个其实很好理解,譬如说装在你们小区里面的、装在你们公司那栋楼里面的,对于你来说,这就叫边缘计算;所以其实就是:云端指的是离你很远的设备,边缘端就是离你很近的云端,端呢就是你自己的设备,所以云边端加起来就构成了我们整个的计算机架构。

所以呢,在未来你开发硬件的时候,你开发的要么就是云端的硬件,要么就是边缘端的硬件,要么就是设备端,就所谓的端测的硬件。那么你开发软件也是一样,要么就是云端的软件,要么就是边缘端的软件,要么就是设备端的软件。那么AI也是一样,我们把AI这种技术应用在云端和边缘计算端和设备端,那么就构成了所谓的云端AI,边缘计算的AI以及设备端的AI,所以端测AI,其实指的就是设备端的AI。

那我们作为嵌入式工程师为什么需要关注端侧AI而不是云端的AI和边缘的端的AI呢?这个是有原因的,首先第一个云端的AI呢,就是类似于那种像这个“小度小度”这类东西?比如说像这个“小度”音箱,它的实现原理,其实就是你在这边说的话,它这个音箱其实是一个录音设备,把你说的话呢录下来,然后把你这段语音直接传到百度的服务器上去,所以音箱本身是不会做语音识别的,那百度的云服务器端有一个模型,就在那里做这个语言的一个处理和语言的识别,识别出来之后把结果再回传到音响,所以呢,像这种“小度”音箱的这种产品,它其实就是典型的云端智能,就是云端AI,那这种产品跟我们嵌入式有关系吗?其实关系并不大,因为一个普通的音箱跟一个“小度”音箱这种智能音箱几乎没有区别,你可以认为,因为它的AI并不在设备端,嵌入式端根本就不需要AI设备,所以说呢,云端AI跟嵌入式开发几乎没有关系,所以云端AI不该我们管。

那么边缘计算的AI跟我们有关系吗?有,因为边缘计算,还是有那么一点嵌入式开发在的,但是目前来说,边缘计算这个东西还是概念比较多,实际落地的非常少,而且边缘计算本身还在发展当中。根据目前边缘计算的最新技术发展方向,实际上将来是更像云端,而不太像设备端,也就是说边缘端其实就是一个简化的云端,你可以理解为就是一个简化的本地处理过的云端。所以呢,边缘计算一方面是当前用的很少,几乎没什么落地,另一方面来说呢,它跟云端更像,所以我们作为嵌入式工程师就没必要碰它。

那对于我们嵌入式开发者来说,AI跟我们关系最大的是什么?那就是所谓的设备端的AI,也就是我们所谓的端测AI,那端侧AI的概念就是整个的AI的过程全部是发生在设备端的。举个例子,比如说我现在做一个人脸识别,我的设备端摄像头负责拍照,拍完照之后把图像传给我设备端的CPU,然后设备端这边的硬件和软件负责调用AI做数据处理,进而来做人脸识别,最后把结果在我的设备端展示出来,进行开锁、报警等动作执行。

整个AI的过程都在设备端,根本就不会去连接云,也不会去连接边缘,这样来做有两个最大的好处,第一个好处就是速度快,不用联网就不受网络的限制,所以速度快。第二个好处就是因为不用联网所以低功耗。第三个最重要的一点就是隐私问题,不会把照片等私密数据上传云端,现场拍现场用,用完之后销毁,这样是比较安全的。所以说基于这三个原因,当然还有别的一些原因,端测AI实际上在未来的应用是很广泛的,而且端测AI本身跟嵌入式开发的关系非常大,那咱们做嵌入式开发的,就需要去关心端测AI,去搞端侧AI,去掌握这方面的技术,成为一个可以结合AI人工智能技术的更有发展的一名嵌入式软件工程师。

再额外介绍一点,目前国内外,在端侧AI方向上有所建树的企业和芯片厂商有:ST(NanoEdgeAIStudio、CubeAI)、NXP(MCU:imxRT10xx、MPU+linuximx8、imx9352)、聆思(科大讯飞的芯片公司),英伟达,谷歌以及我们熟悉的ARM,我们需要做的就是从最简单的端侧AI项目开始,尝试让自己去熟悉和去体会端侧AI相关的嵌入式项目开发,逐步寻找新技术形态和新技术方向上的更多机会,并寻求进一步发展。
责任编辑:彭菁

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 硬件
    +关注

    关注

    11

    文章

    3416

    浏览量

    66692
  • AI
    AI
    +关注

    关注

    87

    文章

    32426

    浏览量

    271588
  • 边缘计算
    +关注

    关注

    22

    文章

    3162

    浏览量

    49894
收藏 人收藏

    评论

    相关推荐

    AI,风起移动智能计算

    新一代骁龙旗舰芯片,AI的繁荣肇始
    的头像 发表于 11-22 09:55 2540次阅读
    <b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>,风起移动智能计算

    边缘AI应用越来越普遍,AI模型在边缘如何部署?

    电子发烧友网报道(文/李弯弯)在人工智能时代,越来越多的AI应用需要从云端扩展到边缘,比如智能耳机、智能摄像机、智能手环、物流机器人等,在边缘部署AI已经成为趋势。如今
    的头像 发表于 07-04 00:11 2882次阅读
    边缘<b class='flag-5'>AI</b>应用越来越普遍,<b class='flag-5'>AI</b>模型在边缘<b class='flag-5'>端</b>如何部署?

    AI浪潮已来!炬芯科技发布新一代AI音频芯片,能效比和AI算力大幅度提升

    电子发烧友原创 章鹰   11月5日,在深圳会展中心7号馆内,炬芯科技董事长兼CEO周正宇博士带来了《AI芯片的未来》演讲,他对AI趋势进行精彩的分析,并且宣布炬芯科技推出第一
    的头像 发表于 11-06 09:11 3155次阅读
    <b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>浪潮已来!炬芯科技发布新一代<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>音频芯片,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    霍尔电流传感器的原边如何接入AI大模型?

    霍尔电流传感器的原边如何接入AI大模型,以便AI分析问题解决问题?话题会不会太超前?现在正式AI风口啊,猪都要起飞了
    发表于 03-03 15:18

    新功能get√:AI大学移动,来了!

    `「AI大学移动」已经正式上线了!点开公众号菜单栏【AI大学】~即可在手机上观看相关AI课程视频躺着看,坐着看、等地铁的时候看,随时随地,想看就看!手机秒变移动
    发表于 07-13 10:23

    为什么电压环外环?电流环内环

    电压环是什么?电流环又是什么?为什么电压环外环?电流环内环?
    发表于 09-29 06:57

    嵌入式如何与AI相结合,什么是AI~

    什么AI? 这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是 云·边·协同 ,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软
    的头像 发表于 06-19 10:01 1546次阅读
    嵌入式如何与<b class='flag-5'>AI</b>相结合,什么是<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>~

    嵌入式如何与AI相结合,什么是AI~

    什么AI?这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方向是云·边·协同,也就是未来各行各业,不管做啥的,与计算机行业相关的这种硬件和软件架构
    的头像 发表于 06-21 17:28 3634次阅读
    嵌入式如何与<b class='flag-5'>AI</b>相结合,什么是<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>~

    什么AI计算?AI计算力是什么?

    什么AI计算?AI计算力是什么? 随着科技的不断发展,人工智能(AI)已经成为当今最热门的技术之一。而在人工智能中,AI计算是非常重要的一
    的头像 发表于 08-24 15:49 7493次阅读

    华为彭松:打造端到AI网络,打通全场景AI能力

    [中国,南京,2023年8月24日]第七届未来网络发展大会期间,华为公司高级副总裁、ICT战略与Marketing总裁彭松发表了主题演讲《打造端到AI网络,打通全场景AI能力》。 他表示
    的头像 发表于 08-24 20:15 833次阅读
    华为彭松:打造端到<b class='flag-5'>端</b><b class='flag-5'>AI</b>网络,打通全场景<b class='flag-5'>AI</b>能力

    荣耀引领AI新时代

    在今年的MWC盛会上,荣耀宣布与高通、Meta携手,将70亿参数大模型引入侧,这一创新举措预示着AI新时代的到来。荣耀终端CEO赵明在发布会上详细介绍了荣耀魔法大模型,并通过现场演示展示了其强大的功能,包括任意门和一键成片
    的头像 发表于 03-01 10:28 769次阅读

    把握关键节点,美格智能持续推动AI规模化拓展

    当前,AI大模型走向侧已经是大势所趋,AI的发展将推动人工智能成为影响世界的第四次工业革命。与传统的云端大模型相比,侧大模型拥有更小
    的头像 发表于 11-26 01:00 337次阅读
    把握关键节点,美格智能持续推动<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>规模化拓展

    广和通开启AI新时代

    AI发展正酣,随着终端芯片算力越来越高、侧模型能力越来越强、实时响应及隐私保护的侧应用需求增加,AI已然具备落地的条件。
    的头像 发表于 12-12 10:35 426次阅读

    广和通发布Fibocom AI Stack,助力客户快速实现跨平台跨系统的AI部署

    1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业侧应用。Fibocom AI Stack提供集高性能模组
    发表于 01-08 11:38 137次阅读
    广和通发布Fibocom <b class='flag-5'>AI</b> Stack,助力客户快速实现跨平台跨系统的<b class='flag-5'>端</b>侧<b class='flag-5'>AI</b>部署

    广和通Fibocom AI Stack:加速AI部署新纪元

    近日,广和通正式推出了Fibocom AI Stack,这一创新解决方案旨在赋能千行百业的侧应用,推动AI技术的广泛商用。 Fibocom AI Stack集高性能模组、
    的头像 发表于 01-13 11:32 598次阅读