0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智能架构将AI引入移动设备

星星科技指导员 来源:嵌入式计算设计 作者:Eran Briman 2022-10-25 14:43 次阅读

深度学习算法正被用于训练卷积神经网络(CNN),以实现更智能的移动设备,这很可能需要一种新的方法来处理架构。但与此同时,巧妙地利用当前的技术可能有助于我们进一步走上真正的认知设备之路,这些设备能够完全重新定义用户体验。

英伟达将在三月份的GPU技术大会上使用汽车和高级驾驶员辅助系统(ADAS)作为应用程序的焦点,并完成了埃隆·马斯克(Elon Musk)的讨论和评论,以表明自动驾驶汽车几乎是一个已解决的问题。然而,随着时间的流逝,以及一些调整和改进 - 着眼于超低功耗 - 我看到了许多技术和应用,从无处不在的3D传感,3D跟踪,甚至视觉搜索,迅速进入智能手机以及供电和电池驱动的嵌入式系统

再加上用于运动和音频传感器、快速的内存访问以及高能效的数据处理方法,这些系统可以真正实现“认知”,甚至可能在不久的将来为支持人工智能的移动设备形成一个平台。与此同时,重要的是要优化当前的架构,以实现“智能视觉”功能,如3D深度映射和感知、对象识别和增强现实,以及核心计算摄影功能,如变焦、HDR、图像重新聚焦和低光图像增强。

后一种功能模糊了计算机视觉和图像处理之间的区别,因为许多成像和图像增强功能都使用计算机视觉技术。最简单的例子是多帧图像增强功能,如HDR,变焦和重新对焦,您可以在其中拍摄多个连续图像,然后将它们融合在一起以获得更高质量的图像。

虽然我们称之为“图像增强”,但涉及许多计算机视觉来“注册”图像,这涉及将两个或三个帧相互匹配。该基本功能现在被认为是理所当然的,但需要大量的处理马力。而这种对集中、密集的数字信号处理(DSP)的要求只会增加。

高通公司在Uplinq 2013上发表的一篇论文中很好地绘制了各种视觉处理功能的像素功率和时间关系。如图所示,这些图基于三个处理器:一个运行频率为 1.2 GHz 的单核 CPU、一个四核 CPU 和一个运行频率为 690 MHz 的 DSP。

poYBAGNXhaaAI59zAACIY3CpVP4781.jpg

图 1:绘制各种处理器的每像素能量与每像素时间的关系图显示了 DSP 与 CPU 一起进行视觉处理的优势。为了优化功耗和功能,CPU、DSP 和 GPU 的组合可能是最佳的整体方法。(单击以缩放)

该图显示,以略高于CPU时钟频率的一半运行的DSP可以在图像上获得相同的结果,从而获得潜在的性能增益,同时进一步节省功耗(功率=电容x电压)2x 频率,或 P=CV2断续器)。

然而,随着我们在移动平台上执行类似人类的视觉、人工智能和增强现实应用,可能需要重新思考处理架构。结合传感器融合和先进的深度学习算法(如CNN),这些高度先进和数学密集型应用程序将提供更具环境和上下文感知的用户体验,但将迫使在电池寿命方面进行权衡。

设计人员面临的挑战是启用这个认知设备的新世界,同时保持可接受的电池寿命。有几种方法可以实现此目的。例如,CPU可以由高通或英伟达的GPU支持。这已经在许多智能手机中实施。然而,对越来越低功耗的不妥协需求表明,可以将特定的处理密集型功能分配给视觉优化的DSP内核。采用这种方法可以放弃功耗 9 倍的改进与当今的高级 GPU 集群相比,同时运行对象识别和跟踪。

即使有这种程度的节能,移动设备也不太可能很快使用面部识别执行人群搜索,因为它的处理成本太高。但是,低功耗处理内核和优化架构的可用性增加了乐观情绪,并且正在取得扎实的进展。这种进步是《麻省理工学院技术评论》将深度学习列为2013年10项技术突破之一的原因之一。并在GTC上进行了演示,并在微软,百度和Cognivue等公司的其他研究中进行了演示,从那时起发生了很多事情。

虽然处理架构和低功耗处理至关重要,但可以合理地假设,随着云连接变得越来越普遍和更快,我们应该为云分配尽可能多的处理开销。同样,它归结为智能分区。在云中做最好在云中做的事,然后在移动设备上,尽可能高效地构建功能分配,例如使用CPU在GPU和DSP之间分配负载。或者正如高通公司所说,利用正确的引擎来完成正确的任务。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4774

    浏览量

    100898
  • AI
    AI
    +关注

    关注

    87

    文章

    31139

    浏览量

    269474
收藏 人收藏

    评论

    相关推荐

    《算力芯片 高性能 CPUGPUNPU 微架构分析》第3篇阅读心得:GPU革命:从图形引擎到AI加速器的蜕变

    昇腾采用达芬奇架构,在AI Core中集成了标量/向量/张量处理单元。我注意到书中对TPU v4光学芯片互联的分析特别深入,这种创新或重塑未来AI集群的
    发表于 11-24 17:12

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    。 4. 对未来生命科学发展的展望 在阅读这一章后,我对未来生命科学的发展充满了期待。我相信,在人工智能技术的推动下,生命科学取得更加显著的进展。例如,在药物研发领域,AI技术帮助
    发表于 10-14 09:21

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    非常高兴本周末收到一本新书,也非常感谢平台提供阅读机会。 这是一本挺好的书,包装精美,内容详实,干活满满。 关于《AI for Science:人工智能驱动科学创新》第二章“AI
    发表于 10-14 09:16

    NXP推出集成NPU的MCU,支持AI边缘设备!MCU实现AI功能的多种方式

    可扩展的硬件加速器架构,专为AI和ML应用而设计。NPU的引入大幅提升了设备AI工作负载性能和能效,使得本
    的头像 发表于 09-29 01:11 3891次阅读

    如何AP凭据从移动设备发送到ESP模块?

    在 ESP8266 SDK 0.9.5 中,提供了智能配置 API。查看smartconfig_start功能,我可以看到它支持 ESP-TOUCH 协议。现在,我的问题是它如何 AP 凭据从移动
    发表于 07-12 15:33

    ai服务器是什么架构类型

    AI服务器,即人工智能服务器,是专门为人工智能应用设计的高性能计算服务器。AI服务器的架构类型有很多种,以下是一些常见的
    的头像 发表于 07-02 09:51 1127次阅读

    摩托罗拉与谷歌云生成式AI引入全新razr系列智能手机

    智能手机技术的最前沿,摩托罗拉与谷歌云携手合作,宣布了一项开创性的多年合作协议。此次合作将带来革命性的变革,即将生成式人工智能AI)技术引入摩托罗拉备受瞩目的razr系列
    的头像 发表于 06-26 17:55 711次阅读

    新的Armv9 CPU技术加速AI移动设备等领域的发展

    当今移动设备上的大多数人工智能 (AI) 工作负载均可在 Arm CPU 上运行。
    的头像 发表于 05-30 11:44 649次阅读
    新的Armv9 CPU技术加速<b class='flag-5'>AI</b>在<b class='flag-5'>移动</b><b class='flag-5'>设备</b>等领域的发展

    SnapAI和机器学习引入Snapchat

    Snap首席执行官伊万·斯皮格近日宣布,公司加大投资力度,人工智能和机器学习技术深度引入其主打社交应用Snapchat,以进一步提升用户吸引力。斯皮格直言,公司在机器学习领域已稍显
    的头像 发表于 05-21 09:31 511次阅读

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    2024年3月19日,[英伟达]CEO[黄仁勋]在GTC大会上公布了新一代AI芯片架构BLACKWELL,并推出基于该架构的超级芯片GB200,助推数据处理、工程模拟、电子设计自动化
    发表于 05-13 17:16

    微软MSN天气服务引入全新AI模型

    微软在天气预测领域取得了突破性的进展,为MSN天气服务引入了全新的AI预测模型。该模型由微软Start团队精心研发,并基于他们在arXiv上发表的最新论文。这一创新模型结合了五种不同的人工智能模型和三种深度学习
    的头像 发表于 05-07 09:25 580次阅读

    NanoEdge AI的技术原理、应用场景及优势

    NanoEdge AI 是一种基于边缘计算的人工智能技术,旨在人工智能算法应用于物联网(IoT)设备和传感器。这种技术的核心思想是
    发表于 03-12 08:09

    年底前Galaxy AI引入三星1亿部Galaxy设备

    1月份曾表示要在今年年底前Galaxy AI引入三星1亿部Galaxy设备中,为了实现这一目标,三星还将为之前的型号提供软
    的头像 发表于 03-05 09:33 422次阅读

    荷兰AI芯片设计公司Axelera计划推出新型汽车芯粒AI架构

    荷兰边缘人工智能AI)芯片设计领域的领军企业Axelera AI Solutions正在积极开发一款新型的汽车芯粒(chiplet)内存计算AI
    的头像 发表于 01-18 18:24 1869次阅读

    智慧社区建设中应用AI边缘智能分析设备、边缘设备可以解决哪些问题?

    “智慧社区”的建设除了可以安装监控摄像头、AI面部摄像机等智能设备来守护社区居民的安全,还可以引入AI边缘
    的头像 发表于 01-15 15:05 567次阅读
    智慧社区建设中应用<b class='flag-5'>AI</b>边缘<b class='flag-5'>智能</b>分析<b class='flag-5'>设备</b>、边缘<b class='flag-5'>设备</b>可以解决哪些问题?