0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

您需要了解的有关模拟计算的知识

星星科技指导员 来源:嵌入式计算设计 作者:Tim Vehling 2022-11-18 16:39 次阅读

随着人工智能AI) 和深度学习应用在越来越多的行业中变得越来越普遍,对更好的性能、更大的深度神经网络 (DNN) 模型容量和更低功耗的需求变得越来越重要。

与此同时,DNN 模型正在以指数级的速度增长。对于这些型号,传统数字处理器难以以足够低的功耗和足够的内存资源提供必要的性能,特别是对于在边缘运行的大型型号。这就是模拟计算的用武之地,使公司能够以更低的功耗和更小的外形获得更高的性能,而且具有成本效益。

模拟计算已经研究了几十年,并提供了两个主要优势。首先,它的效率惊人;通过利用存储元件进行神经网络权重存储和计算,它消除了数据移动。其次,它具有高性能和低延迟,使其适用于计算向量操作期间并行发生的数十万个乘法累加运算。鉴于这两个因素,模拟计算是满足最新边缘 AI 计算需求的理想选择。

与数字相比,模拟的计算速度和功率效率长期以来一直很有希望。但是,除了开发这项技术的难以置信的困难之外,模拟计算的最大历史障碍之一是其尺寸,模拟芯片和系统太大且成本太高。如今,将闪存和模拟计算相结合可以解决这些挑战,并且您获得的总和远远大于单个部分 - 模拟内存计算。这是Mythic花了数年时间完善并展示的独特技术,它为未来几十年的AI计算奠定了基础。

最低级别的模拟内存计算(或模拟计算)的功耗优势在于能够使用存储在闪存阵列内的参数执行大规模并行矢量矩阵乘法。微小的电流通过存储可重新编程的神经网络权重的闪存阵列进行引导,并通过模数转换器ADC)捕获结果。

通过将模拟计算用于绝大多数推理操作,模数和数模能量开销可以作为整体功率预算的一小部分进行维护,并且可以实现计算能力的大幅下降。还有许多二阶系统级效应会导致功率大幅下降;例如,当芯片上的数据移动量低几个数量级时,系统时钟速度可以保持比竞争系统低10倍,并且控制处理器的设计要简单得多。

对于许多不同用例,将模拟计算处理器用于边缘 AI 应用是一个很好的选择。例如,配备用于计算机视觉 (CV) 应用的高清摄像头的无人机需要在本地运行复杂的 DNN 模型,以便向控制站提供即时的相关信息。使用模拟计算的处理器可以提供强大的AI处理,并且非常节能,因此公司可以在无人机上部署这些网络,用于各种CV应用。这些应用包括监测农业产量,检查关键基础设施,如电力线、手机信号塔、桥梁和风电场,检查火灾损坏以及检查海岸线侵蚀情况。模拟计算非常适合的另一种应用类型是低延迟人体姿势估计,可用于智能健身、游戏和协作机器人设备。

模拟计算是 AI 处理的理想方法,因为它能够以更高的速度和更快的帧速率使用更少的功率运行。模拟计算技术的极高能效将使产品设计人员能够在小型边缘设备中解锁令人难以置信的强大新功能,并有助于降低成本和企业AI应用中的大量能源浪费。利用模拟计算能力与闪存相结合,OEM 可以重新思考 AI 的可能性。试想一下,如果没有边缘 AI 应用程序功耗、成本和性能的现有限制,我们将看到哪些令人兴奋的创新。

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1787

    文章

    46136

    浏览量

    235514
  • 深度学习
    +关注

    关注

    73

    文章

    5426

    浏览量

    120639
收藏 人收藏

    评论

    相关推荐

    USB 3.2双通道操作:需要了解的内容

    电子发烧友网站提供《USB 3.2双通道操作:需要了解的内容.pdf》资料免费下载
    发表于 08-30 10:09 0次下载
    USB 3.2双通道操作:<b class='flag-5'>您</b><b class='flag-5'>需要了解</b>的内容

    要了解下大模型知识

    工作需要,想要了解一下大模型算力建设知识
    发表于 08-20 15:31

    不只是前端,后端、产品和测试也需要了解的浏览器知识(二)

    继上篇《 不只是前端,后端、产品和测试也需要了解的浏览器知识(一)》介绍了浏览器的基本情况、发展历史以及市场占有率。 本篇文章将介绍浏览器基本原理。 在掌握基本原理后,通过技术深入,在研发
    的头像 发表于 08-12 14:32 192次阅读
    不只是前端,后端、产品和测试也<b class='flag-5'>需要了解</b>的浏览器<b class='flag-5'>知识</b>(二)

    不只是前端,后端、产品和测试也需要了解的浏览器知识

    一、我们为什么要了解浏览器? 1. 对于前端开发者 1.浏览器是用户体验的第一线。我们需要了解浏览器的工作原理,才能有效地设计和实现用户界面,确保良好的用户体验。 2.好的产品需要考虑浏览器兼容性
    的头像 发表于 07-01 18:03 339次阅读
    不只是前端,后端、产品和测试也<b class='flag-5'>需要了解</b>的浏览器<b class='flag-5'>知识</b>

    学习串口屏需要了解哪些方面的知识

    学习串口屏需要掌握的知识主要包括以下几个方面
    的头像 发表于 06-05 09:41 331次阅读
    学习串口屏<b class='flag-5'>需要了解</b>哪些方面的<b class='flag-5'>知识</b>

    选择贴片电容时需要了解哪些问题?

    购买贴片电容时,需要了解以下几个方面: 1、电容类型与规格:贴片电容有多种类型,如陶瓷电容器、铝电解电容器、钽电解电容器、多层陶瓷电容器(MLCC)以及聚合物电容器等。每种类型都有其特定的应用场
    的头像 发表于 03-29 15:45 253次阅读

    关于ESS和BMS,需要了解的一切

    电池管理系统BMS,目前被广泛应用在ESS(能源存储系统)和新能源汽车这类产品的设计当中,通过电池电压测量、电池均衡、温度监控、电池开路检测和自我诊断等功能帮助ESS和新能源汽车中的固态电池在恶劣操作条件下其功能仍然可以安全和可靠的运行。一个优秀的BMS除了能保证电池安全运行以外,还可帮助电池实现最大化电池容量使和最长可达十年以上的电池使用寿命。关于BMS技
    的头像 发表于 03-23 08:22 463次阅读
    关于ESS和BMS,<b class='flag-5'>您</b><b class='flag-5'>需要了解</b>的一切

    电源测试需要用到哪些计算公式?

    在电源模块测试过程中不仅要了解测试过程和步骤,对于一些测试项目而言还需要了解其正确的计算测试方法,得到准确的测试结果。
    的头像 发表于 03-13 14:32 351次阅读

    基于ZYNQ FPGA构建嵌入式的模拟计算板卡

    板卡基于高速400M 采样AD 和ZYNQ FPGA构建嵌入式的模拟计算板卡, 可用于工业雷达,行业雷达的场合。板卡使用工业级芯片。
    的头像 发表于 01-09 11:30 1059次阅读
    基于ZYNQ FPGA构建嵌入式的<b class='flag-5'>模拟计算</b>板卡

    一起详细了解IEEE802.3bt(PoE++)的有关特点

    Hqst华强盛(盈盛电子)导读:带一起详细了解IEEE802.3bt(PoE++)的有关特点,让我们对IEEE802.3bt(PoE++)协议有更具体的了解
    的头像 发表于 01-04 11:26 1580次阅读
    带<b class='flag-5'>您</b>一起详细<b class='flag-5'>了解</b>IEEE802.3bt(PoE++)的<b class='flag-5'>有关</b>特点

    经常使用的负载开关,到底了解多少?

    经常使用的负载开关,到底了解多少?
    的头像 发表于 12-05 17:45 575次阅读
    经常使用的负载开关,<b class='flag-5'>您</b>到底<b class='flag-5'>了解</b>多少?

    J-Link 中的JTAG 接口:正确使用需要了解的注意事项,在这里!

    J-Link 中的JTAG 接口:正确使用需要了解的注意事项,在这里!
    的头像 发表于 12-01 16:01 1205次阅读
    J-Link 中的JTAG 接口:正确使用<b class='flag-5'>需要了解</b>的注意事项,在这里!

    我们为什么需要了解一些先进封装?

    我们为什么需要了解一些先进封装?
    的头像 发表于 11-23 16:32 474次阅读
    我们为什么<b class='flag-5'>需要了解</b>一些先进封装?

    需要了解的FPGA基础知识

    的增加,FPGA 方案在成本上的优势逐渐缩小,超过某一使用量后,ASIC 方案由于大量流片产生了规模经济,在成本上更有优势。 计算机应用是多种多样的,最适合于应用的方法也会因应用而异,其中包括现成
    发表于 11-20 18:56

    Microchip与IHWK正在合作开发模拟计算平台

    合作开发模拟计算平台,以加速神经技术设备的边缘 AI/ML 推理。 IHWK正在为神经技术设备和现场可编程神经形态设备开发神经形态计算平台。Microchip Technology子公司
    的头像 发表于 10-12 16:04 889次阅读