随着人工智能 (AI) 和深度学习应用在越来越多的行业中变得越来越普遍,对更好的性能、更大的深度神经网络 (DNN) 模型容量和更低功耗的需求变得越来越重要。
与此同时,DNN 模型正在以指数级的速度增长。对于这些型号,传统数字处理器难以以足够低的功耗和足够的内存资源提供必要的性能,特别是对于在边缘运行的大型型号。这就是模拟计算的用武之地,使公司能够以更低的功耗和更小的外形获得更高的性能,而且具有成本效益。
模拟计算已经研究了几十年,并提供了两个主要优势。首先,它的效率惊人;通过利用存储元件进行神经网络权重存储和计算,它消除了数据移动。其次,它具有高性能和低延迟,使其适用于计算向量操作期间并行发生的数十万个乘法累加运算。鉴于这两个因素,模拟计算是满足最新边缘 AI 计算需求的理想选择。
与数字相比,模拟的计算速度和功率效率长期以来一直很有希望。但是,除了开发这项技术的难以置信的困难之外,模拟计算的最大历史障碍之一是其尺寸,模拟芯片和系统太大且成本太高。如今,将闪存和模拟计算相结合可以解决这些挑战,并且您获得的总和远远大于单个部分 - 模拟内存计算。这是Mythic花了数年时间完善并展示的独特技术,它为未来几十年的AI计算奠定了基础。
最低级别的模拟内存计算(或模拟计算)的功耗优势在于能够使用存储在闪存阵列内的参数执行大规模并行矢量矩阵乘法。微小的电流通过存储可重新编程的神经网络权重的闪存阵列进行引导,并通过模数转换器(ADC)捕获结果。
通过将模拟计算用于绝大多数推理操作,模数和数模能量开销可以作为整体功率预算的一小部分进行维护,并且可以实现计算能力的大幅下降。还有许多二阶系统级效应会导致功率大幅下降;例如,当芯片上的数据移动量低几个数量级时,系统时钟速度可以保持比竞争系统低10倍,并且控制处理器的设计要简单得多。
对于许多不同用例,将模拟计算处理器用于边缘 AI 应用是一个很好的选择。例如,配备用于计算机视觉 (CV) 应用的高清摄像头的无人机需要在本地运行复杂的 DNN 模型,以便向控制站提供即时的相关信息。使用模拟计算的处理器可以提供强大的AI处理,并且非常节能,因此公司可以在无人机上部署这些网络,用于各种CV应用。这些应用包括监测农业产量,检查关键基础设施,如电力线、手机信号塔、桥梁和风电场,检查火灾损坏以及检查海岸线侵蚀情况。模拟计算非常适合的另一种应用类型是低延迟人体姿势估计,可用于智能健身、游戏和协作机器人设备。
模拟计算是 AI 处理的理想方法,因为它能够以更高的速度和更快的帧速率使用更少的功率运行。模拟计算技术的极高能效将使产品设计人员能够在小型边缘设备中解锁令人难以置信的强大新功能,并有助于降低成本和企业AI应用中的大量能源浪费。利用模拟计算能力与闪存相结合,OEM 可以重新思考 AI 的可能性。试想一下,如果没有边缘 AI 应用程序功耗、成本和性能的现有限制,我们将看到哪些令人兴奋的创新。
审核编辑:郭婷
-
人工智能
+关注
关注
1792文章
47446浏览量
239061 -
深度学习
+关注
关注
73文章
5508浏览量
121311
发布评论请先 登录
相关推荐
评论