作者:Jean-Jaques (JJ) DeLisle
机器学习 (ML) 和人工智能 (AI) 技术(通常称为 AI)是现代投资最多的领域之一。预计在短短几年内,人工智能技术和功能将被集成到大量的边缘设备和自治系统中,以及基于云的和生成式人工智能服务的增长格局中。
然而,人工智能无处不在并非没有成长的痛苦。在许多方面,大型语言模型 (LLM)、自然语言处理、语音识别、强化学习和其他系统背后的深度神经网络 (DNN) 技术使用大量存储、内存和处理作为创建有效 AI 技术的捷径。
这里的前提是,与依赖数学效率和优化的早期ML / AI模型开发相比,可以使用更大的训练集和计算资源来创建更准确和有用的模型。OpenAI发布的一项分析显示,AI开发中使用的计算资源每3.4个月翻一番,而摩尔定律在计算能力方面的进步每2年仅翻一番。因此,在某个点上,计算能力的改进将被当前AI训练和推理范式的需求所超越。
为了保持竞争力并在边缘实现 AI 技术,这种方法需要妥协以满足边缘系统的尺寸、重量、成本和能源使用要求。其中一些折衷包括降低数字AI模型中使用的数据的分辨率。此外,降低分辨率对AI能源和复杂性的节省存在实际限制。GPU 已成为执行 AI 训练和推理任务所需的大型矩阵操作的流行选择,因为 GPU 在执行大型矩阵计算方面比 CPU 更强大、更节能。
然而,对于基于冯诺依曼架构的数字计算方法,这些系统的处理速度不可避免地存在实际限制。这是一种称为冯诺依曼瓶颈的现象,其中处理速度受到从内存到处理单元的数据传输速率的限制。
图1以下是传统的冯·诺依曼架构如何受到大量数据移动的瓶颈。来源:IBM
输入模拟
上述事实是IBM和其他AI技术公司(如Mythic AI)押注模拟AI用于边缘AI训练和推理的未来的基础。一些行业消息人士声称,模拟人工智能技术可能比数字人工智能技术快几十到几百倍,效率更高,这将允许在能源受限的边缘设备中大幅提高人工智能处理能力。
图2该图表比较了 2014 年至 2026 年当前和近期的数字 AI 和模拟 AI 硬件技术及其每瓦性能。来源:IBM
数字处理技术依赖于打包为离散值的数据,每个位存储在指定的晶体管或存储单元中,而模拟处理技术可以利用存储在单个晶体管或存储单元中的连续信息。仅此功能就允许模拟处理技术在更小的空间内存储更多数据,但通过随机错误注入牺牲了存储数据的可变性。
模拟存储的可变性可能导致前向传播(推理)失配误差,以及反向传播(训练计算误差)。两者都不是可取的,但可以使用数字电路和模拟电路来解释这种误差,以确保最小的误差,以及其他人工智能训练技术来减轻反向传播误差。
对于人工神经网络(ANN),现在可以管理这种可变性。从历史上看,模拟存储的可变性是数字计算技术最初在半个多世纪前取代模拟计算技术的原因,因为大多数计算系统都需要更高的精度。
模拟人工智能的优点
ANN模拟计算的其他优点包括乘法累加运算,这是ANN计算中最常用的运算,可以使用电动力学的物理特性来完成,例如用于乘法的欧姆定律和用于求和的基尔霍夫定律。这允许模拟计算机将输入作为数组处理并并行执行全矩阵操作。这可能比使用 CPU 甚至 GPU 的矩阵计算更快、更高效。
图3围绕Pytorch,Caffe和TensorFlow等标准框架构建的AI工作流程使用模拟矩阵处理器进行部署。
模拟计算技术的另一个优点是,这些解决方案可以利用不同的存储单元技术,例如相变材料(PCM)和数字闪存,作为可变电阻而不是开关运行。这些模拟存储方法允许在同一位置进行计算和存储,而无需持续使用电源来维护数据存储。
这些因素意味着模拟计算/存储中不存在冯诺依曼瓶颈,模拟数据存储本质上是被动的,随着时间的推移,与主动数字数据存储相比,使用的能量要少得多。例如,PCM的工作原理是材料的电导率是PCM存储单元内无定形与结晶状态之比的函数。
对于IBM的PCM技术,较低的电流编程状态导致更低的电阻和更多的晶体结构,其中较高的编程电流导致更多的非晶材料在更高的电阻下。这就是为什么PCM数据存储相对非易失性的原因,以及ANN突触权重如何存储为单个PCM单元的电导上限和电导下限之间的连续统一体,而不是几个晶体管或其他数字存储单元上的多个位。
因此,毫不奇怪,对于能源/处理受限系统上的边缘计算推理和 AI 培训,模拟 AI 技术正在成为一种解决方案,无需访问广泛的云 AI 基础设施和互联网连接即可带来 DNN 的优势。这将导致响应更快、更高效、更有能力的边缘人工智能更适合自主应用,如机器人、完全自动驾驶、安全,甚至认知无线电/通信。
编辑:黄飞
-
数据传输
+关注
关注
9文章
1831浏览量
64467 -
神经网络
+关注
关注
42文章
4762浏览量
100527 -
人工智能
+关注
关注
1791文章
46838浏览量
237507 -
机器学习
+关注
关注
66文章
8375浏览量
132398
发布评论请先 登录
相关推荐
评论