人工智能开始从云端转移到边缘。人工智能研究现在提供了一个有趣的可能性,即使用数千小时的强大计算资源来训练和完善神经网络,然后能够在廉价的低功耗设备上运行。这使得边缘AI设备成为可能,即使在离线时也可以运行,因此网络连接不是必需的。这种方法利用了进化式神经网络训练技术(如对抗神经网络)的强大功能。
对能量和存储使用有限制的神经网络训练过程自然会创建一个神经网络,该神经网络将其有限的资源集中在更有用的路径上,同时修剪不太关键的区域。此过程非常适合创建在低功耗、低成本设备上运行的网络。随后,神经网络压缩技术可以进一步压缩经过训练的网络,将内存需求降低多达90%,同时几乎不会影响性能 - 类似的技术也有助于减少计算负载。
神经网络压缩可以像降低变量的精度一样简单,但也包括分析、重新组织和修剪网络。令人惊讶的结果是,巨大的计算能力(也许也可以被描述为“智能和经验”)可能会被提炼成一种在廉价、低功耗设备上运行的形式。(事实上,从广义上讲,我们可以将这种方法与数十亿年的对抗性进化相提并论,这种进化最终将智能生命封装在微小的DNA链中)。
如果你认为人工智能意味着一种学习和改进的人类式智能,那么这种边缘计算策略的目标似乎有悖常理。这是因为许多简单的边缘应用程序最好由在部署后不会显着改变或改进的设备提供服务 - 我们只是希望它们能够可靠且可预测地执行其任务。
对于低成本边缘设备和物联网设备的开发者来说,AI工具包在不断扩展,价格在不断下降。新产品的范围从支持AI的FPGA到神经网络加速器,如Redpine的QueSSence智能互联平台,以及研扬科技UP AI Core X系列,该系列为典型的低功耗计算和连接模块添加了AI加速功能,非常适合物联网边缘设备。
人工智能使革命性的新产品成为可能
想象一下,添加AI如何增强日常设备和物联网。板载低成本AI可以改变最普通的设备——例如,为开关添加可靠的语音识别以实现免提操作——但让我们也来看看一些更复杂的潜在应用:
配备人工智能的安全摄像头可以快速学会识别熟悉的面孔、宠物等,并在看到意想不到的人或动物时触发警报。即使与电源和网络断开连接,也可以决定是否发出警报,这显然是安全设备的加分项!通过机器学习技术,这种智能安全摄像头的作用可以远远超出传统的自动化摄像头,例如,它可以识别并警告火灾,泄漏,结构故障(如屋顶或窗户损坏)以及各种其他危险和事件。
训练有素的发动机监控系统可以使用其车载AI功能,通过集成传感器读数,分析振动模式和其他线索来检测异常并优化性能。这种来自广泛传感器融合的分析超出了传统算法的能力,在某些情况下可能会超过人类工程师的性能。本地化AI在没有网络连接的情况下工作的能力允许超低延迟响应,以实时微调性能,并且在网络连接困难的情况下,由于远程位置或射频干扰,以及在移动应用(如车辆和飞机)中,这是一个巨大的优势。
机器中的幽灵:问题和解决方案
人工智能可能是不可预测的,并且在我们没有机会测试的边缘情况下可能会出错。考虑缓解此问题的方法,例如为用户提供回退模式。这可能会让他们关闭“智能”人工智能,并允许设备回退到依赖更简单的老式算法,因此它仍然是功能性和有用的,尽管没有先进的人工智能功能。此外,虽然车载智能是一个关键卖点,但开发人员仍然可以权衡何时在边缘做出决策以及何时将其推回云端或请求人工指导的利弊(事实上,这种选择本身可能由设备上的AI实时指导)。
哑设备即将变得智能
将强大的、预先训练的人工智能包装成低功耗、低成本设备的潜力为改造普通的商品设备、增加价值以及开发新产品和新市场提供了几乎无限的机会。
审核编辑:郭婷
-
人工智能
+关注
关注
1789文章
46599浏览量
236918
发布评论请先 登录
相关推荐
评论