0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

将机器学习转移到网络边缘变得引人注目

璟琰乀 来源:贸泽电子设计圈 作者:贸泽电子设计圈 2020-12-01 18:03 次阅读

网络边缘更近一步

机器学习介绍

机器学习是大多数AI应用的核心,负责教计算机学会识别数据中的模式。更具体地来说,其目标就是创建训练有素的模型。这可以通过监督学习来完成,这种学习方式向计算机提供学习实例。另外,这个过程也可以不受监督——计算机只是在数据中寻找其关心的模式。还有涉及连续学习或持续学习的技术,这些技术可以使计算机从错误中吸取教训,但这些不在本文讨论范围之内。

运行您的ML模型

一旦建成了ML模型,便可以将其应用于手头的工作。 模型可用于预测未来事件、识别异常,以及进行图像或语音识别。 几乎在所有情况下,模型都依赖于大型深层树状结构,并且需要大量的算力才能运行。 对于通常基于人工神经网络进行图像和语音识别的模型而言尤其如此。 神经网络创建稠密网格,因此需要在高度并行化的硬件(通常基于GPU)上运行。 直到最近,也只有AWS或Azure等云服务提供商才有实力提供此类功能。

为了让您对所需的算力有个概念,表1列示了AWS P3实例的规格,这是一个针对ML应用进行了优化的处理平台:

表1:AWS P3实例规格

这些都是顶配机型。它们具备大容量RAM,以及极快的网络和存储访问权限。最重要的是,它们具有强大的CPU和GPU处理能力,正是这一要求使ML模型在网络边缘运行成为了真正的挑战。

集中式AI的缺点

目前为止,由于ML模型难以在网络边缘运行,因此大多数最著名的AI应用都依赖于云。但是,这种对云计算的依赖给AI的使用带来了一些限制。下面列出了集中式AI在运行方面的一些缺陷。

有些应用无法在云端运行

为了在云端运行AI,需要有容量足够的可靠网络连接。如果没有这种条件,则可能由于缺乏基础设施,有些AI应用不得不在本地运行。换言之,只有能够在边缘运行ML模型,这些应用才能正常工作。

自动驾驶汽车为例。它需要完成许多依赖于机器学习的任务。这些任务中最重要的是探测和规避物体。这要求ML模型要有相当大的算力。但是,即使是联网汽车也只有较低的连接带宽,这些连接还并不一致(尽管5G可能会改善这一点)。

在为采矿和其他重工业创建智能物联网监控系统时,同样存在这种限制。通常在本地会有快速网络,但是互联网连接可能会依赖于卫星上行链路。

延迟是关键

许多ML应用需要实时工作。上面提到的自动驾驶汽车就是此类应用,另外还有实时面部识别等应用。它们可以用于门禁系统或安保措施。例如,警察经常使用这项技术监视体育赛事和其他活动中的人群,以找出已知的闹事者。

AI也越来越多地用于打造智能医疗设备。其中一些需要实时工作才能发挥真正的作用,但是连接到数据中心的平均往返时间约在10到100毫秒之间。因此,如果不将ML模型转移到网络边缘,就很难实现实时应用。

安全性可能会成为问题

许多ML应用会处理安全数据或敏感数据。显然,这类数据可以通过网络发送,并被安全存储到云端。但是,当地政策通常禁止这样做。健康数据尤其敏感,许多国家对发送到云服务器这一做法有着严格的法规要求。总之,确保仅连接到本地网络的设备的安全性永远更加容易。

成本

订购ML优化的云实例可能会非常昂贵—表1中所示的最低规格实例每小时花费约3美元。许多云提供商会收取额外的费用,例如用于存储和网络访问的费用,这笔费用也要考虑在内。实际上,运行一个AI应用每月可能要花费高达3,000美元。

结论

实现成功的机器学习通常需要具有强大算力的基于云或服务器的资源。但是,随着应用的发展和新用例的出现,将机器学习转移到网络边缘变得更加引人注目,尤其是在需要优先考虑延迟、安全性和实现成本等因素的情况下。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30802

    浏览量

    268927
  • ML
    ML
    +关注

    关注

    0

    文章

    149

    浏览量

    34649
  • 机器学习
    +关注

    关注

    66

    文章

    8410

    浏览量

    132585
收藏 人收藏

    评论

    相关推荐

    边缘设备上设计和部署深度神经网络的实用框架

    ‍‍‍‍ 机器学习和深度学习应用程序正越来越多地从云端转移到靠近数据源头的嵌入式设备。随着边缘计算市场的快速扩张,多种因素正在推动
    的头像 发表于 12-20 11:28 96次阅读

    CSP LED切割前如何转移到UV膜上

    倒装芯片底部与高温胶膜接触,封装后如何芯片底部与高温膜分离,然后转移到UV膜上?
    发表于 10-29 23:23

    物联网边缘计算的概念

    )应运而生,它通过在网络边缘进行数据处理,为物联网带来了革命性的变化。 什么是物联网边缘计算? 物联网边缘计算是一种网络拓扑结构,它将计算、
    的头像 发表于 10-29 11:30 373次阅读

    边缘计算对网络延迟的影响

    的延迟。而边缘计算则将计算能力“边缘化”,即将数据处理和分析的任务从云端迁移到网络边缘,即用户设备或靠近用户的
    的头像 发表于 10-24 14:25 392次阅读

    今日看点丨谷歌明年将把Tensor G5生产转移到台积电;京东方推出新型OLED面板原型

    1. 传三星3 纳米良率20% 谷歌明年将把Tensor G5 生产转移到台积电   据业内人士9月13日透露,谷歌明年移动应用处理器的生产从三星电子转向台积电的可能性越来越大。明年发布的谷歌
    发表于 09-14 11:10 468次阅读

    惠普计划50%以上PC生产转移到中国以外区域

    行业芯事行业资讯
    电子发烧友网官方
    发布于 :2024年08月08日 11:16:38

    今日看点丨谷歌Tensor G5芯片的代工合作伙伴从三星转移到台积电;传极星汽车裁员约 30%,成都工厂关停

    1. 谷歌Tensor G5 芯片的代工合作伙伴从三星转移到台积电   三星电子去年赢得谷歌Tensor G4订单,曾有望缩小与台积电在晶圆代工领域的差距。然而,最近的事态发展表明谷歌的战略正在
    发表于 07-08 10:56 544次阅读

    边缘计算与智能化网络的结合可以实现以下哪些优势

    通过数据处理和分析任务从中心化的数据中心迁移到网络边缘,可以显著降低数据传输的延迟。在传统的云计算架构中,数据需要在客户端和数据中心之间进行传输,这会导致较高的延迟。而在
    的头像 发表于 07-05 14:45 702次阅读

    如何PSoC4000部件的设计过渡到PSoC4000T部件?

    英飞凌提供哪些支持,帮助客户现有 PSoC 设计转移到新产品中? 如何 PSoC4000 部件的设计过渡到 PSoC4000T 部件? PSoC4000 部件仅支持 PSoC Creator
    发表于 05-29 06:35

    如何用加载分散法软件中部分变量从内部RAM转移到外部RAM?

    如何用加载分散法软件中部分变量从内部RAM转移到外部RAM, 加载分散法文件怎么设置?堆和栈需要设置吗?
    发表于 05-10 07:52

    马斯克访华:讨论FSD在华落地并争取数据转移许可

    两位知情人士透露,他将与中国政府高层官员商讨自动驾驶软件FSD在华实施可能性及相关数据跨境转移问题。据悉,马斯克希望通过此次访问获得将其在华所采集汽车数据转移到境外用于自动驾驶算法训练的许可。
    的头像 发表于 04-28 14:45 884次阅读

    优必选工业版人形机器人Walker S在新能源汽车工厂首次实训

    近日,优必选公布了一段引人注目的视频,展示了其工业版人形机器人Walker S在新能源汽车工厂中的首次实训情况。这一里程碑式的进展标志着人形机器人在工业生产中的实际应用取得了重要突破。
    的头像 发表于 02-25 17:49 1391次阅读

    边缘计算的应用场景介绍(边缘计算在哪些领域能得到应用)

    边缘计算是世界上的一项备受关注的新兴技术,并且在近年来迅速崛起得到了很多应用。边缘计算是什么?就是通过将计算和存储功能从云端转移到网络边缘
    的头像 发表于 02-01 10:47 1076次阅读
    <b class='flag-5'>边缘</b>计算的应用场景介绍(<b class='flag-5'>边缘</b>计算在哪些领域能得到应用)

    2023 年最适用于边缘计算项目的 7 种硬件设备,Orange Pi榜上有名

    边缘计算概述“边缘”究竟是什么,根据您的参考框架可能会有很大的不同。边缘计算可以是简单的内容交付网络(CDN),为静态文件提供服务以降低加载时间;也可以是
    的头像 发表于 01-05 17:54 2303次阅读
    2023 年最适用于<b class='flag-5'>边缘</b>计算项目的 7 种硬件设备,Orange Pi榜上有名

    马斯克新AI公司创新结构引人注目

    尽管OpenAI的性质并非共益型企业,却仍采取特殊的公司结构,其董事会由非盈利部门成员组成。OpenAI的CEO萨姆·奥特曼在11月末离职又迅速复职的事件,充分体现了这一特殊总经理负责制的独特魅力。这种理念体现在 OpenAI创建“无害有益”的人工智能上,相比追求股东利润更为关键。
    的头像 发表于 12-27 10:51 560次阅读