0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI只对敏感区域在“大网络”中运行计算?

lhl545545 来源:C114通信网 作者:C114通信网 2020-06-30 09:31 次阅读

近日,人工智能国际顶会ICML 2020公布了论文收录结果,阿里巴巴7篇论文入选,是入选论文数量最多的中国科技公司。ICML是机器学习领域全球最具影响力的学术会议之一,今年接受率仅为21.8%。

根据ICML官方显示,阿里7篇论文涵盖在图像识别、自然语言处理、搜索推荐等领域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一种全新的AI推理方法,可大幅减少AI对计算和内存资源的消耗,能将推理速度提升3倍。

近年来AI模型变得越来越复杂化,尤其是类似语言AI这类复杂模型,给计算、内存资源带来了新的挑战。目前,业界通用的解决方法是采用更先进的计算性能来运行AI任务,例如采用GPUFPGA或者NPU等异构计算,但该方法并没有从根源上解决问题。

阿里巴巴达摩院设计出了一种“AI双脑思考”的方法,能让大型神经网络像人类一样学会“快思考”与“慢思考”,从而进行高效且准确的推理过程。

该方法被称为“双模推理”, 即将一个复杂任务拆分成两个任务,例如在复杂AI推理任务过程中,可以先以很小的资源运行“小网络”,同时分析哪些网络的区域较为敏感,然后只对敏感区域在“大网络”中运行计算。

达摩院的科学家从理论上证明了双模推理的可行性,且在CPU上实现了该方法。实际效果显示,该方法能在保证模型精度的基础上,在语言模型上减小40%的访存,达到1.54倍-1.75倍的性能提升,同时可以在仅损耗0.5%精度基础上,提升3倍的推理速度。

近年来,阿里在AI领域迎来了基础研究与产业应用成果双爆发的阶段。三年前,阿里巴巴成立了内部研究机构达摩院,深入AI研究前沿。据了解,阿里AI已在国际顶级技术赛事上获得了近60项世界第一,500多篇论文入选国际顶会。同时,阿里AI落地了多项重大研究成果,全面赋能各行各业。达摩院医疗AI团队疫情期间研发的AI诊断技术,已在全球近600家医院落地,完成50余万例临床诊断。
责任编辑:pj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10970

    浏览量

    214309
  • AI
    AI
    +关注

    关注

    87

    文章

    32896

    浏览量

    272380
  • 人工智能
    +关注

    关注

    1801

    文章

    48215

    浏览量

    242964
收藏 人收藏

    相关推荐

    适用于数据中心和AI时代的800G网络

    下降。 InfiniBand助力AI性能提升 AI工厂,InfiniBand网络技术因其超低延迟和高带宽,成为大规模模型训练的主流
    发表于 03-25 17:35

    Banana Pi 发布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    ℃ 的宽温工作范围,使其能够严苛的工业环境稳定运行。此外,DC 5V 供电设计,进一步降低功耗,为物联网设备和边缘计算应用带来更佳的能效表现。 推动开源生态,共建智能未来 Bana
    发表于 03-19 17:54

    当我问DeepSeek AI爆发时代的FPGA是否重要?答案是......

    相比,FPGA执行特定任务时功耗更低,能效比更高。这对于需要长时间运行且对功耗敏感的应用(如物联网设备、边缘计算设备)尤为重要。 2.灵活性与定制化 • 可编程性:FPGA的核心优势
    发表于 02-19 13:55

    PCB元件焊点保护胶是什么?有什么种类?

    PCB元件焊点保护胶是什么?有什么种类?PCB元件焊点保护胶是什么?PCB元件焊点保护胶是一种用于电子元件焊点和连接处的特殊胶水,它用于保护焊接点和其他敏感区域免受环境因素的影响,比如湿气、灰尘
    的头像 发表于 01-16 15:17 385次阅读
    PCB元件焊点保护胶是什么?有什么种类?

    接近开关的工作原理 接近开关在自动化的应用

    接近开关的工作原理 接近开关是一种非接触式的传感器,主要用于检测物体与其敏感区域之间的距离,从而控制电气设备或执行其他任务。其工作原理基于不同的传感技术,主要包括电感式、电容式和光学式等几种
    的头像 发表于 12-16 09:17 1531次阅读

    AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    计算的结合 我深刻体会到高性能计算(HPC)AI for Science的重要性。传统的科学计算
    发表于 10-14 09:16

    边缘计算AI算法盒子停放充电区域AI智慧监控的应用

    盒子),作为支撑边缘计算的基础设施硬件平台,集成了高性能的AI算力芯片,能够实时处理海量数据,并在本地进行智能分析。停放充电区域,这些盒子通过连接高清摄像头、传感
    的头像 发表于 08-27 15:00 528次阅读
    边缘<b class='flag-5'>计算</b><b class='flag-5'>AI</b>算法盒子<b class='flag-5'>在</b>停放充电<b class='flag-5'>区域</b><b class='flag-5'>AI</b>智慧监控的应用

    什么是时间敏感网络?TSN技术汽车领域的优势

    2024年前沿技术分享会上,安波福向与会者展示了应对网络延迟挑战的最新技术——时间敏感网络(TSN)技术汽车领域的实际应用。这项技术被部
    的头像 发表于 08-16 14:43 1471次阅读

    HS6601H:低功耗、高性能、可配置度高的非定频雷达芯片数据手册

    外接元器件构成被动式的热释电红外开关。 它能自动快速开启各类白炽灯、荧光灯、蜂鸣器、自动门、电风扇、烘干机和自动洗手池等装置,特别适用于企业、宾馆、商场、库房及家 庭的过道、走廊等敏感区域,或用于安全区域
    发表于 07-31 11:58

    PythonAI的应用实例

    Python人工智能(AI)领域的应用极为广泛且深入,从基础的数据处理、模型训练到高级的应用部署,Python都扮演着至关重要的角色。以下将详细探讨PythonAI
    的头像 发表于 07-19 17:16 1839次阅读

    ESP8266如何连接五个Wifi网络

    正如我文档读到的那样,ESP8266最多可以连接五个 Wifi 网络。但我无法做到这一点。启动过程,我使用以下代码将最
    发表于 07-10 07:11

    【解决方案】工业工厂内部敏感区域监控-A1T热像仪

    问题区域,实现高效决策。灵卡技术的A1T系列工业红外热像仪,以其卓越的热成像技术和超紧凑的设计,正在革新工业工厂的定点监控方案,成为维护生产安全的新一代“守护者”。鉴于工业环境的多样性与复杂性,A1T系列精心设计,体积小、重量轻,易于各种狭小空间或复杂布局
    的头像 发表于 06-13 15:38 512次阅读
    【解决方案】工业工厂内部<b class='flag-5'>敏感区域</b>监控-A1T热像仪

    risc-v多核芯片在AI方面的应用

    得RISC-V多核芯片能够更好地适应AI算法的不同需求,包括深度学习、神经网络等,从而提高芯片的性能和效率,降低成本,使AI边缘计算晶片更具竞争力。 再者,RISC-V的多核设计可以进
    发表于 04-28 09:20

    讯维通信技术区域企业通信网络整合的应用案例

    讯维通信技术区域企业通信网络整合展现出卓越的应用效果。以下是具体的应用案例: 某大型跨国企业,因业务扩展需要,需要在全球范围内整合其通信网络
    的头像 发表于 04-19 16:30 581次阅读

    AI人员翻越栏杆监测摄像机

    ,广泛应用于重要场所、敏感区域以及公共交通设施等地方。AI人员翻越栏杆监测摄像机的工作原理是利用人工智能技术进行行为识别和分析,结合实时摄像数据监测栏杆附近的人员活动。一
    的头像 发表于 03-28 10:12 450次阅读
    <b class='flag-5'>AI</b>人员翻越栏杆监测摄像机