0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Deep Vision退出隐身模式,并启动其ARA-1推理处理器

倩倩 来源:文财网 作者:文财网 2020-11-23 14:47 次阅读

加利福尼亚州洛斯阿尔托斯,2020年11月19日– Deep Vision退出隐身模式,并启动其ARA-1推理处理器,以支持在边缘创建新的世界AI视觉应用程序。处理器以紧凑的外形尺寸实现了计算,内存,能效(典型值2W)和超低延迟之间的最佳平衡,使其成为端点(如相机,传感器以及具有高计算能力的边缘服务器)的最终选择需求,模型灵活性和能源效率至关重要。

Deep Vision首席执行官Ravi Annavajjhala说:“当今复杂的AI工作负载不仅需要低功耗,而且还需要低延迟才能在边缘交付实时智能。” “不再需要在性能和效率之间进行权衡。开发人员现在可以在一个处理器上获得更高准确性的结果和丰富的数据见解。”

突破性的高效架构

深度学习模型的复杂性不断增长,并在边缘推动了对AI的计算需求的增长。Deep Vision ARA-1处理器基于获得专利的多态数据流架构,能够处理各种数据流,以最大程度地减少片上数据移动。该架构支持每个神经网络模型内的指令,从而可以在深度学习模型内最佳地映射任何数据流模式。将数据保持在靠近计算引擎的位置可以最大程度地减少数据移动,从而确保高推理吞吐量,低延迟和更高的电源效率。编译器自动为神经网络中的每一层评估多个数据流模式,并选择性能最高和功耗最低的模式。

通过同时进行多模型处理,Deep Vision ARA-1处理器还可以有效地运行多个模型,而不会影响性能,从而更快,更准确地生成结果。Deep Vision ARA-1处理器以比Edge TPU和Movidius MyriadX低的系统功耗运行深度学习模型,例如Resnet-50,其延迟比Edge TPU高6倍,而延迟比MyriadX高4倍。

以软件为中心的方法打破了复杂性障碍

Deep Vision的软件开发套件(SDK)和硬件紧密结合在一起,可以无缝地协同工作,

以最低的功耗确保最佳的模型精度。借助内置的量化器,模拟器和事件探查器,开发人员拥有支持计算复杂的推理应用程序设计和执行所需的所有工具。从历史上讲,在不进行大量代码开发的情况下将模型迁移到生产的过程一直具有挑战性。Deep Vision的SDK还支持无摩擦的工作流程,从而实现了从培训模型到生产应用程序的低代码,自动化,无缝迁移过程。该SDK通过显着提高生产率并缩短整体上市时间,从而减少了昂贵的开发时间。

责任编辑:lq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    19077

    浏览量

    228721
  • 神经网络
    +关注

    关注

    42

    文章

    4732

    浏览量

    100391
  • AI
    AI
    +关注

    关注

    87

    文章

    29635

    浏览量

    267970
收藏 人收藏

    评论

    相关推荐

    ARM处理器的工作模式和特点

    ARM处理器具有多种工作模式,这些模式根据处理器执行的任务和当前的状态进行划分。常见的ARM处理器工作
    的头像 发表于 09-10 11:22 706次阅读

    开箱即用,AISBench测试展示英特尔至强处理器的卓越推理性能

    近期,第五代英特尔®至强®可扩展处理器通过了中国电子技术标准化研究院组织的人工智能服务系统性能测试(AISBench)。英特尔成为首批通过AISBench大语言模型(LLM)推理性能测试的企业
    的头像 发表于 09-06 15:33 239次阅读
    开箱即用,AISBench测试展示英特尔至强<b class='flag-5'>处理器</b>的卓越<b class='flag-5'>推理</b>性能

    国产新型AI PC处理器亮相上海

    处理器
    北京中科同志科技股份有限公司
    发布于 :2024年08月01日 09:21:01

    SiPearl更新Rhea1处理器规格,聚焦HPC与AI推理应用

    据了解,Rhea1处理器将与英伟达GH200 Grace Hopper超级芯片共同为欧洲首台E级超算JUPITER提供计算能力,原本计划搭载72个Arm Neoverse V1 “Zeus”内核。
    的头像 发表于 05-15 11:41 309次阅读

    处理器的定义和种类

    处理器,作为计算机系统的核心部件,承载着执行指令、处理数据的重要任务。随着信息技术的飞速发展,处理器的种类和性能也在不断提升。本文将对处理器的定义进行阐述,
    的头像 发表于 05-12 18:12 2290次阅读

    STM32 QSPI怎么退出映射模式

    FLASH 中,多 QSPI 进行ERASE 和 PROGRAMME, 这个时候我就需要退出映射模式,请问怎么退出映射模式
    发表于 03-29 08:15

    国产GPU搭配国产处理器平台主机

    处理器gpu
    GITSTAR 集特工控
    发布于 :2024年03月27日 14:11:32

    AMD EPYC处理器:AI推理能力究竟有多强?

    如今,AMD EPYC处理器已经成为最常被选择用于AI推理的服务平台,尤其是第四代Genoa EPYC 9004系列,执行AI推理的能力又得到了巨大的飞跃。
    发表于 03-15 09:47 403次阅读

    NB-IoT PSM模式的进入和退出分析

    那么UE在处理数据后什么时候进入PSM模式?这是由另一个计时活动计时(t3324,0到255秒)决定的。UE完成数据处理后,释放RRC连
    的头像 发表于 03-12 16:28 1920次阅读
    NB-IoT PSM<b class='flag-5'>模式</b>的进入和<b class='flag-5'>退出</b>分析

    苹果Vision Pro头显佩戴及访客旅行模式解析

    模式允许用户邀请家人或朋友使用 Vision Pro,但仅限于访问特定应用如照片和 Safari。值得注意的是,当启动模式后,主用户的 Apple ID 账户信息、密码以及其他至关
    的头像 发表于 01-17 11:30 599次阅读

    Kinara发布Ara-2边缘AI处理器,实现高效、经济、节能的推理性能

    生成式AI现已成为主流,然而大多数此类应用却在数据中心的GPU上运行,由此引发的延迟、高成本以及隐私问题亟待解决。Ara-2顺应时代变化,贴心支持生成式AI模型所需引导的数十亿个参数,为跨境转移提供便利。
    的头像 发表于 12-19 11:05 801次阅读

    ARM处理器7种工作模式

    ARM处理器是当前嵌入式领域使用最多的处理器,我们在使用中一定注意处理器的工作模式,下面对ARM处理的工作
    发表于 12-15 10:15

    Kinara推出Ara-2边缘AI处理器,为边缘服务和笔记本电脑提供高性

    虽然生成式AI应用日趋盛行,但大部分应用仍依赖GPU在数据中心运行,存在着延迟高、成本大、隐私泄漏等诸多风险。为了解决此类问题,Ara-2处理器支持生成式AI模型所需要的大量参数,有效减少了向边缘迁移的难度。
    的头像 发表于 12-14 10:12 1061次阅读
    Kinara推出<b class='flag-5'>Ara</b>-2边缘AI<b class='flag-5'>处理器</b>,为边缘服务<b class='flag-5'>器</b>和笔记本电脑提供高性

    简单认识高级处理器

    Processing Unit, APU) 、采用异构系统架构 ( Heterogeneous System Architecture,HSA) 特征设计的集成电路、基于人工神经网络(Artificial Neural Networks,ANN) 深度学习 (Deep Learning)的高级
    的头像 发表于 12-07 11:31 820次阅读
    简单认识高级<b class='flag-5'>处理器</b>

    简单认识安全加密处理器

    安全加密处理器 (Secure Cryptoprocessor) 是一种本身不产生加密数据或程序指令,但产生密钥(Key)的处理器应用产品有智能卡、ATM、电视机机顶盒、军事系统等。而加密型
    的头像 发表于 12-06 09:19 1105次阅读