0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边端侧AI规模应用落地难,领域专用架构(DSA)如何在通用性和专用性之间找到平衡!

Carol Li 来源:电子发烧友网 作者:李弯弯 2022-11-27 07:24 次阅读

电子发烧友网报道(文/李弯弯)相对于云端AI,边端侧AI在本地进行计算和决策,不需要将数据上传至云端,具备更好的实时性、隐私性等特点,近些年,边端侧AI的应用越来越被看好。

然而边端侧AI因为应用场景丰富,碎片化明显,在落地应用上也存在诸多难题,比如,需要针对不同应用场景定制算法,不少硬件方案只能针对单一应用等,因此具备一定通用性的方案会更被市场需要,比如时擎科技的领域专用架构(DSA)处理器

领域专用架构(DSA)的核心优势

时擎科技自2018年成立以来,一直致力于在万物智联的AIoT时代,从落地场景的需求出发,通过领域专用架构的处理器和定制化芯片设计,为端侧设备提供支持语音、视觉、影像、显示等多模态智能人机交互和数据处理的芯片产品及完整的系统级解决方案。

公司基于RISC-V指令架构为端侧智能交互和处理场景量身定制了TimesFormer领域专用架构智能处理器,作为处理和计算核心,推出了AT系列端侧智能处理芯片,可以应用于智能家居、智慧家电、泛安防、智能硬件等各类端侧设备中。

时擎科技也能针对客户应用场景的需求,提供定制化芯片的设计和交付,以及系统级应用和软件的开发,为客户带来差异化的产品和竞争力。

目前时擎科技在售的AT系列端侧智能芯片,是一款高集成度、高能效比的智能处理芯片,可广泛应用于离线语音控制、麦克风阵列、入门级智能影像应用等多种不同应用场景中。以其中已经量产出货的AT1000为例–

在产品特点上,AT1000系列芯片搭载了自研的RISC-V主控TM500,主频高达300MHz,支持DSP和浮点操作;提供100G高能效AI算力,配套的TimeFlow算法部署工具友好支持各种模型和算子;优化的存储系统保证算法执行效率,内置MB级高速SRAM,大容量PSRAM和4MB XIP Flash;专用的高性能语音子系统,支持多达4+2模拟/数字麦克风输入,以及立体声/功放输出,满足各类基于麦克风阵列的语音处理需求。

在应用上,AT1000系列其中主要的应用场景是通话对讲、语音降噪等。时擎科技创始人、总裁于欣在接受电子发烧友采访的时候表示,通话对讲场景按照通话距离大体可以分为两类,一类是远讲,典型场景是会议,一般来说,会议室的噪声条件相对较好,而如今居家办公的情况比较多,噪声条件较为复杂,但最近催生了一些在家中或交通工具上,这些场景对于设备降噪能力提出了更高的需求尤其。另一类是近讲,则主要是以对讲机作为代表。

在通话对讲方面,虽然应用场景各不相同,不过其核心算法是类似的。时擎科技针对不同的应用场景针对性地推出了不同型号的芯片,在封装、存储上等方面会有所差异,用以适配对算法复杂度、外设接口的不同。

时擎科技TimesFormer智能处理器是一种基于RISC-V指令集的领域专用架构(DSA)处理器,专门针对端侧智能计算和各类音视频智能算法的需求而研发。具有高能效比、高性价比、易使用、灵活可扩展等特点,可以广泛的应用于端侧人工智能芯片中。

如何理解领域专用架构(DSA)呢?于欣解释到,DSA的核心特点是,它针对的是一类场景,而不只是针对一个特定设备而设计,比如,用于边端侧的语音,也就是各种类型的通话对讲都可以用。相比于很多专用的ASIC芯片而言,,DSA是在专用性和通用性上找到了一个平衡,针对某一类场景所需要的算法所设计,可以提供在性能、成本、功耗上满足需求的优质方案,又具备一定的通用性保证了芯片足够大的市场需求范围。

成立四年多来,时擎科技已经基于领域专用架构(DSA),围绕各类端侧智能应用场景,打造了DSA处理器、部署开发工具、端侧AI算法三位一体、紧密融合的全栈技术方案。团队的研发能力和在售产品都获得了市场的较好认可,公司2022全年销售额也有望超过七千万元。。

边端侧AI的优势和落地难题

相对于云计算,边端侧有它的独特优势。具体来说,边缘AI允许设备在本地进行AI计算和决策,不需要连接到互联网才能实现数据处理。因此它具备实时性好、带宽资源要求低、隐私性好等诸多特点,因此在很多场景中边缘AI比云端AI更好的解决实际的问题。这也是为什么近些年边端侧AI越来越多的被看好。

实际上,边端侧AI是相对于云来说的,终端侧比较好理解,边缘侧AI可以怎么理解呢?很多时候,边和端是相对而言。举一个典型场景的列子,在监控的时候,很多之前部署的摄像头都不带本地AI能力,那是不是就只能将采集的信息上传至云端进行处理呢,答案是否定的。我们可以通过在这云端之间架设所谓的边缘服务器,从而实现对这些视频采集的信息更接近数据端的分析处理。

事实上很多场景都是如此,比如公司、小区内的视频监控,都可以通过边缘服务器对这个小区域里的视频进行分析处理,相对于云端来说,它直接部署在本地,从拓扑结构上来看,这就是我们所说的边缘侧。一般而言,如果数据采集节点和传输至云端服务器中间的路径上所进行数据加工、处理、分析,则都可以称为边缘侧的处理。

虽然边端侧AI比较被看好,不过在实际落地应用中,还是有不少挑战。在于欣看来,这是由于客观条件决定的,很多边缘侧的需求,或者待分析的数据以及其背后的算法等,会存在较多的差异。

具体来看,无论是识别人、识别物体,还是工业应用中使用机器视觉做缺陷检测,虽然都是识别、检测,但实际在算法上的差异很大。从这个角度来看,就需要多种跟应用场景完全匹配的算法,没有一个通用的算法存在。每个场景都需要有针对性的算法,并不是说做好一个场景的一套算法,就可以把它轻易复制到别的场景,这是算法层面可复制性方面的挑战。

另外,不同场景应用的解决方案也不尽相同,如果是在云端,如GPU的通用计算方案是主流,而在边端侧,就不太一样,可能会有八仙过海各显神通的各种方案,比如时擎科技就是定制的领域专用架构DSA处理器从这个角度来看,无论是算法,还是硬件,很难存在一个特别通用的方案,而且边端场景往往对成本、功耗等方面有更加苛刻的要求,这就决定了需要去做算法和芯片的匹配,这是成为了边端侧AI复制推广的限制。

还有就是,一些AI的算法的训练需要很多数据,这也是人工智能不可或缺的一个环节,这也会给形形色色的边端侧AI应用带来更多困难。这些问题可以如何去解决呢?于欣认为,业界需要在算法、处理器、工具等上面形成整体的解决方案,针对一类应用场景提供解决方案,形成一定的复制性,而不是说每一个场景都要从零开始,某种可以解决边端侧AI应用场景过于碎片化的难题。

小结


从目前的发展势头来看,未来AI的应用将会无处不在,还有很大的发展空间和潜力。然而任何新兴技术在发展初期阶段,都会遇到各种各样的问题,AI也不例外。作为企业来说,如果能够不断地进行技术创新,解决发展过程中存在的难题,必然能够在特定的领域占据重要位置。对于时擎科技来说是如此,对于其他任何AI芯片企业来说,也是如此。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30072

    浏览量

    268339
  • DSA
    DSA
    +关注

    关注

    0

    文章

    48

    浏览量

    15123
收藏 人收藏

    评论

    相关推荐

    创星未来访谈|时擎科技:智能芯片领域的新锐力量

    本文转载自:长三角资本市场服务基地在半导体产业和人工智能产业的融合驱动作用下,AI芯片行业正进入发展“快车道”。由于设备大部分都有AI方面的需求,
    的头像 发表于 09-24 08:03 322次阅读
    创星未来访谈|时擎科技:<b class='flag-5'>端</b><b class='flag-5'>侧</b>智能芯片<b class='flag-5'>领域</b>的新锐力量

    奇异摩尔专用DSA加速解决方案重塑人工智能与高性能计算

    随着摩尔定律下的晶体管缩放速度放缓,单纯依靠增加晶体管密度的通用计算的边际效益不断递减,促使专用计算日益多样化,于是,针对特定计算任务的专用架构成为计算创新的焦点。
    的头像 发表于 09-19 11:45 585次阅读
    奇异摩尔<b class='flag-5'>专用</b><b class='flag-5'>DSA</b>加速解决方案重塑人工智能与高性能计算

    [言必信]变频器专用滤波器的特点

    ,对变频器产生的谐波进行有效抑制和消除。其基本结构通常包括输入滤波器、输出滤波器及直流滤波器,分别针对变频器的不同部位进行滤波处理。 输入滤波器:主要安装在变频器的电源输入,用于滤除电网进入
    发表于 09-15 09:42

    后摩智能引领AI芯片革命,推出大模型AI芯片M30

    的技术实力,推出了基于存算一体架构大模型AI芯片——后摩漫界™️M30,引领了AI芯片领域
    的头像 发表于 06-28 15:13 630次阅读

    降价潮背后:大模型落地门槛真的降了吗?

    以“繁、杂、”著称,大模型想要落地,绝非易事。如何在千头万绪中,找到一个切入点“下脚”?低代码,逐渐进入了各方视野。事实上,低代码自诞生以来,一直因其应用场景
    的头像 发表于 06-13 08:04 275次阅读
    降价潮背后:大模型<b class='flag-5'>落地</b>门槛真的降了吗?

    通用专用集成电路区分标准 专用集成电路、通用集成电路的特点有哪些

    通用专用集成电路(IC)是在电子领域中常见的两种类型的电路。它们之间的区别主要体现在其设计、应用和特点方面。本文将详细探讨通用
    的头像 发表于 05-04 17:06 2042次阅读

    专用集成电路技术有哪些特点 专用集成电路技术有哪些类型

    Purpose Integrated Circuit,GPIC),专用集成电路在特定应用领域中具有独特的特点和类型。 一、特点: 定制化设计:专用集成电路是根据特定应用的需求进行定制化设计,与
    的头像 发表于 05-04 17:02 1774次阅读

    专用集成电路技术是什么技术 通用专用集成电路区别

    (General-Purpose Integrated Circuit)相比,专用集成电路通过优化特定应用的硬件和软件设计,能够提供更高的性能、更低的功耗和更高的可靠通用集成电路是为满足各种应用需求而设计的电路
    的头像 发表于 04-21 16:55 1188次阅读

    专用集成电路都是大规模的吗为什么呢

    专用集成电路(Application Specific Integrated Circuit,ASIC)是根据特定应用领域的需求而设计和定制的集成电路。与通用集成电路相比,专用集成电路
    的头像 发表于 04-21 09:15 487次阅读

    专用集成电路和通用有哪些区别

    专用集成电路(ASIC)和通用集成电路(ASIC)是两种不同类型的集成电路,它们在设计和用途上有很大的不同。以下是专用集成电路和通用集成电路之间
    的头像 发表于 04-19 15:28 687次阅读

    专用集成电路都是大规模的吗

    专用集成电路(Application Specific Integrated Circuit,简称ASIC)是一种针对特定应用设计和制造的集成电路。与通用集成电路(General Purpose
    的头像 发表于 04-19 14:39 434次阅读

    专用集成电路都是大规模的吗对吗

    。与通用型集成电路(General Purpose Integrated Circuit,简称GPIC)相比,专用集成电路在特定的应用领域中更为专注和高效。在关于专用集成电路是否都是大
    的头像 发表于 04-14 10:45 464次阅读

    专用集成电路 通用集成电路有哪些

    Integrated Circuit,简称GPIC)相比,专用集成电路具有更高的功能和性能。在本文中,我们将详细讨论专用集成电路和通用集成电路,并介绍它们的不同类型和应用
    的头像 发表于 04-14 10:41 667次阅读

    通用专用集成电路分类标准

    通用专用集成电路是电子领域中常见的两种类型的集成电路。它们在设计、功能和应用方面有很大的差异。本文将详细介绍通用专用集成电路的定义、特点
    的头像 发表于 04-14 10:37 947次阅读

    专用集成电路是什么电路 专用集成电路和通用有哪些不同

    的,可以满足特定应用场景下的要求。相对于通用集成电路的广泛适应专用集成电路能够实现更高的性能和更低的功耗。 高度
    的头像 发表于 04-14 10:24 631次阅读