0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云知声李霄寒解读面向物联网的 AI 芯片的应用

云知声 来源:djl 作者:云知声 2019-08-08 11:51 次阅读

人工智能物联网技术和应用在过去几年飞速发展,诞生了大量的创新,为人们的生活和工作带来了前所未有的体验和可能性。当前我们正在历经一个以人工智能和物联网为核心的全新科技浪潮,它将在不久的未来见证数以万亿计的智能设备的互联。 ARM 作为全球内唯一一个能够覆盖从端到云的计算架构,无疑将在万亿智能物联时代扮演赋能者角色。

10 月24 日,2018 ARM 技术研讨会在北京成功召开。今年大会主题为“ ARM 助力 创新科技”,作为 ARM 重要的生态合作伙伴,云知声副总裁李霄寒博士受邀出席大会并发表《面向物联网的 AI 芯片的设计与思考》主题演讲。

云知声和 ARM 有诸多合作的地方,今年五月,云知声正式推出基于 ARM 通用核的全球首款面向物联网的 AI芯片——UniOne。本次研讨会现场,李霄寒博士结合云知声公司实际情况向在场行业人士详细解读了 UniOne 芯片的设计思路以及芯片系统方案特点,同时探讨了物联网 AI 芯片的未来应用及发展趋势。

云知声的物联网 AI 落地历程

作为国内顶级的语音方案供应商,云知声从 2012 年创始至今,一直致力于将人与机器的语音交互能力从晦涩的机器算法,逐步封装成可以调用的产品,并且落地到大众消费的场景中。

云知声创造过不少行业先例,包括推出国内首家免费的语音云平台、首个实现 IVM (智能硬件模组)在白电领域大规模出货的 AI 公司、国内首家提出医疗语音系统解方案并拥有最多合作医院的公司,以及发布首款面向物联网的 AI 系列芯片 UniOne 。

李霄寒博士用“从算法到芯片”概括了云知声公司的发展历程:

2012 年-2013年,云知声创立之初,移动互联网方兴未艾之际,云知声主要通过纯软件方案(如语音助手 APP 、公有云平台)向行业提供服务;

2014 年-2015 年,伴随物联网的兴起及发展,对于 AI 的需求逐渐显现,云知声开始探索基于通用芯片面向物联网和行业的软硬件一体化方案,在此期间公司正式确立了“云端芯”的产品及商业战略;

2016 年,云知声 AI 芯片1.0版本——IVM 模组在格力空调产品上量产出货,医疗产品正式登陆北京协和医院。随后,搭载云知声技术方案的产品陆续在车载、教育、机器人等多领域落地。

李霄寒透露,面向不同行业提供服务,一方面打磨了云知声的技术能力,同时也让团队更加深入地了解场景。更为重要的是,在服务不同客户的过程中,建设了云知声的芯片设计能力,让云知声坚定了自主设计 AI 芯片,基于专有芯片面向物联网行业提供服务的决心。

从 IVM 到基于 ARM 核的 AI 芯

人机交互系统的更迭引发新一轮产业变革,语音已成为设备交互的最有效和最自然的方式。李霄寒指出,物联网终端设备对于语音、图像等本体交互具有天然需求,这是云知声选择从语音切入物联网的根本原因。

他认为,要实现物联网的智能化改造,意味着设备必须具备“感知、表达、思考”三个关键能力。

智能音箱为例,首先它需要通过声源定位、远场降噪、唤醒/识别、本地识别、云端识别,听懂人声蕴藏的信息。在感知的基础上,进而通过语音、图像或其他形象化的方式将内容或信息传达给用户。不仅于此,设备仍需通过“云”深入理解用户意图,并结合多终端信息融合和决策、知识图谱以及云端能力,将用户需要的内容和信息通过恰当的渠道反馈给用户。

而要让物联网终端设备具备“感知、表达、思考”三方面基础能力,则必须有硬件载体。李霄寒介绍道,在 UniOne 芯片推出之前,云知声主要是基于通用芯片以模组( IVM )的方式来为家居、机器人等行业客户服务。 IVM 是一个多芯片方案,上面必须运行专用的 DSP 以解决降噪的问题,另需配备专门芯片来实现语音识别、唤醒等功能,方案臃肿且成本高企。

他指出,虽然 IVM 量产后的实际反馈相当不错,但对于业务的长足发展却并非最佳选择,挑战主要体现在以下几个方面:

边缘算力需求

物联网终端设备的语音交互过程中,当所有的计算被放到云端时,声学计算的部分将对云端计算造成较大压力,容易造成云平台成本的增加和计算延迟。与此同时,在如家电、车载、NB-IoT 等诸多特殊场景下,人机交互完全可在无网状态完成。同样以智能音箱为例,在真正的物联网场景下,它需要精准判断用户下达的是如“问天气、听音乐”等需要联网支持的指令,还是像“打开空调、增加温度”等可在本地完成的需求。不论从客户体验还是成本控制等方面考量,都要求在设备端实现“边缘计算”能力,而 IVM 显然无法胜任。

成本的挑战

在硬件尤其是家电行业,有一个约定俗成的说法,“成本每增加 1 块钱,用户需要多花 5 块钱买单”。对于以冰箱、空调等产品而言,如搭载云知声 IVM 方案,要消化掉因智能化升级的方案成本,则产品售价有可能需要增加 500 元以上,对于大众消费价格段的产品而言根本无法接受,因此 IVM 只能覆盖小部分高端产品。如果想从金字塔尖下沉到更多的产品上,必须解决成本问题。

功耗的挑战

不同的硬件设备尤其是白电产品有着严格的国家及企业级功耗标准,低功耗不仅是芯片制造的事,更涉及场景、应用、算法。 IVM 模组的方式冗杂的架构,无法在功耗方面做到最优,显然不是最佳选择。

“基于从业务层面所看到的挑战,以及对势于未来趋的预判,2015 年云知声正式踏上造芯之路。”李霄寒表示。

云知声 UniOne 芯片采用了ARM 核心,同时自行设计了 DeepNet 和 uDSP 等专为深度神经网络和适量计算加速的硬件单元。相较于通用芯片,在 DSP 任务加速、miniNLP 任务加速、TTS 任务加速、内存带宽利用效率、NN 任务提升等核心指标,都能带来成倍数的提升。

李霄寒指出,之所以选择 AMR ,是因为后者拥有非常全面、成熟的 IP ,可以满足云知声这类初创公司对于性能、功耗、成本的极致平衡;其次,云知声在 AI 芯片设计之初便确定了开源的模式,即排除核心引擎之外其他应用层均可供产品商、方案商灵活设计, ARM 提供了非常好的开发生态。

新局面下物联网 AI 芯片的挑战与机遇

当前,物联网 AI 芯片边缘侧相关软硬件基础架构正在走向标准化,具体表现为网络模型标准化、 IR 标准化、IP 同质化。具体表现为:

物联网AI 芯片主流应用场景所需要的网络模型已经阶段性稳定,IP 的演化路径将逐渐走向固化;

NNVM,ONNX 等不同模型在编译链的支持下可以运行在同样的架构上,IR 的标准化意味着行业分工的完成;

MAC(计算单元)的堆叠成为计算密度提升的主流手段,当前计算密度的提升对芯片产品尤其是系统的差异化影响日渐式微,标志着精细化耕作势在必行。

李霄寒认为,上述的挑战将会给AI 芯片公司带来一定程度的困扰,但挑战的同时也意味着更多的机遇。他预测, AI 芯片创业公司未来的竞争将主要集中在系统层面,即基于对不同场景的理解,从提供单一的 AI 芯片到提供完整的 AI 解决方案。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 物联网
    +关注

    关注

    2914

    文章

    45054

    浏览量

    378413
  • 人工智能
    +关注

    关注

    1799

    文章

    47959

    浏览量

    241186
  • 智能硬件
    +关注

    关注

    205

    文章

    2352

    浏览量

    108090
收藏 人收藏

    相关推荐

    兽牙AI与DeepSeek完成深度融合

    近日,兽牙AI智能体管理平台与DeepSeek完成深度融合,通过技术融合与生态共建,为企业提供更高效、灵活、低成本的智能服务解决方案,进一步巩固“数字员工”的核心竞争力!
    的头像 发表于 02-08 18:00 480次阅读

    荣耀斩获四项年度大奖

    岁末年初,不仅是时间流转的标志,更是万更新、梦想扬帆的新篇章。在这个交织着希望与挑战的关键时刻,凭借其在人工智能领域的卓越成就和深厚技术积淀,荣耀斩获四项年度大奖。这不仅是对
    的头像 发表于 01-07 16:06 183次阅读

    近期斩获多项年度大奖

    在科技迅猛发展的当下,人工智能(AI)已成为推动各行业革新的核心动力。,以其卓越的技术实力和敏锐的市场洞察,在AI领域中脱颖而出,成为
    的头像 发表于 12-24 10:26 266次阅读

    与英内联签署战略合作协议 探索基于山海大模型的多元智慧场景

    ‍‍ 12月6日,(上海)智能科技有限公司(以下简称““)与上海英内
    的头像 发表于 12-06 20:05 957次阅读
    <b class='flag-5'>云</b><b class='flag-5'>知</b><b class='flag-5'>声</b>与英内<b class='flag-5'>物</b>联签署战略合作协议 探索基于<b class='flag-5'>云</b><b class='flag-5'>知</b><b class='flag-5'>声</b>山海大模型的多元智慧场景

    与上海仪电联签署战略合作协议

    近日,(上海)智能科技有限公司(以下简称“”)与上海仪电
    的头像 发表于 11-29 18:02 491次阅读

    与国信领英签署战略合作协议

    智能科技股份有限公司(以下简称“”)与苏州国信领英教育科技有限公司(以下简称“国信领
    的头像 发表于 10-12 14:16 440次阅读

    受邀为“山河联盟”作专题授课

    济南超算数字经济生态创新圈举办了以“AIGC行业的全景与趋势”为主题的第五期“山河讲堂”,邀请联合创始人、副总裁
    的头像 发表于 09-12 14:42 548次阅读

    携手耘途教育成立学院福建分院

    近日,与耘途教育携手,共同成立了学院福建分院,此举标志着双方在智慧教育领域展开了深度合作。根据合作协议,
    的头像 发表于 05-13 10:38 498次阅读

    携手耘途教育成立学院福建分院,探索智慧教育新思路

    近日,与耘途教育联合成立学院福建分院,深入探索智慧教育新模式、新思路。
    的头像 发表于 05-11 15:52 623次阅读
    <b class='flag-5'>云</b><b class='flag-5'>知</b><b class='flag-5'>声</b>携手耘途教育成立<b class='flag-5'>云</b><b class='flag-5'>知</b>学院福建分院,探索智慧教育新思路

    携山海大模型再赴港IPO

    智能科技股份有限公司(简称“”)于3月15日更新了招股书,继续其在港交所主板上市的步
    的头像 发表于 03-22 14:51 792次阅读

    推进港交所主板上市进程

    近日,智能科技股份有限公司(以下简称“”)再次更新招股书,继续其在港交所主板上市的征
    的头像 发表于 03-22 14:45 1156次阅读

    再闯港股IPO

    近日,备受瞩目的智能科技股份有限公司(以下简称)再次更新了其招股书,继续稳步推进其在
    的头像 发表于 03-22 14:42 779次阅读

    推进港股IPO!AI解决方案收入排名中国第四,2023年营收破7亿

    于2012年,当时国内的AI产业刚刚萌芽,它率先开启AGI技术商业化。在成立仅三个月后,便发布了语音识别公有,在
    的头像 发表于 03-22 00:12 3799次阅读
    <b class='flag-5'>云</b><b class='flag-5'>知</b><b class='flag-5'>声</b>推进港股IPO!<b class='flag-5'>AI</b>解决方案收入排名中国第四,2023年营收破7亿

    再闯港股IPO,深耕AI领域

    近日,智能科技股份有限公司(简称:)正式向港交所递交了招股书,计划主板IPO上市。这
    的头像 发表于 03-19 15:36 920次阅读

    再次冲刺港交所上市

    备受瞩目的“AI语音第一股”智能科技股份有限公司(简称“
    的头像 发表于 03-19 14:59 1006次阅读