0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

边缘AI“金矿”:PC的智能和感知,Lattice sensAI有了新方案

花茶晶晶 来源:电子发烧友网 作者:黄晶晶 2021-11-26 10:14 次阅读

电子发烧友网报道(文/黄晶晶)ABI研究数据表明,预计到2024年设备端的AI推理功能将覆盖近60%的设备。要实现边缘AI推理,FPGA具有自身的优势。为此,莱迪思Lattice已经发布了系列面向边缘计算的FPGA硬件和设计软件解决方案,针对边缘智能的莱迪思sensAI也更新到了4.1版本。最近,莱迪思半导体亚太区资深市场开拓经理林国松,就莱迪思最新的AI创新路线以及针对最新一代Lattice sensAI解决方案集合,包括如何轻松部署AI/ML应用及性能增强和新增的应用场景等进行了详细分享。

Lattice不断强化FPGA用于边缘AI的优势


由于网络边缘端对功耗的敏感度,以及对尺寸大小的严格要求,小封装和低功耗的FPGA是非常合适的选择,这也给了以低功耗著称的莱迪思以拓展边缘AI应用的巨大市场机会。据介绍,过去四年,莱迪思的总出货量达到10亿片以上,以出货量来看位列全球第一。

林国松表示,Lattice的网络边缘AI可以实现从一毫瓦到低于一瓦的低功耗范围,同时,我们有灵活的计算资源,FPGA可以做预处理、后处理、图像处理、滤波以及性能拓展等等。
此外,LatticeFPGA内嵌的安全功能区域,可以实现更安全的使用场景。

FPGA的硬件编程最大的特点还是实现加速和机器算法。由于AI的算法灵活多变、推陈出新,专用芯片的成本、功耗是不太可承受的,因此FPGA相对来说更适合来实现AI的计算。FPGA可以配合AI技术随时为用户提供最佳体验。

从2012到2021年,AI分类模型创新的数量逐年递增。此次Lattice新推出的sensAI 4.1将增加支持CetusPro-NX器件。该器件具有更高的容量,计算能力和功效也得到提高。Lattice推出了相应的开发板,即声音和视觉机器学习板,提供支持这颗芯片的CNN Plus加速器,以及相应的sensAI Studio。

在此基础上,还提供三个参考设计,即人员侦测、注意力追踪和目标分类。同时,在智能家居、智慧城市、工厂、智能汽车等方面也可提供相对应的设计服务。



林国松解析,Lattice的一个训练设计方法是,通过标准的Caffe、TensorFlowTensorFlowLite、Keras等常用训练网络训练完之后,再通过Lattice提供的神经网络编译器,编译成相对应的可执行指令,这些指令最终会由Lattice的芯片所调取使用。

在硬件优化的设计方案中,可以看到,将AI的设计方案通过Lattice Radiant和DIAMOND结合之后,产生FPGA比特流,然后再把训练后的模型录进来,这样产生一个类似于中央处理器的功能,而这里产生的量化的权重和指令更多指向于执行的代码,这两个结合之后,可以产生一个AI的体验项目。



在软件优化的设计方案中,Lattice专门提供了一个PROPEL软件,便于大家对于整个内部结果的控制,能够进行类似于C代码的控制,而不是使用比较难以上手的FPGA的开发代码,这样的代码便于初学者调用基本的指令进行控制。


最新推出的Lattice sensAI Studio,是为了解决训练环境的应用场景应用软件更新快,软件和软件之间的兼容性难题。Lattice提供的软件预安装到Container里,然后客户只需要把这个Container直接移植到他们的电脑上,就可以在这个Container上执行相对应的训练,这样就帮客户省去很多的精力和时间来配置电脑。

Lattice sensAI迎接下一代智能PC


PC是日间工作的最主要工具,下一代PC将聚焦在智能和感知,强大的协作能力和轻薄外形等方面。

LatticesensAI的智能和感知AI解决方案提供了用户检测、注意力追踪、旁观者检测及面部取景功能。通过注意力追踪可以延长电池寿命;旁观者检测可以模糊屏幕、保护用户隐私数据,而面部取景也是很多协作式会议所需的场景。



与使用CPU来驱动AI应用的设备相比,采用sensAI开发,并在莱迪思FPGA上运行的AI计算设备的电池使用时间延长了28%。sensAI还支持现场软件更新,从而保持AI算法的演进,还能让OEM厂商灵活选择不同的传感器和SoC技术来适配他们的设备。



ASIC相比,CrossLink-NX在性能和效率上都更加强劲。



值得一提的是,LatticesensAI符合道德和合理的AI设计考量。使用Lattice sensAI可以不把图像传给电脑,直接在硬件上处理。在常规的方式下,人脸信息置于后台应用,用户图像信息有被侵害风险。而通过Lattice sensAI只会传出一个结果,而不会传输图像,因此能够防止用户的肖像权受到侵害。

此外,LatticesensAI设计使用多个公共数据集验证模型,在系统用户体验验证,覆盖典型的使用场景。同时LatticesensAI专注于用户体验,针对不同的复杂场景进行压力测试,包括灯光、场景及用户面部和头部穿戴的变化等,从而达到更佳的体验。

将Lattice的智能和感知解决方案应用于新一代的PC,需要OEM、芯片厂商、操作系统、软件厂商等生态合作伙伴的通力合作,Lattice也在大力推动这一进程。


小结:

Lattice的超低功耗iCE器件、ECP5器件、Certus和CrossLink-NX器件,包括CetusPro-NX器件,这四类FPGA器件都可以部署sensAI和提供sensAI所需的CNN引擎IP。据了解,除了PC这个典型场景外,Lattice也在积极构建全新的面向AI场景的汽车解决方案。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1629

    文章

    21729

    浏览量

    603044
  • PC
    PC
    +关注

    关注

    9

    文章

    2078

    浏览量

    154156
  • 莱迪思
    +关注

    关注

    2

    文章

    229

    浏览量

    39112
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268909
收藏 人收藏

    评论

    相关推荐

    面向未来的智能视觉参考设计与汽车架构,思尔芯提供基于Arm技术的创新方案

    的变革,软件定义汽车时代使得车辆软件和电子电气(E/E)架构设计需重新思考。作为Arm的长期合作伙伴, 思尔芯 全程参与2024 Arm Tech Symposia在亚太的年度技术大会并带来了基于Arm技术在这两个领域的创新方案,赋能芯片设计,加速产业创新。
    发表于 11-21 10:23 124次阅读
    面向未来的<b class='flag-5'>智能</b>视觉参考设计与汽车架构,思尔芯提供基于Arm技术的创<b class='flag-5'>新方案</b>

    面向汽车T-BOX与域控制器的HIL测试新方案

    电子发烧友网站提供《面向汽车T-BOX与域控制器的HIL测试新方案.pdf》资料免费下载
    发表于 10-28 10:55 2次下载

    中兴通讯展示创新方案与实践成果

    2024 MWC 上海在上海新国际博览中心正式召开,中兴通讯以“未来进行时”为主题全面呈现在连接、算力、产业数字化、终端等方面的创新方案与实践成果。
    的头像 发表于 10-15 10:15 515次阅读

    河南移动与中兴通讯联合发布5G-A×AI六大创新方案

    在2024年中国移动合作伙伴大会期间,河南移动携手中兴通讯于10月13日共同举办了以“豫见5G-A×AI, 移路同兴启新篇”为主题的创新成果发布会。此次发布会成功推出了六大创新方案,这些方案深度融合
    的头像 发表于 10-14 16:16 580次阅读

    紧凑型FPGA解决方案将赢得边缘AI领域中的市场机会

    随着大模型的快速发展,人工智能正在改变嵌入式硬件系统。AI处理重心向边缘转移,已经是行业共识。各类端侧AI应用,也已开始竞相布局。边缘
    的头像 发表于 09-12 08:02 607次阅读
    紧凑型FPGA解决<b class='flag-5'>方案</b>将赢得<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>领域中的市场机会

    鼎阳科技展示嵌入式测量技术创新方案

    日前,备受瞩目的embedded world China上海国际嵌入式展在上海世博展览馆隆重举行。本次展会为业界带来了一场嵌入式技术的盛宴,吸引众多行业精英和观众的目光。作为电子测试测量仪器行业的领军企业,鼎阳科技受邀参展,并在此次盛会上精彩亮相,展出了多款具有里程碑意义的新品及创
    的头像 发表于 08-29 14:23 415次阅读

    【HZHY-AI300G智能盒试用连载体验】基建智慧工地物联边缘代理技术研究及应用

    首先,要感谢电子发烧友论坛和北京合众恒跃科技有限公司提供的样机——HZHY-AI300G工业级国产化智能盒,为本项目提供比较完美的测试基础样机。该款智能盒采用RK3588工业级SoC
    发表于 07-16 17:14

    MWCS 2024 | 广和通荣获边缘AI计算最佳创新方案

    2024世界移动通信大会·上海(MWCS 2024)期间,广和通端侧AI解决方案凭借卓越特性与极具潜力的商业价值斩获2024信息通信业“新质推荐”——边缘AI计算最佳创
    的头像 发表于 06-28 18:22 306次阅读
    MWCS 2024 | 广和通荣获<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>计算最佳创<b class='flag-5'>新方案</b>

    MWCS 2024 广和通荣获边缘AI计算最佳创新方案

    2024世界移动通信大会·上海(MWCS 2024)期间,广和通端侧AI解决方案凭借卓越特性与极具潜力的商业价值斩获2024信息通信业“新质推荐”——边缘AI计算最佳创
    的头像 发表于 06-28 18:21 851次阅读
    MWCS 2024  广和通荣获<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>计算最佳创<b class='flag-5'>新方案</b>

    广和通端侧AI解决方案荣膺MWCS 2024边缘AI计算最佳创新奖

    在近日举行的2024世界移动通信大会·上海(MWCS 2024)上,广和通凭借其卓越的端侧AI解决方案荣获2024信息通信业“新质推荐”——边缘AI计算最佳创
    的头像 发表于 06-28 15:44 747次阅读

    康佳电视携手华为,展示基于OpenHarmony的鸿鹄媒体创新方案

    在科技日新月异的今天,电视作为家庭娱乐的中心,正经历着前所未有的变革。6月24日,华为开发者大会上一项引人瞩目的创新技术吸引众多目光——康佳电视展示的基于OpenHarmony Standard层级的鸿鹄媒体创新方案,标志着智能
    的头像 发表于 06-24 17:17 1758次阅读

    耐能推出最新的边缘AI服务器及内置耐能AI芯片的PC设备

    - 耐能的边缘 AI 服务器 KNEO 330 为中小企业带来 30-40% 的成本节省,同兼顾隐私和安全性。- 耐能的边缘 GPT AI 芯片 KL830 可完全应用于
    的头像 发表于 06-05 10:21 614次阅读

    ai边缘盒子哪些用途?ai视频分析边缘计算盒子详解

    的解决方案AI边缘盒子的主要用途在于利用边缘计算和人工智能技术,在数据产生源头附近即时处理数据,提供低延迟和高响应性能。例如,在智慧工地上
    的头像 发表于 05-29 14:24 971次阅读
    <b class='flag-5'>ai</b><b class='flag-5'>边缘</b>盒子<b class='flag-5'>有</b>哪些用途?<b class='flag-5'>ai</b>视频分析<b class='flag-5'>边缘</b>计算盒子详解

    什么是AI边缘计算,AI边缘计算的特点和优势介绍

    随着人工智能的迅猛发展,AI边缘计算成为了热门话题。那么什么是AI边缘计算呢?简单来说,它是将人工智能
    的头像 发表于 02-01 11:42 883次阅读

    AI PC是什么?如何变革PC产业(2023)

    AI PC整合轻量化AI模型,将实现各种生成式AI应用的离线稳态运行。作为设备、边缘计算和云技
    的头像 发表于 12-27 17:37 1509次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>是什么?如何变革<b class='flag-5'>PC</b>产业(2023)