0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

泛AI时代,中低端FPGA成为边缘重要部署组件

Felix分析 来源:电子发烧友 作者:吴子鹏 2024-03-21 00:10 次阅读

电子发烧友网报道(文/吴子鹏)当前,行业对于AI人工智能芯片的关注都集中在GPU或专用AI加速器芯片(如NPU和TPU)上。不过,AI实际上并不局限于大算力的高性能运算,部署到终端的AI同样有巨大的市场空间,因而有相当多的组件可以运行AI负载,包括在嵌入式领域广泛应用的FPGA

在2024年莱迪思(Lattice)客户技术交流大会上,莱迪思半导体首席战略与营销官Esam Elashmawi表示,莱迪思是全球FPGA出货量最大的公司,很早就布局AI市场。2021年莱迪思专门收购了一家AI软件公司Mirametrix。2023年,莱迪思在AI方面的收入已经超过了1亿美金。

wKgZomX6tqeAV564AAzeiJ5yqcM575.png
莱迪思半导体首席战略与营销官Esam Elashmawi

FPGA之于AI

对于了解FPGA灵活性和可编程性的人来说,基于FPGA实现AI是一件顺理成章的事情。FPGA器件一个重要的特点就是可编程特性,也就是灵活性,那么开发人员可以借助FPGA创建多个并行计算流水线,并分配存储块,从而优化数据传输。

FPGA的灵活性让其能够适配大量的AI算法,无论是计算还是控制,都可以根据算法需要提供相关的功能。以神经网络为例,其基本原理是通过多个神经元之间的连接进行信息传递和处理,从而实现算法的计算和输出。而神经网络也可以转化为FPGA可编程电路的形式,并可以根据算法需要调整硬件配置。

话虽如此,不过由于FPGA具有一定的设计门槛,所以还是需要FPGA厂商提供一些帮助。Esam Elashmawi指出,莱迪思目前拥有有史以来最强大的产品组合,会继续投资并推出新一代的较小型FPGA和中端FPGA,也将继续在软件工具和解决方案上投入更多资源。

在莱迪思官网可以看到,该公司所提供的强大产品组合包括功能全面的莱迪思sensAI。莱迪思sensAI提供评估、开发和部署基于FPGA的机器学习和人工智能解决方案所需的一切——模块化硬件平台、演示示例、参考设计、神经网络IP核、软件开发工具和定制设计服务。

在演示示例中,通过将内置摄像头与在莱迪思行业领先的低功耗FPGA上运行的机器学习模型相结合,莱迪思sensAI智能视觉传感技术可以追踪用户在使用设备时的注意力,让PC更加智能,更好地感知周围环境。还有一个示例是,通过在屏幕上弹出警示或自动打开屏幕隐私设置,莱迪思sensAI视觉传感技术可以防止黑客偷窥,保护PC用户安全。

因此,通过莱迪思sensAI工具加上该公司丰富的FPGA产品,能够快速构建终端类型的AI应用,有助于帮助开发人员抢占市场先机。

莱迪思Avant FPGA平台

莱迪思亚太区应用工程高级总监Frank Xie在演讲中谈到,莱迪思在性能、功率和连接性方面做得更好。而客户正在寻找的是实时响应的产品,因为边缘上的AI设备非常接近数据收集。莱迪思帮助客户持续优化响应时间和功耗,让他们实现更好的AI功能。

那么,这个更好方案基于怎样的平台呢?答案是莱迪思Avant FPGA平台。

2022年底,莱迪思发布低功耗中端Avant FPGA平台,是该公司进入中端FPGA市场的标志性事件,和Nexus FPGA平台一起组成莱迪思“史上最强产品组合”。

Esam Elashmawi指出,和Nexus FPGA平台相比,Avant FPGA平台容量提升5倍,达到500K逻辑单元,带宽提升10倍,计算性能提升30倍。根据介绍信息,Avant基于16nm FinFET平台,提供强大的25 Gb/s SERDES、硬核PCI Express和外部存储器PHY接口,以及适用于最新AI/ML和计算机视觉算法的大量DSP

和竞争对手的FPGA产品相比,莱迪思Avant是功耗更低、带宽更高、体积更小的方案。其中,Avant-E FPGA旨在解决客户在网络边缘面临的一些关键挑战,拥有低功耗、小尺寸和高性能,以及针对数据处理和AI等网络边缘应用量身定制的优化功能集。

Avant-G是针对中端应用的通用型FPGA,旨在通过提供无缝、灵活的接口桥接和优化的计算来实现系统可扩展性,满足更广泛的客户需求。莱迪思Avant-G器件提供领先的信号处理、AI和灵活的I/O——支持一系列系统接口,同时提供2400 Mbps的专用LPDDR4存储器接口。

Avant-X高级互连FPGA旨在实现高带宽和安全性,其功能集可根据客户对信号聚合和高吞吐量的需求量身定制。莱迪思Avant-X器件提供最高1 T/s的总系统带宽、带硬核DMA的PCIe Gen 4控制器,以及用于加密动态用户数据的安全引擎,提供量子安全加密功能。

有了更出色的FPGA平台加上全面的工具支持,开发人员可以非常便利地基于莱迪思FPGA实现自己的AI创新。当然,面向通信、自动化、机器学习、计算(包括服务器和存储)、汽车(激光雷达、娱乐系统、控制单元)和消费电子等领域也是同样的道理。

莱迪思亚太区应用工程高级总监Frank Xie称,未来莱迪思将持续加码AI创新。他在谈到未来规划时说:“莱迪思也在开发未来的AI应用,这是与硬件、软件一起出现的。目前我们看到的工业发展趋势是传感器到云的连接。传感器有不同种类的接口,意味着我们需要满足不同的接口要求。由于我们的服务是多协议支持,可以调整我们的服务协议,为客户提供各种不同的工业连接标准。”

写在最后

在2024年莱迪思客户技术交流大会上,莱迪思展示了其强大的FPGA合作生态系统,包括丰富的FPGA产品,以及全面的软件、开发套件资源。同时,该公司庞大的用户群基础也为莱迪思后续产品创新带来了源源不断的创新灵感和创新需求。

Esam Elashmawi表示,莱迪思在低功耗FPGA领域深耕超过40年,自2018年以来合作伙伴生态系统扩展了5倍,更多的公司为莱迪思构建软件知识产权(IP),也有越来越多的其他半导体公司参与到莱迪思生态系统。目前,莱迪思为全球10000+ 客户提供服务。

面向未来,我们今天重点谈论的AI当然是莱迪思的重点发展方向之一。同时,莱迪思也透露了该公司后续产品迭代的方向,包括低功耗、先进且灵活的连接性以及针对新兴应用优化的计算能力。此外,安全性是始终贯穿其中的,在量子计算等新技术层出不穷的情况下,安全防护会愈发重要。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1629

    文章

    21736

    浏览量

    603245
  • 莱迪思
    +关注

    关注

    2

    文章

    229

    浏览量

    39113
收藏 人收藏

    评论

    相关推荐

    AI模型部署边缘设备的奇妙之旅:目标检测模型

    以及边缘计算能力的增强,越来越多的目标检测应用开始直接在靠近数据源的边缘设备上运行。这不仅减少了数据传输延迟,保护了用户隐私,同时也减轻了云端服务器的压力。然而,在边缘部署高效且准确
    发表于 12-19 14:33

    AI模型部署边缘设备的奇妙之旅:如何在边缘部署OpenCV

    边缘,通常与边缘检测相关联。 文件保存 cv2.imwrite() 将图像保存到磁盘。 目的:保存处理后的图像以便将来使用或分享。 此外,还有其他重要的OpenCV功能,如: 直方图均衡
    发表于 12-14 09:31

    AI模型部署边缘设备的奇妙之旅:如何实现手写数字识别

    系统的智能化水平,还极大地拓展了其应用范围, 使得嵌入式系统在智能家居、智能交通、智能医疗等领域有了更深层次的运用。AI技术的嵌入,已经成为未来嵌入式系统发展 的一个重要趋势。踏入边缘
    发表于 12-06 17:20

    后摩尔时代的创新:在米尔FPGA上实现Tiny YOLO V4,助力AIoT应用

    学习如何在MYIR的ZU3EGFPGA开发板上部署TinyYOLOv4,对比FPGA、GPU、CPU的性能,助力AIoT边缘计算应用。(文末有彩蛋)一、为什么选择
    的头像 发表于 11-22 01:00 722次阅读
    后摩尔<b class='flag-5'>时代</b>的创新:在米尔<b class='flag-5'>FPGA</b>上实现Tiny YOLO V4,助力AIoT应用

    Arm推出GitHub平台AI工具,简化开发者AI应用开发部署流程

    专为 GitHub Copilot 设计的 Arm 扩展程序,可加速从云到边缘侧基于 Arm 平台的开发。 Arm 原生运行器为部署云原生、Windows on Arm 以及云到边缘侧的
    的头像 发表于 10-31 18:51 2069次阅读

    大模型时代的算力需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的算力,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问
    发表于 08-20 09:04

    高通打破Android系统更新壁垒,提升中低端手机用户体验

    在智能手机市场日益成熟的今天,品牌间的竞争已不仅仅局限于硬件配置和外观设计,系统更新支持也逐渐成为消费者选择手机的重要考量因素。然而,尽管顶级和高端设备在Android系统更新上得到了较好的支持
    的头像 发表于 06-29 16:41 2134次阅读

    支持大模型部署和运行的边缘计算SoC芯片

    的处理器核心、AI加速器、内存控制器、外设接口以及通信接口等关键组件,旨在在数据产生的源头附近(即边缘)实现实时的数据处理、分析和决策。
    的头像 发表于 05-27 08:00 3420次阅读

    基于FPGA的实时边缘检测系统设计,Sobel图像边缘检测,FPGA图像处理

    摘要 :本文设计了一种 基于 FPGA 的实时边缘检测系统 ,使用OV5640 摄像头模块获取实时的视频图像数据,提取图像边缘信息并通过 VGA显示。FPGA 内部使用流水线设计和 并
    发表于 05-24 07:45

    Achronix的FPGA有何优势?为什么能挑战AMD在高端FPGA的地位?

    随着国产FPGA的崛起,中低端产品中,很多国产FPGA都是不错的选择,性价比很高。
    的头像 发表于 03-22 16:02 1648次阅读

    英特尔发布全新边缘计算平台,解决AI边缘落地难题

    2030年,至少一半的边缘计算部署将纳入AI。   英特尔全新商用边缘计算平台   英特尔认为,我们已经进入了AI无处不在的
    的头像 发表于 03-12 09:06 4336次阅读
    英特尔发布全新<b class='flag-5'>边缘</b>计算平台,解决<b class='flag-5'>AI</b><b class='flag-5'>边缘</b>落地难题

    什么是AI边缘计算,AI边缘计算的特点和优势介绍

    随着人工智能的迅猛发展,AI边缘计算成为了热门话题。那么什么是AI边缘计算呢?简单来说,它是将人工智能技术引入
    的头像 发表于 02-01 11:42 888次阅读

    国产FPGA介绍-上海安路

    扩张到逾200人,量产及在研产品覆盖高中低端,面向数据中心、AI、通信、工业控制、视频监控等领域。 此前安路科技量产的中等性能FPGA芯片成功进入LED显示屏控制卡市场和高清电视TCON控制卡市场,并
    发表于 01-24 10:46

    通用Tensilica软件堆栈提供最佳边缘AI性能

    开发敏捷的软件堆栈对 AI边缘侧的成功部署非常重要
    的头像 发表于 01-18 13:39 778次阅读
    通用Tensilica软件堆栈提供最佳<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>性能

    AI边缘计算机应用场景广泛!大语言模型与数字人结合方案在边缘侧落地

    。   当下,AI边缘侧的部署正在成为趋势,包括近年来备受瞩目的大语言模型,在边缘侧的应用也是业界探索的焦点,
    的头像 发表于 01-16 01:11 4439次阅读
    <b class='flag-5'>AI</b><b class='flag-5'>边缘</b>计算机应用场景广泛!大语言模型与数字人结合方案在<b class='flag-5'>边缘</b>侧落地