0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI终端应用中需要怎么选择最合适的闪存芯片

lPCU_elecfans 2021-12-09 17:06 次阅读

2016年3月,Google AlphaGo在与韩国九段棋手李世石进行的围棋比赛中,以4:1的绝对优势完胜;2018年底,Google AlphaStar与两位世界顶尖游戏玩家在《星际争霸(StartCraft II)》中展开对决,最终以两个5:0的成绩横扫对手。尽管早在1997年,IBM开发的计算机程序“深蓝”就战胜了当时的国际象棋特级大师加里·卡斯帕罗夫,但考虑到国际象棋的下法难度远远低于围棋,所以AlphaGo的胜利在某种程度上也被视作“AI时代的真正来临”。

AI的起源

1955年到1956年间,时任Dartmouth学院助理教授的John McCarthy,也是后来世界公认的AI教父,与来自哈佛大学的Marvin Minsky、IBM的Claude Shannon、以及美国贝尔实验室的Nathaniel Rochester,首次共同定义了“人工智能(AI)”的概念,即:

“如果任何的机器通过不一样的语言,就可以将抽象的事务或概念表达出来,并且通过这个抽象的概念去帮助人们解决现有的问题,或者是它本身可以通过自主学习不断地精进,我们就将其称之为AI。” 或者用更精炼的话语进行陈述,那就是:当任何机器的行为模式与人一样时,我们就称它是“智能(intelligent)”的。 如此宽泛的定义自然带来了与之对应的宽泛应用。除了下棋与游戏,在自动驾驶领域,美国部分地区已经开放了Level 4级别的测试,相信真正的Level 5级别自动驾驶也是指日可待,而要保障车辆和行人的安全,我们依赖的除了法律法规,还有AI算法开发者;而在IoT应用领域,传感、智能手机网络搜索、人脸/汽车牌照识别、智能表计、机器视觉工业控制……AI正变得无处不在,让工作和生活变得更加便捷与智慧。

IDC的统计数据显示,2020年到2021年间,全球AI服务的年复合增长率达到了17.4%,预计到2024年,这一数字将上升至18.4%,市值约为378亿美元。这其中包括了定制化的应用和针对定制化平台所提供的相关支持与服务,例如一些深度学习架构、卷积神经网络、与AI相关的芯片产品(CPUGPUFPGA、TPU、ASIC)等。

b3cc9b92-550e-11ec-b2e9-dac502259ad0.png

同样是来自IDC的数据,全球数据储存量将从2018年的33ZB猛增到2025年的175ZB,这其中超过50%都来自IoT设备。如果考虑到2025年,全球将会部署约140亿部IoT设备,那么我们似乎就应该大量地增加云端的计算单元数量与算力,才能应对海量的数据增长。 不过,事实并非如此,这一想法显然没有顾及到从终端到云端的数据传输链条中面临的带宽、时间延迟等事实性挑战,这也是为什么“边缘计算”能够得以迅速崛起的原因。 因为我们最终发现,随着IoT设备的快速增加,一味增加带宽和服务器数量的做法并非最优,不少应用完全可以在端侧设备中加以实现,而不必把所有数据都放到云端去进行处理和传输、存储和分析,这是不适合的。比如在工业自动化领域,数据存储距离一定要近才有效率;5G移动设备制造商如果不强化终端侧人工智能并进行计算-存储架构更改,将会遭遇严重的电池寿命问题。 隐私安全,是另一个值得我们重视的环节,尤其是在当前万物互联的时代,机密资料/数据外泄或是遭到黑客入侵的事件屡有发生。如果我们能让计算在边缘侧发生,节省“云-管-端”通路中数据传输的次数,那么,在确保数据和网络安全的同时,也降低了功耗和系统总拥有成本。

不同AI芯片的比较

众所周知,AI技术根据应用不同被分为“训练(Training)”和“推理(Inference)”两大类,前者主要在云端由CPU、GPU、TPU负责执行,目的是不断增加数据库资源以建立数据模型;后者则比较适合应用于边缘装置和特定应用,常由ASIC、FPGA类芯片进行处理,依托已经训练好的数据模型进行推理。

如前文所述,与AI相关的芯片产品包括CPU、GPU、FPGA、TPU、ASIC等多种类型。华邦电子闪存产品企划处黄仲宇从五个维度对上述不同的芯片类型进行了概略性的初步比较,包括算力(Computing)、软件灵活性(Flexibility)、硬件兼容性(Compatibility)、功耗(Power)和成本(Cost)。

01

CPU

CPU发展多年,运算能力强大,在软硬件兼容性方面首屈一指。但是,由于受到冯·诺伊曼架构的限制,数据需要在内存和处理器之间不断往复传输,所以限制了处理的平均速度、且在功耗和成本表现上相较其他方案不是最好的,处于折中的位置。

02

GPU

以Nvidia GPU为例,由于采用了“Compute Unifiled Device Architecture”架构,且自身计算单元数量众多,使得GPU不但能够任意读取内存的位置,而且还可通过虚拟内存的共用加速计算能力,尽管同样受到冯·诺伊曼架构的限制,但其平均算力超过CPU几十倍甚至上千倍。

GPU同样发展多年,软硬件兼容性好,但在功耗与成本表现上仍有改善空间,此外还须考虑硬件上的投资,如额外加装冷却系统以降低发热。

03

ASIC芯片

ASIC芯片是针对特定应用开发出来的产品,在经过验证调整之后运算能力、整体功耗和成本可以达到最佳水平。

04

FPGA

FPGA同样发展多年,软硬件兼容方面值得称赞,整体算力、成本和功耗即便不是最佳水平,但也不失为一个不错的折中解决方案,对开发者来说,从FPGA入手切入AI芯片开发是个不错的角度。

突破冯·诺依曼架构瓶颈

在传统计算设备广泛采用的冯·诺依曼架构中,计算和存储功能不但是分离的,而且更侧重于计算。数据在处理器和存储器之间不停的来回传输,消耗了约80%的时间和功耗。学术界为此想出了很多方法试图改变这种状况,例如通过光互连、2.5D/3D堆叠实现高带宽数据通信,或者通过增加缓存级数、高密度片上存储这样的近数据存储,来缓解访存延迟和高功耗。 但试想一下,人类大脑有计算和存储的区别吗?我们是用左半球来计算,右半球做存储的吗?显然不是,人脑本身的计算和存储都发生在同一个地方,不需要数据迁移。

因此,学术界和产业界都希望尽快找到一种与人脑结构类似的创新架构的想法就不足为奇了,最好是能够将存储和计算有机地结合在一起,直接利用存储单元进行计算,或者是将计算单元进行分类,使之对应不同的存储单元,最大程度的消除数据迁移所带来的功耗开销,“计算存储设备(Computational Storage Device)”的应用概念应运而生。

存储业界已有公司提出很值得借鉴的概念。NVM不只存储经过数模转换器之后产生的模拟信号,还可以将算力进行输出,而输入电压和输出电流则在NVM中扮演着可变电阻的角色,将模拟电流信号经过模数转换器变为数字信号,从而完成数字信号输入-数字信号输出的全过程。这一做法的最大优势在于它完全可以利用成熟的20/28nm CMOS工艺,而不用像CPU/GPU一样去追求7nm/5nm这样费用高昂的先进制程。 而伴随成本和功耗开销的降低,时间延迟特性也得到了显著提升,这对无人机、智能机器人、自动驾驶、安防监控等应用来说都是至关重要的。 总体来说,终端推理过程计算复杂度低,涉及的任务较为固定,对硬件加速功能的通用性要求不高,无需频繁变动架构,更适合存内计算的实现。相关数据显示,2017年之前,人工智能无论是训练还是推理基本都在云端完成,但到了2023年,在边缘侧设备/芯片上进行AI推理将占据该市场一半以上的份额,总额高达200-300亿美元,这对IC厂商来说是一个非常庞大的市场。

AI需要怎样的闪存?

相信没有人会反对高品质、高可靠性和低延迟闪存(Flash Memory)对AI芯片与应用的重要性。但黄仲宇提醒,面对不同的应用,需要从性能、功耗、安全、可靠性、高效能等多方面加以综合考量,相比之下,成本考量虽然相当重要,但相较之下不是第一优先的考虑因素,不能顾此失彼。 高性能OctalNAND Flash W35N、面向低功耗应用的W25NJW系列、与安全相关的W77Q/W75F系列安全闪存,是华邦最具代表性的产品,例如,华邦QspiNAND Flash的数据传输率大概是83MB每秒,而OctalNAND系列最快的速度可以达到240MB每秒,几乎是前者的3倍;在车载应用中,大量AG1 125C NOR系列和AG2+ 115C NAND系列Flash已经量产面世;而在智能传感器或是产线机器人应用方面,华邦电子则可以提供具备成本-高效能的解决方案,比如W25N/W29N NAND Flash系列。

b45c8ef0-550e-11ec-b2e9-dac502259ad0.png

除了各式各样的不同类型的Flash产品外,华邦SpiStack (NOR+NAND) 也很具特点。它将NOR芯片和NAND芯片堆叠到一个封装中,例如64MB Serial NOR和1Gb QspiNAND芯片堆叠,使设计人员可以灵活地将代码存储在NOR芯片中,并将数据存储在NAND芯片。此外,虽然是两个芯片(NOR+NAND)的堆栈,但单一封装的SpiStack,在使用上仅需6个信号引脚。

b48ec53c-550e-11ec-b2e9-dac502259ad0.png

“华邦可以提供不错的Flash选型来保护客户辛苦开发出来的代码模型。就像在一场篮球比赛中一样,芯片厂商扮演中锋或前锋,凭借强大的算力和算法不断得分,而华邦就像后卫,在后场提供高品质、高性能的Flash产品,确保用户在市场上不断得分。”黄仲宇表示。

原文标题:如何在AI终端应用中选择合适的闪存芯片

文章出处:【微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 闪存
    +关注

    关注

    16

    文章

    1786

    浏览量

    114905
  • NAND
    +关注

    关注

    16

    文章

    1681

    浏览量

    136135
  • AI
    AI
    +关注

    关注

    87

    文章

    30805

    浏览量

    268929
  • 华邦
    +关注

    关注

    0

    文章

    28

    浏览量

    15436
  • AI算法
    +关注

    关注

    0

    文章

    249

    浏览量

    12260

原文标题:如何在AI终端应用中选择合适的闪存芯片

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    如何为不同的电机选择合适的驱动芯片?纳芯微带你深入了解!

    在现代生活,电机广泛使用在家电产品、汽车电子、工业控制等众多应用领域,每一个电机的运转都离不开合适的驱动芯片。纳芯微提供丰富的电机驱动产品选择,本期技术分享将重点介绍常见电机种类与感
    的头像 发表于 12-23 09:58 147次阅读
    如何为不同的电机<b class='flag-5'>选择</b><b class='flag-5'>合适</b>的驱动<b class='flag-5'>芯片</b>?纳芯微带你深入了解!

    杰和课堂|如何快速选择一款合适的云终端

    选择合适的云终端,应遵循以下原则: 1、场景匹配:根据实际使用场景选择适合的云终端类型,如VDI、IDV或VOI。 2、性能需求:评估所需的
    的头像 发表于 12-11 14:19 91次阅读
    杰和课堂|如何快速<b class='flag-5'>选择</b>一款<b class='flag-5'>合适</b>的云<b class='flag-5'>终端</b>

    如何选择合适的电机驱动芯片

    在现代生活,电机广泛使用在家电产品、汽车电子、工业控制等众多应用领域,每一个电机的运转都离不开合适的驱动芯片。纳芯微提供丰富的电机驱动产品选择,本期视频将重点介绍常见电机种类与感性负
    的头像 发表于 11-21 12:31 395次阅读
    如何<b class='flag-5'>选择</b><b class='flag-5'>合适</b>的电机驱动<b class='flag-5'>芯片</b>

    工业手持终端厂家教你怎样快速选择手持移动终端PDA

    工业手持终端厂家教你怎样快速选择手持移动终端PDA选择手持移动终端PDA时,需要考虑多个因素以确
    的头像 发表于 11-20 16:20 152次阅读
    工业手持<b class='flag-5'>终端</b>厂家教你怎样快速<b class='flag-5'>选择</b>手持移动<b class='flag-5'>终端</b>PDA

    如何选择合适的TTL芯片

    TTL(晶体管-晶体管逻辑)芯片是数字电子领域中的基础组件,广泛应用于各种电子系统和设备。它们以其高速、低功耗和可靠性而闻名。 1. 了解TTL芯片的基本原理 在选择
    的头像 发表于 11-18 10:34 266次阅读

    工业连接器针脚芯数选择指南:如何找到最合适的配置?

    在工业自动化领域,连接器的选择至关重要,尤其是针脚芯数的选择。一个合适的工业连接器不仅能够确保信号的稳定传输,还能提高设备的整体性能。本文将提供一份详细的指南,帮助读者了解如何选择
    的头像 发表于 11-11 13:53 234次阅读
    工业连接器针脚芯数<b class='flag-5'>选择</b>指南:如何找到<b class='flag-5'>最合适</b>的配置?

    如何选择合适的SOC芯片

    在现代电子设计,SOC芯片扮演着核心角色,集成了处理器、内存、输入/输出接口等多种功能。 1. 确定应用需求 在选择SOC芯片之前,首先需要
    的头像 发表于 10-31 14:56 363次阅读

    如何选择合适的adc芯片

    在现代电子设计,ADC芯片扮演着至关重要的角色,它们将模拟信号转换为数字信号,以便微处理器或数字电路可以处理。选择合适的ADC芯片不仅能够
    的头像 发表于 10-31 10:33 313次阅读

    如何选择合适的RFID手持终端

    选择合适的RFID手持终端对于提高工作效率和确保数据准确性至关重要。以下是一些关键因素,可以帮助您在选择RFID手持终端时做出明智的决策:
    的头像 发表于 10-29 09:18 192次阅读

    如何选择合适AI云平台

    选择合适AI云平台是企业成功实施AI战略的关键一步。通过深入分析业务需求、全面评估平台功能、审慎考察技术架构、严格确保数据安全、合理控制成本并关注服务提供商的生态系统,企业可以更加科
    的头像 发表于 10-14 10:06 174次阅读

    怎样选择合适的MOSFET

    怎样选择合适的MOSFET
    的头像 发表于 10-01 08:01 269次阅读
    怎样<b class='flag-5'>选择</b><b class='flag-5'>合适</b>的MOSFET

    显存技术不断升级,AI计算如何选择合适的显存

    和推理过程至关重要。足够的显存容量能够确保显卡在执行AI任务时能够同时存储和操作所需的数据,避免因为显存不足而导致的性能瓶颈。   在AI 计算如何选择
    的头像 发表于 09-11 00:11 3037次阅读

    如何根据需求选择合适的新加坡VPS操作系统?

    选择合适的新加坡VPS操作系统您需要考虑哪些因素,如何根据需求选择合适的新加坡VPS操作系统?rak部落小编为您整理发布
    的头像 发表于 05-10 11:14 440次阅读
    如何根据需求<b class='flag-5'>选择</b><b class='flag-5'>合适</b>的新加坡VPS操作系统?

    请问替换AD620的单电源低压仪放用那个最合适

    替换AD620的单电源低压仪放用那个最合适?谢谢
    发表于 01-09 08:28

    如何选择合适的伺服联轴器?

    详细了解将非常有助于选择合适的联轴器。不同的伺服连轴器存在着其自身的优缺点。本文旨在向伺服联轴器的终端用户介绍不同联轴器的性能,同时指出设计要考虑的因素以及如何针对不同的应用情况
    的头像 发表于 12-25 16:35 964次阅读
    如何<b class='flag-5'>选择</b><b class='flag-5'>合适</b>的伺服联轴器?