深度神经网络变革发展迅速正对半导体IC设计与制造形成深刻的变革

近年业界在深度神经网络(DNN)技术发展上进展迅速，正对半导体IC设计与制造形成深刻的变革，2018年全球首款商用化DNN专用芯片将开始出货，或成为至今价格最高且最大的商用芯片，外界预期2018年将成为这类芯片相继问世的一年，而过去几年DNN技术开发的兴起，也带动创投资金重回半导体产业，可见近来基于新架构的新创企业数量大增、达15家以上，这在过去10~15年来在单一产业领域未曾见过的景象。

据EE Times报导，预计2018年可能见到如英特尔(Intel)收购的2.5D Nervana芯片已在送样，还有10多个处理器正在开发中，其它如人工智能(AI)新创企业Graphcore及其竞争对手Cerebras Systems均可望推出自有芯片产品，威腾(WD)与安谋(ARM)等几家芯片业者也在开发自有核心，用以加速深度神经网络的推论部分。

市场研究机构The Linley Group负责人Linley Gwennap指出，NVIDIA在其最新绘图芯片(GPU)「Volta」开发上表现非常出色，调整用于加速DNN训练，不过Gwennap不认为这是最好的设计。

在训练芯片方面，英国Graphcore及美国加州Cerebras被视为是值得关注的公司，因拥有最好的团队且募得最多资金。由Google前芯片设计师创立的新创企业Groq计划于2018年推出一款推论芯片，宣称在每秒整体操作及推论效能表现上，比竞争对手高出4倍。

代号「Lake Crest」的英特尔Nervana芯片则为一大值得关注的客制化设计，与NVIDIA Volta相似的是，Lake Crest逻辑元件位在台积电CoWoS中介层中，与4个HBM2高带宽存储器堆叠相邻，这些芯片也被设计成网状，提供比Volta高出5~10倍的效能表现。

虽然这类AI芯片将问世，不过芯片架构师仍未决定应如何进行评估。加州大学柏克莱分校荣誉教授David Patterson指出，过去RISC供应商在SPEC基准测试上进行合作，如今DNN加速器需要自行定义的测试套件，涵盖一系列资料类型的训练、推论以及独立且丛集的芯片。

因此由超过20家主要伺服器及软件制造商组成的服务器效能评测标准组织(TPC)，于2017年12月12日宣布已组成工作团队，来定义机器学习的硬件及软件基准，TPC-AI委员会主席Raghu Nambiar指出，目标是要创建不论是以中央处理器(CPU)或GPU做为加速器都适用的测试。

基准测试之外，工程师还需要追踪仍在演化的神经网络算法，以确保其设计能获得采用。高通(Qualcomm)下一代核心研发主任Karam Chatha表示，由于硬件将对软件形成影响，在软件总是在变化下，有及早推出硬件的必要性，至今行动芯片供应商在其Snapdragon系统单芯片(SoC)的DSP及GPU核心上的软件运行神经网络任务，不过部分观察家预期，高通将为2019年版7纳米Snapdragon SoC客制化一款全新机器学习芯片。

随着算法持续演进，研究人员也在扩大深度学习的应用面向，包括导入芯片设计及制造端，如英特尔汇整出超过40多项可能的用途领域，如华尔街采用的自动化交易程序及消费者在线消费助理等应用领域等。

另外，近期可见关于神经网络软件技术的融合努力，如由Facebook与微软(Microsoft)开启的开放源计划「开放神经网络交换」(QNNX)格式，有助将所创造的神经网络模型转换成图形(graphical)呈现方式，芯片制造商则能在最终图形上锁定期硬件，这对无法自行编写软件支持运算模式架构的新创企业如亚马逊(Amazon)旗下MxNet、Google的TensorFlow、Facebook的Caffe2及微软CNTK来说，自然是一好消息。

另由30多家主要芯片供应商组成的团体，也发布其「神经网络交换格式」(NNEF)，旨在提供芯片制造商可创建自有内部格式的替代解决方案，好比是NVIDIA的TensorRT及英特尔的Nervana Graph。

展望这类AI芯片发展前景，以半导体产业来看，Patterson指出，随着英特尔、Graphcore及NVIDIA已开发出全标线(full-reticle)芯片，下一阶段则是发展3D技术，过去在摩尔定律(Moore’s Law)发展火红时，基于忧心可靠性及成本问题，导致较复杂的封装技术无法获得采用青睐，但如今摩尔定律终止在即，将可在封装技术上看到许多试验在进行。最终是可开创出新形态的晶体管，可在逻辑与存储器层上进行On-Die堆叠。美国电子工程学界人士认为，负电容铁电晶体管技术或可能成为上述芯片技术的基础，与3D NAND相同的是均采On-Die堆叠技术。

另外，美国麻省理工学院(MIT)、柏克莱大学(UC Berkeley)与史丹佛大学(Stanford University)组成的学术团队，也将于2月国际固态电路会议(ISSCC)上发表类似技术的先进芯片架构，是将ReRAM结构及碳纳米管制成的逻辑元件堆叠于芯片中，此技术灵感来自于DNN、且被程序设计为近似模式，而非至今计算机采用过的确定性数字，这类芯片可从案例中进行学习，比传统的系统所需操作要少得多，测试版芯片不久后将送交制造。