缺乏开放性工具是硬件产业的难题

如果你所在的产业有长达60年的历史，大众的认知可能是它已经来到了“熟龄”、即将迈入暮年，就像是半导体产业…但现在有越来越多说法则是，硬件又悄悄地重新成为市场潮流。

在6月底于美国旧金山举行的年度设计自动化大会（DAC 2018）期间一场“40岁以下创新者”奖项得主座谈会（Young Under 40 Innovators Award Panel）上，来自Google的平台架构师李晟（Sheng Li）对台下听众表示：“我认为这是硬件人的黄金年代。”

另一位“40岁以下创新者”得主、美国乔治亚理工学院（Georgia Tech）副教授Arijit Raychowdhury 也呼应了李晟，表示：“我认为现在对硬件工程师来说是好时机，有很多机会。”

身为硬件IC产业界的一分子应该都会欣然同意以上说法，相信实际情况对自己有利；资料中心与新兴AI应用领域的爆炸性成长，仰赖晶片设计工程师开发出速度更快、性能更强大、功耗却更低的处理器，而且能建立在不同的运算架构上。

但笔者抱着怀疑态度，认为这种“硬件潮流重现”的说法需要进一步检视。身为座谈会主持人，笔者并不认为这几位“40岁以下创新者”奖项得主对硬件产业的乐观看法是作假，他们也没有人说半导体产业是回归了那个只要像往常一样做生意的辉煌时代。

 

DAC 2018的“Young Under 40 Innovators”奖项得主，由左至右依序为： David Atienza、Sheng Li、Arijit Raychowdhury、Yu Wang与Zhiru Zhang

我们都能感觉到这个产业的剧烈变化，但我不认为硬件人都能良好掌握下一步。因此我询问台上的每一位青年工程师与学者，在他们各自的领域中，“创新的瓶颈”何在？

瑞士洛桑联邦理工学院（Ecole polytechnique federale de Lausanne，EPFL）副教授David Atienza指出，近来人工智慧（AI）与机器学习领域的兴盛，让他担心硬件领域与该领域之间存在非常大的鸿沟，因为前者是聚焦于解决AI各方面问题的大量软件，但在硬件层面仍是以非常传统的架构为基础。

Atienza的疑问是，AI软件可以继续演进，但是“关于硬件我们该怎么做？”他指出，可以开发加速器，不过在“应用程式要求硬件做的事情”以及“硬件可以处理的事情”两个方面上，仍存在非常大的差距。

而我们显然会需要仰赖EDA工具来设计新加速器，但那些工具真的了解系统需求吗？Atienza直言：“EDA产业要生存，就得往更高层级移动，必须要能支援全套方案。”

软硬件界线越来越模糊更让硬件设计界感到不安的，是抽象层（abstraction layer）显然正在消失。曾任职英特尔（Intel）实验室的李晟指出：“我在职业生涯中一直担任平台架构师，以往都有一个抽象层将软件从硬件结构中分离出来，因此两边能各自独立运作；”但再也不是如此。

他的观察是：“抽象层已经开始崩溃，”我们有越来越多资料以及更先进的演算法，需要更多运算能力；但是摩尔定律（Moore’s Law）已经步伐趋缓好一段时间：“我们无法再提供那么多的运算能力，或者说我们无法用过去那么快的速度提升运算能力，”使得软件与硬件架构之间出现巨大鸿沟。

李晟的看法是，“将不会再有纯粹的软件或是硬件架构；”而是会出现“架构导向应用程式”（architecture-driven apps）或是“应用程式感知架构”（application-aware architecture）。

EPFL的Atienza同意以上看法，他表示：“确实如此，我们在学术领域看到越来越多这种类型的教育方法，我们不要人们只做硬件或软件，大家需要被教育、训练为两种都能做。”

曾任职于德州仪器（TI）的乔治亚理工学院Raychowdhury的观察则是：“当我刚进入这个产业时，我们有个想法是必须打造固定功能的加速器，但很长一段时间后，情势并非那么明朗，我们不确定什么样的任务或功能需要加速器，我们也不清楚硬件领域的实际瓶颈所在。”

随着机器学习成为关键应用，硬件设计工程师的目标越来越明确。“我们现在知道，就算是用GPU，训练大型网路仍需要花很长时间；从设计领域的角度来看，人们寻求的是取得更高频宽的记忆体，以及打造固定功能元件以加速某些任务──我们现在知道这能创造很大差异，而且很合理；”Raychowdhury乐观表示：“所以我感觉这个领域会有很多东西发生。”

他补充指出：“还有其他我认为即将发生、也看到晶圆代工业者特别积极的，是高密度记忆体的问世──SRAM、DRAM或者是嵌入式非挥发性记忆体，各种具备较高频宽的技术。”

Raychowdhury认为，那些记忆体将发生在后段制程（back end of line，BEOL），以3D堆叠或是单体3D结构、低温型态出现；他预期这个领域将出现剧烈变化：“摩尔定律正在趋缓，电晶体尺寸可能不会再微缩，但我认为还有其他机会，特别是在后段制程，人们将会尝试创新。”

机器学习与EDA领域的挑战北京清华大学电子工程系副教授、也是北京深鉴科技（DeePhi Tech）共同创办人汪玉（Yu Wang）表示，座谈会上每个人都在谈应用程式与硬件元件的融合，“这当然是一个趋势，我们必须要连结这两个领域，而我们认为这是我们可以做的事情。”

不过汪玉看到的另一个更大的机会是，利用不只一套机器来执行深度学习任务；他解释，今日的模型是我们可以打造一套在深度学习处理方面非常有效率的机器，但通常每一套机器的资源是受限制的：“如果我们一起运作这些机器呢？”

在他看来，如果那些机器能一起运作，可能会是拉近理论模型与实际情况差距的一个方法。“今天我们是有一个主机（God），然后有很多的代理机器（agent）…如果我们摆脱主机让所有的代理机器一起工作、不需要主机一直监视呢？就像是要在这栋建筑物里面找一个人，有多台代理机器在建筑物中执行，而且尝试一起覆盖整个区域。”

汪玉认为，很多系统层级的创新可能因为更强大的代理机器而实现：“如果我们将它们结合，我预见将会有演算法层级、系统层级与硬件层级的创新，有很多的机会。”

美国康乃尔大学（Cornell Univ.）副教授Zhiru Zhang呼应了其他与会者的看法，他是一家EDA工具开发商AutoESL的共同创办人，后来该公司被赛灵思（Xilinx）收购；“我对于所谓的专属电脑（specialized computers）非常兴奋，”他认为将会有一系列不同加速器问世，将推动创新。

Zhang指出：“我认为现在是研究这类问题的最佳时机；但在另一方面，这也会是一个最具挑战性的时刻。”挑战性何在？他解释：“那些加速器的打造会非常耗时，而且它们的编程也会相当困难。”

至于在振兴半导体产业方面，Zhang则认为并不是要吸引新人才，而是“需要打造更开放的硬件工具解决方案”；他以开放源码线上社群GitHub为例，“如果你要展开某个机器学习研究，只要上GitHub就能找到大量的机器学习相关转发（repost）资源。”

但如果要在GitHub上搜寻设计自动化相关的转发资源，可能不到20条；Zhang认为缺乏开放性工具，是今日硬件工程师面临的最大挑战之一。