连接器如何支持海量数据下的机器学习

数据、设备的互通互联在当今世界已经不足为奇，海量的数据每时每刻都在不断产生。在数据背后，神经网络通过处理数据获取洞察，并以此识别模式对信息进行分类、推理。数据中心的大部分资源都来自IT架构或者需要通过IT架构传递，因此数据中心的基础架构是实现IT架构功能的关键。

 
（机器学习系统相关连接，TE）

在新一代的数据应用中，机器学习是很重要的一环，因此可以说拥有正确的架构对于将机器学习功能完美地植入数据中心有着举足轻重的作用。为数据中心开发机器学习时，从一开始就必须将影响性能、可扩展性和弹性的所有因素纳入考虑。硬件层面的规划不得当会导致数据架构效率低下。

机器学习需要的硬件层面连接到底是什么样？

目前关于机器学习的设计配置中，正在从专用基础架构转向更灵活的基础架构，目的是增加灵活性和多样性。因此在配置过程中，硬件层面的连接有非常多的考量，比如配电如何优化、热能级如何降低、互连的高速性如何实现以及低延迟通信如何实现等等。同时，因为数据中心的所有环节都处于互相连接状态，系统连接元件还需要尽可能支持小的安装空间以提供所需的灵活性，并在不增加热输出的情况下满足预期的速度要求。

互连的高速和低延迟是很容易想到的，但是不能忘了热性能同样是一个不可忽视的考量。通常由于功率水平较高而导致的高温可直接影响数据机架中元件的寿命。如果不对热设计进行优化，敏感元件的故障率会急速上升。

所以机器学习所需的连接器部件，既要保证小，又要保证快，同时还必须兼顾热、机械和电气性能上的可靠。

小型可插拔高速I/O连接器在机器学习中的重要性

在机器学习硬件配置中，选择以太网和InfiniBand等协议来支持网络连接，通常需要OSFP、QSFP、QSFP-DD等高速I/O连接。再利用PCIe将存储设备、网络接口卡和硬件加速器连接到CPU。

作为一类插拔式的I/O连接器，QSFP连接器是完整的四通道、小型的插拔式高速I/O连接器。QSFP连接器单个可插拔接口中可以包含四个数据传输通道，与其他连接器配套部件组合，通道数据传输速度可从10 Gbps NRZ拔高到至28 Gbps NRZ和56 Gbps PAM-4。每个通道能够以10至56 Gbps的速度传输数据，因此每个端口支持总计高达200 Gbps的速度，传输性能之高足以满足机器学习架构所需要的速度。QSFP支持的通讯非常广泛，从100 Gbps 以太网、200 Gbps 以太网、100 Gbps InfiniBand增强型数据速率、EDR到128G光纤信道、25G/50G联盟、25G NRZ和56G PAM-4都能全覆盖。

QSFP-DD连接器组件通过使用 PCB 前面的第二行触点/垫位置，将通道增加一倍，达到8差分，实现了在QSFP连接器基础上互连的密度的翻倍，支持28 Gbps NRZ或56Gbps以实现每端口200 或400 Gbps聚合。在信号完整性上的提升只是一方面，同样重要的是QSFP-DD连接器能提供更多的散热器和光导管选项，在散热上的优化也不止一星半点，可以说实现了我们之前提到的降低热能级同时提高互连的高速性能。

 
（QSFP-DD连接器，Molex）

OSFP八通道小型可插拔连接器在热性能和传输性能上与QSFP-DD连接器相似，OSFP连接器通过在插头中运用集成散热器技术，热性能也相当优异，也能够支持400 Gps数据速率所需的信号完整性。另外值得一提的是，OSFP连接器可以通过埋管校准实现堆叠式（Belly-to-Belly）安装，降低PCB成本和噪声。

小型的可插拔高速I/O连接器在整个数据中心架构的建立中的重要性可见一斑，既保证了“小”，又保证了“快”，最重要的还是足够可靠。

SAS连接再缩小－Mini SAS

在器件内部金手指连接上，SAS连接器想必是大家耳熟能详的。而Mini SAS连接器，则更为紧凑。高密度的Mini SAS连接器在高性能计算上，是既高速又紧凑的连接选择。

（Mini SAS，TE）

高密度的Mini SAS连接器减小的互连尺寸可以节省额外30%到50%的PCB 空间，我们可以做一个对比，相同的小尺寸PCIe卡如果可以容纳两个SAS连接器，换成高密度Mini SAS连接器则可以容纳四个（非高密度Mini SAS是三个）。用于内部连接的高密度Mini SAS连接器除了尺寸小巧能节省大量空间之外，还能够（12G×4）48 Gbps的聚合数据传输速率，有些甚至能做到以192 Gbps的聚合速率传输数据。

小结

和机器学习相关的硬件连接也不止上面这些，超大型阵列XLA插槽、卡边缘连接、背板连接也都在其中经常能见到的。数据中心各种机器学习类型配置的要求繁多，从超大规模配置到支持边缘计算，每一种都需要连接元件给予可靠的性能和充足的灵活性。