如果说一年前我们谈论AI(人工智能)替代人类这个话题,还有点科幻的色彩,那么今天看来,其现实感已经变得越来越强。导致这一变化的根本原因就是ChatGPT来了!
表面上看,由OpenAI开发的ChatGPT就是一款聊天机器人软件,能够随时回答你的任何问题,并不稀奇;但令人惊讶的是,它回答问题太有“水平”了——它可以用非常连贯且具有逻辑性的自然语言进行回应,让你几乎觉察不出来是在和一个“机器”进行对话。这种体验,是之前其他AI应用所没有的。
ChatGPT如此“智能”的奥秘,就在于其采用了所谓“生成式AI(Generative AI)”技术,这背后的引擎是一个基于海量高质量文本、程序、数学、对话等数据而训练出来的大型的语言模型。从原理上讲,只要训练数据量足够大、模型中的参数量足够多,这一语言模型就能在压缩信息的过程中抽象出一定的思维能力,包括推理、计算、预测等,从而更接近于一个真实的人。
而且值得注意的是,用户与ChatGPT的每一次交互,实际上就是一次让ChatGPT获取新的数据,加速“学习和进化”的过程,因此仅仅在ChatGPT首次发布后的105天,我们就迎来了其新的版本ChatGPT-4。经测试,ChatGPT-4在一些人类考试中,竟然表现出了碾压式的优势,而且能够完成论文撰写、美术设计、代码编程等任务——要知道这些工作以前一直被认为是人类特有的优势技能,是AI难于胜任的。
正是由于ChatGPT各种颠覆性的表现,它的出现也被比喻为“AI的iPhone时刻”,言外之意,它有望彻底改写AI领域的游戏规则,构建起一个全新的AI生态。
ChatGPT背后的技术焦虑
ChatGPT的创新固然令人兴奋,不过对于科技圈的从业者来说,它也带来了新的焦虑。这主要是因为ChatGPT太吃资源了!
首先,作为一个“大模型”,ChatGPT本身无论是在训练还是推理上,对计算资源的消耗都是巨大的。其次,ChatGPT提供的巨大想象空间,让越来越多的开发者和用户趋之若鹜,根据OpenAI开发者大会提供的数据,今天有大约200万开发者在使用ChatGPT的API进行各种用例的开发,ChatGPT每周活跃用户大约有1亿,如此庞大且快速扩展的生态,也需要充足的计算资源提供支撑。再有,ChatGPT的成功,也在刺激其他IT巨头积极跟进,谷歌、Meta、百度等大厂都已经下场参与生成式AI大模型的角逐,更多的玩家也在跑步赶来,这也势必会对全球的计算资源提出更高的需求。
不难想象,上述各方面的需求汇集在一起,最终都会聚集在“数据中心”这一个焦点上,形成前所未有的巨大压强。因此,打造下一代适应ChatGPT等AI新应用的数据中心,成了当务之急。
下一代的数据中心什么样?回答这个问题,有诸多现实的技术考量。归纳起来,主要有三个方面:
更强的算力
无论是GPU、专用的算力芯片,还是综合各类计算架构优势的异构处理单元,开发者一直在探索更强的数据中心算力平台,以满足不断攀升的AI计算处理需求。
更高的能效
随着计算密度和强度的增加,数据中心已经成为了名副其实的“吃电”大户,与此伴生的散热问题也一直是数据中心升级之路上的拦路虎。因此从器件到系统层面,如何提高算力效率、优化能效,也是一个重大的挑战。
更高速的互连
数据中心是成千上万数据处理、存储、通信设备的集合体,不同设备节点之间、设备中不同板卡之间,以及电路板上功能单元之间的高速互连,也是确保数据高吞吐、高可靠传输至关重要的一环,这一点对上述高算力和高能效目标的实现也起着重要的支撑作用。
虽然从硬件的角度去看,数据中心的迭代速度远不及ChatGPT这类纯软件新“物种”来得快,但是基于以往的经验,开发者们还是有信心能够通过未雨绸缪的提前布局,积极应对ChatGPT们带来的挑战。下面我们将着重观察一下在ChatGPT的“压力”下,互连技术的发展趋势。
ChatGPT时代的互连技术
为了满足AI对海量计算能力和存储容量的需求,各个互连产品的技术迭代都在加速。这首先体现在对“速度”的追求上。
目前,在成熟的56Gbps PAM-4传输速率互连产品基础上,整个数据中心行业正在向112Gbps PAM-4技术过渡,而针对更前沿的224Gbps PAM-4解决方案的研发也已经初尝胜果。
另一个例子是人们所熟知的PCIe标准,从PCIe 3.0到4.0经历了6年时间,而之后该标准的迭代明显加快,基本上保持每两年一代的升级速度。尽管新的PCIe 6.0标准预计要到2024年才能开始商用推广,但PCI-SIG组织已经在今年宣布了下一代PCIe 7.0 v0.3版本的草案,将数据传输率提高到128GT/s,一个16通道(x16)连接所支持双向带宽也将翻番,达到512GB/s!
技术和标准的加速演进,体现了人们对未来的信心。不过,除了“速度”,互连技术与下一代数据中心生态的深度融合也十分重要,这也是促进新技术和新产品落地应用的关键一步。
比如OCP开放计算项目(Open Compute Project)就是连接器厂商普遍看重的一个生态平台,其旨在通过开放开源硬件技术,实现可扩展的计算,提升数据中心硬件设计的效率,目前已经有200多家公司参与其中,共同定义和打造下一代开放、可扩展的数据中心架构。而对于连接器厂商来说,能够在一系列数据中心的开放标准制订之初就参与其中,让自己的方案被标准所吸纳,无疑就会获得显著的先发优势。
因此可以看到,对更高速度的追求以及与开发生态的融合,是互连技术领域迎接ChatGPT时代时,非常关键的两步棋,谁走得好,也就意味着其在未来AI为王的世界能够占得先机。
面向未来的高速连接器产品
面对这样的大趋势,连接器厂商Molex很早就做了深度布局。这不仅体现在其“追新”的速度上——比如Molex已经率先开发出了一系列224Gbps PAM-4产品,还体现在其对新技术的产品化能力上,这有助于加速新标准的商用,极大地推动数据中心的全面升级。
今天我们就来认识几款来自Molex的高速连接器产品,在ChatGPT时代的门前,它们都是强有力的敲门砖!
Molex QSFP-DD互连系统和电缆组件
在数据中心中,高速可插拔IO是设备和组件之间实现高速互连的主要方案之一。Molex的QSFP-DD互连系统和电缆组件是按照新一代多源协议(MSA)打造的高速可插拔IO解决方案,可通过8通道电气接口实现28Gbps NRZ、56Gbps PAM-4和112Gbps PAM-4高速数据传输,聚合速率分别高达200Gbps、400Gbps,甚至是800Gbps。
QSFP-DD互连系统在物理尺寸上与前一代的QSFP相同,但是通道数量从4个增加到8个,连接的面板密度和传输带宽提升了一倍,为数据中心系统升级提供了有力支撑。其能够满足或超出当前200G以太网和InfiniBand 100G(EDR)应用的需求,也支持传统10Gbps以太网、14 Gbps(FDR)InfiniBand和16Gbps光纤信道应用,而且其电缆组件符合IEEE 802.3bj、InfiniBand EDR和SAS 3.0规格,适用于多种下一代技术和应用。
QSFP-DD互连系统的接合设计采用窄边、耦合盲插、成形触点的构型和嵌件成型方案,可以提供出色的信号完整性(SI)性能以及极低的插入损耗(IL)。坚固耐用的不锈钢外壳,也有助于实现更好的EMI防护和抵御外力的冲击。加上QSFP-DD标准固有的向后兼容性,Molex的QSFP-DD互连系统和电缆组件可以为数据中心向更高性能和更新架构的迭代提供理想的解决方案。
图2:Molex QSFP-DD互连系统
(图源:Molex)
Molex镜像式夹层连接器
在数据中心中,实现更高密度的设备模块和基板之间的高速互连,少不了板对板连接器的支持。Molex镜像式夹层(Mirror Mezz)连接器提供了一种可堆叠插接、尺寸兼容、不分公母端的板对板连接解决方案。
这些连接器支持每差分对高达56Gbps NRZ或112Gbps PAM4的数据速率,其精巧的端子设计,采用了多种增强机械强度、提升电气特性的优化举措,可满足特定场合对于更快传输速率的需要,是服务器、联网设备、存储器和其他基础设施的理想选择。
除了高速率,Mirror Mezz连接器的其他优势特性还包括:
-
可扩展性:凭借尺寸兼容且公母同型的特点,Mirror Mezz连接器可轻松实现可扩展性和升级,而无需为将来的应用重新设计PCB。
-
节省空间:这些连接器将高密度触点封装在一个小巧而坚固的外壳中,外形紧凑。
-
节省成本:Mirror Mezz连接器可以自行配对,因此避免了因公母配对而带来的额外采购工作量和库存维护量,降低了应用成本,并显著节省产品鉴定和测试所需资金和时间。
-
设计灵活:该连接器能够对配不同的连接器变体,从而实现所需的堆叠高度,以适应特定的应用场合需求。
-
模块内的无缝集成:Mirror Mezz连接器利用标准的BGA结构,兼容标准的SMT连接工艺,并且不需要任何定制。
-
缩短产品交期:连接器的针式触点结构有助于缩短产品交货时间,简化了产品矩阵,因此可提高运营效率。
值得一提的是,OCP已经吸纳Mirror Mezz连接器作为OAM / OAI模块的连接器,这为该互连解决方案在未来的数据中心中施展拳脚铺平了道路。
图3:Molex Mirror Mezz连接器
(图源:Molex)
NearStack PCIe连接器系统和线缆组件
在高速PCB板级设计中,快速可靠地将数据从A点传输到B点是一个常见的场景。而很多时候,在昂贵且拥挤的PCB上通过布线实现互连,并不是一个优选的解决方案。
Molex的NearStack PCIe连接器系统和线缆组件就是为解决这个痛点而开发的,其使用双轴电缆作为PCB布线连接的替代方案,可以支持PCIe Gen-5 32Gbps数据传输速率,同时在减小插入损耗和信号延迟、提高信号完整性,以及节省互连成本上有突出的优势。
高密度设计是NearStack PCIe连接方案的主要优点之一,该连接器和电缆组件设计得尽可能小而紧凑,且具有较低的插配高度,非常适合在服务器主板等拥挤的PCB环境中使用。
在提升连接的可靠性和鲁棒性上,NearStack PCIe线缆连接器上集成的金属闩锁可与PCB连接器上的金属笼啮合,可在配接时形成坚固的正向闩锁;其受保护接口可确保信号引脚不会出现“斜插”和大于6°的角度偏差。NearStack电缆插座上还配有柔性束的接触接口,有助于避免回流焊造成的预装载束松弛,减小难以返修的PCB侧损坏的可能性。
总之,NearStack PCIe连接器系统和线缆组件支持高速率数据传输,连接密度高,易于安装且所需维护量少,可靠性高而使用寿命长,提供了一种高性价比的板上互连解决方案,可灵活地扩展到下一代应用中,
图4:Molex NearStack PCIe连接方案
(图源:Molex)
本文小结
随着ChatGPT的爆火,以大模型、大数据、高算力为特征的新一代AI技术已经走上了前台,而对于数据中心等IT基础设施的焦虑也在增加。解决这一对供需矛盾的关键,就在于加速技术迭代,增加新一代解决方案的供给。
在ChatGPT时代的高速互连技术领域,Molex的布局早已开始,他们不仅可以提供成熟的商用产品,也在不断探索下一代的解决方案,从PCB板上连接,到不同组件之间的板对板连接,以及设备间高速IO互连,都可以全场景覆盖。
ChatGPT时代需要什么样的连接器?这个问题的答案,Molex显然已经心中有数,而从Molex的产品和方案中,你也一定能够找到解题的思路——
相关技术资源
Molex QSFP-DD互连系统和电缆组件,了解详情>>
Molex镜像式夹层连接器,了解详情>>
Molex NearStack PCIe连接器系统和线缆组件,了解详情>>
该发布文章为独家原创文章,转载请注明来源。对于未经许可的复制和不符合要求的转载我们将保留依法追究法律责任的权利。
关于贸泽电子贸泽电子(Mouser Electronics)是一家全球知名的半导体和电子元器件授权代理商,分销超过1200家品牌制造商的680多万种产品,为客户提供一站式采购平台。我们专注于快速引入新产品和新技术,为设计工程师和采购人员提供潮流选择。欢迎关注我们!
更多精彩
原文标题:ChatGPT时代,我们需要什么样的连接器?
文章出处:【微信公众号:贸泽电子】欢迎添加关注!文章转载请注明出处。
-
贸泽电子
+关注
关注
16文章
1114浏览量
96618
原文标题:ChatGPT时代,我们需要什么样的连接器?
文章出处:【微信号:贸泽电子,微信公众号:贸泽电子】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论