英伟达GB200 NVL72

$沃尔核材(sz002130)$

NVIDIA GB200 NVL72旨在实现单机架的百亿亿级计算，广泛使用铜缆来连接其组件，以实现操作简便性和效率。该机架集成了36个Grace CPU和72个Blackwell GPU，通过一个巨大的NVIDIA NVLink域连接。这种设置能够提供前所未有的计算能力和效率，利用最新的NVLink技术促进GPU之间的高速通信 。

GB200 NVL72设计的核心是NVLink开关系统，由九个NVLink开关托盘组成。这些托盘对于提供每个GPU 1.8 TB/s的双向吞吐量至关重要，超过了以前的互连带宽。这种高速互连系统对于支持GB200 NVL72构建的大数据处理和AI训练/推断工作负载至关重要 。

NVL72的设计中一个值得注意的方面是其依赖于铜缆而不是光学替代品，以最小化额外的功耗。整个系统在其背板中使用了超过2英里（3.2公里）的铜缆来连接其组件。这一设计决策有助于保持系统整体功耗管理在可控范围内，尤其是考虑到连接72个GPU以作为单一连贯单元运作的高带宽要求 。