NVIDIA NVLink 和 NVLink 交换机

NVLink 是一种 GPU 之间的直接互连技术，双向通信速度达 1.8 TB/s，可扩展服务器内的多 GPU 之间的输入/输出 (IO)。NVIDIA NVLink 交换机芯片可连接多个 NVLink，实现在单个机架内和多个机架间以 NVLink 的最高速度进行 all-to-all GPU 通信。

为了支持高速集合运算，每个 NVLink 交换机都配有 NVIDIA SHARP™ 技术引擎，可用于网络内归约和组播加速。

NVLink 交换机是首款 ASIC 芯片技术机架级交换机，能够在无阻塞计算结构中支持多达 576 个全连接 GPU。NVLink 交换机能以惊人的 1800GB/s 的速度互连每对 GPU。它还支持完整的多对多通信。NVIDIA GB300 NVL72 系统中的 72 个 GPU 可用作单个高性能加速器，拥有高达 1.4 exaFLOPS 的 AI 计算能力。

NVLink 和 NVLink 交换机是整个 NVIDIA 数据中心解决方案的必要基础模组，该解决方案融合了来自 NVIDIA AI Enterprise 软件套件和 NVIDIA NGC™ 目录中的硬件、网络、软件、库以及优化的 AI 模型和应用。作为强大的端到端 AI 和高性能计算平台，它让研究人员能够更快地得到真实的结果，并能将解决方案部署到生产环境中，从而在各种规模上实现出色的加速。