英伟达 Blackwell 投入运行，铜缆高清大图报告

英伟达将出席 8 月 25-27 日举办的 Hot Chips 2024 活动，展示 Blackwell 平台在数据中心投入使用的相关情况。

在吹风会上英伟达否认 Blackwell 推迟上市消息，并分享了更多数据中心 Goliath 的相关信息。（谣言不攻自破了）

目标万亿参数 AI 模型

Blackwell 旨在满足现代人工智能的需求，并为大型语言模型（如 Meta 的 405B Llama-3.1）提供出色的性能。随着 LLMs 的规模越来越大，参数也越来越多，数据中心将需要更多的计算和更低的延迟。

更快的 NVLINK 交换机

通过 Blackwell，NVIDIA 推出了速度更快的 NVLINK 交换机，将结构带宽提高了一倍，达到 1.8 TB/s。NVLINK 交换机本身是基于台积电 4NP 节点的 800mm2 芯片，可将 NVLINK 扩展到 GB200 NVL72 机架中的 72 个 GPU。

铜缆被用于交换机与计算节点间的互联，以及交换机内部的连接。具体来说，GB200 NVLink Switch和Spine由72个Blackwell GPU采用NVLink全互连，具有5000根NVLink铜缆，合计长度超过2英里