NNetpath
实验深入预计 40 分钟

动手:NCCL 与 busbw 判读

AllReduce 的 busbw 是 GPU 集群的网络体检报告。这节讲怎么跑、怎么读、怎么调。

学完这节你能做到

  • 跑通多节点 all_reduce_perf 并确认正确性检查通过
  • 用 2(n-1)/n 校正因子把 busbw 与硬件峰值对比
  • 按机型配对 NCCL_IB_HCA、NCCL_SOCKET_IFNAME 等关键变量

建议先学跳过这几节会看不懂本节的部分推导

正文待编写以下是本节已定稿的小节大纲
  1. 1集合通信原语:AllReduce、AllGather、ReduceScatter
  2. 2Ring 与 Tree 算法,以及为什么测试要固定算法
  3. 3关键环境变量与选错的后果
  4. 4单次扫描测试 vs 固定尺寸压测
  5. 5busbw 与 algbw 的区别,校正因子怎么用
  6. 6合格线:≥ 理论峰值 90%,低于 80% 要查

延伸资料

  • ·k8s-in-actionai/nccl-tests/quickstart.md
  • ·k8s-in-actionai/nccl-tests/config-reference.md