实验深入预计 40 分钟
动手:NCCL 与 busbw 判读
AllReduce 的 busbw 是 GPU 集群的网络体检报告。这节讲怎么跑、怎么读、怎么调。
学完这节你能做到
- 跑通多节点 all_reduce_perf 并确认正确性检查通过
- 用 2(n-1)/n 校正因子把 busbw 与硬件峰值对比
- 按机型配对 NCCL_IB_HCA、NCCL_SOCKET_IFNAME 等关键变量
建议先学跳过这几节会看不懂本节的部分推导
正文待编写以下是本节已定稿的小节大纲
- 1集合通信原语:AllReduce、AllGather、ReduceScatter
- 2Ring 与 Tree 算法,以及为什么测试要固定算法
- 3关键环境变量与选错的后果
- 4单次扫描测试 vs 固定尺寸压测
- 5busbw 与 algbw 的区别,校正因子怎么用
- 6合格线:≥ 理论峰值 90%,低于 80% 要查
延伸资料
- ·k8s-in-action
ai/nccl-tests/quickstart.md - ·k8s-in-action
ai/nccl-tests/config-reference.md