本文主要是介绍NCCL 实践与体会,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
1. 介绍
2. NCCL
开启IB/ROCE/的环境变量设置
export NCCL_IB_DISABLE=0;export NCCL_P2P_DISABLE=1;NCCL_SHM_DISABLE=1 NCCL_IB_HCA=mlx5_0,mlx5_1,mlx5_4,mlx5_5;sendrecv_perf -b 8 -e 8192M -f 2 -g 4
这篇关于NCCL 实践与体会的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!