nccl 安装

nccl 安装

• paddle 无法使用多卡分布式
• 安装 nccl
• nccl 安装完成

paddle 无法使用多卡分布式

python -c "import paddle; paddle.utils.run_check()"

看 warning 信息可知，是缺少 nccl

You may need to install ‘nccl2’ from NVIDIA official website: https://developer.nvidia.com/nccl/nccl-downloadbefore install PaddlePaddle.

安装 nccl

英伟达官网 https://developer.nvidia.com/nccl/nccl-legacy-downloads
根据自己的 cuda 选择对应的nccl，这里以cuda11.2为例，
后面根据自己的 nccl2 和 cuda 版本修改相关命令

# 查看cuda版本
nvcc -V

也可使用命令行下载

下载完成

安装镜像库

apt-key add /var/nccl-local-repo-ubuntu1804-2.8.4-cuda11.2/7fa2af80.pub
dpkg -i nccl-local-repo-ubuntu1804-2.8.4-cuda11.2_1.0-1_amd64.deb

安装nccl

apt update
apt install libnccl2=2.8.4-1+cuda11.2 libnccl-dev=2.8.4-1+cuda11.2

将nccl添加到环境变量中

# 修改~/.bashrc文件
vim ~/.bashrc# 将以下内容写入文件末尾，cuda版本修改成自己的版本
export LD_LIBRARY_PATH=/usr/local/cuda-11.2/lib64
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/lib/x86_64-linux-gnu

# 使文件的配置生效
source ~/.bashrc

nccl 安装完成

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！