NCCL 多卡通信框架(Nvidia)
NCCL是Nvidia Collective multi-GPU Communication Library的简称，它是一个实现多GPU的collective communication通信（all-gather, reduce, broadcast）库，或者说是一个多卡通信框架
Nvidia做了很多优化，以在PCIe、Nvlink、InfiniBand上实现较高的通信速度。
NCCL_Bruce_0712的博客-CSDN博客
本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！