导语：NCCL是Nvidia Collective multi-GPU Communication Library的简称，它是一个实现多GPU的collective。 雷锋网 AI科技评论按，本文来自谭旭在知乎问题【如何理解Nvidia英伟达的Multi-GPU多卡通信框架NCCL？】下的回答，雷锋网 AI科技评论获其授权转载。 NCCL是Nvidia Collective multi-GPU ...