使用Reshard集合通信加速强化学习权重重载

NVIDIA推出Reshard集合通信原语，将RL训练中的权重同步问题重构为DTensor间的重分片操作，避免传统全量广播带来的冗余传输。基于NeMo RL的基准测试显示，Reshard重同步速度较传统方法提升2.7x至...