首页
学习
活动
专区
圈层
工具
发布

AI 技术讲座精选:ChainerMN 分布式深度学习的性能

ChainerMN 的实现本质 现行的分布式训练的实现方式借助的是数据并行计算的方法,特别是模型同步更新。...首先,ChainerMN 对于实验环境已经做出了高度的优化,因为 ChainerMN 就是基于环境而开发的。其次,在后面的对比中,针对于其他架构的调试工作可能会不足,但我们已经尽力了。...这是因为,CNTK 和 ChainerMN 在不同 GPU 之间通过 Nvida 的 NCCL 而收集信息。...另一方面,在多节点设置中,MXNet 和 ChainerMN 展现出了比 CNTK 更好的可扩展性。...未来 从二月开始,通过在 Preferred Networks 进行的内部测试,根据测试反馈回来的结果,我们对 ChainerMN 进行了完善,计划在未来几个月内发布这款开源的软件——ChainerMN

933120
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到
    领券