我目前正在关注中的PyTorch迁移学习教程我正在使用谷歌云平台笔记本实例,并使用4个NVIDIA Tesla k80 x 4GPU。正是在这里,当我在超过1个GPU上训练网络时,遇到了服务器连接错误(无效响应: 504)错误num_ftrs =0.1)
model_ft = train_model(model_ft, criterion, op
因此,在TensorFlow关于使用的指南中,有一部分是关于以“多塔方式”使用多个GPU的:for d in ['/device:GPU:2', '/device:GPU:3']:
with据我所知,如果没有手动设备放置,TensorFlow没有某种形式的最佳设备映射(如果您安装了GPU版本,并且可以在CPU上使用GPU )。那你还有别的选择吗?,并希望稍后使用