我是机器学习和Tensorflow的新手。我有一个关于TensorFlow分布式训练的问题。我读过关于多GPU环境的文章，它看起来很有可能(https://www.tensorflow.org/guide/using_gpu)。 但是，如果多台计算机具有多个GPU，情况会怎样呢？是否可以在几台机器之间分配机器训练任务？是否有特定的算法/任务，需要这样的分布或多个GPU
浏览 8提问于2019-06-15得票数 1
回答已采纳
我想在我的多图形处理器系统上使用tf.contrib.distribute.MirroredStrategy()，但它没有使用GPU进行训练(参见下面的输出)。另外，我正在运行tensorflow-gpu 1.12。 我确实尝试在MirroredStrategy中直接指定GPU，但同样的问题也出现了。but not used by distribute strategy: /device:GPU:0
INFO:tensorflow:Devic
浏览 49提问于2019-02-19得票数 9
我正在尝试使用TensorFlow对象检测应用编程接口执行多GPU训练。 我在我的NVIDIA-SMI中看到的是，实际上只有1个GPU被使用。提供的其他3个GPU加载了GPU进程，但内存使用率为300MB，利用率始终为0% 我使用在COCO上预先训练的基于固态硬盘MobileNetV1的网络，然后用我的自定义数据集对其进行训练。我希望当我为Tensorflow提供更多的GPU时，框架实际上会使用它们
浏览 49提问于2019-10-09得票数 3
1回答
当我们在Tensorflow多GPU环境下进行训练时，如何找到测试精度并显示在训练损失旁边的终端上? 1.在单个GPU上能找到测试精度吗?2.我们应该在所有可用GPU上找到测试精度，然后计算平均值吗？
浏览 2提问于2018-04-10得票数 0
回答已采纳
1回答
我按照tensorflow 1.2.0：上的教程创建了一个多GPU训练系统tensorflow.python.framew
浏览 18提问于2017-06-28得票数 1
当我的对象检测Tensorflow 2.5GPU模型启动训练时，我得到了一个资源扩展错误。我使用了18张训练图像和3张测试图像。我正在使用的预训练模型是来自Tensorflow动物园2.2的更快的using ResNet101 V1 640x640型号。我正在使用一个带有8GB专用内存的Nvidia RTX 2070来训练我的模型。
我感到困惑的是，为什么训练过程在训练集如此小的时候占用了GPU的这么多</e
浏览 4提问于2021-10-12得票数 1
回答已采纳
1回答
我想创建一个用于训练TensorFlow模型的数据管道。数据存储在非常大的HDF5文件(250+ GB)中。import tensorflow as tf """代码经过测试，对于较小的文件可以很
浏览 6提问于2021-12-03得票数 0
使用自定义模型运行AWS SageMaker，在多gpu配置中使用Keras加上Tensorflow后端时，TrainingJob在算法错误中失败：2018-11-2
浏览 1提问于2018-11-26得票数 0
回答已采纳
是否有任何示例/文档说明如何在多机和多GPU环境中实现skflow(tf.contrib.learn)？
我想在多机多GPU环境中使用skflow(tf.contrib.learn)实现。
浏览 0提问于2017-04-11得票数 1
1回答
数据并行性对训练结果的影响
、、、、
我目前正在尝试使用Tensorflow网络实现多GPU培训。一种解决方案是每个GPU运行一个模型，每个GPU都有自己的数据批，并在每次训练迭代之后组合它们的权重。换句话说，“数据并行”。例如，如果我使用两个GPU，与它们并行训练，然后组合它们的权重，那么与在一个GPU上进行这两个数据批的训练相比，产生的权重不应该是不同的吗？因为两个GPU具有相同的输入权重，而单个GPU为第二批修改
浏览 4提问于2016-11-17得票数 3
回答已采纳
我想知道在使用TensorFlow训练网络时，多GPU系统的“最佳实践”是什么？或者我应该自己指定在特定操作中应该使用哪个GPU TensorFlow？
到目前为止，我还没有对其进行基准测试，今天刚刚开始了一些GPU实验。编辑(慢多GPU性能)：经过一些测试，我是相当astonished...if的，我让TensorFlow决定如何分配和删除特定于设备的语句，网络训练的速度要快得多。EDIT2 (N
浏览 3提问于2016-03-03得票数 8
回答已采纳
阅读tensorflow text purpose 时，它表示“下面描述的结果是基于在多gpu和多机器设置上训练的模型。它已经简化为只在一台机器上运行，用于开源目的。”此命令是否与cuda/gpu无关？为什么这个命令被截断了？
浏览 0提问于2016-08-27得票数 3
回答已采纳
1回答
这里描述的tensorflow文本摘要模型需要多GPU架构才能进行训练。我反复尝试训练模型，但由于各种原因导致内存异常，机器崩溃。经过训练的摘要模型是否可用，以便在不需要训练的情况下使用摘要模型？摘要模型是使用非免费的Gigaword数据集训练的，如果训练的模型不能从Google获得，这是一个原因吗？
浏览 1提问于2016-10-06得票数 0
我已经构建了一个语义分割Keras (tensorflow后端)模型，并试图在google cloud ml引擎上对其进行训练。我有大约200,000 (256x256)个图像可以在小批量(10)上训练大约100个时期。当我只使用complex_model_m_gpu类型的主设备时，1个纪元几乎要花25个小时。我不确定Keras模型如何适应多GPU训练设备(例如，complex_model_m_gpu)。没有关于这方面的文档，只有关于分布式Te
浏览 11提问于2018-07-18得票数 2
目前，我正在实现一个大型自定义模型，并参考tensorflow附带的CIFAR 10的多gpu示例。然而，我在此基础上编写的代码并不整洁，而且容易出错。例如，我必须找到每个可训练变量并添加"with tf.device('/cpu:0')“。非常感谢您的支持。
浏览 3提问于2017-01-23得票数 1
什么时候Tensorflow 2将在Google Cloud AI平台上得到支持？
根据列表，1.15是最新支持的版本：
浏览 2提问于2020-01-13得票数 4
1回答
仅用CPU训练神经网络
、、、
我正在远程服务器上的虚拟机上工作，我想在它上训练一个神经网络，但是我在这个VM中没有GPU。是否可以仅使用CPU在此VM上训练网络？如果是这样的话，它是否适用于大型数据集，还是会成为一个问题？
浏览 1提问于2019-02-27得票数 0
1回答
我正在使用现有的模型来训练一个基于Tensorflow和Keras的CRNN模型。我正在使用anaconda-navigator来训练模型。在训练模型时，它似乎没有使用GPU，因为我的GPU使用率为5-6%。我附加了顶级-i命令Nvidia Xserver的图像，而且我的gpu没有被Tensorflow拾取，因为tf.test.gpu_device_name()只显示CPU，如下面的tf.test.gpu_devic
浏览 20提问于2021-01-08得票数 1
因此，在TensorFlow关于使用的指南中，有一部分是关于以“多塔方式”使用多个GPU的：for d in ['/device:GPU:2', '/device:GPU:3']:
with据我所知，如果没有手动设备放置，TensorFlow没有某种形式的最佳设备映射(如果您安装了GPU版本，并且可以在CPU上使用GPU )。那你还有别的选择吗？，并希望稍后使用此SavedMod
浏览 0提问于2018-11-17得票数 1
我正在尝试在GPU2.0中加载模型权重，以进行多TensorFlow训练。我的模型检查点来自Tensorflow 1.0中的训练。 这就是我在TF1中加载权重的方式。
浏览 26提问于2020-06-26得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
