TensorFlow/Keras模型__call__在图形处理器上运行时变得越来越慢
TensorFlow/Keras模型的call方法在图形处理器上运行时变得越来越慢的原因可能有多种。下面是一些可能的原因和解决方法：
- GPU内存不足：如果模型的输入数据量过大，可能会导致GPU内存不足，从而导致模型在GPU上运行变慢甚至无法运行。解决方法可以是减少输入数据的大小，或者使用更高内存容量的GPU。
- 模型复杂度过高：如果模型的层数过多或者参数量过大，会导致模型在GPU上的计算量增加，从而导致运行速度变慢。解决方法可以是简化模型结构，减少层数或者参数量。
- 数据传输瓶颈：在GPU上运行模型时，数据需要从主机内存传输到GPU内存，如果数据传输速度较慢，会导致模型运行变慢。解决方法可以是使用更快的数据传输方式，如使用高速PCIe接口的GPU。
- GPU驱动或框架版本问题：某些GPU驱动或框架版本可能存在性能问题，导致模型在GPU上运行变慢。解决方法可以是升级GPU驱动或框架版本，或者尝试其他可用的版本。
- 模型优化不足：如果模型的计算过程中存在冗余计算或者低效操作，会导致模型在GPU上运行变慢。解决方法可以是对模型进行优化，如使用更高效的算法或者减少冗余计算。
推荐的腾讯云相关产品和产品介绍链接地址：
腾讯云提供了多个与云计算相关的产品，包括云服务器、GPU云服务器、云数据库、云存储等。您可以访问腾讯云官网了解更多产品信息和详细介绍。
腾讯云官网链接：https://cloud.tencent.com/
相关·内容
1回答
TensorFlow/Keras模型__call__在图形处理器上运行时变得越来越慢
python、tensorflow、keras
另外，我有一个用Python语言编写的简单的TCP服务器，它接收来自MCTS的位置(以大约50到200个为一批)，将它们转换成Numpy数组，通过调用__call__将它们传递给TF/Keras模型，再将它们转换回来我遇到的问题是，在玩比赛的时候，推理时间越来越长，网络加载的时间越长，直到它变得非常慢，我必须重新开始训练。重新启动后，推理时间恢复正常。顺便说一句，如果我一次只玩一个游戏，并且只加载了一个模型，也会发生这种情况。 我试图通过在每
浏览 12提问于2020-12-31得票数 0
2回答
我需要什么K.clear_session()和del模型(带有Tensorflow-gpu的Keras)？
python、tensorflow、memory-management、keras
我在做什么
在许多代码中，我看到人们使用
# Do some code, e.g
浏览 5提问于2018-06-17得票数 58
1回答
TensorFlow:在设计自定义层时，__call__()和call()的功能不同吗？
python、tensorflow、machine-learning、deep-learning、neural-network
我在TensorFlow中设计了一个带有自定义层的神经网络。首先，我使用__call__()来定义前传，然后调用model.summary()。编辑:我还没有创建build()，并且已经在__init__()中声明了一切
浏览 3提问于2020-11-15得票数 0
回答已采纳
1回答
如何在加载两个不同的模型时使用model.predict()函数
python、keras、deep-learning
在使用分类器脚本之前，我首先让预处理器脚本在图像上运行。现在我想把所有的脚本合并在一起。因此，首先应该对我的图像进行预处理(两个模型使用相同的图像，但专注于不同的部分)。因此，我应该有两个图像，一个用于模型1，另一个用于模型2。然后，我对每个模型使用model.predict()方法并加载相应的图像。但这一次它不起作用。我的一个模型总是预测相同的类，但当我让它在一个脚本中单独运行时，它工作得很好。
背景:我有模具的图
浏览 37提问于2021-03-11得票数 0
1回答
如何调试tensorflow2-gpu中的内存不足
python、gpu、tensorflow2.x
我使用的是带有tf.data.Dataset的tensorflow-2图形处理器。在小模型上进行训练是可行的。当训练一个更大的模型时，首先，一切都可以正常工作:使用gpu，第一个时期工作没有问题(但我使用了大部分gpu内存)。在验证时，我遇到了一个具有各种分配的CUDA_ERROR_OUT_OF_MEMORY，其中不能分配的字节越来越少(从922Mb到337Mb)。我目前没有指标，也没有回调，正在使用tf.keras.Model.fi
浏览 2提问于2020-03-30得票数 5
2回答
在TensorFlow中实现权重约束的最佳方法是什么？
tensorflow
有谁知道在TensorFlow中实现这样的权重约束的好方法吗？T.clip(x, 0, np.infty)
它运行得很顺利。
浏览 178提问于2015-11-13得票数 36
2回答
带有TensorFlow 1.4.1的Keras 2.2.4导致GPU实例崩溃
tensorflow、keras、gpu、version、nvidia
Keras版本2.2.4的最低TensorFlow版本要求是什么？我在使用Conv2D架构时遇到了问题，GPU实例似乎崩溃了，也就是说，我可以看到GPU内存填满了一点，然后正在运行的进程就“崩溃”了。例如，训练密集模型可以很好地工作。这款采用Conv2D架构的笔记本在我的笔记本电脑TensorFlow 1.12.0和Keras 2.2.4上运行得很好。
我希望这与使用过的Keras & TensorFlow版
浏览 1提问于2018-11-30得票数 0
2回答
Keras + Tensorflow:多个gpus上的预测
python、tensorflow、keras、python-multiprocessing
我使用Keras和tensorflow作为后端。我有一个编译/训练的模型。...我知道在纯
浏览 3提问于2017-02-23得票数 13
回答已采纳
2回答
使用Keras训练模型时出现内存不足错误
python-3.x、tensorflow、keras、out-of-memory、gpu
在tf.device()的帮助下，我一直在我的图形处理器上使用tensorflow训练一个模型，直到现在它都工作得很好。我正在用Keras制作另一个神经网络模型，在使用model.fit时，它给了我一个面向对象的错误。
有人能指导我如何解决这个问题吗？
浏览 31提问于2020-02-13得票数 0
1回答
如何挑选/配置AWS GPU实例来加速TensorFlow.keras？
performance、tensorflow、keras、nvidia、tensorflow2.x
我有一个LSTM tf.keras模型，包含大约600MB的训练数据。每个训练周期大约需要90秒。我有tensorflow的最新版本，是v2.2。它在AWS g3.4xlarge实例上运行。该实例采用Nvidia的Tesla M60图形处理器，并具有8 8GB的内存供图形处理器使用。
我想做超参数调优，所以我需要加快执行速度。因此，我将模型和数据移动到一个AWSp3.2xlarge实例，该实例具有16 So内存的P100图形<
浏览 0提问于2020-06-20得票数 0
2回答
Tensorflow Keras模型和Estimator有什么不同？
tensorflow、keras、tensorflow-estimator
Tensorflow Keras模型和Tensorflow估计器都能够训练神经网络模型，并使用它们来预测新数据。它们都是建立在低级核心TensorFlow应用程序接口之上的高级API。
浏览 6提问于2018-07-21得票数 59
回答已采纳
3回答
Tensorflow 2:如何在GPU和CPU之间来回切换执行？
gpu、tensorflow2.0、tf.keras
在带有独立keras 2.X的tensorflow 1.X中，我曾经使用以下代码片段在GPU上训练和在CPU上运行推理(出于某些原因，我的keras模型要快得多)之间切换： keras.backend.clear_session": gpus}, k.set_session(session) 这个ConfigProto功能在
浏览 38提问于2019-12-19得票数 11
回答已采纳
2回答
残差神经网络模型在google colab tpu硬件上运行非常慢？
keras、deep-learning、google-colaboratory、google-cloud-tpu、tpu
我已经在谷歌Colab上为cifar10数据集建立了一个残差神经网络模型，但它在TPU硬件上运行非常慢。 我有另一个常规的卷积神经网络，它在google colab上运行良好。此模型使用keras Sequential API，而残差神经网络使用Functional API，不确定这是否是问题所在。我已经尝试更改批处理大小，但没有任何帮助。下面是我的程序的链接。https://colab.research.google.com/github
浏览 41提问于2019-06-15得票数 0
1回答
TFF占用大量CPU
tensorflow-federated
当我运行没有TFF的代码(使用model.fit()训练我的模型)时，我注意到CPU的使用率是5%，并且我的代码运行GPU。但如果我引入TFF :抛开GPU不谈，训练需要大量CPU (90%的量级)和大量内存，因为我知道我使用的是: Tensorflow Federated v0.12.0 Tensorflow v2.1.0
浏览 4提问于2020-03-02得票数 0
1回答
带有Keras的Python神经网络在CPU上运行，但在GPU上崩溃
python、tensorflow、keras、openai-gym
我实现了一个神经网络，它使用gym，box2d和gymatari学习玩PacMan，使用Keras模型。训练非常慢，所以我试着在我的GTX 1060 Max-Q上跑步。我安装了最新版本的Tensorflow，安装了CUDA11.0和cuDNN 8.0.4.30。程序成功打开所有库，正确检测图形处理器，创建张量设备，启动渲染的第一帧，冻结约9秒，然后退出，代码为-1073740791 (0xC0000409)。 为什么会发生这种情况?我可以做些什么来修复它？
浏览 30提问于2021-01-03得票数 0
1回答
Tensorboard回调没有编写训练指标
python、tensorflow、keras、callback、tf.keras
当模型需要足够长的时间来推断时(即足够大的参数和数据)，当profile_batch打开时，TensorBoard回调无法将训练指标写入日志事件(至少它们在Tensorboard中不可见)。以下是用于获取该失败的代码：import time
from tensorflow.keras.callbacks importTensorBoard
from tensorflow.keras.layers impo
浏览 7提问于2019-11-13得票数 0
回答已采纳
1回答
如何在C (__call__) API中实现小输入的Tensorflow Python ()(++)性能？
python、c++、performance、tensorflow
问题model = tf.keras.models.load_model("./<SavedModelDir>")预测函数在0.05秒内运行，输入为5次(在Nvidia GPU上)。这与文档中的声明一致，即对于较小的输入，使用model() (__call__<
浏览 2提问于2021-05-30得票数 0
2回答
种子是否应该在GPU导致的不可重现结果的情况下进行种子播种？
tensorflow、keras、google-colaboratory、random-seed
我想用相同的训练数据集在Google Colab (Tensorflow+Keras)中用图形处理器多次训练CNN架构，然后用相同的测试数据集测试每个训练过的模型。到目前为止，我已经设置了以下种子，它们的值在每次运行时都会有所不同，除了os.environ['PYTHONHASHSEED']='0'，我不确定是否应该将其放入其中？import osimport te
浏览 39提问于2019-11-05得票数 1
回答已采纳
1回答
无法加载库cudnn_cnn_infer64_8.dll。错误代码126
python、tensorflow、cuda、cudnn
当我尝试在图形处理器上使用TensorFlow时，我一直收到这个错误，我已经按照说明多次安装了CUDA、cuDNN和所有的驱动程序。但似乎什么都不起作用。如果我使用notebook，那么TensorFlow使用CPU，通过VS代码notebook扩展，我可以使用gpu，但它会在第一个时期停止会话，当我试图将其作为一个普通python文件运行时。import ImageDataGenerator
from tensorflow.keras</e
浏览 1663提问于2021-11-08得票数 8
2回答
有没有办法在Raspberry Pi 4 for Deep Learning上获得GPU加速？
python、deep-learning、gpu、tensorflow-lite、raspberry-pi4
在Tensorflow Lite的官方网站上，他们展示了对安卓和iOS的图形处理器加速的支持，但他们并没有提到对树莓派的支持。
浏览 0提问于2020-06-05得票数 4
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频活动推荐
腾讯云开发者
