专栏首页GAN&CVtensorflow 内存泄漏、内存不足

tensorflow 内存泄漏、内存不足

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_25737169/article/details/78125550

使用tensorflow的时候有一个问题,训练过程中,每次迭代所需要的时间越来越长,运行一段时间后报错,说内存不足,后来找到了原因,在循环中我使用 tf.convert_to_tensor()函数,一开始不理解这个函数,有时候用着很方便就拿来用了,后来才知道这个函数会一直增加graph中的节点,随着训练进行,挤爆了内存 问题的详细描述和解决可以见下面的链接: https://stackoverflow.com/documentation/tensorflow/3883/how-to-debug-a-memory-leak-in-tensorflow/13426/use-graph-finalize-to-catch-nodes-being-added-to-the-graph#t=201707221208374841351 就是在定义好网络结构之后,使用

sess.graph.finalize() 

把整个图冻住,使图变为只读的形式,这样就避免了问题的发生,但是这个函数不允许增加节点,在之后循环中tf.reshape()、tf.cast()函数等改变图节点的函数也不能用了,也造成了一些不方便,这里吐槽一下tensorflow的不方便性,所以以后使用tensorflow的时候尽量避免使用tf.train.Saver(), tf.convert_to_tensor(),这一类的函数放在循环之中,尽量在外部定义好之后使用sess.run()的方法运行 另外就是 tf.zeros_like(), tf.ones_like() 这类的代码也不要放在循环里了,这样能大大加快训练速度 参考链接: http://m.blog.csdn.net/appleml/article/details/75805797 https://github.com/tensorflow/tensorflow/issues/4151

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • tensorflow 实现wgan-gp mnist图片生成

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_25737169/article/d...

    DoubleV
  • 迁移学习之--tensorflow选择性加载权重

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_25737169/article/d...

    DoubleV
  • tensorflow ‘/biases/Adam_1’not in ckpt file

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_25737169/article/d...

    DoubleV
  • tf.decode_raw

    原链接: https://tensorflow.google.cn/versions/r1.8/api_docs/python/tf/decode_raw?h...

    于小勇
  • 最新!TensorFlow 1.9.0正式版发布

    TensorFlow 1.9.0正式版发布了,下面是更新和改进的细节,更详细的信息请到网站查阅:github.com/tensorflow/tensorflow...

    AiTechYun
  • 教程 | TensorEditor :一个小白都能快速玩转的神经网络搭建工具

    机器之心
  • 人工智能|Tensorflow-2.0学习笔记:基础操作篇一

    矩阵 matrix :[[0.7,1.5],[2.1,3],[5,6]]

    算法与编程之美
  • 数据统计

    py3study
  • 深度学习入门实战(二)

    导语:上一篇文章我们介绍了MxNet的安装,但MxNet有个缺点,那就是文档不太全,用起来可能是要看源代码才能理解某个方法的含义,所以今天我们就介绍一下Te...

    MelonTeam
  • 【深度学习入门系列】TensorFlow训练线性回归

    作者:董超 来源:腾讯云技术社区「腾云阁」 上一篇文章我们介绍了 MxNet 的安装,但 MxNet 有个缺点,那就是文档不太全,用起来可能是要看源代码才能理...

    IT派

扫码关注云+社区

领取腾讯云代金券