TVP

# tensorflow语法【shape、tf.trainable_variables()、Optimizer.minimize()】

【二】tensorflow调试报错、tensorflow 深度学习强化学习教学

【三】tensorboard安装、使用教学以及遇到的问题

【四】超级快速pytorch安装

trick1---实现tensorflow和pytorch迁移环境教学

• 张量shape参数理解

shape参数的个数应为维度数，每一个参数的值代表该维度上的长度

``````shape=(100,784)

shape=(2,)

``````# 例：
[[[1,2,3],[4,5,6]]]
# 第一个维度中只有一个元素[[1,2,3][4,5,6]]，所以第一个维度长度为1
# 第二个维度中有两个元素[1,2,3][4,5,6]，所以第二个维度长度为2
# 第三个维度中有三个元素“1,2,3”或“4,5,6”，所以第三个维度长度为3
# 那么它的shape参数就是[1,2,3]
``````

• tf.trainable_variables(), tf.global_variables()的使用

## tf.trainable_variables()：

``````__init__(
initial_value=None,
trainable=True,
collections=None,
validate_shape=True,
...
)``````

``````w1 = tf. Variable (tf. randon_normal ([256, 2000]),'w1' )
b1 = tf.get_ variable('b1', [2000])
learning_ rate = tf. Variable(0.5, trainable=False)
global_ step = tf. Variable(0, trainable=False)``````
``````trainable_ params = tf. trainable_ variables()
trainable_ params
[<tf. Variable’Variable:0' shape= (256，2000) dtype=float32_ ref>,
<tf. Variable’ b1:0”shape= (2000,) dtype=float32_ ref>]``````

``````vith tf. variable_ scope(' var' ):
w2 = tf.get. variable('w2' , [3, 3])
w3 = tf.get. variable(' w3'，[3, 3])``````

``````trainable. params = tf.trainable.variables ()
trainable_ params
[<tf. Variable’ vrar/w2:0’shape=(3, 3) dtype=float32_ ref>,
<tf. Variable’w3:0' shape=(3, 3) dtype=float32_ ref>]``````

``````scope_ parans = tf. trainable_ variables (scope-' var' )
scope par ains
[<tf. Variable ’var/w2:0' shape=(3, 3) dtype=float32_ ref>]``````

## tf.global_variables()

``````global parans = tf. global variables()
global_ params
[<tf. Variable，Variable:0' shape=(256， 2000) dtype=float32_ ref>,
<tf. Variable ' b1:0' shape= (2000,) dtype-float32_ ref>,
<tf. Variable。Variable_ 1:0’shape=0 dtype=float32_ ref>,
<tf. Variable' Variable_ 2:0’ shape=() dtype=int32_ ref>]``````

## Optimizer.minimize()

``````  def minimize(self, loss, global_step=None, var_list=None,
aggregation_method=aggregation_method,

vars_with_grad = [v for g, v in grads_and_vars if g is not None]
raise ValueError(
"No gradients provided for any variable, check your graph for ops"
" that do not support gradients, between variables %s and loss %s." %
([str(v) for _, v in grads_and_vars], loss))

name=name)``````

loss:  `Tensor` ，需要优化的损失；        var_list: 需要更新的变量(tf.Varialble)组成的列表或者元组，默认值为`GraphKeys.TRAINABLE_VARIABLES`，即tf.trainable_variables()

1、Optimizer.minimize(loss, var_list)中，计算loss所涉及的变量(假设为var(loss))包含在var_list中，也就是var_list中含有多余的变量，并不 影响程序的运行，而且优化过程中不改变var_list里多出变量的值；

2、若var_list中的变量个数少于var(loss)，则优化过程中只会更新var_list中的那些变量的值，var(loss)里多出的变量值 并不会改变，相当于固定了网络的某一部分的参数值。

``````compute_gradients(self, loss, var_list=None,
aggregation_method=None,

``apply_gradients(self, grads_and_vars, global_step=None, name=None)``

0 条评论

• ### Tensorflow加载预训练模型的特殊操作

在前面的文章【Tensorflow加载预训练模型和保存模型】中介绍了如何保存训练好的模型，已经将预训练好的模型参数加载到当前网络。这些属于常规操作，即预训练的模...

• ### 【tensorflow2.0】自动微分机制

神经网络通常依赖反向传播求梯度来更新网络参数，求梯度过程通常是一件非常复杂而容易出错的事情。

• ### Tensorflow小技巧整理：

tf.trainable_variables(), tf.all_variables(), tf.global_variables()查看变量

• ### TensorFlow2.X学习笔记(1)--TensorFlow核心概念

TensorFlow™ 是一个采用 数据流图（data flow graphs），用于数值计算的开源软件库。节点（Nodes）在图中表示数学操作，图中的线（e...

• ### 一看就懂的Tensorflow实战（TensorBoard高级篇）

[TensorBoard: 图表可视化]http://wiki.jikexueyuan.com/project/tensorflow-zh/how_tos/gr...

• ### TensorFlow强化学习入门（1.5）——上下文赌博机

在上一篇文章中我们简要介绍了强化学习并构建了一个简单的agent来解决多臂赌博机问题。在多臂赌博机问题中agent不需要考虑所处环境的状态，只要通过学习确定那一...

• ### tensorflow: bn层

可视化 batch normalization 过程中的 tensor演化（以输入一张[1, 4 , 4, 1]的图片为例）

• ### 基于TensorFlow.js的线性回归模型实践

无监督学习的训练过程中不存在所谓的"正确答案", 因此训练的方式与有监督学习存在显著的区别. 本文不进行深入讨论.

• ### 深度学习入门实战（二）

导语：上一篇文章我们介绍了MxNet的安装，但MxNet有个缺点，那就是文档不太全，用起来可能是要看源代码才能理解某个方法的含义，所以今天我们就介绍一下Te...

• ### 解决Keras TensorFlow 混编中 trainable=False设置无效问题

首先我有一个训练好的模型(例如vgg16)，我要对这个模型进行一些改变，例如添加一层全连接层，用于种种原因，我只能用TensorFlow来进行模型优化,tf的优...

• ### 【深度学习入门系列】TensorFlow训练线性回归

作者：董超 来源：腾讯云技术社区「腾云阁」 上一篇文章我们介绍了 MxNet 的安装，但 MxNet 有个缺点，那就是文档不太全，用起来可能是要看源代码才能理...

• ### tensorflow实现手写体数字识别

之前在人工智能课上自己手动搭建过一个BP神经网络实现MNIST数据集的手写体数字识别，使用的是c++，最终准确率的上限在95%至96%左右（毕竟水平有限）。这次...

• ### 深度学习入门实战（二）：用TensorFlow训练线性回归

上一篇文章我们介绍了 MxNet 的安装，但 MxNet 有个缺点，那就是文档不太全，用起来可能是要看源代码才能理解某个方法的含义，所以今天我们就介绍一下 Te...

• ### tensorflow编程: Variables

tf.moving_average_variables tf.global_variables_initializer tf.local_variabl...

• ### 打印tensorflow恢复模型中所有变量与操作节点方式

补充知识：TensorFlow：.ckpt文件与.ckpt.meta和.ckpt.index以及.pb文件之间的关系是什么？

• ### 基于tensorflow的一元二次方程回归预测

安装tensorflow命令：pip install tensorflow 下面一段代码能够成功运行，则说明安装tensorflow环境成功。

• ### VggNet10模型的cifar10深度学习训练

先放些链接，cifar10的数据集的下载地址：http://www.cs.toronto.edu/~kriz/cifar.html

10元无门槛代金券