变量跨run()调用在图中维护状态。通过构造类变量的实例，可以向图中添加一个变量。Variable()构造函数需要变量的初值，它可以是任何类型和形状的张量。初值定义变量的类型和形状。构造完成后，变量的类型和形状是固定的。可以使用指定方法之一更改值。如果稍后要更改变量的形状，必须使用带有validate_shape=False的赋值Op。与任何张量一样，使用Variable()创建的变量可以用作图中其他Ops的输入。此外，张量类的所有重载运算符都被传递到变量上，因此您也可以通过对变量进行算术将节点添加到图中。
tensorflow支持14种不同的类型，主要包括：实数：tf.float32 tf.float64整数：tf.int8 tf.int16 tf.int32 tf.int64 tf.unit8布尔：tf.bool复数：tf.complex64 tf.complex1281、tf.to_bfloat16函数将张量强制转换为bfloat16类型。(deprecated)tf.to_bfloat16( x, name='ToBFloat16')参数：x:张量或稀疏张量或索引切片。name:
在机器学习和深度学习中，我们经常会遇到各种各样的错误。其中一个常见的错误是ValueError: Error when checking : expected input_1 to have 4 dimensions, but got array with shape (50, 50, 3)。这个错误通常出现在我们使用深度学习框架如TensorFlow或Keras进行图像处理时。
在张量中创建多个张量。参数张量可以是张量的列表或字典。函数返回的值与张量的类型相同。这个函数是使用队列实现的。队列的QueueRunner被添加到当前图的QUEUE_RUNNER集合中。 如果enqueue_many为False，则假定张量表示单个示例。一个形状为[x, y, z]的输入张量将作为一个形状为[batch_size, x, y, z]的张量输出。如果enqueue_many为真，则假定张量表示一批实例，其中第一个维度由实例索引，并且张量的所有成员在第一个维度中的大小应该相同。如果一个输入张量是shape [*， x, y, z]，那么输出就是shape [batch_size, x, y, z]。容量参数控制允许预取多长时间来增长队列。返回的操作是一个dequeue操作，将抛出tf.errors。如果输入队列已耗尽，则OutOfRangeError。如果该操作正在提供另一个输入队列，则其队列运行器将捕获此异常，但是，如果在主线程中使用该操作，则由您自己负责捕获此异常。
张量流将稀疏张量表示为三个独立的稠密张量:指标、值和dense_shape。在Python中，为了便于使用，这三个张量被收集到一个SparseTensor类中。如果有单独的指标、值和dense_shape张量，在传递到下面的ops之前，将它们包装在sparse张量对象中。具体来说，稀疏张量稀疏张量(指标、值、dense_shape)由以下分量组成，其中N和ndims分别是稀疏张量中的值和维数：
定义在：tensorflow/python/framework/sparse_tensor.py.
x: 一个类型为:half, float32, float64, uint8, int8, uint16, int16, int32, int64, complex64, complex128的张量。
Keras的底层库使用Theano或TensorFlow，这两个库也称为Keras的后端。无论是Theano还是TensorFlow，都需要提前定义好网络的结构，也就是常说的“计算图”。
我们可以将这些单元神经元组合为层和堆栈，形成神经元网络。一个神经元层的输出变成另一层的输入。对于多个输入单元和输出单元，我们现在需要将权重表示为矩阵。
从均匀分布中输出随机值。生成的值在该 [minval, maxval) 范围内遵循均匀分布.下限 minval 包含在范围内,而上限 maxval 被排除在外。对于浮点数,默认范围是 [0, 1)。对于整数，至少 maxval 必须明确地指定。在整数情况下，随机整数稍有偏差，除非 maxval - minval 是 2 的精确幂。对于maxval - minval 的值，偏差很小，明显小于输出(2**32 或者 2**64)的范围。
这些天无论是还是私信，很多人希望看到更多关于深度学习基础内容，这篇文章想要分享的是关于pytorch的转换函数。
当然在 PyTorch 中，转换函数的主要意义主要是用于对进行数据的预处理和数据增强，使其适用于深度学习模型的训练和推理。
注意： （1）multiply这个函数实现的是元素级别的相乘，也就是两个相乘的数元素各自相乘，而不是矩阵乘法，注意和tf.matmul区别。 （2）两个相乘的数必须有相同的数据类型，不然就会报错。
1. 数据格式转换: 将不同格式的数据(如PIL图像、NumPy数组)转换为PyTorch张量,以便能够被深度学习模型处理。例如,transforms.ToTensor() 将图像转换为张量。
这个操作对x(对于张量)或x进行了强制转换。值(对于稀疏张量或索引切片)到dtype。
根据条件返回元素(x或y)。 如果x和y都为空，那么这个操作返回条件的真元素的坐标。坐标在二维张量中返回，其中第一个维度(行)表示真实元素的数量，第二个维度(列)表示真实元素的坐标。记住，输出张量的形状可以根据输入中有多少个真值而变化。索引按行主顺序输出。如果两者都是非零，则x和y必须具有相同的形状。如果x和y是标量，条件张量必须是标量。如果x和y是更高秩的向量，那么条件必须是大小与x的第一个维度匹配的向量，或者必须具有与x相同的形状。条件张量充当一个掩码，它根据每个元素的值选择输出中对应的元素/行是来自x(如果为真)还是来自y(如果为假)。如果条件是一个向量，x和y是高秩矩阵，那么它选择从x和y复制哪一行(外维)，如果条件与x和y形状相同，那么它选择从x和y复制哪一个元素。
与parse_example类似，除了:对于稠密张量，返回的张量与parse_example的输出相同，除了没有批处理维数，输出形状与dense_shape中给出的形状相同。对于稀疏量，删除索引矩阵的第一个(batch)列(索引矩阵是列向量)，值向量不变，删除形状向量的第一个(batch_size)条目(现在是单个元素向量)。可以通过使用parse_example批量处理示例原型而不是直接使用这个函数来看到性能优势。
TensorFlow是一个面向深度学习算法的科学计算库，内部数据保存在张量Tensor对象中，所有的运算操作都是基于张量进行的
将一列秩为R的张量叠加成一个秩为(R+1)的张量。 将值中的张量列表沿轴维进行打包，将其打包成一个比值中的每个张量的秩高1的张量。给出形状张量长度N的列表(A, B, C);如果axis == 0，则输出张量的形状为(N, A, B, C);如果axis == 1，则输出张量的形状为(A, N, B, C)等。
返回此数据集元素的每个组件的类。(不推荐)期望值是tf.Tensor和tf.sparseTensor。
可以看出，对于基本运算加（+）、减（-）、点乘（*）、除（/）、地板除法（//）、取余（%），都是对应元素进行运算。
将秩为R张量的给定维数分解为秩为(R-1)张量。通过沿着轴维对num张量进行切分，从值中解压缩num张量。如果没有指定num(默认值)，则从值的形状推断它。如果value.shape[axis]未知，将引发ValueError。
1、tf.train.queue_runner.add_queue_runner函数
对n维logit张量的第n维执行softmax。对于二维logits，这可以归结为tf.n .softmax。第n个维度需要具有指定数量的元素(类的数量)。
关于张量、张量运算、批量、梯度优化、随机梯度下降这几个概念和Dense的一些参数，简单而又难以理解的几个名词，花了几天时间才看了个七七八八，尤其是Dense的输入输出参数、权重和偏置向量是如何发挥作用的。
Numpy 允许我们根据给定的新形状重塑矩阵，新形状应该和原形状兼容。有意思的是，我们可以将新形状中的一个参数赋值为-1。这仅仅表明它是一个未知的维度，我们希望 Numpy 来算出这个未知的维度应该是多少：Numpy 将通过查看数组的长度和剩余维度来确保它满足上述标准。让我们来看以下例子：
解读： tensorflow中的tile()函数是用来对张量(Tensor)进行扩展的，其特点是对当前张量内的数据进行一定规则的复制。最终的输出张量维度不变。
本文基于阿里推荐 DIN 和 DIEN 代码，梳理了下深度学习一些概念，以及TensorFlow中的相关实现。
当我们在训练深度学习模型时，有时会遇到这样的错误消息：Expected more than 1 value per channel when training, got input size torch.Size。这个错误通常发生在使用PyTorch训练图像分类模型时，表示模型期望每个通道（channel）的输入数据不止一个值，但实际输入的大小却是torch.Size。
理解深度学习需要熟悉一些简单的数学概念：Tensors(张量)、Tensor operations 张量操作、differentiation微分、gradient descent 梯度下降等等。
它允许您使用一组TensorFlow操作并注释构造，以便toco知道如何将其转换为tflite。这在张量流图中嵌入了一个伪函数。这允许在较低级别的TensorFlow实现中嵌入高级API使用信息，以便以后可以替换其他实现。本质上，这个伪op中的任何“输入”都被输入到一个标识中，并且属性被添加到该输入中，然后由构成伪op的组成ops使用。
神经学习的一种主要方式就是卷积神经网络（CNN），有许多种方法去描述CNN到底做了什么，一般通过图像分类例子通过数学的或直观的方法来介绍如何训练和使用CNN。
最近在tensorflow环境下用CNN来实现mnist，里面设计了一些tensorflow的函数，在之后的学习中肯定会经常使用，因此记录整理下来。
生成的值在该 [minval, maxval) 范围内遵循均匀分布.下限 minval 包含在范围内,而上限 maxval 被排除在外.
这个错误通常是由于输入数据的形状与定义的模型输入的形状不匹配所导致的。这篇文章将介绍如何解决这个错误，并对问题的背景和解决步骤进行详细说明。
cond是一个返回布尔标量张量的可调用的张量。body是一个可调用的变量，返回一个(可能是嵌套的)元组、命名元组或一个与loop_vars具有相同特性(长度和结构)和类型的张量列表。loop_vars是一个(可能是嵌套的)元组、命名元组或张量列表，它同时传递给cond和body。cond和body都接受与loop_vars一样多的参数。除了常规张量或索引片之外，主体还可以接受和返回TensorArray对象。TensorArray对象的流将在循环之间和梯度计算期间适当地转发。注意while循环只调用cond和body一次(在调用while循环的内部调用，而在Session.run()期间根本不调用)。while loop使用一些额外的图形节点将cond和body调用期间创建的图形片段拼接在一起，创建一个图形流，该流重复body，直到cond返回false。为了保证正确性，tf.while循环()严格地对循环变量强制执行形状不变量。形状不变量是一个(可能是部分的)形状，它在循环的迭代过程中保持不变。如果循环变量的形状在迭代后被确定为比其形状不变量更一般或与之不相容，则会引发错误。例如，[11,None]的形状比[11,17]的形状更通用，而且[11,21]与[11,17]不兼容。默认情况下(如果参数shape_constant没有指定)，假定loop_vars中的每个张量的初始形状在每次迭代中都是相同的。shape_constant参数允许调用者为每个循环变量指定一个不太特定的形状变量，如果形状在迭代之间发生变化，则需要使用该变量。tf.Tensor。体函数中也可以使用set_shape函数来指示输出循环变量具有特定的形状。稀疏张量和转位切片的形状不变式特别处理如下:
利用 Keras 函数式 API，你可以构建类图（graph-like）模型、在不同的输入之间共享某一层，并且还可以像使用 Python 函数一样使用 Keras 模型。Keras 回调函数和 TensorBoard 基于浏览器的可视化工具，让你可以在训练过程中监控模型
本文转自『机器之心编译』（almosthuman2014） 在 reshape 函数中使用参数-1
【一】tensorflow安装、常用python镜像源、tensorflow 深度学习强化学习教学
在机器学习和数据科学项目的日常数据处理中，我们会遇到一些特殊的情况，这些情况需要样板代码来解决。在此期间，根据大家的需要和使用情况，其中一些转换为核心语言或包本身提供的基本功能。这里我将分享5个优雅的python Numpy函数，它们可以用于高效和简洁的数据操作。
参见:https://en.wikipedia.org/wiki/Huber_loss
VGGNet是牛津大学视觉几何组(Visual Geometry Group)提出的模型，该模型在2014ImageNet图像分类与定位挑战赛 ILSVRC-2014中取得在分类任务第二，定位任务第一的优异成绩。VGGNet突出的贡献是证明了很小的卷积，通过增加网络深度可以有效提高性能。
在本章中，我们将研究生成对抗网络（GAN）。 它们是一种深度神经网络架构，它使用无监督的机器学习来生成数据。 他们在 2014 年由 Ian Goodfellow，Yoshua Bengio 和 Aaron Courville 的论文中介绍，可在以下链接中找到。 GAN 具有许多应用，包括图像生成和药物开发。
领取专属 10元无门槛券
手把手带您无忧上云
