Tensorflow深度学习算法整理神经网络

神经网络

神经元-逻辑回归模型

神经元——最小的神经网络

神经元的基本图示，这里x1、x2、x3.....代表特征数据的输入，最后一个1是一个特殊的特征，表示x^0项，对应的就是一个截距b。它们经过加权W•x，这里W,x都是向量，再经过一个函数h(W•x)就得到了一个输出。整个公式如下

而这个f()函数，我们一般使用逻辑回归的

函数(关于逻辑回归的内容请参考机器学习算法整理(三) )

而这单个神经元就相当于是一个逻辑回归的分类。输出的结果就是一个0,1之间的概率数字。那么这里就是一个二分类的问题，比如说这个猫、狗二分类的图。

神经元多输出

在神经元多输出的时候，W从向量扩展成矩阵。W•x就变成了一个向量(矩阵点乘向量为向量)。这种情况下，我们可以得到一个多分类的神经元-逻辑回归模型。