神经元-逻辑回归模型
神经元——最小的神经网络
神经元的基本图示,这里x1、x2、x3.....代表特征数据的输入,最后一个1是一个特殊的特征,表示x^0项,对应的就是一个截距b。它们经过加权W•x,这里W,x都是向量,再经过一个函数h(W•x)就得到了一个输出。整个公式如下
而这个f()函数,我们一般使用逻辑回归的
函数(关于逻辑回归的内容请参考机器学习算法整理(三) )
而这单个神经元就相当于是一个逻辑回归的分类。输出的结果就是一个0,1之间的概率数字。那么这里就是一个二分类的问题,比如说这个猫、狗二分类的图。
神经元多输出
在神经元多输出的时候,W从向量扩展成矩阵。W•x就变成了一个向量(矩阵点乘向量为向量)。这种情况下,我们可以得到一个多分类的神经元-逻辑回归模型。