Neural Networks: Representation
首先需要明确一些符号的意思,以方便后面的阅读。
αi(j):表示第j层的第i个激活单元(activation) θ(j) :表示第j层映射到第j+1层的控制函数的权重矩阵。
如图是一个三层结构的神经网络(输入层,隐藏层、输出层),每一层的激活单元的计算表达式图中也已经写出来了。 还需要注意的是:
若神经网络在第j层有sj个单元,在j+1层有sj+1个单元,则θ(j)矩阵的维度是(sj+1,sj),之所以要加1是因为输入层和隐藏层都需要加一个bias。
如下图,θ(1)的维度是(4, 3)
在上面内容的基础上我们继续抽象化,向量化,使得神经网络计算表达式看起来更加简洁(但是更加抽象了。。。)
突然发现Coursera上的数学公式是可以复制的。。。。简直不要太舒服,终于不用自己敲键盘了。。。问我方法?右键即可。
<br><br><hr> <footer style="color:white;;background-color:rgb(24,24,24);padding:10px;border-radius:10px;"> <h3 style="text-align:center;color:tomato;font-size:16px;"> <b>MARSGGBO</b><b style="color:white;"><span style="font-size:25px;">♥</span>原创</b> <br> <br> <b style="color:white;"> 2017-8-3 </b> </h3> </footer>