我不明白你从两个线性感知器组合得到的方程是非线性的?
带方程的视频从两个线性感知器开始:$$e1 = 5x_1 -2x_2 -8=0 \hspace{10ex} e2 = 7x_1 - 3x_2 +1=0 $$
注:偏置单元符号在书写方程和神经网络图之间翻转。我使用的是负号,因为它将在视频的其余部分继续使用。
然后我们继续讨论将它们与各自的权重和偏差结合起来,如下所示:$$ 7e_1 + 5e_2 -6 =0$当我计算时,我得到:$$ 7e_1 + 5e_2 -6 = 0$$ $$ 7(5x_1 -2x_2 - 8) + 5 (7x_1 - 3x_2 + 1) -6=0美元$$ 35x_1 - 14x_2 - 56 + 35x_1 -15x_2 +5-6=0美元35x_1- 57 =0美元
结果的方程是非常线性,然而,其思想是,这会产生一个非线性方程(和模型)。
我把这两种模式组合在一起时,我做错了什么?
发布于 2018-07-27 07:42:45
你是正确的,用线性激活函数将两层叠加在一起并不能做任何单层不能做的事情(也就是说,它仍然是一个线性组合的术语)。
一旦使用其他激活函数,这种情况就会改变。然后,一旦在下一层(如$w_0 + w_1 f(e_1) +w_2 f(e_2)$ )将来自前一层的神经元组合成合适的激活函数$f$,例如ReLU、sigmoid函数等,然后将几个这样的层叠加在一起,就可以得到更复杂的功能关系。
https://datascience.stackexchange.com/questions/36078
复制相似问题