(详情可以去查阅梯度的wiki),说完了梯度之后,我们来进一步说一下
梯度算法使如何使用到梯度(grad)来进行快速下降或者上升的吧.
2.2 梯度下降算法
为了更好的说明梯度下降算法,首先我们来看看下面这个例子吧...使用梯度下降法来求解它的最小值(也就是如何能够快速的进入跑到谷底).
首先展示一下该函数的模型:
?...如果我们在将其转化成多维空间的话,其实可以使用还可以这样:
?
但是到这里,这里依旧还只是一个通试而已,那么我们该如何使用其那些数据呢?
...然后我们再按照梯度的方向逐步的移动,慢慢的逼近收敛值.用表达式表示为:
?...,解释一下这个方程吧~:
如何去理解这个方程中的i,j,恩,下标j其实就是我们的对应的第j个权重,i表示的是样本数据中第i组训练数据,如果还迷糊的话,我们用一点伪代码来表示一下吧:
"这里权重用W表示