梯度下降算法如何处理局部最小值（Local Minima）？

梯度下降算法在处理复杂函数时可能会陷入局部最小值，而无法达到全局最小值。下面是一些处理局部最小值的方法：

多次随机初始化

通过多次随机初始化模型参数，可以增加算法找到全局最小值的机会。

使用随机梯度下降算法

随机梯度下降算法每次只使用一个样本来更新模型参数，可以避免陷入局部最小值。

使用带动量的梯度下降算法

带动量的梯度下降算法可以避免陷入局部最小值，并且收敛速度更快。

使用自适应学习率的梯度下降算法

自适应学习率的梯度下降算法可以根据梯度的大小自动调整学习率，从而避免陷入局部最小值。

使用正则化技术

正则化技术可以减少过拟合的风险，从而避免陷入局部最小值。