问如何定义神经网络中的不良学习率？

EN

我相信有效的学习率(Alpha)取决于数据。你提到的关于低效率学习率的观点是绝对正确的。因此，选择alpha没有硬性和快速的规则。让我列举一下在决定alpha时所采取的步骤：

1. 你显然需要一个大阿尔法，这样你的模型就能快速学习。
2. 也要注意，大阿尔法可能导致超调极小值，因此你的假设不会收敛。
3. 为了解决这个问题，您可以使用学习速率衰减。这降低了你的学习速度，因为你接近最小，放慢学习速度，这样你的模型就不会过度。

有几种方法可以做到这一点：

• 阶跃衰变
• 指数衰减
• 线性衰变

你可以选择其中之一，然后训练你的模型。尽管如此，请允许我指出，在得到最佳结果之前，您仍然需要进行一些尝试和错误。