正则化参数的选择
正则化参数的选择
提问于 2014-01-05 02:35:53
当应用正规化logistic回归时:我将我的数据分成训练、交叉验证和测试集.我想应用正则化，并正在选择正则化参数lambda。为此，我尝试不同的lambda值，并在训练集上拟合我的假设的参数θ。然后，我选择lambda的值，它在验证集上给出了最低的成本函数。要做到这一点，我是否应该计算验证集的成本函数和惩罚期限？
回答 2
Stack Overflow用户
回答已采纳
发布于 2014-01-05 02:50:51
这是混淆了两件事。您可以最小化成本函数(带有正则化项)来选择模型参数(对于给定的超参数，如lambda)。但是，参数允许您对验证集中的点进行分类。你可以测量分类与地面真相的匹配程度。你选择给出最正确答案的朗姆达。在这一阶段，lambda的成本函数不起作用。
Stack Overflow用户
发布于 2014-01-05 04:10:28
你可以画出学习曲线，训练和验证误差都收敛到一个小的值，并选择与最小误差对应的参数作为正则化参数。
正则化参数的选择与成本函数值无关。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/20929360
复制相关文章
相似问题
腾讯云开发者
