腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
何时使用
L2
正则
化
、
我们知道L1和
L2
正则
化
是避免过拟合的解决方案。 L1
正则
化
,可以导致稀疏性,从而避免拟合噪声。但是,
L2
不需要。 所以我想知道什么时候需要使用
L2
正则
化
?
浏览 14
提问于2019-06-06
得票数 1
2
回答
在spark中,如何在
L2
中设置LogisticRegressionWithLBFGS规则参数
、
、
、
我想使用
L2
正则
化
器并在LogisticRegressionWithLBFGS中设置
L2
正则
param,但是在mllib的编程guides.So中没有例子--请告诉我如何在LogisticRegressionWithLBFGS中使用
L2
正则
化
器吗?
浏览 0
提问于2016-10-25
得票数 0
回答已采纳
1
回答
理解Keras中的
正则
化
、
我试图理解为什么Keras中的
正则
化
语法看起来是这样的。然而,在Keras中,
正则
化
是在每个层的基础上定义的。例如,考虑以下
正则
化
DNN模型: input = Input(name='the_input', shape=(None, input_sha
浏览 71
提问于2018-06-02
得票数 18
回答已采纳
1
回答
我应该避免使用
L2
正则
化
与RMSProp结合吗?
、
、
我是否应该避免使用
L2
正则
化
与RMSprop和NAG结合?最好的雷鬼,
浏览 0
提问于2017-02-23
得票数 5
1
回答
l1和
l2
正则
化
的区别
我在不同的地方见过这样的说法: l1
正则
化
比
l2
更能惩罚权重。 但l1范数的导数为\lambda,
l2
范数为2\lambdaw,因此l1
正则
化
减去的值比
l2
小。那么为什么l1比
l2
更能惩罚重量呢?
浏览 0
提问于2020-05-17
得票数 6
回答已采纳
1
回答
accord.net有套索和脊回归吗?
例如,我在accord网站上看到了L1和
L2
回归器,我知道和是用L1
正则
化
和
L2
正则
化
实现的。但我还是不确定。有谁能证实/反驳accord网的L1和
L2
与scikit中的Lasso和Ridge
正则
化
相同?
浏览 5
提问于2018-06-18
得票数 0
回答已采纳
1
回答
错误:还不支持在活动
正则
化
器存在下的层调用。
、
我正在使用
L2
正则
化
程序,为了确保它正常工作,我还包括以下内容: }tf.serialization.registerClass(
L2
); 有什么问题吗?注意:--这是一个被移动到Tf.js的Tensorflow模型,但是Tf.js支持活动
正则
<em
浏览 5
提问于2020-10-06
得票数 2
2
回答
多项式Logistic回归的l1
正则
化
支持
、
、
当前的sklearn LogisticRegression支持多项式设置,但仅允许
l2
正则
化
,因为解算器l-bfgs-b和牛顿-cg仅支持该
正则
化
。Andrew Ng有一篇论文讨论了为什么
l2
正则
化
不应该与l-bfgs-b一起使用。如果我使用具有对数损失和l1惩罚的sklearn的SGDClassifier,这是否与通过随机梯度下降最小
化
l1
正则
化
的多项式logistic回归相同?如果没有,有没有开
浏览 3
提问于2015-08-04
得票数 3
1
回答
向Tensorflow contrib.learn.Estimator添加
L2
正则
化
、
、
我想将
L2
正则
化
添加到自定义contrib.learn估计器中,但我不知道如何轻松完成。 有没有办法将
L2
正则
化
添加到我忽略的现有估计器(例如DNNClassfier)中?我想要将
L2
范数添加到我的自定义估计器中的唯一方法是编写一个新的head,并更改成本函数。但我想对于这个常见的问题,有一个更简单、更优雅的解决方案。有没有人有同样的问题?这样,梯度应该受到全局
L2
范数的限制,基本上我有
L2
正则
化
。
浏览 4
提问于2017-03-27
得票数 0
2
回答
轻型GBM回归器、L1和
L2
正则
化
及其特征重要性
、
、
我想知道轻型GBM中L1 &
L2
正则
化
是如何工作的,以及如何解释特性的重要性。为了避免过度拟合/反求,我为alpha/L1 & lambda/
L2
参数提供了以下范围,并且根据随机搜索的最佳值分别为1& 0.5。
正则
化
模型只考虑最重要的5-6个特征,并使其他特征的重要性值达到零(参考图像)。这是LGBM中L1/
L2
正则
化
的正常行为吗?进一步解释了L1/
L
浏览 0
提问于2019-08-08
得票数 6
回答已采纳
1
回答
当一个人应该使用L1,
L2
正则
化
,而不是辍学层,考虑到两者的目的相同,以减少过度拟合?
、
、
、
、
在Keras中,有两种方法可以减少过度拟合.L1,
L2
正则
化
或脱落层. 什么情况下使用L1,
L2
正则
化
而不是辍学层?当辍学层更好的时候,有什么情况呢?
浏览 0
提问于2018-08-23
得票数 28
回答已采纳
1
回答
BatchNorm层的参数是否应该被
正则
化
当我用火把训练我的CNN时,将使用
L2
正则
化
来对模型中的参数进行泛
化
。但是“重量衰减”代码将使用
L2
对所有可以更新的参数进行处理。BatchNorm层中的参数是否也应该被
L2
泛
化
?
浏览 2
提问于2020-10-28
得票数 1
回答已采纳
3
回答
当使用
正则
化时,减小斜率背后的直觉是什么?
在训练logistic回归模型的同时,利用
正则
化
方法可以帮助分配权重,避免对特定权重的依赖,使模型更加稳健。但在线性回归的情况下,
l2
正则
化
降低了坡度。
浏览 0
提问于2020-07-26
得票数 2
1
回答
如何在L1中添加MLPClaccifier
正则
化
?
、
、
、
、
我想在sklearn的L1中实现MLPClassifier的
正则
化
。下面是我的代码,alpha=0.0001是
L2
正则
化
的默认代码。我想使用L1
正则
化
而不是
L2
。cross-validation procedure (10X10) # create model
L2
Regularization ["alpha&quo
浏览 2
提问于2022-10-04
得票数 0
1
回答
对于相同的损失函数和优化器,L1或
L2
正则
化
是否给出了最稀疏的权重?
、
、
、
如果我考虑一个数据集,对于相同的损失函数和相同的优化器,哪种
正则
化
技术(L1
正则
化
或
L2
正则
化
)将输出最高的稀疏权重?
浏览 4
提问于2019-09-17
得票数 1
1
回答
当使用线性回归时,必须在成本函数中加入
L2
正则
化
。
、
、
时,必须在成本函数中加入
L2
正则
化
。 在计算成本时,Im没有添加
l2
或考虑到。这样做不对吗?
浏览 1
提问于2016-06-17
得票数 2
回答已采纳
1
回答
如何在PyTorch中查看培训过程中的weight_decay损失?
、
、
我在PyTorch中使用Adam优化器训练了一个模型,并将weight_decay参数设置为1.0。optimizer.zero_grad()optimizer.step()
浏览 0
提问于2019-10-18
得票数 0
1
回答
将
L2
正则
化
添加到Tensorflow中的特定嵌入
对于离散特征,我首先将它们嵌入到向量空间中,我想知道如何在嵌入上添加
L2
标准
化
。
L2
正则
化
操作符tf.nn.l2_loss接受嵌入张量作为输入,但我只想
正则
化
specific embeddings whose id appear in current batch of data,而不是整个矩阵
浏览 7
提问于2018-02-12
得票数 1
2
回答
如何使用scikit学习进行非
正则
logistic回归?
、
、
、
、
从scikit-learn的中,默认的惩罚是"
l2
",C(
正则
化
强度的逆)是"1“。如果保持这个设置惩罚=‘
L2
’和C=1.0,这是否意味着训练算法是一个非
正则
的logistic回归?相反,当C不是1.0,那么它是一个
正则
的logistic回归分类器?
浏览 2
提问于2017-04-15
得票数 1
回答已采纳
1
回答
Catboost: l2_leaf_reg的合理值是什么?
、
、
在一个较大的数据集(大约1M行,500列)上运行catboost,我得到:训练已经停止(迭代0上的退化解决方案,可能太小的
L2
正则
化
,尝试增加它)。 我如何猜测
l2
正则
化
值应该是多少?
浏览 10
提问于2017-12-09
得票数 6
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
权重衰减=L2正则化?
L2正则化视角下的对抗样本
简化正则化:L₂正则化
从贝叶斯角度看L1及L2正则化
机器学习第2步:数据预处理的L1和L2正则化方法
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券