Python中的正则化Logistic回归
是一种机器学习算法，用于解决二分类问题。它是逻辑回归的一种变体，通过引入正则化项来控制模型的复杂度，防止过拟合。
正则化是一种在损失函数中添加额外项的技术，目的是限制模型参数的大小。在正则化Logistic回归中，常用的正则化项有L1正则化和L2正则化。
L1正则化通过在损失函数中添加参数的绝对值之和来惩罚模型的复杂度。它的优势在于可以产生稀疏解，即将一些参数置为零，从而实现特征选择的效果。在Python中，可以使用scikit-learn库的LogisticRegression类的penalty参数设置为"l1"来实现L1正则化。
L2正则化通过在损失函数中添加参数的平方和来惩罚模型的复杂度。它的优势在于可以产生平滑的解，避免参数过大。在Python中，可以使用scikit-learn库的LogisticRegression类的penalty参数设置为"l2"来实现L2正则化。
正则化Logistic回归在实际应用中具有广泛的应用场景，例如文本分类、信用评分、广告点击率预测等。它可以处理高维稀疏数据，并且具有较好的解释性和计算效率。
腾讯云提供了多个与机器学习相关的产品，可以用于支持正则化Logistic回归的开发和部署。其中，腾讯云机器学习平台（https://cloud.tencent.com/product/tf）提供了强大的机器学习算法库和模型训练、部署的功能。腾讯云云服务器（https://cloud.tencent.com/product/cvm）可以提供高性能的计算资源，用于训练和推理。腾讯云对象存储（https://cloud.tencent.com/product/cos）可以用于存储训练数据和模型文件。
相关·内容
23]]结果：intercept [-0.15184511
Python-Sklearn
浏览 5提问于2017-03-06得票数 2
回答已采纳
2回答
从scikit-learn的中，默认的惩罚是"l2"，C(正则化强度的逆)是"1“。如果保持这个设置惩罚=‘L2’和C=1.0，这是否意味着训练算法是一个非正则的logistic回归？相反，当C不是1.0，那么它是一个正则的logistic回归分类器？
浏览 2提问于2017-04-15得票数 1
回答已采纳
当前的sklearn LogisticRegression支持多项式设置，但仅允许l2正则化，因为解算器l-bfgs-b和牛顿-cg仅支持该正则化。Andrew Ng有一篇论文讨论了为什么l2正则化不应该与l-bfgs-b一起使用。如果我使用具有对数损失和l1惩罚的sklearn的SGDClassifier，这是否与通过随机梯度下降最小化l1正则化的多项式
浏览 3提问于2015-08-04得票数 3
1回答
我目前正在与来自Kaggle的森林覆盖类型预测一起工作，使用带有scikit-learn的分类模型。我的主要目的是学习不同的模型，所以我不会假装讨论哪一种更好。在使用logistic回归时，我想知道是否需要“惩罚”参数(在这里，我可以选择L1或L2正则化)。根据我的发现，这些正则化项对于避免过度拟合是有用的，特别是当参数值是极端时(通过极值我理解一些参数值的范围比
浏览 0提问于2015-04-21得票数 2
回答已采纳
我想知道Weka的简单Logistic函数是否使用正则化。*建立线性logistic回归模型的分类器。采用具有简单回归函数的LogitBoost作为基础学习器，对logistic模型进行拟合。要执行的LogitBoost迭代的最佳次数是交叉验证的，这将导致自动属性选择。如果没有设置(并
浏览 2提问于2013-09-30得票数 2
回答已采纳
问题: Logistic回归使用L1正则化和L2正则化训练logistic回归模型，使用α= 0.1和λ= 0.1。报告准确率、精确度、召回率、F1分数并打印混淆矩阵_lambda = 0.1classifier = LogisticRegression(penalty='l1',C=c)
y
浏览 26提问于2018-08-30得票数 0
回答已采纳
1回答
我已经建立了一个模型，根据主题(特征)中的关键字将电子邮件分类为10个不同的work_categories (标签)。然而，这个任务可能包括电子邮件应该被归类在多个标签上的可能性。例如:一封主题为“服务证书并转移它们”的电子邮件应该分为两个标签，即Servicing Worktype (标签1)和Transfer Worktype (标签2)。在我当前的程序中，这只分配给标签1。在java中，我是否可以使用spark将电子邮件分类到两个标签？
我一直在
浏览 0提问于2019-07-31得票数 0
在大多数分类(例如logistic /线性回归)中，在正则化时忽略了偏差项。如果我们不正则化偏差项，我们会得到更好的分类吗？
浏览 0提问于2012-09-25得票数 12
回答已采纳
这段代码是关于正则化逻辑回归的，直到我使用fmin_bfgs的部分，也就是直到代码的最后一行，它都是很好的。它最初是用Octave编写的，所以我在使用fmin_bfgs之前测试了每个函数的一些值，所有的输出都是正确的。问题是当我试图最小化cost_function_reg时，我收到了以下消息： line 53, in cost_function_reg
thetaR = theta[1:,
浏览 25提问于2020-06-22得票数 0
回答已采纳
sklearn中的Logistic回归类带有L1和L2正则化。如何关闭正则化以获得像Matlab中的glmfit那样的“原始”逻辑拟合？我想我可以设置C=大数字，但我不认为这是明智的。
浏览 8提问于2014-08-21得票数 21
2回答
如果您能让我知道在使用Lasso logistic回归(L1)进行特征选择之前是否应该省略高度相关的特性，我将非常感激。正则化是处理共线性(特征间高度相关)<
浏览 0提问于2018-08-20得票数 1
我正在用LIBLINEAR训练一个简单的logistic回归分类器。只有3个特性，标签是二进制0-1.2:-12.4841741178 3:14现在，如果我使用"-s 6"，即“L1-正则logistic回归”，则10倍的交叉验证准确率约为70%，每个验证器在几秒钟内完成。但如果使用"-s 7"，即“L2-正则<
浏览 3提问于2015-05-24得票数 1
在logistic回归中使用正则化参数C(见)，使函数的拟合得到很好的定义，避免过拟合或step函数的问题(见)。然而，logistic回归中的正则化应该只考虑特征的权重，而不是截距(这里还解释了：)。
但似乎sklearn.linear_model.LogisticRegression实际上也规范了拦截。2)尝试用logistic曲线和人工最大
浏览 7提问于2017-11-02得票数 4
回答已采纳
两个问题：更具体地说，我试图运行一个逻辑回归，但应用岭惩罚(不确定这是否有意义)的模型.问题：
浏览 8提问于2022-06-04得票数 1
通常，在进行回归之前，我们会删除与另一个功能有很高的成对相关性的特性。但是，如果我应用L2正则logistic回归(因为正则化算法会将“无关”特征系数缩小到零)，这一步骤是否必要？
浏览 0提问于2021-10-21得票数 0
回答已采纳
在Logistic回归的R& Spark的比较估计/系数中，观察到估计值是不一样的。
在进一步的研究中，我发现R& Mllib对于Logistic回归有不同的实现。R的glm返回模型的最大似然估计，而Spark的LogisticRegressionWithLBFGS返回正则化的
浏览 0提问于2016-09-04得票数 1
我读过关于自动编码器的，这是由安德鲁·吴介绍的。在这里，他用稀疏的正则化来减少联系，但稀疏性的公式与正则化的公式不同。所以，我想知道为什么我们不直接使用正则化术语，如模型NNs或logistic回归：(1/2 * m) * Theta^2？
浏览 3提问于2016-09-24得票数 0
2回答
在吴家富的机器学习课程之后，他解释了如何修改logistic回归以获得支持向量机算法。首先，他用铰链损失代替(近似)交叉熵损失，如下图所示：然后去掉\frac{1}{m}系数，将整个成本函数除以正则化参数\lambda，从而导致σ(C=\frac{1}{\lambda})后面的参数生成的成本函数如下图所示，这是支持向量机的最小化目标：随后，他指出，通过选择参数C的一个很大的值，支持向量机将成为一个大<em
浏览 0提问于2020-03-12得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
