XGBoost -选择精度最高的树
XGBoost是一种高效的机器学习算法，它是一种梯度提升树（Gradient Boosting Tree）的变种。它在解决分类和回归问题时表现出色，并且在许多数据科学竞赛中取得了优异的成绩。
XGBoost的主要优势包括：
- 高精度：XGBoost通过使用多个决策树进行集成学习，能够更准确地预测结果。它采用了一种特殊的优化技术，能够自动处理缺失值和异常值，提高模型的鲁棒性和准确性。
- 可解释性：XGBoost能够提供每个特征的重要性评估，帮助我们理解模型的预测过程。这对于特征选择和模型解释非常有帮助。
- 高效性：XGBoost使用了并行计算和近似算法，能够快速处理大规模数据集。它还支持分布式计算，可以在集群上进行训练和预测。
- 鲁棒性：XGBoost具有较强的鲁棒性，能够处理各种类型的数据，包括数值型、类别型和文本型数据。它还能够自动处理缺失值和异常值，减少数据预处理的工作量。
XGBoost的应用场景非常广泛，包括但不限于：
- 金融风控：XGBoost可以用于信用评分、欺诈检测和风险预测等金融风控场景。
- 广告推荐：XGBoost可以用于广告点击率预测、用户行为分析和个性化推荐等广告推荐场景。
- 医疗诊断：XGBoost可以用于疾病预测、医学图像分析和基因表达数据分析等医疗诊断场景。
- 工业制造：XGBoost可以用于质量控制、故障诊断和设备预测性维护等工业制造场景。
腾讯云提供了XGBoost的相关产品和服务，包括：
- 腾讯云机器学习平台（https://cloud.tencent.com/product/tiia）：提供了XGBoost算法的集成和部署环境，方便用户进行模型训练和预测。
- 腾讯云数据智能平台（https://cloud.tencent.com/product/dti）：提供了数据处理和分析的工具，可以与XGBoost进行集成，实现数据的清洗、特征工程和模型评估等功能。
- 腾讯云人工智能开放平台（https://cloud.tencent.com/product/ai）：提供了一系列人工智能相关的服务和工具，包括自然语言处理、图像识别和语音识别等，可以与XGBoost进行结合，实现更复杂的应用场景。
总之，XGBoost是一种高精度的机器学习算法，具有高效性、可解释性和鲁棒性等优势。它在多个领域都有广泛的应用，腾讯云提供了相关的产品和服务，方便用户进行模型训练和预测。
相关·内容
1回答
我需要可视化XGBoost的效果，并希望从中提取一棵在测试集上具有最高精度的树。是以任何方式构建的，还是必须手动测试所有的树？我使用的是Python版本。
浏览 16提问于2020-05-29得票数 0
1回答
我正在做kaggle的课内挑战，了解到XGBoost比RandomForest更快，但在实施时更慢。我想问一下XGBoost什么时候变得更快，什么时候RandomForest？？我是机器学习新手，需要提前了解你的help.Thanking
浏览 45提问于2019-02-01得票数 0
2回答
我正在阅读XGBoost指南，我对它在决策树的评分系统和分类/回归树之间的区别感到困惑。我挂的那一段是：
CART 分类回归树与决策树略有不同，在决策树中叶只包含决策值。在CART中，真正的分数是与每一片叶子相关联的，这给了我们更丰富的解释，超越了分类。
我一点也不确定这意味着什么。我对回归决策树的理解是，每个叶都有一个值，它是分配给该叶的所有训练示例的平均值(在遵循树的结构之后)。在一个多树模型中，当我们预测一个新的例子时，我们在每棵树中导航它，然后将它最后的叶子值进行平均值；这个平均值是最后的预测。
我的问题是：
( a)我对决策树的理解正确吗？
在XGBoost和LightGBM使用的购
浏览 0提问于2021-09-13得票数 2
我读过并听说过强大的XGBoost，它是当今人们用来解决Kaggle挑战的最著名的模型之一。这使我对开发自己对模型的直觉感兴趣，所以我决定在我的数据集上尝试使用XGBoost，但不幸的是，当我试图在mac上安装XGBoost时，遇到了许多与依赖相关的问题:(
然而，我做了更多的研究，并从微软那里找到了另一个名为LightGBM的相关库，他们声称它在XGBoost上取得了更好的效果(至少相当于)。因此，我决定使用LightGBM，因为在安装库时没有遇到任何问题。
我预计，与同一数据集中的其他模型相比，该模型的性能应该优于，或者至少是类似的。我的数据集包含14k的文本文档，其值为0或1，它们分别以
浏览 0提问于2017-07-14得票数 1
1回答
我有一个大型数据集(195个特征x2000万个样本)，我已经使用XGBoost进行了培训。我想看看一种遗传算法是否能打败XGBoost，因为这些数据有太多的噪音，很容易被过度拟合。
我想使用一个基于树的模型，这样我就不需要标准化数据了，而且这些特性确实有一些相互关系。
有没有这样做的python包？Ie.that可以通过遗传优化过程创建树吗？
浏览 0提问于2021-04-07得票数 1
回答已采纳
1回答
处理一个不平衡的数据集问题(7%比93%)，我想找出我的xgboost模型的最佳结构使用。注:我是使用分层k-折叠交叉验证，以确保每一个折叠有正确的比例少数民族阶级。
我的情况如下，我注意到GridSearchCV有一个名为‘shown’的参数，我可以向它传递多个 (如所示)，但是xgboost也有一个名为'eval_metric‘的参数，我在这两个参数之间有点混淆。如果有什么不同，你能解释一下吗？指定它的正确位置在哪里？
我将附上一些代码来说明这一点：
params_grid = {
'n_estimators': [100, 300],
'learning_
浏览 1提问于2019-01-16得票数 3
回答已采纳
1回答
有没有办法只使用XGBoost算法中使用的基本决策树？
我知道Sklearn的GBT只是使用Sklearn决策树作为它们的基础，但XGBoost构建树的方式不同(例如，叶权重的正则化)。
我查看了XGBoost的代码，但我不能弄清楚他们是如何构建基树的。
谢谢!
浏览 0提问于2018-07-23得票数 0
Python版本: 3.5 // xgboost版本: 0.7.post3
大家好，
我正在尝试使用python中的xgboost模块实现增量学习，中的目标变量是二进制。我想我应该设置参数"process_type"："update"。问题是我得到了一个我无法解决的错误。这里，我给出了我的代码的一个示例实现，它使用sklearn中的乳腺癌数据集，这样每个人都可以尝试一下。有人知道我怎样才能防止以下错误的发生吗？
from sklearn import datasets
import xgboost
X_all = datasets.load_breast_ca
浏览 2提问于2018-03-07得票数 3
回答已采纳
2回答
我浏览了这篇文章，但没有完全理解xgboost中关于函数CV和参数"number of trees“的细节。
假设我们从特征和目标值的数据帧开始。CV在每一轮中做什么？如果CV结果有500行(即有500个决策树)，那么如何构建每棵树？这500棵树是如何组合在一起产生一个单一的原木损失数字的？
如果我们可以从CV函数中获得一个预测，为什么我们还需要XGBClassifier.fit，它也会产生一个模型(因此是一个损失数字)？
谢谢。
浏览 3提问于2017-08-26得票数 2
1回答
根据关于xgboost的原始论文，节点上的最佳分割是通过最大限度地提高下面的数量来找到的。
\cal{L}_{\rm split} = \frac{1}{2} \sum \left [ \frac{G_L}{H_L + \lambda} + \frac{G_R}{H_R + \lambda} - \frac{G_I}{H_I + \lambda} \right ] - \gamma
在xgboost包中存在一个伽马参数；假设它所指的参数与方程中的参数相同，那么如果它的值不变，它为什么会影响分裂的选择？
浏览 0提问于2021-07-01得票数 0
回答已采纳
1回答
在多类问题的情况下，我想了解xgboost分类器(或任何其他基于决策树集成的分类器)的输出概率。
例如:我们有5个不同的类，并对属于这些类的一些数据建立了一个经过训练的模型。如果给出一些测试数据，当确定数据属于某个类时，该模型的输出概率将达到100%。很明显，概率还要加到1。
相反，我被告知，在5个不同类的情况下，当输出数据的20% (100/5)时，模型将是确定的。在我所面对的一个问题中，我也看到了这一点，概率从来没有超过30%。
我想要理解这个明显的事实，理想的指向我的来源，这是解释。
浏览 0提问于2020-06-24得票数 1
回答已采纳
我正在读与XGBoost有关的材料。这种方法不需要任何变量缩放，因为它是基于树的，这种方法可以捕捉复杂的非线性模式，相互作用。它既可以处理数值变量，也可以处理范畴变量，并且似乎冗余变量对该方法没有太大影响。
通常，在预测建模中，您可以在所有的特性中进行一些选择，也可以从所拥有的一组特性中创建一些新的特性。因此，选择一个功能子集意味着您认为您的功能集中存在一些冗余；从当前功能集创建一些新特性意味着您对您的当前功能进行了一些功能转换。然后，这两点都应在XGBoost中讨论。那么，这是否意味着要使用XGBoost，您只需要明智地选择那些调优参数？使用XGBoost进行特性工程有什么价值？
浏览 0提问于2017-03-20得票数 23
1回答
我有很多课程的分类任务。我正在比较这种情况下的一些ML算法，我想尝试一下xgboost。我正在用python写文章，我试图用这个算法得到最好的3种预测，但是我在xgboost API中找不到我想要的任何方法。
有什么建议吗？
浏览 0提问于2019-07-26得票数 0
轻量级的importance_type‘拆分’是否与xgboost中的importance_type‘重量’相同？
换句话说，下列情况是否相同？
booster.feature_importance(importance_type = 'split') # for lightgbm
和
get_fscore(importance_type='weight') # for xgboost
浏览 1提问于2020-11-18得票数 1
回答已采纳
当我们使用许多迭代时，增强方法(如流行的xgboost)不会过度适用-- 夏蒂尔和弗劳因德。当我们给它们大量的功能时，它们是否也能抵抗过度安装(其中一些功能不是很有用？)如果是这样的话，这两个理想的属性之间是否有理论联系？
(与https://stats.stackexchange.com/questions/35276/svm-overfitting-curse-of-dimensionality有关)
浏览 0提问于2016-04-18得票数 3
在训练XGboost模型时，一些打印出来的信息涉及“额外的节点”。我在文档中找不到任何关于这些的解释。额外的节点到底是什么？
[14:13:09] C:\dev\libs\xgboost\src\tree\updater_prune.cc:74: tree pruning end, 1 roots, 54 extra nodes, 0 pruned nodes, max_depth=5
[14:13:09] C:\dev\libs\xgboost\src\tree\updater_prune.cc:74: tree pruning end, 1 roots, 58 extra nodes, 0
浏览 0提问于2017-06-02得票数 6
回答已采纳
我的名字是埃斯兰，是埃及的一名硕士研究生，我的论文是教育数据挖掘领域的。我在我的预测模型中使用了AdaBoost和XGBoost技术，根据开放学习分析数据集OLAD来预测学生的成功率。 分析背后的想法是将各种技术(包括集成和非集成技术)绑定到不同的特征组合上，显示出有趣的结果 结果： ? 问题是为什么某些技术在特定的功能组合中表现得比其他技术更好？专门为Random Rorest，XGB和ADA？
浏览 28提问于2019-01-24得票数 1
我正在使用XGBoost开发一个欺诈检测模型。
我不能分享数据(对不起)
基于CPU的模型工作良好，并能识别出预期的欺诈行为。
基于GPU的模型识别了较低数量的欺诈行为。
因此，在相同的置信度下，基于GPU的模型识别的欺诈数量要少得多。
这是CPU的参数列表：
params = {"objective":"multi:softprob",
'booster':'dart',
'max_depth':5,
'eta':0.1,
浏览 5提问于2021-01-14得票数 2
回答已采纳
1回答
当我使用XGBoost来拟合一个模型时，它通常会显示一个消息列表，如"updater_prune.cc:74:树剪枝结束，1个根，6个额外节点，0剪枝节点，max_depth=5“。我想知道XGBoost是如何进行树修剪的？我找不到关于他们剪枝过程的描述。
注:我理解决策树剪枝过程，例如剪枝前和剪枝后。在这里，我对XGBoost的实际剪枝过程感到好奇。通常，剪枝需要一个验证数据，但是即使我没有提供任何验证数据，XGBoost也会执行剪枝。
浏览 0提问于2018-10-05得票数 6
1回答
关于应该从XGBoost中选择哪个决策树，我有一个问题。
我将使用以下代码作为示例。
#import packages
import xgboost as xgb
import matplotlib.pyplot as plt
# create DMatrix
df_dmatrix = xgb.DMatrix(data = X, label = y)
# set up parameter dictionary
params = {"objective":"reg:linear", "max_depth":2}
#train the mode
浏览 1提问于2019-03-21得票数 1
回答已采纳
我有一些培训管道，它大量使用XGBoost而不是scikit学习，这仅仅是因为XGBoost干净地处理空值的方式。
然而，我的任务是将非技术人员引入机器学习，并认为最好采用单树分类器的概念，并讨论XGBoost 一般如何使用这种数据结构并“将其置于类固醇中”。具体来说，我想要绘制这个单树分类器来显示切点。
指定n_estimators=1是，大致相当于使用的DecisionTreeClassifier
浏览 0提问于2018-11-09得票数 11
回答已采纳
如何在使用XGBoost Spark4J训练随机森林时传递num_parallel_tree参数？
在参考了之后，我做了以下工作
val hyperParams = Map(
"booster" -> "gbtree",
"objective" -> "binary:logistic",
"evalMetric" -> "logloss",
"num_parallel_tree" -> 1
浏览 0提问于2020-08-11得票数 0
2回答
我看这个答案是为了在H2O中可视化梯度增强树模型，它说GBM上的方法也可以应用于XGBoost：
但是当我尝试使用它在H2O XGBoost MOJO上提到的方法时，它失败了。
我查看了hex.genmodel.tools.PrintMojo的源代码：
它似乎只适用于随机森林和GBM模型，而不适用于XGBoost模型。
有没有人知道如何在H2O XGBoost模型中可视化树？谢谢!
浏览 4提问于2018-09-28得票数 0
1回答
XGBoost本身是否完成了促进力量机器的学习？如果不是，它通常与哪些其他工具或库组合在一起，以及如何组合？
(我最近读到了一个堆栈的描述，其中包含了大约5部分，包括XGBoost和Keras。)
浏览 0提问于2015-11-22得票数 6
回答已采纳
1回答
我试着用xgboost R包构建一个0-1分类器。我的问题是如何做出预测？例如，在随机森林中，树木“投票”反对每一种选择，最后的预测是基于多数。关于xgboost，回归的情况很简单，因为对整个模型的预测等于弱学习者的预测和(增强树)，但是分类呢？
xgboost分类器是否与随机林中的工作方式相同(我不这么认为，因为它可以返回预测概率，而不是类成员资格)。
浏览 0提问于2016-01-19得票数 3
回答已采纳
2回答
对于数据集，我想使用xgboost进行$n$预测的最佳组合，而不是仅仅使用它们的算术平均值进行组合。我发现xgboost生成的预测比moedl所能选择的组合的许多$n$个人预测更糟糕。
我不知道为何会这样。为了说明我的观察结果，我创建了下面的玩具数据集。人工目标变量是由$$y = \frac{x_1+x_2}{2}，\，\mbox{with } x_1，x_2 \sim N(0,1) $$生成的，考虑到$y$与$x_1$和$x_2$的确定性关系，xgboost可以做出完美的预测，但不能。线性模型很容易做到。因为这是我能想到的最简单的多元线性回归模型，所以xgboost失败了，我想知道它的含义。
浏览 0提问于2018-06-01得票数 2
1回答
在XGBoost回归模型中缩放/标准化(对数转换/标准化)目标变量是个好主意吗？就像在线性模型中一样。
或者，我们应该期望即使你的分布是不对称的，XGBoost也会找到最优的分割点？
浏览 13提问于2019-11-30得票数 0
回答已采纳
在XGBoost回归预测价格时，如何获得系数，截取模型？如何像我们在线性回归状态模型中得到的模型进行总结？见下面的代码
from xgboost import XGBRegressor
# fit model no training data
model = XGBRegressor()
model.fit(X_train, y_train)
# make predictions for test data
y_pred = model.predict(X_test)
print("R^2: {}".format(model.score(X_test, y_test)))
rm
浏览 0提问于2019-07-31得票数 8
2回答
我有一个3500个观测x 70个特征的数据集，这是我的训练集，我也有一个600个观测x70个特征的数据集，这是测试集。
目标是将观测值正确分类为0或1.2000，训练集的观测值为0，其余的1600观测值为1。
我的目标是尽可能多地召回precision>=90%。
我只根据树的数量(从50到650棵树)对集成算法进行网格搜索。对于每种算法，精确>=的最佳召回率为90%，分析结果如下：
随机森林(375棵树)
from sklearn.ensemble import RandomForestClassifier
classifier = RandomForestClassifier(
浏览 0提问于2018-09-20得票数 5
根据文件- CRAN
Boruta算法是一种完全相关的特征选择包装算法，能够与输出变量重要性度量(VIM)的任何分类方法工作；在默认情况下，Boruta使用随机森林。
来源：Boruta文件
包有一个参数getImp，它定义了要使用的重要性，默认情况下，它是游侠包中的随机林。因此，理论上可以使用xgboost的xgb.importance()函数作为特性重要性的来源，但我在实践中找不到如何使用此类参数的示例，因为到目前为止，我一直不走运。是否有可能在Boruta包中实现这一点，或者我是否已经从头开始使用xgboost实现Boruta算法？如果可能的话，怎么做？
浏览 0提问于2016-11-23得票数 2
我在使用计算机上的所有核心来训练和交叉验证XGBoost模型时遇到了问题.
数据：
data_dmatrix = xgb.DMatrix(data=X,label=y, nthread=-1)
dtrain = xgb.DMatrix(X_train, label=y_train, nthread=-1)
dtest = xgb.DMatrix(X_test, label=y_test, nthread=-1)
型号：
xg_model = XGBRegressor(objective='reg:linear', colsample_bytree= 0.3, learning_
浏览 1提问于2019-10-11得票数 0
回答已采纳
MinMaxScaler() in scikit-learn用于数据规范化(即特性缩放)。决策树不需要数据归一化。由于XGBoost基于决策树，是否需要使用MinMaxScaler()进行数据规范化，以便将数据输入到XGBoost机器学习模型？
浏览 0提问于2019-09-28得票数 31
回答已采纳
5回答
我试图理解GBM和XGBOOST之间的关键区别。我试着搜索它，但是找不到任何好的答案来解释这两种算法之间的区别，以及为什么xgboost几乎总是比GBM表现得更好。是什么让XGBOOST这么快？
浏览 0提问于2017-02-11得票数 81
回答已采纳
3回答
我有一个关于XGBoost的问题。
你知道如何知道在XGBoost中创建的树的数量吗？与RandomForest不同，XGBoost基本上是继续创建树，直到损失函数达到一定的数字。因此我想知道这一点。
谢谢。
浏览 5提问于2018-05-19得票数 8
1回答
时间序列预测中滤波前后的特征选择
、、、、
我根据前一天的气象变量和臭氧值预测臭氧浓度。我使用savitzky golay滤波器来去除时间序列数据集中的噪声.
我的问题是，如果我想执行功能选择，我是在应用过滤器之前还是之后执行它？合乎逻辑的顺序是什么？因为特征的重要性在应用过滤器之前和之后是不同的。
使用XGBOOST，这是筛选器之前的特性重要性：
📷
这是在过滤器之后：
📷
如果有任何帮助或信息，我将不胜感激。
浏览 0提问于2019-08-05得票数 1
回答已采纳
我正试着在r4.8x的大小上运行H2O xgboost。但运行时间太长(15+小时，而相同超参数网格大小的GBM需要4小时)。
知道XGBoost使用缓存优化，有什么特定的实例类型最适合H2O的XGBoost实现吗？
我的训练数据有28K行，150个二进制列。我正在进行网格搜索。
浏览 4提问于2021-05-21得票数 1
1回答
在梯度提升的范畴中，我发现一些术语令人困惑。
我知道，与传统梯度增强相比，XGBoost包含了一些优化。
但是梯度增强器(GBM)和GBDT是一回事吗？他们只是名字不一样吗？
除了GBM/GBDT和XGBoost之外，还有其他的模型属于梯度提升的范畴吗？
浏览 0提问于2020-09-19得票数 4
回答已采纳
1回答
根据xgboost的文件，正则化是由以下几个方面提供的：
\Omega(f) = \gamma T + \lambda || w||^2
其中\gamma是一棵树的复杂性(即树中的叶子数)。
另一方面，xgboost库中的参数gamma控制节点上的最小分割以继续进行。因此，xgboost软件包所使用的方程式中的\gamma是吗？我找不到任何关于它的参考资料。
浏览 0提问于2021-05-05得票数 1
回答已采纳
我们的模型中有一个国家/地区的特性，并且我们对它使用了标签编码器，例如： BEL - 1，US - 2，ENG - 3， 等等。 XGBoost模型的最佳实践是什么-将其用作数字还是执行一次热编码？ 谢谢，塔尔
浏览 19提问于2019-04-15得票数 0
我正在为XGBoost使用sklearn包装器。我没有找到一个清晰的解释，说明predict_proba()输出的概率是如何计算出来的。
例如，在随机森林中，我知道它反映了属于这个类别的样本在所有树木的相关叶子中所占比例的平均值。
但是，在XGBoost中，我无法理解文档或代码中的计算。不是应该给每棵树不同的重量吗？
浏览 0提问于2017-03-19得票数 6
我有一个问题要在databricks上绘制Xgboost决策树。XGboost是为python安装的，这使得在此环境中工作时有些奇怪。
import xgboost as xgb
from xgboost import plot_importance
gbm=xgb.XGBClassifier().fit(X_train, y_train)
xgb.plot_tree(gbm)
这就产生了一个错误：
执行“点”、“-Tpng”失败，请确保Graphviz可执行文件位于系统的路径上。
我已经将graphviz作为一个包安装在databricks端。
浏览 1提问于2019-04-23得票数 2
回答已采纳
就像标题上说的那样。假设我知道XGBoost中的树状模型中的根节点的分割特性；是否有一种方法可以让XGBoost在根节点上拆分这个特性？
浏览 0提问于2019-10-22得票数 4
我有5节课。我建立了一个XGBoost分类模型，并使用model.predict(test)来预测测试数据集的类。在我的模型所预测的所有值中，我只想知道那些我的模型超过95%的值，确信预测值是正确的。我的意思是，我只希望那些我的模型非常有信心预测的预测。我怎样才能找到那些预言？
浏览 0提问于2021-08-13得票数 0
回答已采纳
4回答
XGBoost输出趋向极端
、、、、
目前，我正在使用XGBoost进行风险预测，它似乎在二元分类部门做得很好，但概率输出却相去甚远，即将观测中的特征值更改很小，可以使概率输出从0.5提高到0.99。
我几乎看不到0.6到0.8范围内的输出。在所有情况下，概率都小于0.99或1。
我知道培训后校准方法，如普拉特比例和Logistic校正，但我想知道，如果有什么我可以调整在XGBoost的培训过程。
我使用FFI从不同的语言调用XGBoost，所以如果我可以修复这个问题，而不引入其他校准库，例如，将eval度量从AUC更改为日志丢失，那就太好了。
浏览 0提问于2018-01-24得票数 18
我使用XGBoost来解决R中的多类分类问题，我尝试收缩参数和迭代次数的不同组合，试图解决这些参数的最优值(使用交叉验证)。然而，我很难准确地解释参数的意义。对于我来说，XGBoost算法并不是一个完全的黑匣子--我知道在高层次上，增强是如何工作的。
不过，我有以下问题：
低收缩(例如0.01)和高圆圈(例如500)是否产生与高收缩(例如0.3)和低圆圈(例如50)相同的结果？
N轮是否与弱分类器的数量相对应？
R中的xgb.cv函数返回每一次迭代的测试平均误差和标准差。对于第n次迭代，这是所有迭代的平均值小于所有折叠的n吗？如果我不正确地解释这件事，我很抱歉。另外，这里的标准差有什么意义呢？
浏览 0提问于2018-03-03得票数 0
1回答
我知道如何在XGBoost中实现线性目标函数和线性增强。我的具体问题是:当算法适合残差(或负梯度)时，它是在每一步使用一个特征(即单变量模型)还是使用所有特征(多变量模型)？
任何关于XGBoost中线性提升的文档的引用都将不胜感激。
谢谢!
编辑:在XGBoost中可以通过将“助推器”参数设置为“gblinear”来实现线性增强。关于线性助推的有用信息，请参见：http://www.ncbi.nlm.nih.gov/pmc/articles/PMC3885826/。注意，我说的不是目标函数(也可以是线性函数)，而是助推函数本身。
浏览 0提问于2016-08-17得票数 2
4回答
我正在使用https://machinelearningmastery.com/visualize-gradient-boosting-decision-trees-xgboost-python/上的方法来绘制XGBoost决策树 from numpy import loadtxt
from xgboost import XGBClassifier
from xgboost import plot_tree
import matplotlib.pyplot as plt
# load data
dataset = loadtxt('pima-indians-diabetes.csv&
浏览 150提问于2018-07-13得票数 10
回答已采纳
我使用xgboost来训练分类模型。GridCVSearch提供了最好的max_depth=1，这意味着我的成百上千的树在一个节点上被分割。 这是否意味着我处理的问题/数据集可以使用简单的模型来分离，并且我不需要使用复杂的模型，如xgboost？ 一般来说，如果所有树的深度都为1，那么xgboost是否比SVM/logistic回归等简单模型提供了更好的预测？ 谢谢!
浏览 76提问于2019-02-28得票数 2
我有个问题。有一个数据集A，它处理一个分类问题。对于该数据集，定义并计算了几种不同的基线算法。
另外，采用Logistic回归模型、XGBoost模型和RandomForest模型。
现在我的问题是，为什么使用不同的算法(Logistic回归，XGBoost和RandomForest)，并调查哪一个是更好的算法？这是因为这些算法有不同的优点，并且根据数据集表现得更好吗？
Algorithm Accuracy Precision Recall F1-Score
Baseline 1
浏览 0提问于2022-10-18得票数 0
回答已采纳
我用xgboost训练过GPU('gpu_tree')模型。然后使用pickle保存我的模型。现在，我试图在非GPU机器中加载这个模型，但是它会抛出这个错误。
raise XGBoostError(py_str(_LIB.XGBGetLastError()))
xgboost.core.XGBoostError: [16:36:57] /tmp/pip-install-
mqijktew/xgboost/build/temp.linux-x86_64-3.6/xgboost/src/tree/
tree_updater.cc:20:
Unknown tree updater
浏览 4提问于2020-09-15得票数 6
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
