决策树的超参数调优然后在Adaboost中单独使用还是同时产生相同的结果？
决策树的超参数调优然后在Adaboost中单独使用还是同时产生相同的结果？
提问于 2021-09-15 12:27:36
所以，我在这里的困境是，我在一个独立决策树分类器上执行了超参数调优，我得到了最好的结果，现在轮到独立的Adaboost，但是这里是我的问题所在，如果我在Adaboost中使用调优的决策树作为base_estimator，那么我只对Adaboost执行超参数调优，它会产生与尝试对未调优的Adaboost和未调优的决策树同时作为base_estimator执行超参数调优的结果吗?在这里，我一起尝试Adaboost和决策树的超参数。
回答 1
Data Science用户
回答已采纳
发布于 2021-09-15 21:06:21
不，一般情况下，单独优化建模管道的两个部分并不能同时对所有参数进行搜索。
在您的特定情况下，这一点更容易看到:最优的单个树可能比AdaBoost集成中的最优树要深得多。一棵树(可能)需要分裂相当多，以避免显着地不合适，而AdaBoost通常对“弱学习者”表现最好，特别是通常选择一棵“决策树桩”，即深度-1树。
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/102103
复制相关文章
相似问题
腾讯云开发者
