然后，从候选的特征中随机抽取k个特征，作为当前节点下决策的备选特征，从这些特征中选择最好地划分训练样本的特征。用每个样本集作为训练样本构造决策树。单个决策树在产...

例如：C4.5决策树算法,我们一般把个体分类器全部为同种的分类器称为“同质的”，如全部为决策树模型。同质的集成学习中的个体学习器称为“基学习器（base lea...

决策树思想的来源非常朴素，试想每个人的大脑都有类似于if-else这样的逻辑判断，这其中的if表示的是条件，if之后的then就是一种选择或决策。程序设计中的条...

Scikit-learn（也称sklearn）是基于Python编程语言的机器学习工具，是简单高效的数据挖掘和数据分析工具，它建立在NumPy、SciPy和ma...

DT 在运筹学和数据科学领域非常实用，其成功的原因在于它遵循与人类决策过程类似的过程。该过程基于流程图，其中每个节点都会对给定变量进行简单的二元决策，直到我们做...

导读：在机器学习领域，处理类别型特征一直是个棘手的问题。传统的GBDT算法在这一领域的表现并不尽如人意，直到CatBoost的出现。今天，我们就来聊聊CatBo...

信息增益比本质： 是在信息增益的基础之上乘上一个惩罚参数。特征个数较多时，惩罚参数较小；特征个数较少时，惩罚参数较大。惩罚参数：数据集D以特征A作为随机变量的熵...

决策树思想的来源非常朴素，试想每个人的大脑都有类似于if-else这样的逻辑判断，这其中的if表示的是条件，if之后的then就是一种选择或决策。程序设计中的条...

本次实验使用决策树模型进行建模，实现对车险 数据的分析，车险数据为如下MTPLdata.csv数据集：

举个例子，使用一个包含每小时电力消耗数据的数据集作为参考。能源消耗数据集通常属于时间序列数据，其最终目的是利用过去的数据来预测未来的消耗量，因此这是一个很好的应...

这些天有一个同学在字节一面的时候，在 GBDT 交流的时候，感觉差点点挂掉。好在后面的面试中表现还算可以。

FAST (Features from Accelerated Segment Test)是一个特征点提取算法的缩写。

决策树在很多公司都实际运用于风险控制，之前阐述了决策树-ID3算法和C4.5算法、CART决策树原理（分类树与回归树）、Python中应用决策树算法预测客户等级...

在众多机器学习模型中，我们如何在各种实际情况下做出恰当的选择呢？本文我从如下几个方面系统地分析下~ 有帮助的话点个赞哦。

决策树由节点和边组成，其中每个节点表示数据集的某个特征，每条边表示特征的某个值所对应的分支。决策树的最顶端称为根节点，叶节点代表决策结果。以下是一个简单的决策树...

数据说明 Date-日期 Close/Last-收盘价 Volume-成交量 Open-开盘价 High-最高价 Low-最低价

集成学习是一种通过训练多个基学习器并将它们的预测结果进行组合，从而获得更优模型性能的方法。基学习器可以是同质的（如多个决策树）或异质的（如决策树、支持向量机和神...

GBDT算法的弱评估器为决策树（确切地说是回归树），我们已经熟悉各种剪枝参数对模型的影响。因此，我们对于Boosting算法中控制弱评估器的参数应该也不陌生：

在Boosting集成算法当中，我们逐一建立多个弱评估器（基本是决策树），并且下一个弱评估器的建立方式依赖于上一个弱评估器的评估结果，最终综合多个弱评估器的结果...

决策树（Decision Tree）是一种常用的监督学习算法，可以用于回归和分类任务。决策树模型通过学习数据中的决策规则，将数据分割成不同的分支和叶子节点，从而...