首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    决策的原理_决策特征选择

    决策的原理:根据树结构进行决策,可以用于分类和回归。一颗决策包括一个根结点、若干个内部节点和若干个叶节点。...从根节点出发,对每个特征划分数据集并计算信息增益(或者增益率,基尼系数),选择信息增益最大的特征作为划分特征,依次递归,直至特征划分时信息增益很小或无特征可划分,形成决策。 决策 优点 1....样本发生一点点变化会导致的结构剧烈变动 决策的算法:ID3算法、C4.5算法、CART算法 算法 优缺点 ID3算法 不足: 无法处理连续特征;信息增益使得算法偏向于取值较多的特征;没有考虑缺失值和过拟合的问题...C4.5算法 优点: 可以处理连续特征,引入增益率校正信息增益,考虑了数据缺失和过拟合的问题;不足: 剪枝方法有优化空间,生成的多叉运算效率不高,大量对数运算和排序运算很耗时,只能用于分类不能回归。...CART算法 优点: 解决了C4.5算法的不足,可分类可回归;不足: 的结构会由于样本的小变化发生剧烈变动,特征选择时都是选择最优的一个特征来做分类决策。

    33210
    领券