决策树模型概述

1. 决策树模型概述


1.1 决策树模型

决策树模型 是一个模拟人类决策过程思想的模型,以找对象为例,一个女孩的母亲要给这个女孩介绍男朋友,于是有了下面的对话:

女儿:多大年纪了?(年龄)
母亲:26
女儿:长得帅不帅?(长相)
母亲:挺帅的
女儿:收入高不?(收入情况)
母亲:不算很高,中等情况
女儿:是公务员不?(是否公务员)
母亲:是,在税务局上班呢。
女儿:那好,我去见见

简单,逻辑清晰,可解释性好

决策树基于结构进行决策

  • 那个内部结点对应于某个属性上的测试
  • 每个分支对应于该测试的一种可能结果 即该属性的某个取值
  • 每个叶结点对应于一个预测结果

学习过程:通过对训练样本的分析来确定划分属性(即内部节点所对应的属性)

预测过程:将测试示例从根节点开始,沿着划分属性所构成的判定测试序列下行,直到叶结点

1.2 决策树简史

第一个决策树算法:CLS(Concept Learning System)

使决策树受到关注了,成为机器学习主流技术的算法:ID3

最常用的决策树算法:C4.5

J.R.Quinlan

可以用于回归任务的决策树算法:CART (Classification and Regression Tree)

基于决策树的最强大算法: RF (Random Forest)

L.Breiman

要点总结

  • 决策树模型
    • 基于树的结构进行决策
      • 属性,测试预测结果
    • 训练过程
      • 分析训练样本,确定划分属性
    • 预测过程
      • 沿着树结构根据属性进行下行判断
  • 决策树简史
    • CLS
    • J.R.Quinlan 1979 ID3
    • J.R.Quinlan 1993 C4.5
    • L.Breiman 1984 CART
    • L.Breiman 2001 RandomForest

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏alexqdjay

HashMap 多线程下死循环分析及JDK8修复

1K4
来自专栏拭心的安卓进阶之路

Java 集合深入理解(12):古老的 Vector

今天刮台风,躲屋里看看 Vector ! 都说 Vector 是线程安全的 ArrayList,今天来根据源码看看是不是这么相...

2437
来自专栏Phoenix的Android之旅

Java 集合 Vector

List有三种实现,ArrayList, LinkedList, Vector, 它们的区别在于, ArrayList是非线程安全的, Vector则是线程安全...

662
来自专栏MelonTeam专栏

ArrayList源码完全分析

导语: 这里分析的ArrayList是使用的JDK1.8里面的类,AndroidSDK里面的ArrayList基本和这个一样。 分析的方式是逐个API进行解析 ...

4489
来自专栏计算机视觉与深度学习基础

Leetcode 114 Flatten Binary Tree to Linked List

Given a binary tree, flatten it to a linked list in-place. For example, Given...

1938
来自专栏项勇

笔记68 | 切换fragmengt的replace和add方法笔记

1444
来自专栏desperate633

LeetCode Invert Binary Tree题目分析

Invert a binary tree. 4 / \ 2 7 / \ / \1 3 6 9 to4 / \ 7 2 / \ / \9 6 3 1 Tri...

841
来自专栏学海无涯

Android开发之奇怪的Fragment

说起Android中的Fragment,在使用的时候稍加注意,就会发现存在以下两种: v4包中的兼容Fragment,android.support.v4.ap...

3155
来自专栏开发与安全

算法:最短路径之弗洛伊德(Floyd)算法

为了能讲明白弗洛伊德(Floyd)算法的主要思想,我们先来看最简单的案例。图7-7-12的左图是一个简单的3个顶点的连通网图。 ? 我们先定义两个二维数组D[3...

3426
来自专栏xingoo, 一个梦想做发明家的程序员

Spark踩坑——java.lang.AbstractMethodError

百度了一下说是版本不一致导致的。于是重新检查各个jar包,发现spark-sql-kafka的版本是2.2,而spark的版本是2.3,修改spark-sql-...

1200

扫码关注云+社区