关于决策树ID3算法，熵，信息增益率的权威解释，稍后奉上python代码

决策树分类算法概述 决策树算法是从数据的属性（或者特征）出发，以属性作为基础，划分不同的类。 看了本书，叫知识发现，内容很好，果断扫描 这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

这里写图片描述

在使用 sklean.tree.DecisionTreeClassifier 训练决策树画出决策树时碰到以下问题：

按顺序安装一下包及程序：

1、cmd -> pip install GraphViz

2、在http://www.graphviz.org/Download_windows.php下载GraphViz的zip包，解压放在某目录下 （如果你不小心关掉安装完成之后自动打开的编辑 器，可以重新运行下面这个EXE：D:\Program Files\Graphviz2.38\bin\gvedit.exe）

3、将系统路径的path后添加 D:\Program Files\Graphviz2.38\bin

4、 pip install pydotplus（python 2.7以上安装pydotplus 而非pydot）

5、重启pyhton IDE 上面有不懂的欢迎留言！