Decision Tree (决策树算法)

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/Solo95/article/details/90741048

内容总结自花书《deep learning》Chapter5,由英文版翻译而来,英文版可以在其官网免费查阅。同时博主也发明中文翻译版的诸多错误和不细致的地方,建议阅读英文版。

Decision Tree (决策树算法)

与k-nearest neighbors相同,决策树算法及其变种是另一种将输入空间划分成区域,并且每个区域有单独参数的算法。

如上图所示,决策树的每一个结点都和输入空间的一个区域相关联(通常使用一个坐标对齐的割)。空间就这样被分割成互不重叠的区域,叶子结点和输入区域存在一对一的联系。诶一个叶子结点会将其输入区域的每一个点映射到相同的输出。

该学习算法在被允许学习出一个任意大小树的条件下可以看作是无参数的,即使在实际中,经常会使用一些大小限制来正则化使得它们变成参数模型。典型的实际使用的决策树,使用坐标对齐的划分和每一个结点内的常数输出,很难处理能被logistic regression轻松解决的一些问题。

nearest neighbor predictors和decision trees有很多限制。但它们在计算资源受限时是非常有帮助的。我们可以通过思考复杂算法与基准线nearest neighbor predictors和decision trees的相似和不同之处,来获得一些直观的理解。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习AI算法工程

找到源码了!使用python+机器学习方法进行情感分析(详细步骤)

使用python+机器学习方法进行情感分析(详细步骤) http://www.360doc.com/content/16/0725/19/15165994_57...

27400
来自专栏祝威廉

MLSQL 内置Delta数据湖以及Compaction功能介绍

之前写过一篇文章 Delta的真正用处和价值,你可知道,该项目开源的那天我就集到MLSQL了。不过当时只是尝鲜性质,主要原因是因为我一直觉得delta缺了Com...

12720
来自专栏AI研习社

Github项目推荐 | 用TensorFlow 2.0实现CartoonGAN图片卡通化

通过本项目,你可以使用由TensorFlow 2.0 Alpha驱动的CartoonGAN(CVPR 2018)工具生成你自己的卡通风格图像。

93850
来自专栏机器学习与统计学

深度学习的学习历程

来源 | https://zhuanlan.zhihu.com/p/34524772

12920
来自专栏程序员的知识天地

2019学习Python的10个原因

如果你是一名Java开发人员,你也当然可以使用Groovy进行此操作,但Groovy并不提供Python在API、库、框架和数据科学、机器学习和Web开发等领域...

13340
来自专栏AI研习社

机器学习模型中的 bug 太难找?DeepMind 呈上了三种好方法!

AI 科技评论按:计算机编程发展至今,bug 和软件就一直如影随形。多年来,软件开发人员已经创建了一套在部署之前进行测试和调试的最佳方法,但这些方法并不适用于如...

15340
来自专栏SIGAI学习与实践平台

【转】全国高校 Python 数据分析与实训课程高级研修班通知

依据《教育部高等学校教学指导委员会章程》规定,教育部高等学校教学指导委员会的任务之一是:组织师资培训,沟通信息,交流教学建设和教学改革经验,宣传推广优秀教学成果...

21440
来自专栏大数据技术学习

如何从零开始规划大数据学习之路!

针对第一个问题,就是ETL技术-数据的抽取,清洗,加载。传统数据抽取、清洗、加载是无法做到的。例如一个1TB的数据,需要抽取一些客户的基本信息。上万的文件,多种...

13530
来自专栏菲宇

PMP之项目风险管理

版权声明:欢迎交流,菲宇运维! https://blog.csdn.net/bbwangj/art...

29630
来自专栏Python爬虫与数据挖掘

Python 手写机器学习最简单的 kNN 算法

今天开始,我打算写写机器学习教程。说实话,相比爬虫,掌握机器学习更实用竞争力也更强些。

10840

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励