Kaggle课程 | lecture 1 机器学习算法、工具与流程概述

在july的网站购买了kaggle课程，自己学习并作笔记记录，非给july打广告，只是为了不忘记或自己学习查询。

在这里感谢july提供的该课程。

下面开始笔记。

• 主要内容

这里写图片描述

• 应用领域

这里写图片描述

• 常用算法

这里写图片描述

• 算法之间的联系

这里写图片描述

• 工具

这里写图片描述

常用scikit-learn ,文本分析用gensim，数据处理用Numpy、matplotlib、pandas，深度学习有tensorflow、caffe、keras

• 解决问题的流程

这里写图片描述

图中的链接： http://blog.csdn.net/han_xiaoyang/article/details/50469334

http://blog.csdn.net/han_xiaoyang/article/details/52910022

内容很详细，值得一看。

• 数据预处理

这里写图片描述

上采样： 下采样： 数据样本均衡： 正例、负例样本量保持均衡，之间数量差别不要太大。

• 特征工程

这里写图片描述

这里建议看特征工程三把刀那篇博文： http://www.36dsj.com/archives/69769

• 特征类型

这里写图片描述

参考内容： http://scikit-learn.org/stable/modules/preprocessing.html

http://scikit-learn.org/stable/modules/classes.html#module-sklearn.feature_extraction

• 方法

这里写图片描述

链接：http://scikit-learn.org/stable/modules/feature_selection.html

• 交叉验证

这里写图片描述

链接：http://scikit-learn.org/stable/modules/cross_validation.html

• 模型参数选择

这里写图片描述

链接： 交叉验证http://scikit-learn.org/stable/modules/grid_search.html

http://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html

• 模型状态评估

这里写图片描述

用于判断模型是否过拟合还是欠拟合

• 学习曲线

这里写图片描述

模型训练后的训练误差和测试误差

这里写图片描述

• 模型融合

这里写图片描述

这里写图片描述

这里写图片描述

链接：http://scikit-learn.org/stable/modules/generated/sklearn.ensemble.BaggingClassifier.html

这里写图片描述

这里写图片描述

这里写图片描述

• Boosting

这里写图片描述

这里写图片描述

链接：http://scikit-learn.org/stable/modules/classes.html#module-sklearn.ensemble

这里写图片描述