【吴恩达主讲CS229机器学习】最新课程安排，附吴恩达ML算法应用建议
【吴恩达主讲CS229机器学习】最新课程安排，附吴恩达ML算法应用建议
【新智元导读】经典机器学习课程、由吴恩达主讲的斯坦福CS229最新一期已经开始。用吴恩达的话说，他之所以还保留斯坦福教职很大程度上就是想教授这门课。本文将介绍课程表以及相关资料，后附吴恩达对应用机器学习算法的建议。
吴恩达在斯坦福的机器学习课，是很多人最初入门机器学习的课，历史悠久，而且仍然是最经典的机器学习课程之一。当时因为这门课太火爆，吴恩达不得不弄了个超大的网络课程来授课，结果一不小心从斯坦福火遍全球，而后来的事情大家都知道了。
吴恩达这些年，从谷歌大脑项目到创立Coursera再到百度首席科学家再再到最新开设了深度学习deeplearning.ai，辗转多年依然对CS229不离不弃。用他自己的话来说，他还拿着斯坦福教职，很大程度就是想教这门课，俨然是教出了感情、教出了高度。经典课程，怎能错过？
这门课的宗旨就是手把手教你边学边做机器学习。因此，你可以先看去年的项目报告（http://cs229.stanford.edu/projects2016.html），含有运动与传感装置、声音与音乐、计算机视觉、金融与商业、机器学习、生命科学、自然语言、物理科学、理论与强化几大类别，结合起来然后再看最新的课程。
此外，CS229还推荐使用UC Irvine的机器学习数据库，这里目前有394个数据集，你可以访问网络查看：http://archive.ics.uci.edu/ml/index.php
斯坦福CS229最新课程表
最新的课程时间从9月25日开始（是的，已经开始了），到12月15日结束。期间一共有21讲和4次项目活动，后者包括项目的提出、中期总结、评审和结案（writeup）。具体的课程安排如下：
简介
- 基本概念
监督学习
- 监督学习设置，LMS。
- 逻辑回归，感知，指数分布族
- 生成学习算法，高斯判别分析，朴素贝叶斯，支持向量机
- 模型选择和特征选择
- 集成方法：Bagging，Boosting
- 评估和调试学习算法
学习理论
- 偏差/方差tradeoff
项目提出（10月20日 11:59pm）
无监督学习
- Clustering，K-means
- EM，高斯混合
- 因子分析
- PCA（主成分分析）
- ICA（独立成分分析）
中期考试（11月8日）
Project milestones（11月17日 11:59pm）
强化学习和控制
- MDP，贝尔曼方程
- 价值迭代和策略迭代
- 线性二次调节（LQR），LQG
- Q学习，价值函数逼近
- 策略搜寻，强化，POMDP
深度学习
- 神经网络架构
- 前向/后向传播
- 矢量
- 对抗性
项目展示（12月12日）
项目结案（12月15日）
课程笔记及相关材料
带+/- 1个标签的二进制分类[pdf：http://cs229.stanford.edu/extra-notes/loss-functions.pdf]
提升算法和弱学习[pdf：http://cs229.stanford.edu/extra-notes/boosting.pdf]
Representer定理[pdf：http://cs229.stanford.edu/extra-notes/representer-function.pdf]
Hoeffding不等式[pdf：http://cs229.stanford.edu/extra-notes/hoeffding.pdf]
线性代数评估与参考[pdf：http://cs229.stanford.edu/section/cs229-linalg.pdf]
概率论[pdf：http://cs229.stanford.edu/section/cs229-prob.pdf]
Matlab教程的文件：[pdf：http://cs229.stanford.edu/materials/MATLAB_Session.pdf] [sigmoid.m：http://cs229.stanford.edu/section/matlab/sigmoid.m] [logistic_grad_ascent.m：http://cs229.stanford.edu/section/matlab/logistic_grad_ascent.m] [matlab_session.m：http://cs229.stanford.edu/materials/matlab_session.m]
凸度优化概述，第一部分[ps：http://cs229.stanford.edu/section/cs229-cvxopt.ps] [pdf：http://cs229.stanford.edu/section/cs229-cvxopt.pdf]
凸优化概述，第二部分[ps：http://cs229.stanford.edu/section/cs229-cvxopt2.ps] [pdf：http://cs229.stanford.edu/section/cs229-cvxopt2.pdf]
隐马尔可夫模型[ps：http://cs229.stanford.edu/section/cs229-hmm.ps] [pdf：http://cs229.stanford.edu/section/cs229-hmm.pdf]
多变量高斯分布[pdf：http://cs229.stanford.edu/section/gaussians.pdf]
更多关于高斯分布[pdf：http://cs229.stanford.edu/section/more_on_gaussians.pdf]
高斯过程[pdf：http://cs229.stanford.edu/section/cs229-gaussian_processes.pdf]
吴恩达对应用机器学习算法的建议
CS229网站上还给出了吴恩达对应用机器学习算法的建议，也是非常实用的参考资料！
诊断调试学习算法很重要，用来debug的时间绝对是值得的，分析错误能让你对问题有更深刻的理解，从而设计出更好的算法。另外，吴恩达表示，找出诊断错误的方法往往来自于你自己的灵感。
他给出应用机器学习算法的两点建议：
仔细设计算法，然后implement；先快速做一个粗糙的prototype，诊断，弄好，再着手到大的细的模型上去。
