资源 | 深度学习入门和学习书籍

最近新出一本学习书籍，是我们学校焦李成老师的新作——《深度学习、优化与识别》 地址：https://www.meipian.cn/ian0d64?from=timeline&isappinstalled=0

深度学习书籍推荐：

• 深度学习（Deep Learning） by Ian Goodfellow and Yoshua Bengio and Aaron Courville 中文版下载地址：https://github.com/exacity/deeplearningbook-chinese
• R语言深度学习实践指南（Deep Learning Made Easy with R） by Dr. N.D. Lewis 下载地址：http://download.csdn.net/detail/oscer2016/9829915
• 深度学习基础（Fundamentals of Deep Learning） by Nikhil Buduma 下载地址：http://www.taodocs.com/p-32598980.html
• 神经网络和统计学习（Neural networks and statistical learning） by K.-L. Du and M.N.s. Swamy 下载地址：http://download.csdn.net/detail/oscer2016/9829919
• 神经网络和深度学习（Neural Networks and Deep Learning） by Michael Niels 下载地址：http://download.csdn.net/download/newhotter/9651111

机器学习书籍资源推荐：

• 机器学习、神经网络和统计分类（Machine Learning, Neural Networks, and Statistical Classification） by D. Michie, D.J. Spiegelhalter, C.C. Taylor 下载地址：http://www1.maths.leeds.ac.uk/~charles/statlog/
• 贝叶斯推理和机器学习（Bayesian Reasoning and Machine Learning） by David Barber 下载地址：http://web4.cs.ucl.ac.uk/staff/D.Barber/pmwiki/pmwiki.php?n=Brml.Online
• 机器学习的高斯过程（Gaussian Processes for Machine Learning） by Carl Edward Rasmussen and Christopher K. I. Williams，The MIT Press 下载地址：http://www.gaussianprocess.org/gpml/
• 信息理论、推理和学习算法（Information Theory, Inference, and Learning Algorithms） by David J.C. MacKay 下载地址：http://www.inference.phy.cam.ac.uk/mackay/itprnn/book.html
• 统计学习元素（The Elements of Statistical Learning） by Trevor Hastie, Robert Tibshirani, Jerome Friedman 下载地址：http://statweb.stanford.edu/~tibs/ElemStatLearn/printings/ESLII_print10.pdf
• 机器学习课程（A Course in Machine Learning） by Hal Daumé III 下载地址：http://ciml.info/
• 机器学习导论（Introduction to Machine Learning） by Amnon Shashua，Cornell University 下载地址：https://arxiv.org/abs/0904.3664v1
• 强化学习（Reinforcement Learning） 下载地址：https://www.intechopen.com/books/reinforcement_learning
• 机器学习导论（Introduction to Machine Learning） - By Nils Nilsson 下载地址：http://ai.stanford.edu/~nilsson/mlbook.html
• 强化学习（Reinforcement Learning） - MIT Press 下载地址：http://webdocs.cs.ualberta.ca/~sutton/book/the-book.html

现在说说基本的入门：

深度学习（Deep Learning）属于非常前沿的学科，没有现成的的综合型教材，主要是通过阅读大量论文和代码练习来学习。值得读的经典论文很多，下面介绍的一些教程中多少都有提及，另外就是去google重要文献。代码方面推荐使用python为基础的theano框架，因为它比较偏底层，可以从细节掌握如何构建一个深度学习模块，而且方便结合python在数据领域的其它积累，例如numpy。当然到了生产环境你可以再考虑torch之类的框架。从代码角度切入学习的好处是，理解起来不会像理论切入那么枯燥，可以很快做起一个好玩的东西。当然，最后你还是得补充理论的。下面精选介绍一些本人在学习时遇到的好教程。 1、入门首选： http://deeplearning.net/tutorial/ 该站提供了一系列的theano代码示范，通过研究模仿，就可以学会包括NN/DBN/CNN/RNN在内的大部分主流技术。其中也有很多文献连接以供参考。 2、BP神经网络： http://neuralnetworksanddeeplearning.com/ 第1部分的教程中，神经网格的参数是theano自动求导的，如果想深入了解细节，还得手动推导加代码实现一遍。该教程对BP神经网络的理论细节讲的非常好。 3、理论补充： http://goodfeli.github.io/dlbook/ 该书内容比较广泛，虽未最终完成，但已初见气象。用来完善理论知识是再好不过。 4、图像处理中的卷积神经网络： http://vision.stanford.edu/teaching/cs231n/syllabus.html 前面三部分相当于导论，比较宽泛一些，该教程则是专注于卷积神经网络在图像视觉领域的运用，CNN方面知识由此深入。 5、自然语言处理中的深度学习： http://cs224d.stanford.edu/ 本教程则偏重于深度学习在自然语言处理领域的运用，词向量等方面知识由此深入。 6、递归神经网络： http://www.wildml.com/ 该博客讲的RNN是非常棒的系列，不可不读。 7、keras框架： http://keras.io/ keras框架是基于theano的上层框架，容易快速出原型，网站中提供的大量实例也是非常难得的研究资料。 8、深度学习和NLP https://github.com/nreimers/deeplearning4nlp-tutorial/tree/master/2015-10_Lecture 该教程是第5部分的补充，理论讲的不多，theano和keras代码讲的很多，附带的代码笔记很有参考价值。 9、机器学习教程 https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/ 牛津大学的机器学习课程，讲到了大量深度学习和强化学习的内容，适合于复习过一遍。 10、搭建硬件平台 http://xccds1977.blogspot.com/2015/10/blog-post.html 到这里，你的理论和代码功力应该差不多入门了，可以组个GPU机器来大干一场了。可以参考笔者这个博客来攒个机器。 11、去kaggle实战玩玩吧 http://www.kaggle.com/