资源 | 斯坦福课程：深度学习理论

整理 | 阿司匹林

深度学习为什么能够在近几年取得如此大的进展？除了经验主义之外，我们还应该从理论层面去理解深度学习的发展。为此，斯坦福大学于去年秋天推出了一门名为 Theories of Deep Learning（深度学习理论） 的课程。

这门课程整体架构可以用下面这张图来表示：

以下是课程大纲：

• Lecture 01: Deep Learning Challenge. Is There Theory?
• Lecture 02: Overview of Deep Learning From a Practical Point of View
• Lecture 03: Harmonic Analysis of Deep Convolutional Neural Networks
• Lecture 04: Convnets from First Principles: Generative Models, Dynamic Programming & EM
• Lecture 05: When Can Deep Networks Avoid the Curse of Dimensionality and Other Theoretical Puzzles
• Lecture 06: Views of Deep Networksfrom Reproducing Kernel Hilbert Spaces
• Lecture 07: Understanding and Improving Deep Learning With Random Matrix Theory
• Lecture 08: Topology and Geometry of Half-Rectified Network Optimization
• Lecture 09: What’s Missing from Deep Learning?
• Lecture 10: Convolutional Neural Networks in View of Sparse Coding

目前，微博博主 @爱可可-爱生活 已经将这门课程的视频上传到了 Bilibili，国内的网友不需要访问外国网站就可以随时查看。

课程视频地址：

https://www.bilibili.com/video/av16136625/

课程讲义地址：

https://stats385.github.io/lecture_slides

推荐阅读书单和其他资源地址：

https://stats385.github.io/readings

AI科技大本营公开课