最近,威斯康辛大学麦迪逊分校统计学助理教授、机器学习和深度学习研究者 Sabastian Raschka 在 GitHub 上创建了一个项目,包含大量深度学习架构、模型和 tips。目前,该项目已获星8000+,值得一看!
项目地址:https://github.com/rasbt/deeplearning-models
(点击阅读原文可跳转)
目录
该项目的目录如下:
其中每个部分包含多个子部分,主要介绍了各部分相关的模型和 TensorFlow、PyTorch 实现。
以 CNN 为例,我们来看一下它包含哪些内容。
卷积神经网络
这部分首先介绍了 CNN 的基础知识和概念,然后介绍了不同的 CNN 模型,如全卷积神经网络、AlexNet、VGG、ResNet 等,每个子部分都包含示例及其 TensorFlow 和 PyTorch 实现。
技巧和窍门
除了模型,该项目还介绍了一些模型训练的技巧和窍门。
这部分主要介绍了 PyTorch 中的周期学习率(cyclical learning rate),具体涉及三项内容:
详情参见:https://github.com/rasbt/deeplearning-models/blob/master/pytorch_ipynb/tricks/cyclical-learning-rate.ipynb