【完结】如何学习AutoML在模型优化中的应用，这12篇文章可以作为一个参考

文/编辑 | 言有三

自动化机器学习技术是非常重要的基础研究，也是如今深度学习模型优化中的热点方向，我们开辟了一个专栏，专门讲解AutoML在深度学习模型优化中的一些重要思路，本次来给大家进行总结。

AutoML与数据增强

大家都知道数据增强很重要，是深度学习必备良药，写论文刷比赛提指标的大杀器。如果让模型针对具体的任务自动学习数据增强策略，理论上会更加智能，这便是基于AutoML的数据增强技术。

• 【AutoML】如何选择最合适的数据增强操作

AutoML与激活函数

激活机制是一个网络非线性表达能力的来源，早期研究人员已经设计出了不少的激活函数，从Sigmoid到ReLU系列。随着AutoML技术的发展，现在研究人员开始使用搜索技术来进行设计。

• 【AutoML】激活函数如何进行自动学习和配置

AutoML与归一化机制

数据经过归一化和标准化后可以加快梯度下降的求解速度，这是Batch Normalization等技术非常流行的原因，它使得可以使用更大的学习率更稳定地进行梯度传播，甚至增加网络的泛化能力。使用AutoML技术可以让不同的网络层学习到最适合该层的归一化机制，从而提升模型能力。

• 【AutoML】归一化(Normalization)方法如何进行自动学习和配置

AutoML与优化方法

要成功训练一个深度学习模型，正确的优化策略是非常重要的，如果使用不当结果会产生很大的差异，使用AutoML技术可以对优化方法进行搜索。

• 【AutoML】优化方法可以进行自动搜索学习吗？

AutoML与优化目标

一个有效的损失函数在深度学习任务中起了关键作用，然而损失函数都是人为设定，不仅需要有经验的人员进行反复尝试，也只能获得次优的方案，如果可以让模型自动对优化目标进行学习，将有望以更低的成本学习到更优的模型。

• 【AutoML】损失函数也可以进行自动搜索学习吗？

AutoML与模型剪枝

模型剪枝是非常重要的模型压缩技巧，并且拥有比较复杂的剪枝策略，那么是否也可以使用AutoML技术来优化呢？

• 【AutoML】如何使用强化学习进行模型剪枝？

AutoML与模型量化

模型量化也是非常重要的模型压缩技巧，网络各层也可以配置不同的量化策略，那么是否也可以使用AutoML技术来优化呢？

• 【AutoML】强化学习如何用于模型量化？

AutoML与模型蒸馏

模型蒸馏也是非常重要的模型压缩技巧，拥有各种各样的设计策略，那么是否也可以使用AutoML技术来优化呢？

• 【AutoML】强化学习如何用于模型蒸馏？

强化学习与NAS

强化学习是一种经典的方法，Google在2017年利用强化学习进行最佳模型架构的搜索，引爆了自动设计网络模型(Neural Architecture Search，简称NAS)的研究热潮。

• 【AutoML】强化学习如何用于自动模型设计(NAS)与优化？

进化算法与NAS

进化算法是一类算法的统称，是模拟自然选择和遗传等生物进化机制的一种搜索算法，也可以用于模型结构搜索优化。

• 【AutoML】进化算法如何用于自动模型搜索(NAS)

可微分架构与NAS

可微分架构可以在连续的参数空间中进行搜索，这样带来的好处就是可以通过梯度下降算法直接进行优化，是比较高效的搜索NAS方法。

• 【AutoML】连续可微分架构如何用于网络结构搜索

AutoML平台和项目

自从Google提出AutoML那天起，工业界和学术界就已经迅速跟进了，经过了几年的发展，那么现在工业界都有了哪些AutoML平台呢？又有哪些开源项目值得关注？

• 【AutoML】当前有哪些可用的AutoML平台？