最近调研了不少迁移学习的工作,本文选取7种常见的迁移学习分享给大家。因为我感觉迁移学习在NLP领域的很多任务中有很大的利用价值,毕竟高质量的标注数据是很少的,而人工标注费时费力,而且质量不一定好。
1. Domain Adaptation 领域自适应
1.1 动机
领域自适应是一种迁移学习,它将不同源领域的数据或特征映射到同一个特征空间,以便于利用其源领域数据或特征来增强目标领域的训练,进而达到更好的训练效果。领域自适应学习不要求训练数据和测试数据一定具有相同的分布。
1.2 目的
利用数据或特征更多的源领域来提升数据或特征相对较少的目标领域的模型性能。
1.3论文和代码
论文迁移学习在对话系统领域论文也不少,简单推荐几篇:
2. Online transfer learning 在线迁移学习
在线迁移学习的框架
2.1 动机
把在线学习和迁移学习相结合,用于训练的源领域的数据在开始训练前并不是全部确定的,而是随着时间的推移而不断增加。
2.2 目的
充分理由源领域的数据进行训练,以便于更好的迁移到目的领域。
2.3 论文和代码
3. Lifelong transfer learning 终身迁移学习
3.1动机
不再单单是在特定领域终身学习,而是通过终身不断的学习来提升源领域到目标领域的迁移效果。
3.2 目的
通过终身不断的学习来增强源领域到目标领域的迁移。
3.3 论文和代码
4. Heterogeneous Transfer Learning 异构迁移学习
4.1 动机
迁移学习一般不要求训练数据和测试数据有相同的分布,而异构迁移学习连训练数据和测试数据的特征维度也不再要求一样。
4.2 目的
训练数据和测试数据的特征维度也允许不同,这样更有利于扩大迁移学习的适用范围。
4.3 论文和代码
5. Deep Transfer Learning 深度迁移学习
5.1 动机
深度学习具有非常强的数据拟合能力,可学习到泛化能力更强的特征表达,而迁移学习能学习到领域无关的特征表达。如果通过深度神经网络利用其他领域的知识,能充分利用神经网络来学习所有领域共同具有的特征表示。
5.2 目的
将深度学习与迁移学习相结合,同时利用深度学习和迁移学习的优势。
5.3 论文和代码
6. Reinforcement Transfer Learning 强化迁移学习
6.1 动机
强化学习需要多步决策,其实在决策时如果数据较少,可能可以尝试策略的迁移学习。
6.2 目的
将强化学习与迁移学习相结合,同时利用强化学习和迁移学习的优势。
6.3 论文和代码
7. Adversarial transfer learning 对抗迁移学习
7.1 动机
迁移学习一般是单向的迁移,那么如果双向进行对抗的迁移学习的话,效果可能会更好,因为可以互相迁移而共享共有的数据和特征。
7.2 目的
双向对抗的迁移学习,尽最大努力的充分利用源领域和目标领域的数据和特征。
7.3 论文和代码