专栏首页人工智能前沿讲习SFFAI分享 | 马聪:NLP中的生成式预训练模型【附PPT与视频资料】

SFFAI分享 | 马聪:NLP中的生成式预训练模型【附PPT与视频资料】

关注文章公众号 回复"SFFAI24"获取PPT资料 视频资料可点击下方阅读原文在线观看

导读


本次分享将主要关注OpenAI在自然语言处理领域的两个预训练的工作GPT和GPT-2.0. 通过分析GPT的两个模型,重点探讨基于单向语言模型的NLP预训练过程对序列生成任务的作用以及利用预训练模型进行NLP多种任务无监督测试的方式和效果。GPT-2.0在机器翻译、问答系统、文本摘要等复杂任务上的性能展示出NLP预训练模型的强大功能以及其在自然语言序列生成中性能。

自我介绍


马聪,2017年获北京科技大学工学学士学位,专业智能科学与技术,现保送至中国科学院自动化研究所模式识别国家重点实验室,研究兴趣为自然语言处理、机器翻译、多模态信息处理等。曾任中国科学院大学人工智能技术学院首届学生会主席。研究生入学至现在,以第三作者的身份分别参与了一篇EMNLP会议论文和一篇TKDE期刊论文。

正文


2018年NAACL会议的Best paper颁发给了预训练工作ELMo,2019年NAACL的Best paper颁发给了谷歌AI的预训练工作Bert。从这连续两年的NAACL最佳论文的评选可以看出学界对自然语言处理中预训练的重视,同时预训练模型也没有辜负大家的期望,在一系列的任务上都得到了非常好的实验性能。在Bert工作的同期,OpenAI研究机构在其官方博客上也发布了在自然语言处理中进行生成式模式的预训练模型GPT和GPT-2. Bert和GPT有相似也有不同,本文将重点针对GPT的思想和设计进行展开。

预训练模型在计算机视觉中已经有了非常广泛的应用,例如在ImageNet上预训练VGG、GoogLe Net、Res Net等网络架构,在后续的下游任务中得到了非常好的效果,而在自然语言处理中预训练的工作之前主要是集中在文本表示的预训练中,例如word2vec、sent2vec、doc2vec这样对文本进行表示的工作中。近两年,有较多的研究工作关注在利用语言模型任务来进行预训练,以得到文本的更好表示。

在介绍预训练的模型之前,我们有必要先看看为什么要进行预训练,或者预训练到底能为后续的任务带来什么?无论是计算机视觉还是自然语言处理或者机器学习的其他任务,在进行模型设计前,特征的表达都是非常重要的工作,在之前传统方法中,主要的特征表示工作是由研究人员进行手工编撰、设计特征表达,进而将这些特征表达送到后续的模型中进行分类或回归等下游任务。对于计算机视觉中,最常见的数据形式为图像的像素值,自然语言处理中最常见的是字符串表征的文本,但无论是什么源数据形式,都需要将数据映射到特征空间,才能更好的进行模型的训练、学习。图1展示了机器学习过程中数据表示的流程图,现在大多数的机器学习任务都根据该流程进行数据的表征和模型的训练。在数据表示和训练的流程中,一个关键的问题是如何进行有效、合理的特征表达。在传统工作中,研究人员主要进行手工设计特征,而随着深度神经网络的发展和越来越大规模数据的获得,研究者们发现,深度学习框架可以从大规模的训练数据中自动的学习到比较好的数据特征表达,而不再需要手工编撰特征。显而易见,如果希望模型可以学习到比较好的数据表示,需要有大规模的数据支持,但是在很多具体的研究任务中,训练数据的规模还是比较有限,并不能支持模型学习到较好的特征表示,所以在特定的任务上进行预训练(例如计算机视觉中的ImageNet数据集上预训练,自然语言处理中的大规模语言模型预训练),再到具体任务上进行fine-tune。

图1 – 机器学习数据表示流程图

除了在数据表示工作的预训练,还有较多的工作关注在模型的预训练,该部分的工作主要是利用预训练得到模型的比较好的模型参数初始化范围,并在后续的fine-tune中在目标任务数据集上进行快速的收敛。

具体的在自然语言处理中利用语言模型进行预训练的形式化如图2所示。语言模型的任务是根据上下文的信息来预测后续将要出现的字符或单词的概率。前向语言模型是根据已经出现的若干词语来预测当前输出词的概率分布;而后向语言模型是根据未来的若干词语来预测当前输出词的概率分布。双向的语言模型则是根据历史信息和未来信息,共同作为条件来预测当前词的概率分布,从形式上来看,双向语言模型的定义非常类似“完形填空”的任务。常见的基于语言模型进行预训练的工作都是在前向、后向或双向的任务定义,例如ELMo是双向语言模型任务,Bert也是双向语言模型任务,GPT是单向语言模型任务。其中ELMo和Bert的区别在于,ELMo的建模是利用前向语言模型和后向语言模型,两个模型的拼接来实现双向语言模型,而Bert是直接将历史信息和未来信息共同作为条件输入来对当前词的分布进行预测。GPT则是只利用历史信息来预测接下来将要生成的词。所以GPT的作者在论文题目中称他们的工作为“Generative Pre-Training” – 生成式预训练。

图2 – 语言模型预训练形式化表示

基于语言模型的预训练框架中,之前的相关工作基本都是基于循环神经网络进行语言模型的建模。随着2018年《Attention is all you need》工作的提出(如图3所示),利用自注意力模型Transformer在自然语言处理中的各个任务中得到了非常好的效果,类似的,利用Transformer在语言模型中进行建模也都发现可以得到更好的效果。Bert主要是利用了Transformer的编码器架构来设计双向语言模型,GPT则是主要利用了Transformer的解码器部分来进行生成式的单向语言模型建模。

图3 – Transformer模型架构图

GPT的建模思路如图4所示,其首先在语言模型上进行预训练,继而在特定的任务上进行fine-tune。从图4中可以发现,其基础模型部分基本与Transformer的解码器架构一致,只是删去了Transformer中解码器与编码器之间的自注意力计算机制(因为在GPT的语言模型预训练中没有编码器,也没有源端语言的设定)。在预训练阶段,GPT完全使用前向语言模型的优化目标进行语言模型的训练,而在特定任务的fine-tune部分,GPT是通过对训练数据中添加相应的token来将各种任务转化为分类任务来进行训练。GPT所实验的任务包含文本分类、文本蕴含、句子相似度预测和多项选择的阅读理解任务。需要特别注意的是GPT在fine-tune阶段不仅仅利用特定任务的训练目标,还将语言模型的任务同时作为辅助目标来进行统一训练,根据论文中的实验结果发现,具体任务搭配语言模型的辅助fine-tune在一些任务上可以得到性能的进一步提升,但在另外一些任务上没有达到更好的效果。个人认为在语言模型的预训练后的fine-tune中是否需要加入语言模型的辅助目标取决于下游任务的复杂度,有些下游任务相对比较简单,其对语言的条件生成的依赖比较小,此时搭配语言模型进行辅助 fine-tune可能并不能让实验性能进一步提升,而有一些较难的任务需要条件生成的更多信息来进行学习,此时在fine-tune的过程中搭配语言模型的目标进行fine-tune会得到更好的实验结果。

图4 – GPT模型架构图

在GPT发布8个月后,OpenAI又发布了GPT-2版本,得到了更好的实验性能。与GPT不同的是,GPT-2并没有在特定的下游任务上进行fine-tune,而是全部采用了无监督测试的架构设置。在模型架构上,GPT-2的总参数量是GPT的十倍还多,Transformer的层数从BPT的12层增加到GPT-2的48层,隐层节点的维度也从768维增加到了1600维。在具体的模型细节上,GPT-2与GPT的主要不同是在层归一化(layer norm)的放置和残差模块部分的初始化设置。更重要的一点,GPT-2的训练数据集采用了WebText,该数据集是OpenAI在网络资源上进行爬取、清理得到的,其总数据量约有800万文档,文本存储量有40GB。更好的数据和更大的模型,让GPT-2在语言模型任务上得到了非常好的实验性能,GPT-2虽然没有在各个特定的语言模型的训练集上进行训练(GPT-2都是在WebText上进行训练的),但是在8个语言模型的任务上的7个得到了state-of-the-art的结果(如图5所示)。GPT-2在1BW的测试集上没有得到最好的结果,作者分析是因为在1BW任务的训练集中,具有相当大比例的测试集数据存在(有13.19%的测试数据存在于训练数据集中),而WebText与1BW的测试数据的交叉程度则较小,1BW的测试数据中只有3.75%的数据在WebText数据集中。

图5 – GPT-2在语言模型上的实验效果

GPT-2除了在语言模型的任务上进行了性能的分析,还在其他的语言生成任务上进行了性能的分析,展现了GPT-2在经过预训练后的强大语言生成能力。图6展示了GPT-2在部分自然语言处理任务上的实验性能。在所有的这些任务中,GPT-2都是只在WebText的数据集上进行训练,而没有在下游任务上进行fine-tune。没有进行fine-tune的工作,在测试阶段最重要的工作便是让模型知道是在什么任务上进行测试。

对于机器翻译工作,作者使用的方式是添加token [English sentence = French sentence]来提示GPT-2 进行翻译工作。虽然WebText中没有大规模的平行语料,甚至基本都是单语语料,GPT-2还是展现出了不错的机器翻译实验性能。WebText是针对英语构建的大规模训练语料,根据作者的统计,其中只检测到有10MB的法语资源(总语料的规模为40GB),而在这样的数据中,GPT-2的英法翻译的性能可以与基于平行词典的无监督翻译的工作性能可比。而法英的翻译,GPT-2则是借助其强大的英语生成能力学习得到了较好的结果,其翻译性能超过了无监督的降噪机器翻译和词嵌入最近邻翻译,但是相比目前的无监督机器翻译的state-of-the-art工作还有一定的距离,具体结果如图6的第二张图所示。

图6 – GPT-2无监督实验结果

对于文本摘要的工作中,作者发现在网络爬取的数据中,存在一定的摘要的数据构造,在网络中,其存在形式为: [长文档。TL;DR:摘要文档],其中的TL;DR所表示的含义为Too Long, Don’t Read。基于这样的发现,作者在实验中加入了该标示,可以让GPT-2较好的展示出摘要的性能,如图7所示。当GPT-2没有添加任何标识时,模型倾向于在长文档的基础上继续进行后续的生成工作,而不是生成对应文本的摘要,所以在摘要的评测指标ROUGE上结果不好;而加入TL;DR的标识后,GPT-2的实验性能可以达到与搭配注意力机制的序列模型可比的效果。

图7 – GPT-2在无监督摘要任务上的实验性能

GPT-2除了在机器翻译、文本摘要的任务上进行无监督测试,还在语言生成的工作上进行了测试,在给定上文的基础上,GPT-2展现了强大的生成能力(如图8所示,更多生成样例可参考https://www.openai.com/blog/better-language-models/)。

图8 – GPT-2语言生成样例

总结来说,GPT、GPT-2使用前向语言模型进行预训练的工作,其在语言生成的模型设计上更加自然,但是只利用了一个方向的语言模型的建模确实会存在一定的局限性,作者也在论文中提到“It is unclear whether the additional training data and capacity of GPT-2 is sufficient to overcome the inefficiencies of uni-directional representations demonstrated by Bert.”可以看出OpenAI的研究工作是在扩大模型和训练数据量的基础上来弥补单方向语言模型和双向语言模型之间的性能差异。在可预见的未来,如何有效的利用双向语言模型进行语言生成任务上的工作,以及如何更加有效的利用大规模文本进行预训练来提高自然语言处理任务,仍将是自然语言处理领域研究的重点和热点。

参考文献


[1] Alec Radford, Karthik Narasimhan, Tim Salimans, and Ilya Sutskever. 2018. Improving Language Understanding by Generative Pre-Training. Technical report, OpenAI.

[2] Alec Radford, Jeffrey Wu, Rewon Child, David Luan, Dario Amodei, Ilya Sutskever. 2019. Language Models are Unsupervised Multitask Learners. Technical report, OpenAI.

[3] Matthew E. Peters, Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee, Luke Zettlemoyer: Deep Contextualized Word Representations. NAACL-HLT 2018: 2227-2237

[4] Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova: BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. CoRR abs/1810.04805 (2018)

SFFAI招募召集人

本文分享自微信公众号 - 人工智能前沿讲习(AIFrontier),作者:马聪

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-05-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 精选论文 | 自然语言处理中的语言模型预训练方法【附打包下载】

    最近,在自然语言处理(NLP)领域中,使用语言模型预训练方法在多项 NLP 任务上都获得了不错的提升,广泛受到了各界的关注。今天,两位主讲嘉宾为大家精选了近期语...

    马上科普尚尚
  • 精选论文 | 机器翻译专场之同步双向与多语言机器翻译【附打包下载】

    机器翻译一直是自然语言处理中的重要研究任务,而最近的几个月自然语言处理领域尤其在文本生成、机器翻译领域又有新的突破不断提出!今天的两位讲者,一位讲者将分享双向同...

    马上科普尚尚
  • 王硕:水下仿生机器人-作业臂系统及其自主水下作业研究

    本文报告介绍了水下仿生机器人的设计,从作业臂系统、运动控制、环境自主感知与导航和三个方面介绍了目前的研究现状,同时带来了研究团队在这些关键问题上的最新研究成果,...

    马上科普尚尚
  • OpenAI的GPT-2:用Python构建世界上最先进的文本生成器的简单指南

    来源 | Analytics Vidhya 【磐创AI导读】:继之前介绍使用GPT-2生成类披头士歌词(有兴趣的可以查看往期文章),现在让我们再来看看这个强大的...

    磐创AI
  • 人工智能的渐进式探索已经开启

    人类智能从语言开始,人工智能革命也应从语言学习开始,语言才是人工智能的引爆点。 语言是人类最基本的生活需求。人工智能和机器人如果能真正的走进生活,模拟人“说话”...

    企鹅号小编
  • TPU加AutoML:50美元快速训练高效的ImageNet图像分类网络

    机器之心整理 参与:刘晓坤、思源 昨日,Jeff Dean 在推特上表示他们在 ImageNet 图像分类上发布了新的 DAWNBench 结果,新型 Amoe...

    机器之心
  • 缄默期过后6小时,搜狗王小川回应一切(他说:会叫的狗不咬人)

    李根 发自 乌镇米仓 量子位 报道 | 公众号 QbitAI ? 北京时间12月4日下午13点,纽约时间12月4日午夜0点。搜狗上市缄默期正式结束,王小川可以...

    量子位
  • 敏捷AI | NLP技术在宜信业务中的实践【构建用户画像篇】

    在许多企业中,每天业务人员和客户的沟通都会产生大量记录,这些记录可能包括了客服的沟通数据(通话记录、通话小结),也可能包括了各式各样的报告数据(陪访报告、征信报...

    宜信技术学院
  • SAP S/4 HANA新变化-信用管理后台配置

    一、信用评估 1、定义信用段 ? 客户信用主数据就维护在信用段视图,信用段会和信用控制范围进行关联。 2、定义信用分级 ? 3、定义信用得分计算公式 ? 4...

    SAP最佳业务实践
  • 从 Google TFX 到 Kubeflow:容器化交付敏捷 AI 平台

    内容来源:2018 年 04 月 22 日,才云科技创始人兼CEO张鑫在“全球首发| Kubeflow Meetup 4.22 杭州场,开拓 AI 新视野”进行...

    IT大咖说

扫码关注云+社区

领取腾讯云代金券