吴恩达《序列模型》精炼笔记(1)-循环神经网络(RNN

AI有道

不可错过的AI技术公众号

关注

序列模型(Recurrent Neural Networks)是Andrw Ng深度学习专项课程中的第五门课,也是最后一门课。这门课主要介绍循环神经网络(RNN)的基本概念、模型和具体应用。该门课共有3周课时,所以我将分成3次笔记来总结,这是第一节笔记。

——前言

1

Why Sequence Models

序列模型能够应用在许多领域,例如:

语音识别

音乐发生器

情感分类

DNA序列分析

机器翻译

视频动作识别

命名实体识别

这些序列模型基本都属于监督式学习,输入x和输出y不一定都是序列模型。如果都是序列模型的话,模型长度不一定完全一致。

2

Notation

下面以命名实体识别为例,介绍序列模型的命名规则。示例语句为:

Harry Potter and Hermione Granger invented a new spell.

该句话包含9个单词,输出y即为1 x 9向量,每位表征对应单词是否为人名的一部分,1表示是,0表示否。很明显,该句话中“Harry”, “Potter”, “Hermione”, “Granger”均是人名成分,所以,对应的输出y可表示为:

对于输入x,表示为:

该词汇库可看成是10000 x 1的向量。值得注意的是自然语言处理NLP实际应用中的词汇库可达百万级别的词汇量。

3

Recurrent Neural Network Model

对于序列模型,如果使用标准的神经网络,其模型结构如下:

使用标准的神经网络模型存在两个问题:

标准的神经网络不适合解决序列模型问题,而循环神经网络(RNN)是专门用来解决序列模型问题的。RNN模型结构如下:

RNN模型包含三类权重系数,分别是Wax,WaaWaa,Wya。且不同元素之间同一位置共享同一权重系数。

RNN的正向传播(Forward Propagation)过程为:

其中,g(⋅)表示激活函数,不同的问题需要使用不同的激活函数。

为了简化表达式,可以对上式进行整合:

则正向传播可表示为:

He said, “Teddy Roosevelt was a great President.”

He said, “Teddy bears are on sale!”

4

Backpropagation through Time

针对上面识别人名的例子,经过RNN正向传播,单个元素的Loss function为:

该样本所有元素的Loss function为:

然后,反向传播(Backpropagation)过程就是从右到左分别计算L(y^,y)对参数Wa,Wy,ba,by的偏导数。思路与做法与标准的神经网络是一样的。一般可以通过成熟的深度学习框架自动求导,例如PyTorch、Tensorflow等。这种从右到左的求导过程被称为Backpropagation through time。

5

Different Types of RNNs

以上介绍的例子中,Tx=Ty。但是在很多RNN模型中,Tx是不等于Ty的。例如第1节介绍的许多模型都是Tx≠Ty。根据Tx与Ty的关系,RNN模型包含以下几个类型:

Many to many: Tx=TyTx=Ty

Many to many: Tx≠TyTx≠Ty

Many to one: Tx>1,Ty=1Tx>1,Ty=1

One to many: Tx=1,Ty>1Tx=1,Ty>1

One to one: Tx=1,Ty=1Tx=1,Ty=1

不同类型相应的示例结构如下:

6

Language Model and Sequence Generation

语言模型是自然语言处理(NLP)中最基本和最重要的任务之一。使用RNN能够很好地建立需要的不同语言风格的语言模型。

什么是语言模型呢?举个例子,在语音识别中,某句语音有两种翻译:

The apple and pair salad.

The apple and pear salad.

很明显,第二句话更有可能是正确的翻译。语言模型实际上会计算出这两句话各自的出现概率。比如第一句话概率为10^−13,第二句话概率为10^−10。也就是说,利用语言模型得到各自语句的概率,选择概率最大的语句作为正确的翻译。概率计算的表达式为:

如何使用RNN构建语言模型?首先,我们需要一个足够大的训练集,训练集由大量的单词语句语料库(corpus)构成。然后,对corpus的每句话进行切分词(tokenize)。做法就跟第2节介绍的一样,建立vocabulary,对每个单词进行one-hot编码。例如下面这句话:

The Egyptian Mau is a bread of cat.

One-hot编码已经介绍过了,不再赘述。还需注意的是,每句话结束末尾,需要加上作为语句结束符。另外,若语句中有词汇表中没有的单词,用表示。假设单词“Mau”不在词汇表中,则上面这句话可表示为:

The Egyptian is a bread of cat.

准备好训练集并对语料库进行切分词等处理之后,接下来构建相应的RNN模型。

单个元素的softmax loss function为:

该样本所有元素的Loss function为:

对语料库的每条语句进行RNN模型训练,最终得到的模型可以根据给出语句的前几个单词预测其余部分,将语句补充完整。例如给出“Cats average 15”,RNN模型可能预测完整的语句是“Cats average 15 hours of sleep a day.”。

7

Sampling Novel Sequences

利用训练好的RNN语言模型,可以进行新的序列采样,从而随机产生新的语句。与上一节介绍的一样,相应的RNN模型如下所示:

值得一提的是,如果不希望新的语句中包含标志符,可以在每次产生时重新采样,直到生成非标志符为止。

以上介绍的是word level RNN,即每次生成单个word,语句由多个words构成。另外一种情况是character level RNN,即词汇表由单个英文字母或字符组成,如下所示:

Character level RNN与word level RNN不同的是,y^由单个字符组成而不是word。训练集中的每句话都当成是由许多字符组成的。character level RNN的优点是能有效避免遇到词汇表中不存在的单词。但是,character level RNN的缺点也很突出。由于是字符表征,每句话的字符数量很大,这种大的跨度不利于寻找语句前部分和后部分之间的依赖性。另外,character level RNN的在训练时的计算量也是庞大的。基于这些缺点,目前character level RNN的应用并不广泛,但是在特定应用下仍然有发展的趋势。

8

Vanisging Gradients with RNNs

语句中可能存在跨度很大的依赖关系,即某个word可能与它距离较远的某个word具有强依赖关系。例如下面这两条语句:

Thecat, which already ate fish,wasfull.

Thecats, which already ate fish,werefull.

第一句话中,was受cat影响;第二句话中,were受cats影响。它们之间都跨越了很多单词。而一般的RNN模型每个元素受其周围附近的影响较大,难以建立跨度较大的依赖性。上面两句话的这种依赖关系,由于跨度很大,普通的RNN网络容易出现梯度消失,捕捉不到它们之间的依赖,造成语法错误。关于梯度消失的原理,我们在之前的吴恩达《优化深度神经网络》笔记(1)– 深度学习的实用层面已经有过介绍,可参考。

另一方面,RNN也可能出现梯度爆炸的问题,即gradient过大。常用的解决办法是设定一个阈值,一旦梯度最大值达到这个阈值,就对整个梯度向量进行尺度缩小。这种做法被称为gradient clipping。

9

Gated Recurrent Unit(GRU)

RNN的隐藏层单元结构如下图所示:

为了解决梯度消失问题,对上述单元进行修改,添加了记忆单元,构建GRU,如下图所示:

相应的表达式为:

上面介绍的是简化的GRU模型,完整的GRU添加了另外一个gate,即Γr,表达式如下:

注意,以上表达式中的∗∗表示元素相乘,而非矩阵相乘。

10

Long Short Term Memory(LSTM)

LSTM是另一种更强大的解决梯度消失问题的方法。它对应的RNN隐藏层单元结构如下图所示:

相应的表达式为:

LSTM包含三个gates:Γu,Γf,Γo,分别对应update gate,forget gate和output gate。

如果考虑c^对Γu,Γf,Γo的影响,可加入peephole connection,对LSTM的表达式进行修改:

GRU可以看成是简化的LSTM,两种方法都具有各自的优势。

11

Bidirectional RNN

我们在第3节中简单提过Bidirectional RNN,它的结构如下图所示:

BRNN对应的输出表达式为:

BRNN能够同时对序列进行双向处理,性能大大提高。但是计算量较大,且在处理实时语音时,需要等到完整的一句话结束时才能进行分析。

12

Deep RNNs

Deep RNNs由多层RNN组成,其结构如下图所示:

我们知道DNN层数可达100多,而Deep RNNs一般没有那么多层,3层RNNs已经较复杂了。

另外一种Deep RNNs结构是每个输出层上还有一些垂直单元,如下图所示:

至此,第一节笔记介绍完毕!

喜欢就请赞赏或转发分享一下吧

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180502G0081A00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券