股票预测,自动翻译,你想要的它都能做——RNN算法探索之旅(2)

如果你想学会一种算法,它既能用来做聊天机器人,还能写诗,写新闻稿,最最重要的,它还能用来预测股价,帮你实现赚一个亿的小目标……

这么厉害的神器,它是谁?

答案就是:循环神经网络,简称RNN。

本系列教程将以RNN为主线,总共分为3个部分:

  • RNN算法之预备知识:前馈神经网络(FFNN)
  • 初识RNN算法
  • RNN算法之变体:长短期记忆(LSTM)

上一节课,我们已经简单了解了前馈神经网络,课程地址:

《股票预测,自动翻译,你想要的它都能做——RNN算法探索之旅(1)》

这一节,我们将学习本系列教程的第2部分:初识RNN算法。

好啦,话不多说,下面开始我们今天的内容。


先来看一组数据:

这组数据来自某只大A股2017年9月份的表现

跌得比较有节奏感

在前馈神经网络中,数据与数据之间,并不存在依存关系,即“下一条数据,并不依赖于之前数据的信息”。

但是,像上图中,这样的一组股票价格,你还能说“上一条数据与下一条没有关系”吗? (都已经跌出惯性了……)

我们在预测9月21日的价格时,不仅要参考9月20日的,还要参考9月18日的、9月17日的、……

此时,每一条数据,都受到之前数据的影响。

除了股价预测外,像搭建聊天机器人:

写新闻稿:

预测故事发展情节:

类似这样的数据,都是带有时间顺序的,即

都需要通过前面已经出现过的文字(或情节),来预测下一个文字(或片段)。

遇到这种情况,我们就需要借助循环神经网络(RNN)来处理。

RNN的运行原理,我们举一个很简单的例子来说明。

假设有这样一句话:

“我爱你们”

每次输入一个文字,我们都希望能预测出下一个即将出现的文字是什么?

这样的数据,写成表格的形式,即:

RNN的运算过程很简单,只要你耐心看完下面这张动图:

你会发现,RNN的运算,是这样一个流程:

如果我们将上图简化,它就是这个样子:

看出它与前馈神经网络的区别了吗?

循环神经网络,除了有前向箭头

外,

还有纵向箭头

即,对于循环神经网络来说,它的每一条数据演算,都会依赖于之前的数据。

我们会反复用到隐藏层所携带的信息:

此时,隐藏层ht不仅受Xt影响,还受上一时刻的ht-1的影响:

注意:ht是受 [Xt,ht-1] 的影响;

不是受 [Xt,Xt-1] 的影响。

因为,ht与Xt-1,可以被视为简单的硬连接。

举个不恰当但是特别好记的例子:

如果你的第二盘菜,准备做鱼香肉丝。

那么,使用第一盘已经切好的土豆丝,

要比直接使用原材料——土豆块,更省时、省力,对吧?

开个玩笑,

不管怎样,要记住:

RNN的隐藏层

是受 [Xt,ht-1] 的影响,而非[Xt,Xt-1]的影响。

希望今后,你再看到其他教材上的公式,会觉得更好理解了。

注:公式中的w,数值可能不同

在上面公式中,对于函数 f() 不了解的同学,可以参照上节课的学习内容:

《股票预测,自动翻译,你想要的它都能做——RNN算法探索之旅(1)》

至此,RNN的基本原理,我们已经学习完了。

下一节,我们重点来看长短期记忆(LSTM)算法,它是一种比RNN更加有效的算法,在预测股票价格等方面,有更好的表现。

好啦,我们下期见。

原文发布于微信公众号 - AI传送门(aiportal)

原文发表时间:2017-10-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

干货 | 阿里巴巴Poster论文:处理多种退化类型的卷积超分辨率

阿里巴巴提出的卷积超分辨率网络可以快速、有效的处理多种图像退化类型,为 SISR 实际应用提供了一种高效、可扩展的解决方案。

1303
来自专栏人工智能头条

机器学习入门概览

1093
来自专栏机器之心

业界 | Petuum提出对偶运动生成对抗网络:可合成逼真的视频未来帧和流

2916
来自专栏CVer

[计算机视觉论文速递] 2018-06-29 人脸专场

这篇文章有4篇论文速递,都是人脸方向,包括人脸识别、人脸表情识别、人脸情绪分类和人脸属性预测。其中一篇是CVPR 2018 workshop。

3204
来自专栏专知

深度强化学习首次在无监督视频摘要生成问题中的应用:实现state-of-the-art效果

【导读】近日,针对视频摘要自动生成中大多数方法均为多阶段建模的问题,来自中国科学院、伦敦大学玛丽皇后学院的学者发表论文提出基于深度强化学习的无监督视频摘要方法。...

6755
来自专栏PPV课数据科学社区

【机器学习】目前机器学习最热门的领域有哪些?

目前机器学习最热门的领域有以下七个: 1.迁移学习Transferlearning 简介:一种学习对另一种学习的影响,它广泛地存在于知识、技能、态度和行为规范的...

3679
来自专栏顶级程序员

12个关键词,告诉你到底什么是机器学习

编者按:随着人工智能(AI)技术对各行各业有越来越深入的影响,我们也更多地在新闻或报告中听到“机器学习”、“深度学习”、“增强学习”、“神经网络”等词汇,对于...

2975
来自专栏AI科技评论

优必选悉尼AI研究院博士生:混合比例估计在弱监督学习和迁移学习中的延伸与应用

AI 科技评论按:在大数据时代,标注足够多的训练样本往往耗费巨大。弱监督学习方法往往能够减轻对正确标签的过度依赖,达到与监督学习相近的性能。然而,在设计弱监督学...

1242
来自专栏机器学习算法与Python学习

精华 | 12个关键词告诉你告诉你什么是机器学习(基础篇)

键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 源 | 小象 随着人工智能(AI)技术...

3575
来自专栏数据科学与人工智能

【陆勤践行】机器学习分类器选择

你知道如何为你的分类问题选择合适的机器学习算法吗?当然,如果你真正关心准确率,那么最佳方法是测试各种不同的算法(同时还要确保对每个算法测试不同参数),然后通过交...

20810

扫码关注云+社区

领取腾讯云代金券