将Keras深度学习模型部署为Web应用程序

编译:yxy

出品:ATYUN订阅号

建立一个很酷的机器学习项目确实很不错,但如果你希望其他人能够看到你的作品怎么办呢?当然,你可以将整个项目放在GitHub上,但这只能给程序员看,如果你想给自己家里的老人看呢?GitHub肯定不行,所以我们想要的是将我们的深度学习模型部署成世界上任何人都轻易访问的Web应用程序。

在本文中,我们将看到如何编写一个Web应用程序获取经过训练的RNN,并使用户生成新的专利摘要。这个项目建立在RNN示例项目:详解使用RNN撰写专利摘要文章的基础上,但你不需要知道如何创建RNN。我们现在只将其视为一个黑盒子:我们输入一个起始序列,它输出一个全新的专利摘要,然后将其在浏览器上显示!

http://www.atyun.com/32461.html

一般来说,数据科学家开发模型,前端工程师负责展示。但在这个项目中,我们将不得不同时扮演这两个角色,并深入研究Web开发(尽管几乎的都用Python写)。

这个项目需要结合:

  • Flask:用Python创建一个基本的Web应用程序
  • Keras:部署训练好的RNN
  • 使用Jinja模板库进行模板化
  • 用于编写网页的HTML和CSS

最终我们得到一个Web应用程序,允许用户使用训练好的RNN生成全新的专利摘要:

方法

我们的目标是尽快启动和运行Web应用程序。因此,我选择了Flask,它使我们可以用Python编写应用程序。我不喜欢乱糟糟的样式所以几乎所有的CSS都是复制和粘贴的。

Flask的基本Web应用程序

在Python中构建Web应用程序的最快方法是使用Flask。要制作我们自己的应用,我们可以:

from flaskimport Flask
app= Flask(__name__)
@app.route("/")
def hello():
    return "<h1>Not Much Going On Here</h1>"
app.run(host='0.0.0.0', port=50000)

如果你复制粘贴此代码并运行它,将能够在localhost:50000上看到自己的Web应用程序。当然,我们要做的肯定不仅仅是这些,所以我们使用一个稍微复杂的函数,它基本上做同样的事情:处理来自浏览器的请求并将一些内容作为HTML提供。对于我们的主页面,我们希望向用户显示一个表单(Form),使用户可以输入一些详细信息。

用户输入表格

当我们的用户到达应用程序的主页面时,我们将向他们展示一个包含三个参数的表单:

  1. 输入RNN的起始序列或随机选择
  2. 选择RNN预测的多样性
  3. 选择RNN输出的字数

要在Python中构建表单,我们将使用wtforms 。制作表单的代码是:

from wtformsimport (Form, TextField, validators, SubmitField,
DecimalField, IntegerField)
class ReusableForm(Form):
    """User entry form for entering specifics for generation"""
    # Starting seed
    seed= TextField("Enter a seed string or 'random':", validators=[
                     validators.InputRequired()])
    # Diversity of predictions
    diversity= DecimalField('Enter diversity:', default=0.8,
                             validators=[validators.InputRequired(),
                                         validators.NumberRange(min=0.5,max=5.0,
                                         message='Diversity must be between 0.5 and 5.')])
    # Number of words
    words= IntegerField('Enter number of words to generate:',
                         default=50, validators=[validators.InputRequired(),
                                                 validators.NumberRange(min=10,max=100,
                                                 message='Number of words must be between 10 and 100')])
    # Submit button
    submit= SubmitField("Enter")

这将创建一个如下所示的表单(带有main.css的样式):

代码中的validator确保用户输入正确的信息。例如,我们检查所有输入框已填充且diversity介于0.5和5之间。必须满足这些条件才能接受表单。

验证错误

我们实际使用Flask提供表单服务的方式是使用模板。

模板

模板是一个带有基本框架的文档,我们需要添加详细信息。对于Flask Web应用程序,我们可以使用Jinja模板库将Python代码传递给HTML文档。例如,在我们的main函数中,我们将表单的内容发送到一个名为index.html的模板。

from flaskimport render_template
# Home page
@app.route("/", methods=['GET','POST'])
def home():
    """Home page of app with form"""
    # Create form
    form= ReusableForm(request.form)
    # Send template information to index.html
    return render_template('index.html', form=form)

当用户到达主页时,我们的应用程序将提供带有form详细信息的index.html息。模板是一个简单的html脚手架,我们用{{variable}} 语法引用python变量。

<!DOCTYPE html>
<html>
<head>
  <title>RNN Patent Writing</title>
  <link rel="stylesheet" href="/static/css/main.css">
  <link rel="shortcut icon" href="/static/images/lstm.ico">
</head>
<body>
  <divclass="container">
    <h1>
      <center>Writing Novel Patent Abstracts with Recurrent Neural Networks</center>
    </h1>
    {% block content %}
    {%for message in form.seed.errors %}
    <divclass="flash">{{ message }}</div>
    {%endfor %}
    {%for message in form.diversity.errors %}
    <divclass="flash">{{ message }}</div>
    {%endfor %}
    {%for message in form.words.errors %}
    <divclass="flash">{{ message }}</div>
    {%endfor %}
    <form method=post>
      {{ form.seed.label }}
      {{ form.seed }}
      {{ form.diversity.label }}
      {{ form.diversity }}
      {{ form.words.label }}
      {{ form.words }}
      {{ form.submit }}
    </form>
    {% endblock %}
  </div>
</body>
</html>

对于表单中的每个错误(那些无法验证的条目),错误将flash。除此之外,此文件将显示上面的表单。

当用户输入信息并点击submit(POST请求)时,如果信息是正确的,我们希望将输入转移到正确的函数以使用经过训练的RNN进行预测。这意味着要修改home() 。

from flaskimport request
# User defined utility functions
from utilsimport generate_random_start, generate_from_seed
# Home page
@app.route("/", methods=['GET','POST'])
def home():
    """Home page of app with form"""
    # Create form
    form= ReusableForm(request.form)
    # On form entry and all conditions met
    if request.method== 'POST' and form.validate():
        # Extract information
        seed= request.form['seed']
        diversity= float(request.form['diversity'])
        words= int(request.form['words'])
        # Generate a random sequence
        if seed== 'random':
            return render_template('random.html',
                                   input=generate_random_start(model=model,
                                                               graph=graph,
                                                               new_words=words,
                                                               diversity=diversity))
        # Generate starting from a seed sequence
        else:
            return render_template('seeded.html',
                                   input=generate_from_seed(model=model,
                                                            graph=graph,
                                                            seed=seed,
                                                            new_words=words,
                                                            diversity=diversity))
    # Send template information to index.html
    return render_template('index.html', form=form)

现在,当用户点击submit并且信息正确时,输入被发送到generate_random_start或generate_from_seed中(取决于输入)。这些函数使用经过训练的Keras模型生成具有用户指定的diversity和num_words的新专利。这些函数的输出依次被发送到random.html或seeded.html任一模板作为网页。

用预训练的Keras模型进行预测

model参数是经过训练的Keras模型,其加载如下:

from keras.modelsimport load_model
import tensorflow as tf
def load_keras_model():
    """Load in the pre-trained model"""
    global model
    model= load_model('../models/train-embeddings-rnn.h5')
    # Required for model to work
    global graph
    graph= tf.get_default_graph()
load_keras_model()

(这tf.get_default_graph()是基于以下gist的变通方案。)

gist:https://gist.github.com/eyesonlyhack/2f0b20f1e73aaf5e9b83f49415f3601a

在这里我没有展示util函数的全部内容(https://github.com/WillKoehrsen/recurrent-neural-networks/blob/master/deployment/utils.py),你所需要了解的是,他们使用训练过的Keras模型和参数,并对一个新的专利摘要进行预测。

这些函数都返回HTML格式的Python字符串。此字符串将发送到另一个模板以显示为网页。例如,generate_random_start返回格式化的html进入random.html:

<!DOCTYPE html>
<html>
<header>
    <title>Random Starting Abstract
    </title>
    <link rel="stylesheet" href="/static/css/main.css">
    <link rel="shortcut icon" href="/static/images/lstm.ico">
    <ul>
        <li><a href="/">Home</a></li>
    </ul>
</header>
<body>
    <divclass="container">
        {% block content%}
        {{input|safe}}
        {% endblock%}
    </div>
</body>
</html>

在这里,我们再次使用Jinja模板引擎来显示格式化的HTML。由于Python字符串已经格式化为HTML,我们所要做的就是使用{{input|safe}}(input是Python变量)来显示它。然后我们可以像使用其他html模板一样用main.css设置此页面的样式。

输出

函数generate_random_start选择随机专利摘要作为起始序列,并根据它进行预测。然后显示起始序列,RNN生成的输出和实际输出:

随机启动序列的输出。

函数generate_from_seed采用用户提供的启动序列,然后使用训练好的RNN构建输出。输出显示如下:

从起始种子序列得到的输出

虽然结果并不总是完全正确,但它们确实表明RNN已经掌握了英语的基础知识。它经过训练可以预测前50个单词中的下一个单词,并且已经学会了如何编写一个略有说服力的专利摘要!根据预测的多样性,输出可能完全是随机的或循环的。

运行应用程序

要自己运行应用程序,只需下载存储库,到deployment目录的python run_keras_server.py 。这将立即使web应用程序在localhost:10000上可用。

根据家庭WiFi的配置方式,你应该能够使用你的IP地址从网络上的任何计算机访问该应用程序。

下一步

在个人计算机上运行的Web应用程序非常适合与朋友和家人共享。不过,我绝对不会建议在你的家庭网络中向所有人开放这个网站!此,我们将在AWS EC2实例上设置应用程序,并将其提供给全世界(会在下节提供)。

为了改进应用程序,我们可以改变样式(通过main.css),或许还可以添加更多选项,比如选择预训练好的网络。个人项目的好处是,你可以随心所欲地去做。如果您想玩这个应用程序,请下载代码并开始使用。

结论

在本文中,我们了解了如何将经过训练的Keras深度学习模型部署为Web应用程序。这需要许多不同的技术,包括RNN,Web应用程序,模板,HTML,CSS,当然还有Python。

虽然这只是一个基础的应用程序,但它表明你可以用相对较少的努力开始使用深度学习来构建Web应用程序。没有多少人可以将深度学习模型部署为Web应用程序,但如果如果按本文操作,那么你就可以!

GitHub:https://github.com/WillKoehrsen/recurrent-neural-networks

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-11-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI研习社

谷歌发布 TensorFlow 1.6.0,针对 CUDA 9.0 和 cuDNN 7 预构建二进制文件

日前,谷歌发布 TensorFlow 1.6.0 正式版,带来了多项更新和优化,雷锋网 AI 研习社将谷歌官方介绍编译如下: ? 重大改进: 针对 CUD...

43610
来自专栏编程

厉害了,用Python一行代码实现人脸识别

摘要: 1行代码实现人脸识别,1. 首先你需要提供一个文件夹,里面是所有你希望系统认识的人的图片。其中每个人一张图片,图片以人的名字命名。2. 接下来,你需要准...

2908
来自专栏性能与架构

Redis 内存优化案例

在Redis的配置文件中有这么两项配置: hash-max-ziplist-entries 512 hash-max-ziplist-value 64 其中...

4247
来自专栏AI研习社

Github 项目推荐 | 半自动图像标记工具

在构建可以从任何场景检测物体的人工智能系统时,我们需要一个庞大的数据集来训练和测试模型,并发现模型的缺点。现有的图像注释工具能够提供一定的帮助,但是开发者仍要付...

1383
来自专栏東雲研究所

启用 TCP BBR 拥塞控制算法

自从 Linux 内核 4.9 开始已经封装了这个新的 TCP 控制算法 BBR。

1K9
来自专栏AI研习社

Github 项目推荐 | 基于 Unity/OpenAI Gym/PyTorch/TF 的深度强化学习研究框架

SLM Lab 是一个基于 Unity, OpenAI Gym, PyTorch, Tensorflow 的深度增强学习研究框架。

2252
来自专栏腾讯云serverless的专栏

使用 Serverless 进行 AI 预测推理

本文演示如何使用腾讯云的 SCF 无服务器云函数来实现 AI Serving 能力。

6.2K61
来自专栏专知

推荐一些有助于理解TensorFlow机制的资料(二)

1923
来自专栏AI科技大本营的专栏

教程 | 如何在手机上使用TensorFlow

? 翻译 | AI科技大本营 参与 | zzq 审校 | reason_W 我们知道,TensorFlow是一个深度学习框架,它通常用来在服务器上训练需要大量...

7277
来自专栏量子位

简化深度学习实践流程:新鲜出炉的TensorFlow项目模板来了

林鳞 编译自 GitHub 量子位 出品 | 公众号 QbitAI 新的TensorFlow项目模板来了。 昨天,用户mrgemy95在Reddit上发帖,称这...

4434

扫码关注云+社区

领取腾讯云代金券