tensorflow提供了一个非常简单的API来保存和还原一个神经网络模型。这个API就是tf.train.Saver类。以下代码给出了保存tensorflow计算图的方法。
使用tensorflow过程中，训练结束后我们需要用到模型文件。有时候，我们可能也需要用到别人训练好的模型，并在这个基础上再次训练。这时候我们需要掌握如何操作这些模型数据。看完本文，相信你一定会有收获！
这节是关于tensorflow的Freezing，字面意思是冷冻，可理解为整合合并；整合什么呢，就是将模型文件和权重文件整合合并为一个文件，主要用途是便于发布。
采用 TensorFlow 的时候，有时候我们需要加载的不止是一个模型，那么如何加载多个模型呢？
在上一篇文章中《Tensorflow加载预训练模型和保存模型》，我们学习到如何使用预训练的模型。但注意到，在上一篇文章中使用预训练模型，必须至少的要4个文件：
尝试过迁移学习的同学们都知道，Tensorflow的模型保存加载有不同格式，使用方法也不一样，新手会觉得乱七八糟，所以本文做一个梳理。从模型的保存到加载，再到使用，力求理清这个流程。
TensorFlow模型训练的好网络参数如果想重复高效利用，模型参数保存与加载是必须掌握的模块。本文提供一种简单容易理解的方式来实现上述功能。参考博客地址 备注： 本文采用的是ckpt保存方式，在下篇博文中介绍更加常用的pb保存方式，包括ckpt文件如何转换的pb文件，和如何直接保存问pb文件，感兴趣可以去看看。
选自Github 机器之心编译 参与：Jane W、李泽南 TensorFlow 是一个由谷歌发布的机器学习框架，在这篇文章中，我们将阐述 TensorFlow 的一些本质概念。相信你不会找到比本文更
通过TensorFlow提供tf.train.Saver类提供的save函数保存模型，生成对应的四个文件，因为TensorFlow将计算图的结构以及图上的变量参数值分开保存，这样能够为模型的载入提供方便的扩展。
1, 首先我们当然可以直接在tensorflow训练中直接保存为pb为格式，保存pb的好处就是使用场景是实现创建模型与使用模型的解耦，使得创建模型与使用模型的解耦，使得前向推导inference代码统一。另外的好处就是保存为pb的时候，模型的变量会变成固定的，导致模型的大小会大大减小。
Deep Interest Network（DIN）是阿里妈妈精准定向检索及基础算法团队在2017年6月提出的。其针对电子商务领域（e-commerce industry）的CTR预估，重点在于充分利用/挖掘用户历史行为数据中的信息。
MNIST是一个非常有名的手写体数字识别数据集，在很多资料中，这个数据集都会作为深度学习的入门样例。下面大致介绍这个数据集的基本情况，并介绍temsorflow对MNIST数据集做的封装。tensorflow的封装让使用MNIST数据集变得更加方便。MNIST数据集是NIST数据集的一个子集，它包含了60000张图片作为训练数据，10000张图片作为测试数据。在MNIST数据集中的每一张图片都代表了0~9中的一个数字。图片的大小都为28*28，且数字都会出现在图片的正中间。
保存模型并不限于在训练之后，在训练之中也需要保存，因为TensorFlow训练模型时难免会出现中断的情况。我们自然希望能够将辛苦得到的中间参数保留下来，否则下次又要重新开始。这种在训练中保存模型，习惯上称之为保存检查点。
在《Tensorflow SavedModel模型的保存与加载》一文中，我们谈到SavedModel格式的优点是与语言无关、容易部署和加载。那问题来了，如果别人发布了一个SavedModel模型，我们该如何去了解这个模型，如何去加载和使用这个模型呢？
做模型的同学基本都会使用tensorflow，不知道大家是否会像我一样对tensorflow的模型存储感到疑惑：各种模型保存的方法、保存出的模型文件名称和结构还不一样、加载模型的时候有的需要重新定义一遍计算图而有的不需要、有的格式tfserving能用有的不能用。这篇文章会带大家了解每个模型文件分别包含什么内容、计算图是以什么样的形式保存在文件中的。
如何将机器学习(ML)模型部署上线至生产环境已成为经常性的热门话题。为此许多公司和框架提出了各种不同的解决方案。
在上篇博文中，我们探索了TensorFlow模型参数保存与加载实现方法采用的是保存ckpt的方式。这篇博文我们会使用保存为pd格式文件来实现。 首先，我会在上篇博文基础上，实现由ckpt文件如何转换为pb文件，再去探索如何在训练时直接保存pb文件，最后是如何利用pb文件复现网络与参数完成应用预测功能。
深度学习的应用主要包括两个部分，一是通过深度学习框架训练出模型，二是利用训练出来的模型进行预测。
kubeflow 中采用了 tensorflow serving 作为官方的tensorflow模型接口， TensorFlow Serving是GOOGLE开源的一个服务系统，适用于部署机器学习模型，灵活、性能高、可用于生产环境。 TensorFlow Serving可以轻松部署新算法和实验，同时保持相同的服务器架构和API。
本文首先介绍了TensorFlow.js的重要性及其组件，并介绍使用其在浏览器中构建机器学习模型的方法。然后，构建使用计算机的网络摄像头检测身体姿势的应用程序。
你最喜欢用什么工具来编写机器学习模型？数据科学家们对这个永恒的问题会给出各种不同的答案。一些人喜欢RStudio，另一些人更喜欢Jupyter Notebooks。我绝对属于后者。
一个完整的神经网络由这两部分构成，Tensorflow 在保存时除了这两个文件还会在目录下自动生成 checkpoint， checkpoint的内容如下，它只记录了目录下有哪些网络。
运行一个结构复杂的深层网络往往需要很长时间，当我们在应用模型到实际的生活中时，不可能每一次都重新训练模型。我们希望训练的结果可以复用，也就是需要将训练得到的模型持久化。
这两天搜索了不少关于Tensorflow模型保存与加载的资料，发现很多资料都是关于checkpoints模型格式的，而最新的SavedModel模型格式则资料较少，为此总结一下TensorFlow如何保存SavedModel模型，并加载之。
补充知识：TensorFlow：.ckpt文件与.ckpt.meta和.ckpt.index以及.pb文件之间的关系是什么？
当谈到在 TensorFlow 上写代码时，我们总会将它和 PyTorch 进行对比，然后讨论 TensorFlow 框架是多么的复杂以及 tf.contrib 的某些部分为什么那么糟糕。此外，我还认识许多数据科学家，他们只用预先写好的、可以克隆的 GitHub 库和 TensorFlow 交互，然后成功使用它们。对 TensorFlow 框架持有这种态度的原因各不相同，想要说清楚的话恐怕还得另外写个长篇，现在我们要关注的是更实际的问题：调试用 TensorFlow 写的代码，并理解其主要特性。
CV领域中，在完成数据准备工作和设计定义好模型之后，我们就可以去迭代训练模型了，通过设置调节不同的超参数（这需要理论知识和丰富的经验）来使得损失（loss）和准确率（accuracy）这两个常用的指标达到最优。一般在训练完成之后，都需要通过损失曲线图和准确率曲线图来衡量整个训练过程。
深度学习中，模型训练一般都需要很长的时间，由于很多原因，导致模型中断训练，下面介绍继续断点训练的方法。
1、在tensorflow绘图的情况下,使用tf.saved_model.simple_save()方法保存模型
这是Tensorflow SavedModel模型系列文章的第三篇，也是终章。在《Tensorflow SavedModel模型的保存与加载》中，我们谈到了Tensorflow模型如何保存为SavedModel格式，以及如何加载之。在《如何查看tensorflow SavedModel格式模型的信息》中，我们演示了如何查看模型的signature和计算图结构。在本文中，我们将探讨如何合并两个模型，简单的说，就是将第一个模型的输出，作为第二个模型的输入，串联起来形成一个新模型。
本博客实现将自己训练保存的ckpt模型转换为pb文件，该方法适用于任何ckpt模型，当然你需要确定ckpt模型输入/输出的节点名称。
前面都是基础零碎的知识，需要通过一个栗子来为大家把整个流程走一遍，从整体上对TensorFlow进行一个把握，大概分为四篇文章来说明吧(前期准备、前馈计算、模型训练、模型评价)。
生成三个文件，分别是checkpoint，.ckpt.data-00000-of-00001,.ckpt.index
然后，在训练循环中，定期调用 saver.save() 方法，向文件夹中写入包含了当前模型中所有可训练变量的 checkpoint 文件。
跳出：Starting TensorBoard 54 at http://amax:6006
网上关于tensorflow模型文件ckpt格式转pb文件的帖子很多，本人几乎尝试了所有方法，最后终于成功了，现总结如下。方法无外乎下面两种：
是骡子是马拉出来溜溜就知道，一个模型好还是坏，放在全新的测试集上去测试下就知道了，根据模型测试的结果我们才能衡量模型的泛化性、稳定性等指标如何，从而方便我们根据测试的反馈去进行调参优化模型。
上一期，我们一起学习了TensorFlow的基础知识，以及其在线性回归上的初体验，该期我们继续学习TensorFlow方面的相关知识。学习的路上，我们多多交流，共同进步。本期主要内容如下： 梯度下降TF实战 模型保存和恢复 TensorBoard可视化 模块与共享变量 一. 梯度下降TF实战 这里我们一起看下TensorFlow在梯度下降中的使用，通过TensorFlow来寻找使得损失函数最小化的系数，我们之前一起学过梯度下降方面的知识，这里不在赘述，可公众号回复“机器学习”进行查看。这里，我们从直接计算和
样本按照不同类别保存在不同文件夹中，每个文件夹代表一个类别，然后这些文件夹放在同一文件夹中，该文件夹和脚本同一目录下。
TensorFlow服务，托管模型并提供远程访问。TensorFlow服务有一个很好的文档的架构和有用的教程。不幸的是，这个有点难用，你需要做较大改动来为自己的模型提供服务。
如果图像分类和物体检测是明智的任务，那么用自然语言描述图像绝对是一项更具挑战性的任务，需要更多的智能-请片刻考虑一下每个人如何从新生儿成长（他们学会了识别物体并检测它们的位置）到三岁的孩子（他们学会讲述图片故事）。 用自然语言描述图像的任务的正式术语是图像标题。 与具有长期研究和发展历史的语音识别不同，图像字幕（具有完整的自然语言，而不仅仅是关键词输出）由于其复杂性和 2012 年的深度学习突破而仅经历了短暂而令人兴奋的研究历史。
Root 编译自GitHub 量子位 出品 | 公众号 QbitAI TensorFlow官方在GitHub上推了一个AlphaGo Zero的开源代码！ 这个叫做Minigo的围棋AI引擎，是一个使用Python语言、在TensorFlow框架实现的基于神经网络的围棋算法。 这个项目确实是受到DeepMind的AlphaGo算法的启发，但TensorFlow官方再三强调这个项目不属于DeepMind，也不是官方正式的AlphaGo项目。 不是行货！不是行货！不是行货！ 重要的事情说三遍！ DeepMind
[1]Tensorflow实战Google深度学习框架: https://github.com/caicloud/tensorflow-tutorial/tree/master/Deep_Learning_with_TensorFlow/1.4.0
xidianwangtao@gmail.com 关于TensorFlow Serving 下面是TensorFlow Serving的架构图： 关于TensorFlow Serving的更多基础概
TensorFlow 是一种采用数据流图（data flow graphs），用于数值计算的开源软件库。在 Tensorflow 中，所有不同的变量和运算都是储存在计算图，所以在我们构建完模型所需要的图之后，还需要打开一个会话（Session）来运行整个计算图 通常使用import tensorflow as tf来载入TensorFlow 在TensorFlow程序中，系统会自动维护一个默认的计算图，通过tf.get_default_graph函数可以获取当前默认的计算图。除了使用默认的计算图，可以使用tf.Graph函数来生成新的计算图，不同计算图上的张量和运算不会共享 在TensorFlow程序中，所有数据都通过张量的形式表示，张量可以简单的理解为多维数组，而张量在TensorFlow中的实现并不是直接采用数组的形式，它只是对TensorFlow中运算结果的引用。即在张量中没有真正保存数字，而是如何得到这些数字的计算过程 如果对变量进行赋值的时候不指定类型，TensorFlow会给出默认的类型，同时在进行运算的时候，不会进行自动类型转换 会话(session)拥有并管理TensorFlow程序运行时的所有资源，所有计算完成之后需要关闭会话来帮助系统回收资源，否则可能会出现资源泄漏问题 一个简单的计算过程：
深度学习框架中涉及很多参数，如果一些基本的参数如果不了解，那么你去看任何一个深度学习框架是都会觉得很困难，下面介绍几个新手常问的几个参数。 batch 深度学习的优化算法，说白了就是梯度下降。每次的参数更新有两种方式。 第一种，遍历全部数据集算一次损失函数，然后算函数对各个参数的梯度，更新梯度。这种方法每更新一次参数都要把数据集里的所有样本都看一遍，计算量开销大，计算速度慢，不支持在线学习，这称为Batch gradient descent，批梯度下降。 另一种，每看一个数据就算一下损失函数，然后求梯度更新
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
