修改tensorflow保存的模型pb文件，以便使用自定义操作进行推断

，可以通过以下步骤实现：

加载模型：使用tensorflow的tf.saved_model.loader.load函数加载pb文件，并创建一个默认的计算图。
加载模型：使用tensorflow的tf.saved_model.loader.load函数加载pb文件，并创建一个默认的计算图。
获取输入和输出节点：通过查看模型的计算图，确定输入和输出节点的名称。
获取输入和输出节点：通过查看模型的计算图，确定输入和输出节点的名称。
添加自定义操作：在计算图中添加自定义操作节点，并将其连接到需要修改的节点上。
添加自定义操作：在计算图中添加自定义操作节点，并将其连接到需要修改的节点上。
重新保存模型：创建一个新的保存器，并将修改后的计算图保存为新的pb文件。
重新保存模型：创建一个新的保存器，并将修改后的计算图保存为新的pb文件。

通过以上步骤，你可以成功修改tensorflow保存的模型pb文件，以便使用自定义操作进行推断。请注意，以上代码仅为示例，实际操作中需要根据具体情况进行调整。

推荐的腾讯云相关产品：腾讯云AI智能机器学习平台（https://cloud.tencent.com/product/tia）

相关·内容

如何将自己开发的模型转换为TensorFlow Lite可用模型

我们应该对此训练脚本进行一些修改，以便稍后进行转换。第一个问题是“什么是输入和输出层？” class Model(tf.keras.Model): ......重要的是要注意GraphDef、Saved Model、FrozenGraph和Optimized Graphs都以protobuf格式保存(.pb) 训练模型 - 这将生成3个代表网络结构的文件。...在更复杂的模型中，您可能会遇到TFLite不支持的操作，因此了解它们是哪些操作并查看是否可以使用graph_transform工具进行操作，也是很好的。为输入和输出层命名。...代码始终是真理的最佳来源:) 下一步从培训脚本开始，我们能够检查和修改TensorFlow图表，以便用于移动设备。...附录使用Tensorboard 我创建了一个修改版本的import_pb_to_tensorboard.py，以支持导入图形定义(.pb)、图形定义文本（.pbtxt）和保存模型（.pb）文件类型。

2.9K4 1

实时单人姿态估计，在自己手机上就能实现 : ) 安卓和iOS都可以哦～

这里未使用常规的卷积，而是在模型内部使用了反向卷积（又叫 Mobilenet V2），以便执行实时推断。 ? 注：你可以修改网络架构，来训练更高 PCKh 的模型。...下面的 gif 是在 Mi Mix2s 上截取的（~60 FPS） ? 你可以下载以下 apk，在自己的设备上进行测试。 ?...tf-pose-estimation 库：https://github.com/ildoonet/tf-pose-estimation 超参数训练步骤中，使用 experiments 文件夹中的 cfg...编辑 experiments 文件夹中的参数文件，它包含几乎所有超参数和训练中需要定义的其他配置。...一些芯片的平均推断时间基准如下所示： ?

1.9K2 0

面向机器智能的TensorFlow实践：产品环境中模型的部署

模型的数据流图应当与其训练版本有所区分，因为它必须从占位符接收输入，并对其进行单步推断以计算输出。...你可能还记得，在前面的章节中，我们周期性地保存模型的训练检查点文件。那些文件中包含了当时学习到的参数，因此当出现异常时，训练进展不会受到影响。...训练结束时，最后一次保存的训练检查点文件中将包含最后更新的模型参数，这正是我们希望在产品中使用的版本。...为了使用像数据库记录这样的结构化输入，需要修改ClassificationRequest消息。...接下来将基于BaseHTTPServer搭建一个简单的Python Web服务器，BaseHTTPServer将处理上载的图像文件，并将其发送给推断服务进行处理，再将推断结果以纯文本形式返回。

2.1K6 0

tensorflow使用freeze_graph.py将ckpt转为pb文件的方法

，tensorflow在训练过程中，通常不会将权重数据保存的格式文件里（这里我理解是模型文件），反而是分开保存在一个叫checkpoint的检查点文件里，当初始化时，再通过模型文件里的变量Op节点来从checkoupoint...这种模型和权重数据分开保存的情况，使得发布产品时不是那么方便，所以便有了freeze_graph.py脚本文件用来将这两文件整合合并成一个文件。 freeze_graph.py是怎么做的呢？...首行它先加载模型文件，再从checkpoint文件读取权重数据初始化到模型里的权重变量，再将权重变量转换成权重常量（因为常量能随模型一起保存在同一个文件里），然后再通过指定的输出节点将没用于输出推理的...保存模型和权限时，Saver也可以自身序列化保存，以便在加载时应用合适的版本。主要用于版本不兼容时使用。可以为空，为空时用当前版本的Saver。...到此这篇关于tensorflow使用freeze_graph.py将ckpt转为pb文件的方法的文章就介绍到这了,更多相关tensorflow ckpt转为pb文件内容请搜索ZaLou.Cn以前的文章或继续浏览下面的相关文章希望大家以后多多支持

2K1 0

深度学习算法优化系列六 | 使用TensorFlow-Lite对LeNet进行训练时量化

然后训练得出.pb文件，放到指令TFLiteConverter里去实现第二步完整的量化，最后生成tflite模型，实现int8计算。.../checkpoint/variable.ckpt-100000" MAX_ITER = 100000 构建我们的训练网络，这里使用LeNet，想使用其他网络或者自己的网络相应修改即可。...接下来我们需要将checkpoint模型文件转换成freeze pb文件，当然保存为saved_model模型也是可以的，因为昨天介绍过了保存为saved_model然后转换为tflite模型，所以今天介绍这种新的也是更加常用的转换方式...将checkpoint模型保存为pb模型的代码如下： # 将存储了伪量化信息的freeze pb文件转换成完全量化的tflite文件，可以看见量化完之后文件内存基本减小到1/4 def convert_to_tflite...，测试其中一个模型的时候我们需要注释掉另外两个，因为我发现在tensorflow-1.13.1中一个使用同一个py文件启动了2个Session的话，第二个Session执行的内容会出问题，当然我使用第一个

1.6K2 0

深度学习算法优化系列五 | 使用TensorFlow-Lite对LeNet进行训练后量化

今天主要是利用tflite来跑一下这个量化算法，量化一个最简单的LeNet-5模型来说明一下量化的有效性。tflite全称为TensorFlow Lite，是一种用于设备端推断的开源深度学习框架。...因为将tensorflow模型转换为tflite模型有多种方法例如将tensorflow模型的checkpoint模型固化为pb模型然后使用toco工具转换为tflite模型，但这个过程稍显麻烦。...所以这里我选择使用savedModel来保存模型，这个模型可以直接转换为tflite，在转换工程中调用相关代码进行量化。训练完成后会在checkpoint文件夹下生成这4个文件。 ?...并同时生成pb_model文件夹，即用SavedModel保存的模型，如下所示： ?...并执行量化操作，这样模型大小被压缩到了之前的1/4左右。

1.5K1 0

如何查看Tensorflow SavedModel格式模型的信息

在《Tensorflow SavedModel模型的保存与加载》一文中，我们谈到SavedModel格式的优点是与语言无关、容易部署和加载。...查看模型的Signature签名这里的签名，并非是为了保证模型不被修改的那种电子签名。我的理解是类似于编程语言中模块的输入输出信息，比如函数名，输入参数类型，输出参数类型等等。...我们以《Tensorflow SavedModel模型的保存与加载》里的模型代码为例，从语句： signature = predict_signature_def(inputs={'myInput':...Tensorflow提供了一个工具，如果你下载了Tensorflow的源码，可以找到这样一个文件，....小结按照前面两种方法，我们可以对Tensorflow SavedModel格式的模型有比较全面的了解，即使模型训练者并没有给出文档。有了这些模型信息，相信你写出使用模型进行推断更加容易。

2.6K1 0

TensorFlow 智能移动项目：1~5

现在，我们准备讨论如何进一步修改重新训练的模型，以便可以在移动设备上部署和运行它。...重新训练的模型文件dog_retrained.pb的大小太大，大约 80MB，在部署到移动设备之前，应该经过两个步骤进行优化：去除未使用的节点：删除模型中仅在训练期间使用但在推理期间不需要的节点。...，最后会有一行像 FLOPS 的估计值：11.42B，这意味着它将使用基于 Inception v3 的重新训练模型约 11B FLOPS（浮点运算）进行推断。...在本章中，我们将不提供用于对象检测的 Android 示例应用，因为 TensorFlow 源代码已经附带了一个很好的示例，可以使用 TensorFlow 对象检测预训练模型以及 YOLO 模型进行操作...在本节和下一节中，我们将通过重组在许多地方记录的重要细节并添加更多示例和代码说明来简化官方文档，并提供有关以下内容的两个分步教程：如何设置 API 并使用其预训练的模型进行现成的推断如何使用 API

4.4K2 0

浅谈tensorflow模型保存为pb的各种姿势

一，直接保存pb 1, 首先我们当然可以直接在tensorflow训练中直接保存为pb为格式，保存pb的好处就是使用场景是实现创建模型与使用模型的解耦，使得创建模型与使用模型的解耦，使得前向推导inference...session，模型的 tag，模型的保存路径即可,使用起来更加简单这样和之前的导入pb模型一样，也是要知道tensor的name，那么如何在不知道tensor name的情况下使用呢，给add_meta_graph_and_variables...二，从ckpt进行加载使用tf.train.saver()保持模型的时候会产生多个文件，会把计算图的结构和图上参数取值分成了不同文件存储，这种方法是在TensorFlow中最常用的保存方式： import...checkpoint是检查点的文件，文件保存了一个目录下所有的模型文件列表 model.ckpt.meta文件保存了Tensorflow计算图的结果，可以理解为神经网络的网络结构，该文件可以被tf.train.import_meta_graph...保存模型和权限时，Saver也可以自身序列化保存，以便在加载时应用合适的版本。主要用于版本不兼容时使用。可以为空，为空时用当前版本的Saver。

4.3K2 0

ensorFlow 智能移动项目：6~10

之后，我们展示了有关如何使用模型构建 iOS 和 Android 应用以及如何使用模型的 LSTM RNN 组件进行新的序列推断的详细教程。...iOS 中的新模型加载和推断错误首次为 Android 构建自定义的 TensorFlow 本机库，以修复 Android 中的新模型加载和预测错误查看有关如何使用预期格式的输入来输入 TensorFlow...但是在执行此操作之前，我们首先来看一下如何在 Python 中使用该模型进行推断，例如上一章中的run_inference.py脚本。...基本了解如何使用Estimator高级 API 构建的模型进行预测后，我们现在就可以冻结该模型，以便可以在移动设备上使用该模型，这需要我们首先弄清楚输出节点名称应该是什么。...，并保存了新的检查点文件，我们将冻结这些文件以生成在移动设备上使用的模型文件。

1.6K2 0

Tensorflow SavedModel模型的保存与加载

这两天搜索了不少关于Tensorflow模型保存与加载的资料，发现很多资料都是关于checkpoints模型格式的，而最新的SavedModel模型格式则资料较少，为此总结一下TensorFlow如何保存...saved_model.pb 保存为了简单起见，我们使用一个非常简单的手写识别代码作为示例，代码如下： from tensorflow.examples.tutorials.mnist import...要保存该模型，我们还需要对代码作一点小小的改动。添加命名在输入和输出Ops中添加名称，这样我们在加载时可以方便的按名称引用操作。...，第三个参数是模型保存的文件夹。...调用load函数后，不仅加载了计算图，还加载了训练中习得的变量值，有了这两者，我们就可以调用其进行推断新给的测试数据。小结将过程捋顺了之后，你会发觉保存和加载SavedModel其实很简单。

5.3K3 0

系列 | OpenVINO视觉加速库使用二

，方便推断引擎更快的加载与执行这些模型。...以tensorflow对象检测框架支持的SSD MobileNet v2版本的模型为例，实现从tensorflow的pb文件到IR格式的bin与xml文件生成。...02 导出PB文件或者冻结预测图如果不知道如何操作可以看我们公众号以前的文章即可，文章链接如下： Tensorflow如何导出与使用预测图 tensorflow模型导出与OpenCV DNN中使用...03 使用模型优化器生成脚本生成IR文件 xml文件-描述网络拓扑结构 bin文件-包含权重参数的二进制文件打开cmd命令行，首先到openvino安装好的模型优化器目录下 <INSTALL_DIR...表示交换R与B通道顺序上述的运行脚本与参数只能支持tensorflow本身的导出PB文件，对tensorflow对象检测框架中的预训练模型与自定义训练生成的模型无法正确生成IR。

3.4K5 1

【干货】使用TensorFlow官方Java API调用TensorFlow模型（附代码）

【导读】随着TensorFlow的普及，越来越多的行业希望将Github中大量已有的TensorFlow代码和模型集成到自己的业务系统中，如何在常见的编程语言（Java、NodeJS等）中使用TensorFlow...大致有两种方法：直接使用TensorFlow官方API调用训练好的pb模型: https://www.tensorflow.org/api_docs/java/reference/org/tensorflow...虽然使用TensorFlow官方Java API可以直接对接训练好的pb模型，但在实际使用中，依然存在着与跨语种对接相关的繁琐代码。...在代码的最后，调用tf.graph_util.convert_variables_to_constants 将图进行转换，最后将图保存为模型文件(pb)。...中调用TensorFlow的图(pb模型) ---- ---- 模型的执行与Python类似，依然是导入图，建立Session，指定输入(feed)和输出(fetch)。

13.4K4 1

教程 | 如何用TensorFlow在安卓设备上实现深度学习推断

有几种方法可以实现这些要求，如量化、权重剪枝或将大模型提炼成小模型。在这个项目中，我使用了 TensorFlow 中的量化工具来进行模型压缩。...目前我只使用权重量化来减小模型大小，因为根据 Mac 上的测试结果，完整 8 位转换没有提供额外的好处，比如缩短推断时间。...对模型进行权重量化： 1. 将模型写入协议缓冲区文件。 2....推断时间在两个平台上都略有增加，而不是减少，因为权重量化有助于缩小文件大小，但不太能优化推断时间或耗电情况。 ? 表 1. 权重量化前后的推断时间。...提高语音识别性能：添加拼写校正的语言模型和噪声下采样模型，以降低周围噪声的影响。改善推断时间和耗电情况：用 NEON 或其他架构进行低层次优化，用 gemmlowp 进行低精度矩阵计算。

1.8K5 0

在物联网中应用机器学习：使用 Android Things 与 TensorFlow

创建一个目录（/tf-data），该目录将保存我们在项目中需要用到的所有文件。 3....最后，在你的文件夹 /tf-data 中应有两个文件： retrained_graph.pb retrained_labels.txt 第一个文件包含我们的模型，这是 TensorFlow 训练过程的结果...为此，我们可以重用 GitHub 上名为 TensorFlow 图像分类器示例的示例项目。在开始之前，先克隆 GitHub 仓库，以便您可以修改源代码。...该 Android Things 应用与原来的应用有所不同，在于：它不使用按钮来启动相机捕捉图像它使用不同的模型它使用一个闪烁的 LED 进行通知，摄像机在 LED 停止闪烁后拍摄照片它在 TensorFlow...最后，是时候使用在刚开始时创建的模型了。拷贝 assets 文件夹下的 opt_graph.pb 与 reatrained_labels.txt 文件，并替换现有文件。

3.3K17 1

重磅实战：如何用TensorFlow在安卓设备上实现深度学习，附Demo和源码

2.2K3 0

tensorflow：AToolDeveloperGuideToTFModelFIles

例如，如果你想分析模型(models)，或者想在tensorflow或者其它格式之间进行来回转换。...这篇指南通过试着去解释一些如何处理保存着模型数据的文件的细节，使得开发者们做一些格式装换的工具更加简单。...如果看到一个独立的用于表示模型(model)的Tensorflow文件，那么它很可能是由protobuf code 保存的序列化的GraphDef对象。...在训练过程中，权值通常不保存在 file format 中，我觉着对这句话更精确的解释是：在训练过程中保存模型的时候，是将权值保存在 ckpt文件中的，回想一下 Saver，在训练过程中，权值还是保存在内存中的...希望这个纲要能让你更好地了解TensorFlow模型文件中正在发生的事情，如果你需要对它们进行操作的话，将会对你有所帮助。

1.3K5 0

资源 | 微软开源MMdnn：实现多个框架之间的模型转换

其主要特征包括：模型文件转换器，转换 DNN 模型使之适合不同框架；模型代码块生成器，生成适合不同框架的训练或推断代码块；模型可视化，针对不同框架可视化 DNN 网络架构和参数；模型兼容性测试（...业界和学界存在大量现有框架，适合开发者和研究者来设计模型，每个框架具备自己的网络结构定义和模型保存格式。...框架之间的差距阻碍了模型的交互操作。 ? 我们提供一个模型转换器，帮助开发者通过中间表征格式转换模型，以适合不同框架。.../），提交自己的 IR json 文件进行模型可视化。...为了运行下面的命令行，你需要使用喜欢的包管理器安装 requests、Keras、TensorFlow。使用 Keras inception_v3 模型作为示例。 1.

1.5K6 0

Spark Love TensorFlow

模型调试成功一准备 protobuf 模型文件我们使用 tf.keras 训练一个简单的线性回归模型，并保存成 protobuf 文件。...pb格式文件 export_path = "....模型下面我们通过广播机制将 Driver 端加载的 TensorFlow 模型传递到各个 executor 上，并在 executor 上分布式地调用模型进行推断。...模型除了可以在 Spark 的 RDD 数据上调用 TensorFlow 模型进行分布式推断，我们也可以在 DataFrame 数据上调用 TensorFlow 模型进行分布式推断。...在本例基础上稍作修改则可以用 Spark 调用训练好的各种复杂的神经网络模型进行分布式模型推断。但实际上 TensorFlow 并不仅仅适合实现神经网络，其底层的计算图语言可以表达各种数值计算过程。

8733 1

一个应用于物体识别的迁移学习工具链

迁移学习指的是，通过对预训练模型的参数进行微调，将训练好的模型应用到相似或者只有细微差异的不同任务中。通过这个方法，我们可以基于一些性能顶尖的深度学习模型得到别的高性能模型。...model zoo，基于COCO dataset训练 TensorFlow Object Detection API：应用于迁移学习和推断一台win10电脑，配备Intel的GPU 每一个单独的步骤沿一下叙述展开...我们主要致力于给大家展现一个可以应用于其他类似场景的迁移学习工具链，从如何构建一个自定义的数据集开始，最终得到一个微调完成的模型。...有几种工具可以帮助你减化这个痛苦的操作：接下来几步简单地描述了如何使用labelbox, 它是一个基于云端的标注工具，且操作界面十分简洁。...生成推理图首先执行下面的1~3操作，生成的.ckpt文件和frozen_inference_graph.pb文件将用于步骤4、检验推理图和5、推理和评估模型的操作：将export_inference_graph.py

5982 0

点击加载更多

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云