我目前正在测试与TensorFlow Lite转换的CNN推理的延迟时间。我正在测试两个具有相同架构的CNN(我正在用Windows操作系统在我的笔记本上测试它们)：
第一个模型:使用TensorFlow优化的TFLite模型及其权重量化(使用Python进行转换，用tensorflow.lite.Optimize.DEFAULT第二个模型:使用TensorFlow</
浏览 2提问于2021-02-04得票数 0
我想知道是否有可能使用tensorflow和pytorch模型转换为onnx模型来使用C++ Api训练它们，就像在中使用tensorflow模型一样。我只是找到了一些使用onnx进行推理的例子。其想法是能够在python中使用tensorflow和pytorch创建原型，转换为onnx模型，并在C++中拥有统一的API来进行<
浏览 4提问于2021-11-05得票数 1
我用Tensorflow 2.5 (来自tensorflow import keras)在Keras中训练了我的模型，并将其转换为tensorflow模型，以便使用亚马逊网络服务SageMaker进行推理推理结果大不相同。我检查了这些库，它们都是相同的版本，特征提取也是相同的。我还能复习些什么？非常感谢。
浏览 0提问于2021-10-26得票数 0
在使用Tensorflow 2.x对象检测API培训自定义对象检测模型时，我一直在学习以下教程。以下是我使用的两个主要链接。在我尝试导出经过训练的推理图之前，一切似乎都很顺利。基本上，在TensorFlow 1.x中，有一个脚本，用于将经过训练的模型检查点导出到单个冻结推理图。在TensorFlow 2.x中，这个脚本不再工作，而是使用输出SavedModel目录和其他内容，而不是冻结的<em
浏览 4提问于2021-11-17得票数 3
我有推理应用程序。应用程序使用了两个推理模型。 这两个模型恢复为两个不同的图形，并在两个不同的会话中运行。 检测推理产生物体的位置，第二个推理识别作物图像中的独立物体。 在第二次推断时发生错误。错误是 2019-06-17 22:08:34.454728: F tensorflow/core/framework/tensor_shape.cc: 44]
浏览 46提问于2019-06-17得票数 1
回答已采纳
我有一个独立的训练和推理系统。推理系统有tensorflow版本1.8 (是的，我知道，它是旧的，但我没有升级系统的发言权...)。我正在Keras中构建我的模型，然后尝试将其转换为pb模型进行推理。我很难找到兼容的Keras版本可以与tensorflow 1.8一起工作。我想知道tensorflow 1.8的Keras版本是什么？谢谢!
浏览 1提问于2019-10-03得票数 2
我有一个tensorflow训练模型，并在tensorflow测试，精度达到95%。我该从哪里看这个精度下降的地方？唯一的区别是我在TensorRT中进行批处理推理，而不是在Tensorflow中。对于Tensorflow和TensorRT，使
浏览 6提问于2020-09-11得票数 0
回答已采纳
1回答
我们试图在服务器上使用TensorFlow (TF)对图像进行推理。android应用程序将jpeg图像发送到我的机器，php api执行我的android推理(python)脚本并返回分数，大约需要6s，但是我们意识到加载TF需要很长时间，但是进行推理需要很短的时间，例如，一个请求占用10%的资源，另一个10%，因此它只有20%的时间同时进行两个推理，以及两个TF模型。TF取第一
浏览 1提问于2018-07-28得票数 0
1回答
我正在尝试将经过训练的模型从检查点文件转换为tflite。我正在使用tf.lite.LiteConverter。在合理的推理速度下，浮点数转换进行得很好。但是INT8转换的推理速度很慢。我试图通过输入一个非常小的网络来进行调试。我发现INT8模型的推理速度通常比浮点模型慢。在TensorFlow tflite文件中，我发现了一些名为ReadVariableOp的张量，它在TensorFlow的官方m
浏览 91提问于2019-10-12得票数 8
我有多个深度学习模型(比如2个)，这些模型的输出是另一个深度学习模型的输入。我想在覆盆子Pi3上运行它来进行推理。请建议解决方案。
浏览 0提问于2019-08-27得票数 0
1回答
我使用Keract来可视化TensorFlow/Keras模型的特征映射。谢谢你的帮助
浏览 19提问于2021-12-20得票数 0
我在Ubuntu16.04中使用了带有Tensorflow 1.3.0的Keras2.0.8和cuDNN 6。我在我的模型中使用两个BatchNormalization层( keras层)，并使用tensorflow管道进行培训。我现在面临两个问题-
即使在将K.learning_phase设置为True之后，层的总体参数(均值和方差)也是在训练时没有被更新的。因此，推理完全失败了。其次，在使用
浏览 1提问于2017-10-06得票数 2
我在Google codelabs 中看到了一个示例implementation 'org.tensorflow:tensorflow-android:1.2.0-preview'我知道TensorFlow Lite帮助开发人员在移动设备中使用该模型
浏览 1提问于2018-11-20得票数 0
回答已采纳
2回答
Tensorflow版本: 1.14我们当前的设置使用python多处理来并行地进行推理。(推断是在CPU上完成的。)这种方法在每次进行预测时都会重新加载模型权重。
使用提到的方法，我们
浏览 0提问于2020-06-18得票数 2
我有一个经过训练的模型，我想在python应用程序中使用它，但是在不安装TensorFlow或创建gRPC服务的情况下，我看不到任何部署到生产环境的示例。这是完全可能的吗？
浏览 14提问于2016-09-15得票数 4
回答已采纳
1回答
我试图找出在TensorFlow中(在单机执行环境中)运行多个经过预先训练的模型以进行推理的最佳方法。我读过几个关于这方面的问题，但我还是有点困惑。例如，让我们假设在两个不同的进程/线程中运行2个深网络。据我所知，我也可以这样做：
使用TensorFlow服务
浏览 5提问于2017-11-27得票数 2
我正在本地机器上运行TensorFlow 1.3 (通过PiP安装在MacOS上)，并使用 "ssd_mobilenet_v1_coco“检查点创建了一个模型。我成功地在本地和ML引擎(运行时1.2)上进行了培训，并成功地将我的savedModel部署到了ML引擎上。
本地预测(以下代码)运行良好，我得到了模型结果。inputs": [[[242, 240, 239], [242, 240, 239], [242, 240, 239], [242, 240, 239], [242, 2
浏览 5提问于2017-08-30得票数 2
回答已采纳
我正在使用tensorflow对象检测。
我可以使用来自tensorflow模型动物园的模型来执行推理，它可以检测到几个现实世界的对象。然而，当我在新的类上训练相同的模型时，它只能识别新的类。当使用原始模型作为针对新数据进行培训的基础模型时，如何保留原始模型的学习内容？
浏览 0提问于2022-08-05得票数 0
1回答
我正在尝试使用Jetson Nano在管道中运行两个推论。第一个推论是使用MobileNet和TensorRT进行目标检测。我用于第一个推断的代码几乎是从AastaNV/TRT存储库复制而来的。第二个推理作业使用第一个推理的输出来运行进一步的分析。对于这个推断，我使用tensorflow (不是TensorRT，但我假设它是在后端调用的？)使用自定义模型。此模型是从.pb
浏览 88提问于2019-10-14得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
对象存储
云直播活动推荐
腾讯云开发者
