我通过在K8S集群中使用专用部署的TF服务来为TF模型提供服务。我正在使用一个部署在与TF Serving相同的名称空间中的MinIO实例。我使用以下环境变量对其进行了配置，以便让TF Serving访问S3并同步适当的文件 value: model-name://ROOT-BUCKET
- name: TF_CPP_MIN_LOG_LEVEL
浏览 58提问于2019-07-18得票数 1
从s3加载模型对我不起作用。根据#615，我使用以下方法编译了服务器：现在当我运行它的时候
bazel-bin/tensorflow_serving/model_s
浏览 2提问于2017-11-23得票数 2
我需要对tensorflow-keras模型进行分段预测。我的想法是将图像上传到S3桶中，并使用AWS服务，触发进程，进行预测，并将分段的预测掩码保存到新的S3桶中。在开始时，我用下面的库创建了一些层，以运行模型：
问题是tensorflow版
浏览 9提问于2020-06-12得票数 0
回答已采纳
我使用tensorflow.keras API构建和训练了一个经过训练的Keras模型，并使用没有可选参数的tf.keras.save_model()方法进行保存。Tensorflow是最新的，我的Python版本是3.8。据我理解，这个方法应该使用TF 2.X中推荐的默认"tf“格式保存模型，然后使用load_model()应该可以正常工作。，我再次在木星笔记本上构建了相同的模型，保存了
浏览 23提问于2021-09-23得票数 3
我试图找到一种使用Tensorflow的方法，它可以添加新的模型和模型的新版本。我可以将tensorflow服务指向S3桶吗？还是我需要建立自己的码头形象，才能从s3</em
浏览 2提问于2019-01-23得票数 1
回答已采纳
1回答
在tensorflow模型服务器中运行示例时
docker run -p 8501:8501 --mount type=bind, source=serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu, target=/models/half_plus_two -e MODEL_NAME=h
浏览 0提问于2018-10-02得票数 8
回答已采纳
1回答
我有一个在图形处理器机器上训练的TensorFLow模型。接下来，我需要将其导出并部署到仅限CPU的生产机器上。new_saver = tf.train.import_meta_graph('assets/saved_model/export.meta')
new_saver.restoreread_meta
浏览 2提问于2016-11-16得票数 1
我有一个tensorflow 2.0模型，我想部署到AWS sagemaker端点。我已经将模型移到了S3存储桶中，并执行了以下代码，但由于没有TF2.0图像，因此出现了下面的错误。如果我尝试使用不同的版本(例如1.4、1.8)进行部署，我会收到ping超时错误。失败。= 's3://sagemake
浏览 16提问于2019-11-19得票数 0
回答已采纳
我有一个模型，比方说mymodel和两个不同的数据集：setA，setB。经过培训(在我的本地机器中) setA和setB，tensorflow服务分别创建了两个不同的目录：100、200 for setA和setB。在码头中托管模型100 200
root@ccb58054cae5:/# bazel-bin/tensor
浏览 2提问于2017-12-14得票数 1
我正在使用emilyalsentzer/Bio_ClinicalBERT的拥抱人脸实现构建一个命名实体识别(NER)模型。到今天为止，我对这个模型没有任何问题。emilyalsentzer/Bio_ClinicalBERT'导致此错误: 404客户端错误:找不到url：
拥抱脸有没有提供任何形式的
浏览 2提问于2021-05-21得票数 2
1回答
我知道如何将模型加载到容器中，而且我也知道我们可以创建一个静态配置文件，当我们运行一个tensorflow服务容器时，将它传递给容器，然后在该配置文件中使用模型，但是我想知道是否有任何方法将一个全新的模型(不是前一个模型的更新版本)热加载到运行中的tensorflow服务容器中。我的意思是，我们使用模型
浏览 0提问于2019-04-15得票数 2
回答已采纳
2回答
我在aws上有两个作为s3对象托管的tflite模型。在我的反应打字应用程序中，如果浏览器是在移动上打开的，我会尝试加载这些模型。否则，该网络应用程序将使用其他更有效的模式。
我已经配置了s3桶，通过更改CORS配置，我可以从这个web应用程序访问它。这是可行的。如果我转到网络选项卡，就会看到模型的提取：使用Chrome，我可以
浏览 11提问于2022-05-19得票数 6
回答已采纳
我使用Tensorflow服务来运行存储在s3桶中的模型。我还将模型配置文件保存在单独的s3桶中。我的用例是，为了在不需要重新启动服务器的情况下动态添加模型，我将定期轮询此配置文件以查看更改。在部署的舵图中，以下行定义用于轮询配置的s3的run命令和args
- "
浏览 4提问于2020-02-06得票数 2
我在我的PC上使用了Tensorflow的最新版本(1.12)来使用tf.keras创建一个自定义模型，当我在Raspberry (使用Tensorflow 1.11)上加载它时，它会抛出一个错误。我运行的代码是：错误是：
ValueError: Unknown initia
浏览 0提问于2018-12-27得票数 1
回答已采纳
")如何解决这个问题？？每次我在colab上创建一个模型并尝试在本地加载它时，我都无法这样做。获取此错误消息：Valu
浏览 10提问于2018-10-30得票数 6
1回答
我的Tensorflow.js文件model.json与文件夹中的bin文件一起创建了一个html文件，在html文件中，我想测试我的预测并获得反馈，但是当我在服务器上运行它时，它不起作用，有什么想法吗<html><script src="https://cdn.jsdelivr.net/npm/@tensorflow/tfjs@latest">&l
浏览 12提问于2020-11-20得票数 1
回答已采纳
我希望使SageMaker中的服务端点可以使用一些超参数。培训实例可以使用以下超级参数访问输入参数： role=roleevaluation_steps=None,但是，在部署端点时，无法传递用于控制input_fn(serialized_input, content
浏览 0提问于2018-03-22得票数 1
回答已采纳
我最近使用Google AutoML服务创建了一个模型。
它的输出似乎是保存的模型格式。但是，当我试图通过tf.saved_model.load加载它时，它会显示以下错误Op type not registered 'TreeEnsembleSerialize' in binary ...当我查找这个op时，我发现这个op存在于Tensorflow 1.15中的tf.contri
浏览 8提问于2021-01-31得票数 0
我正在部署tensorflow服务映像(tensorflow/ serving :最新- GPU )和Kubernetes (GKE)，GPU节点(K80)托管在GCP上。桶加载版本模型。Tensorflow服务将每个新版本的模型都提取出来并加载，当它完成后，他会卸载旧的版本(但看起来他把它保存在内存中)
当我在主机上的最大可用资源下使用极限/
浏览 1提问于2019-07-24得票数 4
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
