在这些组件中，通常是对我们正在运行的一个或多个TensorFlow服务模型的调用。使用cProfile，似乎是gRPC通道挂起的问题。但它似乎与我们最终的web服务层中的某些东西隔离开来。当我单独为TensorFlow服务组件运行下面的代码时，它轻而易举地通过了一系列随机输入，没有任何问题。为什么在TensorFlow服务没有明显的负载问题时，这些请求会突然花费这么长时间并
浏览 20提问于2020-09-30得票数 1
回答已采纳
1回答
我在本地模式下从估计器中部署了一个模型，当试图使用gRPC调用Tensorflow服务(TFS)预测端点时，我得到了以下错误：import grpc from tensorflow.compat.v1
import make_tensor_protofrom tensorflow_serving.apisimport predict_pb2from tensorflow_serv
浏览 26提问于2022-10-18得票数 0
回答已采纳
worker-replica-0回溯(最近一次调用)：文件"/usr/lib/python3.5/runpy.py"，第184行，在_run_module_as_main "main“中，mod_spec/python/estimator/training.py"，)()文件"/usr/local/lib/python3.5/dist-packages/tensorflow
浏览 0提问于2018-11-01得票数 0
回答已采纳
我正在为GRPC调用Tensorflow服务(在php中，但问题不是PHP相关)编译pb文件。文件有：import "tensorflow_serving/apis/model.proto";
但是，在正常设置中，tensorflow和tensorflow服
浏览 0提问于2017-01-09得票数 0
我构建了一个客户端，使用grpc和c++在docker-container中向我的模型服务器提供一些数据。cout << "calling prediction service on " << "localhost:8500" ServingClient sclient(grpc::CreateChannel(
"localhost:8500", grpc::Insecure
浏览 3提问于2019-08-12得票数 0
我正在通过gRPC cpp示例来尝试学习。在调试流示例时，我注意到服务器上对grpc_impl::ServerReaderWriter::Read的调用会一直阻塞，直到另一端写入或流结束。我们应该如何使服务器足够健壮，使其能够处理客户端在发送初始消息后挂起或忘记关闭流？ 也许它会调用RPC并向我发送三条消息，但永远不会关闭。似乎不存在此调用的超时版本。
浏览 121提问于2020-10-21得票数 0
回答已采纳
我有一个grpc服务器/客户端，现在偶尔会挂起，导致问题。这是从Flask应用程序调用的，该应用程序正在与后台工作进程签入，以确保它是活动的/正常运行的。要向gRPC服务器发出请求，我需要： health = self.grpc_client.Health(self.health_ping)
if health.messageu'healthy': False, u&#x
浏览 5提问于2017-05-09得票数 8
回答已采纳
1回答
通过Python服务器无法工作
、、、、
我已经通过gRPC开发了Python服务器，然后将它构建到容器中并部署到云中运行， server.wait_for_termination()
main()
但是当我调用gRPC时总是会出错
浏览 2提问于2020-08-25得票数 3
我从Tensorflow的Model Zoo中找到了一个saved_model。在启动tensorflow时，我只需更改saved_model的路径，就替换了运行速度更快的r-cnn模型： EI_VISIBLE_DEVICES=0 amazonei_tensorflow_model_server--model_name=f_r_cnn --model_base_path=/tmp/f_r_cnn --port=9000 现在我正在尝试运行一个客户端来与tensorflow服务对话，使用
浏览 200提问于2020-01-22得票数 0
我对分布式TensorFlow很陌生。现在，我只是试着让一些现有的例子发挥作用，这样我就可以学习如何正确地完成它。这是我的命令启动一个工人： --task_id=0 \ --worker
浏览 1提问于2018-06-30得票数 0
1回答
它非常简单，有两个项目：
public override Task<HelloReply为什么会这样?调用此C#服务的gRPC控制台应用程序是：
static async Task Main(st
浏览 3提问于2020-05-11得票数 1
回答已采纳
我使用下面的链接来创建一个脚本，该脚本动态地重新加载tensorflow服务的配置文件。但是，我得到了以下错误grpc._channel.addresses","file":"src/core/ext/filters/client_channel/lb_policy/pick_first/pick_first.cc","
浏览 38提问于2019-07-16得票数 0
2回答
通过REST访问机器学习模型
、、、、
但是现在我需要在服务器上部署这个模型，并需要使用REST访问它。我们也可以将它转换成PMML文件，但是PMML文件还不支持CNN。我们可以使用烧瓶库将模型转换为restful web服务，如："“我更喜欢使用Spring进行微服务。但我并没有一步一步地了解到如何做到这一点。
浏览 2提问于2018-07-26得票数 1
回答已采纳
通过使用Tensorflow服务示例中的基本gRPC客户端从运行在docker上的模型中获得预测，我得到了以下响应： "file":"src/core/lib/surface/call.cc",
"file_line":1017,"grpc
浏览 8提问于2020-02-03得票数 2
1回答
我有两个不同的tensorflow模型A和B，模型A的输出将作为输入输入到模型B中。它们都需要与tf服务一起部署。我需要使用grpc或http requet调用两次，以获取模型B的输出。tf服务是否仅支持一个grpc或http请求来获取模型B的输出？
浏览 14提问于2019-12-19得票数 0
回答已采纳
1回答
我无法找到合适的文档来成功地为初始或移动网络模型服务，并编写一个grpc客户端来连接到服务器并执行图像分类。grpc._channel.下面是我用于请求的grpc客户端。from __future__ import print_function
import tensorflow</
浏览 0提问于2019-10-22得票数 0
回答已采纳
1回答
我正在构建一个API网关，它代理到Grpc服务的HTTP流量。所有传入的HTTP请求都可以在授权头中使用JWT。我需要在每个请求中将这个JWT转换为Grpc元数据，并将其与Grpc请求一起发送。我正在使用grpc库和grpc代码生成器，用于客户端存根的kotlin挂起函数。: Metadata())
我希望创建Grpc客户端拦截器或其他东西，以便从协同上下文自动设置Grpc元数据。我有很多Grpc客户端调用<
浏览 8提问于2022-01-14得票数 0
在参数服务器分布式模式下，我正在使用tensorflow 2.1.0的估值器api训练一个模型。我使用2个ps服务器和5个工作人员(索引范围从0到4)来训练模型。工人0是主任，工人1是评估者，休息的是普通工人。for 44977866739330842并将永远挂起。这些工人只是吊着，我不知道为什么。在ps服务器日志中，也有一些类似的警告：2021-04-01 11:48:01.233 2021-04-01 11:48:01.232972: I
浏览 10提问于2021-04-01得票数 1
回答已采纳
我正在做一些NLP工作，还有一些模型是由Tensorflow培训的。我提供了一些API来使用这些模型来完成word裁剪，并通过芹菜发送请求。
浏览 4提问于2017-06-05得票数 3
回答已采纳
我们有一个酒瓶服务器，它使gRPC调用一个Tensorflow服务POD(它使用官方tf服务码头形象)，服务于大约20个tensorflow模型。在Kubernetes上部署了水瓶微服务和Tf服务微服务。对于从酒瓶到Tf服务的0.5%-1%的请求，烧瓶服务器正在抛出一个RpcError -RpcError
github上有一个类似的问题： .Please帮助我解决
浏览 2提问于2020-04-13得票数 2
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
