目前,我有一个frontend
、backend
和tf-serving
服务。我当前的配置在外部同时公开了frontend
和backend
服务。
但是,服务tf-serving
是仅由backend
服务使用的内部服务。它们使用TensorFlow Serving提供的gRPC应用程序接口进行通信。
是否也可以对tf-serving
进行负载均衡,以便当我从backend
服务调用它时,Traefik会为我实现负载均衡?
发布于 2020-11-03 22:29:54
是的,这是可能的。然而,更好的方法是将tf-serving服务连接到与您的后端服务相同的网络(或者只为这两个服务创建一个单独的网络),并使用容器名称dns解析从后端直接连接到它。
https://stackoverflow.com/questions/64642801
复制相似问题