基础服务系列-安装TensorFlow Serving

用户2146693

发布于 2020-02-11 16:51:56

7500

发布于 2020-02-11 16:51:56

TensorFlow Serving is a flexible, high-performance serving system for machine learning models, designed for production environments.

下载镜像

docker pull tensorflow/serving

网络原因，可能会导致timeout，多尝试几次。

clone代码

git clone https://github.com/tensorflow/serving

启动镜像

docker run -t --rm -p 8501:8501 \
    -v "/root/tf-serving/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &

启动后。。。

测试

curl -d '{"instances": [1.0, 2.0, 5.0]}' \
    -X POST http://localhost:8501/v1/models/half_plus_two:predict

测试成功。。。

遇到的问题

No versions of servable half_plus_two found under base path /models/half_plus_two

解决方案

创建目录：/models/half_plus_two

参考

Serve a Tensorflow model in 60 seconds

本文参与腾讯云自媒体分享计划，分享自作者个人站点/博客。

如有侵权请联系 cloudcommunity@tencent.com 删除

tensorflow

git

本文分享自作者个人站点/博客前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体分享计划，欢迎热爱写作的你一起参与！

tensorflow

git

登录后参与评论

0 条评论

热度

基础服务系列-安装TensorFlow Serving

基础服务系列-安装TensorFlow Serving

下载镜像

clone代码

启动镜像

测试

遇到的问题

解决方案

参考

社区

活动

资源

关于

腾讯云开发者

热门产品

热门推荐

更多推荐