前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >基础服务系列-安装TensorFlow Serving

基础服务系列-安装TensorFlow Serving

作者头像
用户2146693
发布2020-02-11 16:51:56
8010
发布2020-02-11 16:51:56
举报
文章被收录于专栏:架构师进阶

TensorFlow Serving is a flexible, high-performance serving system for machine learning models, designed for production environments.

下载镜像

docker pull tensorflow/serving

网络原因,可能会导致timeout,多尝试几次。

clone代码

git clone https://github.com/tensorflow/serving

启动镜像

代码语言:javascript
复制
docker run -t --rm -p 8501:8501 \
    -v "/root/tf-serving/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &

启动后。。。

测试

代码语言:javascript
复制
curl -d '{"instances": [1.0, 2.0, 5.0]}' \
    -X POST http://localhost:8501/v1/models/half_plus_two:predict

测试成功。。。

遇到的问题

代码语言:javascript
复制
No versions of servable half_plus_two found under base path /models/half_plus_two

解决方案

创建目录:/models/half_plus_two

参考

Serve a Tensorflow model in 60 seconds

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 下载镜像
  • clone代码
  • 启动镜像
  • 测试
  • 遇到的问题
    • 解决方案
    • 参考
    相关产品与服务
    容器服务
    腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档