在线服务调用

最近更新时间:2024-07-12 11:02:51

我的收藏

接口在线测试

若模型包中的 config.json 配置文件录入了有效的接口信息,则完成部署的在线服务可进行接口的调用测试。
1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。
2. 在服务列表页单击调用操作按钮,进入服务调用页面,查看服务的接口信息。
3. 单击接口列表中的在线测试操作按钮,打开调用测试页面。
4. 在请求体模块录入 JSON 格式的请求信息并单击发送请求后,可在请求响应模块查看预测结果。



公网地址调用

在 TI-ONE 完成在线服务部署后,系统会自动注册 API 网关生成公网地址用于服务请求调用。您可以在服务列表页单击调用操作按钮,进入服务调用页面,查看公网访问地址(若服务开启鉴权,则可一并查看签名密钥及签名计算指引)。通过该调用信息可以向在线服务发起预测请求,curl 命令示例如下:
curl http://service-94****g0-130****662.gz.apigw.tencentcs.com:80/tione/v1/models/m:predict -d'{"images":["https://qcloudimg.tencent-cloud.cn/raw/aab789b6e047fa804bbf803de16f49a0.jpeg"]}'
若您使用旧地址,开启服务鉴权,则在调用 API 时,需要使用签名密钥(ApiAppKey 和 ApiAppSecret)对请求内容进行签名计算,签名计算过程参见文档 应用认证方式
若您使用新地址,开启服务鉴权,则在调用 API 时,您可在调用方式命令行里根据是否要鉴权,加上命令提示,curl 命令示例如下:
curl -X POST http://ms-pn52fv8t-100031385875-sw.gw.ap-shanghai.test.ti.tencentcs.com/ms-pn52fv8t -H 'Authorization: {AuthToken}' -H 'Content-Type:application/json' -d ''

VPC 地址调用

在 TI-ONE 完成在线服务部署后,系统会自动注册 API 网关生成 VPC 调用地址。您可以在服务调用页面,查看 VPC 调用地址信息(若服务开启鉴权,则可一并查看签名密钥及签名计算指引)。

内网地址调用

高速服务调用

1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。
2. 在服务列表页单击服务名称,进入服务版本列表页面,单击服务调用,查看配置服务调用相关信息。
3. 高速服务调用模块,首次配置,单击开启新增高速服务调用网段



4. 在配置弹窗里,您选择需要打通内网的 VPC、子网



5. 配置好 VPC、子网后,高速服务调用模块,展示VPC调用地址,以及可调用的 VPC、子网信息,配置好后支持删除后重新新增。如果在线服务有2个版本,则内网地址有2条。



6. 服务调用时,如需要在终端里内网接口调用,可执行以下命令:
//内网地址,请您参考服务调用/高速服务调用/VPC调用地址
//URL为服务调用/接口信息/接口调用地址的右边URL内容
curl -X POST -H 'C ontent-Type: application/json' 内网地址/URL -d '{ "prompt": "puppy dog", "steps": 5}'
说明:
一次开启配置,本地域下的全部服务均生效。本能力使用私有连接,配置后,将在您账户的该VPC和子网下,创建一个终端节点,独立计费,您可参考终端节点计费文档

服务访问云上 VPC 资源

1. 登录 TI-ONE 控制台,在左侧导航栏中选择模型服务 > 在线服务,进入在线服务列表页面。
2. 在服务列表页单击新建服务,在新建弹窗里,开启 服务访问云上VPC资源。



3. 开启后,选择需要打通内网的 VPC、子网



4. 配置好 VPC、子网后,服务访问云上VPC资源模块,展示配置好的 VPC、子网。



5. 此时 tione 可以内网访问该 VPC 下的资源。