智能钛弹性模型服务

智能钛弹性模型服务(Tencent Intelligence Elastic Model Service,TI-EMS)是具备虚拟化异构算力和弹性扩缩容能力的无服务器化在线推理平台,能够帮助客户解决模型部署复杂、资源浪费、手工扩展资源效率低下的问题。客户通过使用智能钛弹性模型服务可以实现模型一键部署,自动调整弹性计算资源。同时,智能钛弹性模型服务具备多模型支持、版本管理和灰度升级等丰富完善的功能,其内置的 CPU/GPU 推理加速镜像为客户提供高性能、高性价比的推理服务。

入门与使用

入门准备

介绍在使用 TI-EMS 前需要准备的工作

准备模型文件

介绍如何准备需要部署的模型文件

创建服务模型配置

介绍如何在 TI-EMS 上创建模型服务配置

启动服务

介绍 TI-EMS 模型服务启动与更新的基本操作

服务调用

介绍 TI-EMS 如何调用模型服务

操作指南