资源管理是 LLM 可观测和应用性能监控(APM)的通用能力,用于管理业务系统、查询用量,以及管理预付费套餐包。
操作步骤
1. 登录 腾讯云可观测平台。
2. 在左侧菜单栏中选择 LLM 可观测 > 资源管理,选择需要新建业务系统的地域。
模块说明
业务系统管理
LLM 可观测复用应用性能监控(APM)的业务系统,实现应用分类管理。每个业务系统有唯一的 Token,应用接入的时候需要指定 Token。可以在业务系统级别设置存储时长、计费方式等参数,也可以基于业务系统实现权限管理和分账。不同业务系统之间的监控数据完全隔离。关于业务系统的划分,请参见 如何划分业务系统。
请参考如下配置对业务系统进行维护。
配置项 | 说明 |
业务系统名称 | 自定义业务系统名称。 |
开启免费模式 | |
计费模式 | 支持按量付费和预付费。 |
上报地域 | 各地域数据隔离,业务系统创建后不可更改。 |
链路存储时长 | 支持选择1天、3天、7天、15天、30天链路数据存储时长,试用期间默认存储时长为1天。存储时长越长,收费越高。 |
业务系统简介 | 可以简单描述业务系统用途等。 |
添加标签 |
用量分析
LLM 可观测复用应用性能监控(APM)的计费方式,通过Span 上报数(条)、Span 存储量(条*天)、探针在线时长(探针个数*小时)三个维度体现使用量。通过用量分析页面,您可以分析每个业务系统产生的使用量,以更好地评估 LLM 可观测费用。
套餐包管理
LLM 可观测复用应用性能监控(APM)的套餐包机制,在特定场景下,使用套餐包能降低产品费用,您可自行选择购买。套餐包可同时抵扣应用性能监控(APM)和 LLM 可观测的用量。在套餐包管理页面,可以查看您已购买的套餐包,以及套餐包的使用情况。