应用列表功能用于查询接入 LLM 可观测的应用,是前往应用级监控分析的入口。
操作步骤
1. 登录 腾讯云可观测平台。
2. 在左侧菜单栏中选择 LLM 可观测 > 应用列表。
3. 通过右上方的时间选择器指定查询时间跨度,通过应用过滤对话框可以指定更多查询条件。
功能说明
应用过滤:可以基于应用名、应用 ID 和应用标签进行过滤。
清理应用:清理应用功能仅针对已经不再上报监控数据的应用,请先确保该应用的探针已经成功卸载(如果通过代码上报,请删除相关逻辑)。在执行完清理操作后,系统将删除和该应用相关的所有数据。
编辑标签:通过该功能,可以为应用关联多个标签,用于应用查询以及细粒度的权限配置。标签键和标签值引用自腾讯云统一的标签中心,如果需要维护标签,请前往 标签列表。
应用详情
在应用列表页点击应用 ID,即可进入该应用的详情页面,包括如下模块:
性能概览:性能概览模块展示该应用的关键性能指标,包括 LLM 调用次数、LLM 调用耗时、模型调用次数、模型调用耗时、模型调用错误率、Token 使用量等。
Token 分析:基于 Input/Output、模型调用、LLM 调用等维度,深度分析该应用的 Token 使用情况。
链路追踪:链路追踪用于实现跨应用的多维度调用链检索与分析,您可以根据多种过滤条件组合进行调用查询,查询结果中的每一条记录代表一次调用,等同于一个 Span。您可以单击对应的 TraceID 进入链路详情视图,进一步分析链路中的每个环节。