操作场景
AI 网关对运行的网关实例及节点、公网负载均衡提供全维度系统级监控指标,覆盖 CPU、内存、带宽、连接数等核心资源维度,助力您全面掌握实例的资源利用率、流量波动与运行健康度。
您可通过这些指标实时洞察实例的资源瓶颈、流量峰值与连接压力,及时发现过载、异常流量等风险,针对性优化资源配置(如扩容、限流)或排查故障,保障 AI 服务的稳定性与资源成本可控性。本文为您介绍通过 TSF 控制台查看网关系统监控的操作。
操作步骤
1. 登录微服务平台控制台 ,在左侧导航栏选择 AI 网关进入实例列表。
2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面。
3. 在左侧导航栏单击数据观测。
4. 单击页面顶部系统监控标签。
支持监控指标及含义
此部分指标适用于所有经过网关的流量,用于评估网关及后端服务的通用性能与健康状况。
实例/节点监控指标
指标名 | 指标含义 |
CPU 使用率 | AI 网关的 CPU 使用率,按照所选择的时间粒度统计求平均值。 |
内存使用率 | AI 网关的内存使用率,按照所选择的时间粒度统计求平均值。 |
入口带宽流量 | AI 网关的入口带宽流量,按照所选择的时间粒度统计求平均值。 |
出口带宽流量 | AI 网关的出口带宽流量,按照所选择的时间粒度统计求平均值。 |
TCP 入连接数 | AI 网关的 TCP 连接数,按照所选择的时间粒度统计求平均值。 |
最大内存使用率 | AI 网关在所选时间粒度内的内存使用率最大值。用于观测内存使用峰值,判断是否存在内存突增风险(如内存泄漏、突发流量压力)。 |
最大 CPU 使用率 | AI 网关在所选时间粒度内的 CPU 使用率最大值。用于发现 CPU 负载峰值波动,定位计算密集型操作(如复杂鉴权、协议转换)导致的性能突增。 |
运行节点数 | 所选时间粒度内,AI 网关中正常运行的节点数量。反映部署规模与可用节点状态,节点数异常减少可能代表故障或伸缩操作。 |
客户端到网关进程的新建连接数 | 所选时间粒度内,客户端与网关进程之间新建立的 TCP 连接数量。观测短时间内连接建立频率,判断客户端连接活跃度。 |
客户端到网关进程的活跃连接数 | 所选时间粒度内,客户端与网关进程之间处于活跃通信状态的 TCP 连接数量。反映网关当前承载的有效连接负载。 |
客户端到网关进程的非活跃连接数 | 所选时间粒度内,客户端与网关进程之间建立但无活跃通信的 TCP 连接数量。辅助判断连接资源闲置情况,过多可能意味着连接回收 / 管理机制需优化。 |
客户端到网关进程的并发连接数 | 所选时间粒度内,客户端与网关进程之间同时存在的 TCP 连接总数(含活跃、非活跃)。直接反映网关的连接并发压力,是评估网关连接容量的关键指标。 |
客户端到网关进程的入流量 | 所选时间粒度内,从客户端发送到网关进程的总数据量。 |
网关进程到客户端的出流量 | 所选时间粒度内,从网关进程发送到客户端的总数据量。 |
客户端到网关进程的入带宽 | 所选时间粒度内,客户端到网关进程的平均带宽占用量(单位时间内的流量传输速率)。评估客户端到网关的带宽压力,避免带宽瓶颈导致连接 / 传输延迟。 |
网关进程到客户端的出带宽 | 所选时间粒度内,网关进程到客户端的平均带宽占用量(单位时间内的流量传输速率)。与 “入带宽” 结合,分析网关对外带宽负载,防止带宽瓶颈影响响应传输。 |
公网负载均衡监控指标
1. 客户端到 LB 的监控
指标名 | 指标含义 |
入流量 | 在统计粒度内,客户端流入到负载均衡的流量。 |
出流量 | 在统计粒度内,负载均衡流出到客户端的流量。 |
入包量 | 在统计粒度内,客户端向负载均衡每秒发送的数据包数量。 |
出包量 | 在统计粒度内,负载均衡向客户端每秒发送的数据包数量。 |
入带宽 | 在统计粒度内,客户端流入到负载均衡所用的带宽。 |
出带宽 | 在统计粒度内,负载均衡流出到客户端所用的带宽。 |
活跃连接数 | 在统计粒度内,从客户端到负载均衡的活跃连接数。 |
非活跃连接数 | 在统计粒度内,从客户端到负载均衡的非活跃连接数。 |
并发连接数 | 在统计粒度内,从客户端到负载均衡的并发连接数。 |
新建连接数 | 在统计粒度内,从客户端到负载均衡的新建连接数。 |
2. 丢弃/利用率监控
指标名 | 指标含义 |
入带宽利用率 | 在统计粒度内,客户端通过外网访问负载均衡所用的带宽利用率。 |
出带宽利用率 | 在统计粒度内,负载均衡访问外网所用的带宽使用率。 |
并发连接数利用率 | 在统计粒度内的某一时刻,从客户端到负载均衡的并发连接数相比规格的并发连接数性能上限的利用率。 |
新建连接数利用率 | 在统计粒度内,从客户端到负载均衡的新建连接数相比负载均衡规格的新建连接数性能上限的利用率。 |
丢弃连接数 | 在统计粒度内,负载均衡丢弃的连接数。 |
丢弃入带宽 | 在统计粒度内,客户端通过外网访问负载均衡时丢弃的带宽。 |
丢弃出带宽 | 在统计粒度内,负载均衡访问外网时丢弃的带宽。 |
丢弃流入数据包 | 在统计粒度内,客户端通过外网访问负载均衡时丢弃的数据包。 |
丢弃流出数据包 | 在统计粒度内,负载均衡访问外网时丢弃的数据包。 |
丢弃 QPS | 在统计粒度内,负载均衡丢弃的请求数。 |
QPS 利用率 | 在统计粒度内,负载均衡的 QPS 相比负载均衡规格的 QPS 性能上限的利用率。 |
3. LB 到后端的监控
指标名 | 指标含义 |
出流量 | 在统计粒度内,后端服务器流出到负载均衡的流量。 |
入带宽 | 在统计粒度内,负载均衡流入到后端服务器所用的带宽。 |
出带宽 | 在统计粒度内,后端服务器流出到负载均衡所用的带宽。 |
4. 七层协议监控
指标名 | 指标含义 |
CLB 返回的 3xx 状态码 | 在统计粒度内,负载均衡返回 3xx 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 4xx 状态码 | 在统计粒度内,负载均衡返回 4xx 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 5xx 状态码 | 在统计粒度内,负载均衡返回 5xx 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 404 状态码 | 在统计粒度内,负载均衡返回 404 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 499 状态码 | 在统计粒度内,负载均衡返回 499 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 502 状态码 | 在统计粒度内,负载均衡返回 502 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 503 状态码 | 在统计粒度内,负载均衡返回 503 状态码的个数(负载均衡和网关节点返回码之和)。 |
CLB 返回的 504 状态码 | 在统计粒度内,负载均衡返回 504 状态码的个数(负载均衡和网关节点返回码之和)。 |
2xx 状态码 | 在统计粒度内,后端服务返回 2xx 状态码的个数。 |
3xx 状态码 | 在统计粒度内,后端服务返回 3xx 状态码的个数。 |
4xx 状态码 | 在统计粒度内,后端服务返回 4xx 状态码的个数。 |
5xx 状态码 | 在统计粒度内,后端服务返回 5xx 状态码的个数。 |
404 状态码 | 在统计粒度内,后端服务返回 404 状态码的个数。 |
499 状态码 | 在统计粒度内,后端服务返回 499 状态码的个数。 |
502 状态码 | 在统计粒度内,后端服务返回 502 状态码的个数。 |
503 状态码 | 在统计粒度内,后端服务返回 503 状态码的个数。 |
504 状态码 | 在统计粒度内,后端服务返回 504 状态码的个数。 |
最大请求时间 | 在统计粒度内,负载均衡的最大请求时间。 |
平均响应时间 | 在统计粒度内,负载均衡的平均响应时间。 |
最大响应时间 | 在统计粒度内,负载均衡的最大响应时间。 |
响应超时个数 | 在统计粒度内,负载均衡响应超时的个数。 |
每分钟成功请求数 | 在统计粒度内,负载均衡每分钟的成功请求数。 |
每秒请求数 | 在统计粒度内,负载均衡每秒钟的请求数。 |
5. 健康检查监控
指标名 | 指标含义 |
健康检查异常数 | 在统计周期内,负载均衡的健康检查异常个数 |