AI 网关支持按节点规格和数量购买。本文介绍 AI 网关的性能指标，请根据业务需求选择合适的资源大小。
网关运行水位
网关运行水位说明如下:
推荐水位：CPU 使用率为30%，内存使用率为30%。
警戒水位：CPU 使用率为60%，内存使用率为60%。
在日常运行中，建议将资源使用率控制在30 - 60%，既可以保持较高的资源利用率，又可以应对请求突增的情况。在推荐水位下运行时，可获得符合《腾讯云 AI 网关服务等级协议》标准的服务保障。当运行水位超过警戒水位时，网关进入高负载状态，请求成功率和耗时可能受到影响，建议配置告警。以上水位建议来源于 2026 年腾讯内部实验测试结果，仅供参考，不代表所有场景下的实际表现，具体以实际使用情况为准。
网关容量指标
节点规格和数量决定网关容量，增大节点规格或者增加节点数量可以提高网关容量。如果节点规格不变，随着节点数量的增长，随着节点规格的提升，网关容量相应增加（具体提升幅度因协议类型、连接方式、请求特征而异）。网关容量指标说明如下：
连接数：网关支持的最大连接数量。
QPS：网关每秒处理/转发的业务请求总数。
节点规格 | 1核2G | 2核4G | 4核8G | 8核16G | 16核32G | |
节点数量 | | 2节点 | 2节点 | 2节点 | 2节点 | 2节点 |
连接数 | 推荐水位 | 12000 | 24000 | 48000 | 96000 | 192000 |
| 警戒水位 | 14400 | 28800 | 57600 | 115200 | 230400 |
QPS | 推荐水位 | 1750 | 2225 | 7750 | 10300 | 125000 |
| 警戒水位 | 2000 | 2550 | 8000 | 15000 | 200000 |
网关性能数据
测试场景：客户端发送请求给网关，网关转发到后端服务器，后端服务器直接返回响应。
测试条件：不同的协议类型、连接类型。
测试结果：客户端请求 QPS 如下所示，基于推荐水位（30%负载）下的达标 QPS。请求平均耗时小于 5 毫秒。CPU 和内存使用率处于推荐水位(30%)。
CPU 和内存使用率均处于推荐水位 | |||||||
协议类型 | 连接类型 | 1 核 2G | | 2 核 4G | | 4 核 8G | |
| | 2 节点 | 3节点 | 2 节点 | 3节点 | 2 节点 | 3节点 |
HTTP | 短连接 | 1600 | 2500 | 1500 | 2500 | 4300 | 4800 |
| | 1500 | 2200 | 1400 | 2400 | 3000 | 2200 |
| 长连接 | 650 | 900 | 500 | 900 | 900 | 1400 |
| | 600 | 800 | 430 | 800 | 800 | 1300 |
HTTPS | 短连接 | 900 | 1300 | 800 | 1100 | 1350 | 2400 |
| | 900 | 1000 | 600 | 1000 | 1600 | 2200 |
| 长连接 | 580 | 1000 | 900 | 880 | 850 | 1500 |
| | 550 | 1000 | 860 | 700 | 800 | 1000 |
说明：
以上性能数据来源于 2026 年腾讯内部实验测试结果，仅供参考，不代表所有场景下的实际表现，实际性能可能因业务负载、请求特征、后端服务响应时间及网络环境不同而存在差异，具体以控制台展示和实际使用情况为准。以上指标为特定测试条件下的参考值，不构成对所有场景的能力保证。实际可达数值因业务场景而异。
文中涉及的第三方产品名称及商标归其权利人所有，仅用于说明云原生网关的技术架构和兼容性，不代表本平台对其提供任何形式的认可或背书。
