导语：STGW作为公司七层接入网关，在云和自研业务中承担多种网络协议接入与转发的功能，由于业务数量庞大、接入形式多样、网络环境复杂，会遇到一些很有挑战的疑难杂症。...问题现象 在STGW现网运营中，出现了一起流量突然下降的Case，此时我们的健康拨测机制探测到失败，并且用户侧重试次数增多、请求延迟增大。...幸运的是，从STGW自研的秒级监控系统中，我们查到了一些关键的信息。...此外，STGW的监控模块支持在出现系统核心资源异常时，抓取当时的函数调用栈信息，有了函数调用信息，我们能更准确的知道是什么造成了系统核心资源异常，而不是继续猜想。...感谢STGW组里同事，文中诸多成果都是团队的共同努力。 ?
经过STGW，从上海访问上海的STGW VIP，耗时4s+，正常； 4. 经过STGW，从广州访问上海的STGW VIP，耗时12s+，异常。...并且打开了STGW LD（LoadBalance Director，负载均衡节点）与后端server之间的响应缓存，抓包可以看到，后端数据4s左右全部发送到STGW LD上，是STGW LD往客户端回包比较慢...问题分析 首先，在复现的STGW LD上抓包，抓到Client与STGW LD的包如下图，从抓包的信息来看是STGW回包给客户端很慢，每次都只发很少的一部分到Client。...在本例中，tgw的rs就是stgw，也就是说，stgw的收到三次握手包的rtt是基于与tgw计算出来的，而后面的数据包才是真正与client之间的通信。...这是因为同城访问的情况下，tgw与stgw之间的rtt与client与stgw之间的rtt，相差并不大，并没有满足触发tlp的条件。
本文主要介绍 STGW 大规模运营 QUIC 过程中的一些经验和开发工作。...QUIC 协议栈的选择 对于协议的实现，STGW 与 CDN 业务团队在 LEGO（STGW 与 CDN 自研的高性能转发框架）上实现过完整的 HTTP2 协议。...七层单机多核的连接迁移 当包到达 STGW 服务器时，由于 STGW 服务器多核转发，此时还需要将 QUIC 包转发到同一个进程(或线程)去处理。...为此，STGW 使用了基于共享内存的 QUIC 连接迁移方案，使用共享内存管理不同进程的所有连接信息。...总结 本文综合介绍了 STGW 在大规模应用 QUIC 协议过程中做的一些优化和成果。
七层主要基于 Secure Tencent Gateway（STGW）实现负载均衡，STGW 是腾讯基于 Nginx 自研的支持大规模并发的七层负载均衡服务，承载了腾讯内大量的七层业务流量，包括腾讯新闻...TCP SSL 协议 处理 TCP SSL 协议时，业务流量会先经过 TGW 集群，而后由 STGW 集群来转发给后端 CVM。 新建会话时需经过加速卡集群来进行证书验证和加解密等前置操作。...业务流量到达后，在腾讯云内网中依次通过 TGW、STGW、后端 CVM，回包也依次逆向返回给客户端。...HTTP/HTTPS 协议 处理 HTTP/HTTPS 协议时，业务流量会先经过 TGW 集群，而后由 STGW 识别 HTTP 协议并转发给后端 CVM。...业务流量到达后，在腾讯云内网中依次通过 TGW、STGW、后端 CVM，回包也依次逆向返回给客户端。
目前主要负责腾讯 stgw(腾讯安全云网关）的相关工作，整体推进腾讯内部及腾讯公有云，混合云的七层负载均衡及全站 HTTPS 接入。...image.png Stgw 在生成 ServerConfig ID 和内容时，会存储到全局的 Cache 集群。...用户握手请求落到任意一台 STGW 机器，从全局 Cache 集群都能找到相应的内容，实现 0RTT 握手。...连接迁移 (Connection Migration) 的实现 那 STGW 服务端如何实现的呢？...QUIC 线上灰度数据 QUIC 目前已经在 STGW 上线运行。我们针对腾讯几个重要域名（包括 QQ 黄钻页面，游戏页面）进行了灰度实验。
request":"GET /static/js/plugins/echarts/chart/pie.js HTTP/1.0","server_name":"jumpserver.domainnew.com","stgw_engine_connect_time...upstream_addr":"10.2.8.35:80","upstream_header_time":"0.003","connection_requests":"1","ssl_cipher":"-","stgw_engine_response_time...":"-","stgw_request_id":"186f546bcc8484a5b7ab1855afef4ff8","http_host":"jumpserver.domainnew.com","http_user_agent...Chrome/83.0.4103.97 Safari/537.36","upstream_status":"200","vip_vpcid":-1,"request_time":"0.003","via_stgw_engine
目前主要负责腾讯 stgw(腾讯安全云网关）的相关工作，整体推进腾讯内部及腾讯公有云，混合云的七层负载均衡及全站 HTTPS 接入。...SeverConfig Cache 集群 Stgw 在生成 ServerConfig ID 和内容时，会存储到全局的 Cache 集群。...用户握手请求落到任意一台 STGW 机器，从全局 Cache 集群都能找到相应的内容，实现 0RTT 握手。...连接迁移 (Connection Migration) 的实现 那 STGW 服务端如何实现的呢？...QUIC 线上灰度数据 QUIC 目前已经在 STGW 上线运行。我们针对腾讯几个重要域名（包括 QQ 黄钻页面，游戏页面）进行了灰度实验。
SeverConfig Cache 集群 Stgw 在生成 ServerConfig ID 和内容时，会存储到全局的 Cache 集群。...用户握手请求落到任意一台 STGW 机器，从全局 Cache 集群都能找到相应的内容，实现 0RTT 握手。...连接迁移 (Connection Migration) 的实现 那 STGW 服务端如何实现的呢？...性能统计 STGW 针对 QUIC 的线上使用情况进行了很多的变量统计和分析，包括 0RTT 握手成功率，握手时间，密码套件使用分布，QUIC 协议版本，stream 并发数量等。...QUIC 线上灰度数据 QUIC 目前已经在 STGW 上线运行。我们针对腾讯几个重要域名（包括 QQ 黄钻页面，游戏页面）进行了灰度实验。
而其中完全握手阶段的性能消耗占 HTTPS 整体性能消耗的 90%以上，所以这块也是需要重点优化的地方，我们使用的是 CDN/STGW 提供的优化方案。...CDN/STGW 对于 session ID 和 session ticket 两种会话复用机制均支持，默认使用的是 session ticket。...这也是 CDN/STGW 用于大规模 HTTPS 接入的 杀手锏 解决方案之一。...3.监控排错 目前的监控主要包括页面测速、域名失败率/性能监控，以及 CDN/STGW 的证书监控。...证书监控 目前依赖于 CDN、STGW 的证书监控，由于该监控只针对其平台的机器，如果业务混合部署在 CDN、STGW、TRP 甚至自有的机器上，则可能存在监控覆盖不全的情况，因此我们也在规划基于域名的证书一致性
目前主要负责腾讯 stgw(腾讯安全云网关）的相关工作，整体推进腾讯内部及腾讯公有云，混合云的七层负载均衡及全站 HTTPS 接入。...如上图所示，Stgw 在生成 ServerConfig ID 和内容时，会存储到全局的 Cache 集群。...用户握手请求落到任意一台 STGW 机器，从全局 Cache 集群都能找到相应的内容，实现 0RTT 握手。...9、QUIC 性能优化4：动态的流量控制和拥塞控制 STGW 在连接和 Stream 级别设置了不同的窗口数。...10、STGW 针对 QUIC 的性能统计 STGW 针对 QUIC 的线上使用情况进行了很多的变量统计和分析，包括 0RTT 握手成功率，握手时间，密码套件使用分布，QUIC 协议版本，stream
tgw：是腾讯内网网络架构中的一个重要的网关组件，与之同类型的是 stgw 组件，这两个组件有什么作用呢？...网关嘛，肯定是管理内网出入信息的，同时这两个组件还具备一个功能 —— 请求分发 ，腾讯云的 CLB 产品就是依赖这两个组件来实现的，tgw 负责四层的请求分发，stgw 负责七层请求分发。
HTTP/3 实践 2.1 X5 内核与 STGW X5 内核是腾讯开发的适用于安卓系统的浏览器内核，为了解决传统安卓系统浏览器内核适配成本高、不安全、不稳定等问题而开发的统一的浏览器内核。...STGW 是 Secure Tencent Gateway 的缩写，意思是腾讯安全云网关。两者早在前两年便支持了 QUIC 协议。 那作为运行在 X5 上的业务，我们该如何接入 QUIC 呢？...得益于 X5 和 STGW，业务在接入 QUIC 时所需要做的改动非常小，只需要两步。 Step 1. 在 STGW 上开启白名单，允许业务域名接入 QUIC 协议； Step 2....接入 QUIC 时，STGW 的优势非常明显，由 STGW 与支持 QUIC 的客户端(这里是 X5)进行通信，而业务后台与 STGW 仍然使用 HTTP/1.1 通信，QUIC 所需要的 Server...Config 等缓存信息也都是由 STGW 维护。
导语 | 腾讯sTGW如何助力核心业务用户登录耗时降低30%，下载场景500ms内请求成功率从HTTPS的60%提升到90%？...这是腾讯网关sTGW团队打造的TQUIC网络协议栈在实时通信、音视频、在线游戏、在线广告等多个腾讯业务落地取得的成果。...本文重点分享了sTGW团队在协议栈基础能力、私有协议、明文传输等功能研发经验，并且针对弱网场景，分享腾讯如何基于0-RTT握手、连接迁移、实时传输等能力帮助业务用户体验提升。...答案是需要的，sTGW作为公司云CLB和自研的主要七层网关接入，在QUIC连接迁移方面做了完整的解决方案，目前也已经将能力开放出来，在QUIC集群上全量上线。...sTGW对于连接迁移的解决方案可参见sTGW大规模运营QUIC之路。
作者：腾讯 sTGW-TQUIC 腾讯sTGW如何助力核心业务用户登录耗时降低30%，下载场景500ms内请求成功率从HTTPS的60%提升到90%，移动端APP在弱网、跨网场景下同样取得媲美正常网络的用户体验...这是腾讯网关 sTGW 团队打造的 TQUIC 网络协议栈在实时通信、音视频、在线游戏、在线广告等多个腾讯业务落地取得的成果。...本文重点分享了 sTGW 团队在协议栈基础能力、私有协议、明文传输等功能，并且针对弱网场景，分享腾讯如何基于 0-RTT 握手、连接迁移、实时传输等能力帮助业务用户体验提升。...sTGW 对于连接迁移的解决方案可参见sTGW 大规模运营 QUIC 之路。...十、总结 经过腾讯 sTGW 团队持续投入。TQUIC 在腾讯多个重要业务落地，覆盖业务包括实时通信、音视频、在线游戏、在线广告等。
异地访问部署的问题，因为原有的NodeServer接入了STGW。 STGW全称Secure Tencent Gateway，腾讯安全云网关，是一套实现多网统一接入，支持自动负载均衡的系统。...由于STGW提供了就近接入和SSL加速，所以这两部分时间都相应有不少的优化。 那么Serverless能不能用多地部署，就近接入来解决这个问题呢。...热启动、实例保留策略的优化 架构升级（测试中） 就近接入（待规划） 代码方面的优化： 代码逻辑和第三方调用 拆分不常用功能，减少代码量 使用预加载减少connect的时间（preconnect） 接入STGW
copy_from": "req.headers.content-length" } }, { "set": { "field": "req_headers_x_stgw-time...", "copy_from": "req.headers.x-stgw-time" } }, { "set": { "field": "req_headers_x_client_proto...store-inventv1/uq/cn/consumer/", "x-real-ip": "8.8.8.8", "content-length": "0", "x-stgw-time
tunnelId决定广播的信道 2.收到广播的server根据tunnelId通过私有端口转发广播内容到对应机器的worker进程 3.worker进程调用WebSocket连接句柄发送广播内容 STGW...配置： STGW作为统一接入层，在转发WebSocket请求时默认没有转发Connection:Upgrade和Upgrade:websocket header，这样server端接收到的就不是WebSocket
[图片] 空间实际的SET展示 [图片] [图片] SET链路 SET内部和不同SET的业务模块都是通过名字服务来相互访问的 用户层GSLB->STGW=TGW+Nginx，Nginx自动获取vip 接入...Stgw和L5都是腾讯自研的路由、名字服务组件。调度都是基于名字 服务来实施。L5有SET化的标签，可以让SET的服务配置文件保持一致的情况下，服务只在SET内调度。可以极大提升SET的部署效率。...如果网络故障影响到了用户接入W01 SET，我们会调整stgw将用户转移到部署在另一个机房的W02 SET。如果W01 访问I01故障，我们可以把W01的访问切换到W02。
异地访问部署的问题，因为原有的NodeServer接入了STGW。 STGW全称Secure Tencent Gateway，腾讯安全云网关，是一套实现多网统一接入，支持自动负载均衡的系统。...由于STGW提供了就近接入和SSL加速，所以这两部分时间都相应有不少的优化。 那么Serverless能不能用多地部署，就近接入来解决这个问题呢。...架构升级（测试中） 5）就近接入（待规划） 代码方面的优化： 1）代码逻辑和第三方调用 2）拆分不常用功能，减少代码量 3）使用预加载减少connect的时间（preconnect） 4）接入STGW
异地访问部署的问题，因为原有的NodeServer接入了STGW。 STGW全称Secure Tencent Gateway，腾讯安全云网关，是一套实现多网统一接入，支持自动负载均衡的系统。...由于STGW提供了就近接入和SSL加速，所以这两部分时间都相应有不少的优化。 那么Serverless能不能用多地部署，就近接入来解决这个问题呢。...实例保持 4）架构升级（测试中） 5）就近接入（待规划） 代码方面的优化： 1）代码逻辑和第三方调用 2）拆分不常用功能，减少代码量 3）使用预加载减少connect的时间（preconnect） 4）接入STGW
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
