微服务预热那些事

背景

随着流量增长，服务的节点越来越多，对服务性能要求也越来越大，在服务启动时经常会发现存在抖动，针对这些服务抖动，就需要采取一些预热措施，下面就简单介绍下系统相关的服务预热、中间件预热、数据库预热等

预热场景

服务预热

在《springcloud线上发布超时》系列文章中已经描述了一些微服务需要预热的服务资源，

• 连接池
• 线程池
• 限流池
• grpc连接
• jit

池资源相关预热我这里就不描述了，参考我的发布预热系列文章：springcloud线上发布超时

这里说一下jit，网上有两种方案，

方案一 定制化jdk

将jit过程信息保存到文件中，下次发布时自动加载，成熟方案是阿里的jwarmup，已经集成到阿里的jdk中，有兴趣的可以了解下

方案二 跑测试用例预热

一般都是采用测试用例预热，如果仅仅是jdk预热，可以直接跑几个测试用例循环n次就行，但是如果涉及到中间件预热，这里就可能不满足需求了。 我现在就是采用流量录制以及回放预热，如下图：

在这里插入图片描述

方案三 定制路由策略，通过tag配置来路由

这里的方案就是需要定制化路由策略，刚启动的服务注册时带上一些配置信息，网关或者服务调用段获取到配置后来根据配置来路由，先路由少量流量，慢慢增加直到路由100%，这样可以达到针对jit的预热效果

中间件预热

redis预热

先在很多服务为了提高吞吐量而使用redis，这就会导致服务启动后或者redis数据丢失后，会导致请求都打到db中去，从而导致db压力倍增，这就是常见的redis雪崩。

CDN预热

CDN经常是也承担了入口缓存，那么这里也会需要预热，可以录制生产流量回放来达到预热效果。

mysql预热

mysql重启后十几分钟的性能是非常差的,原因是因为InnoDB有innodb buffer pool，详细可以参考该链接：https://blog.csdn.net/u014236541/article/details/79870670