前往小程序，Get更优阅读体验！
立即前往
文档建议反馈控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
发布
首页
学习
活动
专区
工具
TVP最新优惠活动
返回腾讯云官网
社区首页 >专栏 >当SRS遇到K8s：如何实现高可用、回滚与灰度发布？

当SRS遇到K8s：如何实现高可用、回滚与灰度发布？

原创
作者头像
LiveVideoStack
修改于 2020-02-24 10:45:25
1K0
修改于 2020-02-24 10:45:25
举报
文章被收录于专栏：音视频技术音视频技术
Photo by Luis Quintero from Pexels
Photo by Luis Quintero from Pexels

本文来自流媒体直播集群SRS的官方wiki（https://github.com/ossrs/srs/wiki/v4_CN_K8s），由SRS的创始作者杨成立授权发布。

文 / 杨成立

服务的更新、回滚和灰度，是个简单的问题，如果加上一个条件"不中断服务的前提下"，那么就是一个难题，如果再加上"大规模"，那么就是K8S要解决的核心问题之一。坏消息是这个难搞的问题还真是流媒体服务的核心的、关键的、不可忽视的关键能力之一，好消息是K8S和云计算让这个难题稍微好一点点了。

我们在什么场景下会遇到更新、回滚和灰度的问题：

  • SRS需要升级新版本，如何知道升级后对现有业务没有影响？如果选择业务量小升级，那一般常态会是半夜三更、凌晨三四点，还要不要头发了呢？
  • 改进了新的功能或优化，根据业务定制了新的东西（完全直接使用SRS也得有自己的业务服务器），如何只在一部分机器发布，看看效果有没有达到预期？
  • 更新新版本后，如果发现有问题，影响了用户服务，如何在最短时间内回滚到之前的版本？问题出现时首先是要确认问题后(若由升级引起则)回滚，而不是很费时间的找Bug。

在这个场景下，对比K8S和传统部署方式的差异：

Note:平滑更新的关键是平滑退出，重点是边缘集群的更新，对于源站集群我们可以选择直接重启，因为一般会有边缘集群作为代理，源站断开后边缘会重试，不影响用户，参考#1579（https://github.com/ossrs/srs/issues/1579#issuecomment-587233844）。

我们重点关注边缘集群的平滑退出，SRS边缘属于长连接无状态服务。和Nginx一样，SRS使用SIGQUIT作为信号，同时配置force_grace_quit认为SIGTERM也是平滑退出，收到SIGQUIT信号后，会等待grace_start_wait指定的时间，然后关闭Listeners新的连接不会分配到这个服务器，然后开始清理并等待现有连接退出，所有连接退出后还会等待grace_final_wait指定的时间，才会退出。

以之前部署的SRS源站和边缘集群为例，参考SRS Origin Cluster for a Large Number of Streams，SRS边缘的Pod的配置，需要指定平滑退出的参数，例如：

代码语言：javascript
复制
cat <<EOF | kubectl apply -f -

apiVersion: v1

kind: ConfigMap

metadata:

 name: srs-edge-config

data:

 srs.conf: |-

   listen              1935;

   max_connections     1000;

   daemon              off;

   grace_start_wait    700;

   grace_final_wait    800;

   force_grace_quit    on;

   http_api {

       enabled         on;

       listen          1985;

    }

   http_server {

       enabled         on;

       listen          8080;

    }

   vhost __defaultVhost__ {

       cluster {

           mode            remote;

           origin          srs-origin-0.socssrs-origin-1.socs srs-origin2.socs;

       }

       http_remux {

           enabled     on;

       }

    }

EOF

Remark:一定要开启force_grace_quit，不开启(默认)将使用暴力更新，直接断开现有的连接，参考#1579（https://github.com/ossrs/srs/issues/1579#issuecomment-587233844）。 Note:在K8S中开始删除Pod时，会快速从Service删除Pod，所以我们将grace_start_wait和grace_final_wait设置时间短一些，只需要几百毫秒就足够了。

SRS边缘的配置，也需要在lifecycle.preStop事件时启动平滑退出，并设置terminationGracePeriodSeconds等待时间，例如：

代码语言：javascript
复制
cat <<EOF | kubectl apply --record -f -

apiVersion: apps/v1

kind: Deployment

metadata:

 name: srs-edge-deploy

 labels:

   app: srs-edge

spec:

 replicas: 2

 revisionHistoryLimit: 10

 selector:

   matchLabels:

     app: srs-edge

 template:

   metadata:

     labels:

       app: srs-edge

   spec:

     volumes:

     - name: config-volume

       configMap:

         name: srs-edge-config

     containers:

     - name: srs

       image: ossrs/srs:v4.0.5

       imagePullPolicy: IfNotPresent

       ports:

       - containerPort: 1935

       - containerPort: 1985

       - containerPort: 8080

       volumeMounts:

       - name: config-volume

         mountPath: /usr/local/srs/conf

       lifecycle:

         preStop:

           exec:

              command:["/usr/local/srs/etc/init.d/srs", "grace"]

     terminationGracePeriodSeconds: 120

EOF

Note: kubectl apply增加了一个参数--record，后面回滚会用到。 Note: terminationGracePeriodSeconds等待退出时间我们设置2分钟，线上服务可以设置更长，比如12小时。 Remark:为了更好体现平滑更新的逻辑，我们设置Replicas=2可以更容易演示。 Remark:我们使用SRS4演示，例如v4.0.5，实际上SRS3也可以的比如v3.0-b1等。

我们停掉了之前srs-demo-deploy推的两个DEMO流，采用手动推流到Edge，方便演示升级时有长连接需要服务的情况：

代码语言：javascript
复制
ffmpeg -re -i ./doc/source.200kbps.768x320.flv-c copy \

    -fflv rtmp://28.170.32.118/live/livestream

Note:请将上面的EIP换成你自己的，可用命令kubectlget svc/srs-edge-service查看你的EIP。

咱们可以看到目前启动了2个Edge，可以看下它的版本，是通过Pod(z9gbm)推流：

代码语言：javascript
复制
kubectl get po|grep edge

srs-edge-deploy-58d9999b7c-pnr2f       1/1    Running   0          16s

srs-edge-deploy-58d9999b7c-z9gbm       1/1    Running   0          16s

 

kubectl exec srs-edge-deploy-58d9999b7c-pnr2f-- ./objs/srs -v

4.0.5

kubectl exec srs-edge-deploy-58d9999b7c-pnr2f-- yum install -y net-tools

kubectl exec srs-edge-deploy-58d9999b7c-pnr2f-- netstat -anp|grep 1935

tcp       0      0 0.0.0.0:1935            0.0.0.0:*               LISTEN      1/./objs/srs

 

kubectl exec srs-edge-deploy-58d9999b7c-z9gbm-- ./objs/srs -v

4.0.5

kubectl exec srs-edge-deploy-58d9999b7c-z9gbm-- yum install -y net-tools

kubectl exec srs-edge-deploy-58d9999b7c-z9gbm-- netstat -anp|grep 1935

tcp       0      0 0.0.0.0:1935            0.0.0.0:*               LISTEN      1/./objs/srs

tcp       0      0 172.20.0.62:46482       172.20.0.41:1935        ESTABLISHED 1/./objs/srs

tcp       0      0 172.20.0.62:1935        172.20.0.1:12066        ESTABLISHED 1/./objs/srs

Note:我们只推流一个流，会有两个连接，一个是客户端到Edge的连接，一个是Edge回源到Origin的连接。

下面我们会分几个部分，看发布中遇到的问题：

  1. SRS Cluster Rolling Update: 在平滑退出基础上的滚动更新，集群更新的基础机制。
  2. SRS Cluster Rolling Back: 在平滑退出基础上的发布回滚，发布遇到问题首先考虑回滚。
  3. SRS Cluster Canary Release: 金丝雀升级，可精确控制的流量控制和回滚。

SRS Cluster Rolling Update

K8S的更新是Rolling Update，也就是修改和更新Pods时，会分批次执行。比如，上面的例子中SRS边缘的版本是v4.0.5，若我们现在需要更新到4.0.6，镜像已经打好了ossrs/srs:v4.0.6，那么我们可以用命令更新：

代码语言：javascript
复制
kubectl set image deploy/srs-edge-deploy srs=ossrs/srs:v4.0.6 --record

可以看这两个Pod的日志，没有连接的Pod很快就退出了，而有连接的Pod经过了一定的时间才退出(若客户端连接主动断开会更快退出)：

代码语言：javascript
复制
kubectl exec srs-edge-deploy-58d9999b7c-pnr2f -- tail -f objs/srs.log

[2020-02-19 11:07:20.818][Trace][1][937]sig=3, user start gracefully quit

[2020-02-19 11:07:20.960][Trace][1][937]force gracefully quit, signo=15

[2020-02-19 11:07:21.772][Trace][1][932]cleanup for quitsignal fast=0, grace=1

[2020-02-19 11:07:21.772][Warn][1][932][11]main cycle terminated, system quit normally.

commandterminated with exit code137

 

kubectl exec srs-edge-deploy-58d9999b7c-z9gbm -- tail -f objs/srs.log

[2020-02-19 11:07:23.095][Trace][1][1009]sig=3, user start gracefully quit

[2020-02-19 11:07:23.316][Trace][1][1009]force gracefully quit, signo=15

[2020-02-19 11:07:23.784][Trace][1][1004]cleanup for quitsignal fast=0, grace=1

[2020-02-1911:07:23.784][Warn][1][1004][11] main cycle terminated, system quit normally.

[2020-02-19 11:07:24.784][Trace][1][1004] waitfor 1 conns to quit

[2020-02-19 11:07:26.968][Trace][1][1010] <- CPB time=120041497, okbps=0,0,0,ikbps=252,277,0, mr=0/350, p1stpt=20000, pnt=5000

[2020-02-19 11:08:26.791][Trace][1][1004] waitfor 1 conns to quit

[2020-02-19 11:08:52.602][Trace][1][1010]edge change from 200 to state 0 (init).

[2020-02-19 11:08:52.792][Trace][1][1004] waitfor 0 conns to quit

commandterminated with exit code137

 

kubectl get po |grep edge

NAME                                   READY   STATUS       RESTARTS   AGE

srs-edge-deploy-58d9999b7c-z9gbm       0/1    Terminating   0          3m52s

srs-edge-deploy-76fcbfb848-z5rmn       1/1    Running       0          104s

srs-edge-deploy-76fcbfb848-zt4wv       1/1    Running       0          106s

Remark:注意我们现在是有一个Pod有客户端在推流的。同样，我们指定了参数--record，会在后面回滚时用得着。

若RollingUpdate期间，我们需要暂停更新，可以用kubectl rollout暂停和恢复：

代码语言：javascript
复制
kubectl rollout pausedeploy/srs-edge-deploy

kubectl rollout resumedeploy/srs-edge-deploy

SRS Cluster Rolling Back

每次发布K8S都会记录一个Revision，若我们传递了--record参数(正如前面我们做的)，则会记录更详细的CHANGE-CAUSE，比如：

代码语言：javascript
复制
kubectl rollout history deploy/srs-edge-deploy

REVISION CHANGE-CAUSE

1        kubectl apply --record=true --filename=-

2        kubectl set imagedeploy/srs-edge-deploy srs=ossrs/srs:v4.0.6 --record=true

Note:默认ACK只保留10个Revision，可以通过设置revisionHistoryLimit增加可回滚的版本。

若出现异常，可以回滚到之前的版本，例如：

代码语言：javascript
复制
kubectl rollout undo deploy/srs-edge-deploy--to-revision=1

实际上回滚的过程也是Rolling Update的过程，只是不用指定修改什么配置，而是指定的哪个历史版本的配置。回滚后，新增了一个版本3，和1是一样的：

代码语言：javascript
复制
REVISION CHANGE-CAUSE

1        kubectl apply --record=true --filename=-

2        kubectl set image deploy/srs-edge-deploy srs=ossrs/srs:v4.0.6--record=true

3        kubectl apply --record=true --filename=-

Note:可以在阿里云控制台来选择回滚到哪个版本。

SRS Cluster Canary Release

Canary是金丝雀发布，指试探性的发布一些版本，没有问题就继续扩大比例。由于涉及到具体的发布比例，所以我们要在RollingUpdate基础上，能控制新老Pods的数目，这就需要使用SLB了，参考Kubernetes集群中使用阿里云 SLB 实现四层金丝雀发布。

Note:关于金丝雀发布，最初发布的版本就好比金丝雀，在以前煤矿中会把金丝雀先送下去，如果缺氧雀儿就挂了。

以上面的Edge集群为例，假设目前版本是v4.0.5，有三个Edge Pod在运行，通过SLB对外提供服务：

代码语言：javascript
复制
cat <<EOF | kubectl apply --record -f -

apiVersion: apps/v1

kind: Deployment

metadata:

 name: srs-edge-r5-deploy

 labels:

   run: srs-edge-r5

spec:

 replicas: 3

 selector:

   matchLabels:

     run: srs-edge-r5

 template:

   metadata:

     labels:

       run: srs-edge-r5

       app: srs-edge

   spec:

     volumes:

     - name: config-volume

       configMap:

         name: srs-edge-config

     containers:

     - name: srs

       image: ossrs/srs:v4.0.5

       imagePullPolicy: IfNotPresent

       ports:

       - containerPort: 1935

       - containerPort: 1985

       - containerPort: 8080

       volumeMounts:

       - name: config-volume

         mountPath: /usr/local/srs/conf

       lifecycle:

         preStop:

           exec:

              command:["/usr/local/srs/etc/init.d/srs", "grace"]

     terminationGracePeriodSeconds: 120

EOF

Remark:注意Pod的labels有两个，一个是run:srs-edge-r5是这个应用所使用的，另外一个是app: srs-edge是Service用的，新老的SRS都有这个标签这样Service就可以都转发了。

执行命令后，可以看到三个Pod在运行：

代码语言：javascript
复制
kubectl get po

NAME                                   READY   STATUS   RESTARTS   AGE

srs-edge-r5-deploy-6c84cdc77b-q2j97    1/1    Running   0          3m15s

srs-edge-r5-deploy-6c84cdc77b-s6pzh    1/1    Running   0          3m15s

srs-edge-r5-deploy-6c84cdc77b-wjdtl    1/1    Running   0          3m15s

如果我们要升级到v4.0.6，但是只想先升级一台，这台就是金丝雀了。我们可以创建另外一个Deployment，他们的name不一样，但使用同样的Service：

代码语言：javascript
复制
cat <<EOF | kubectl apply --record -f -

apiVersion: apps/v1

kind: Deployment

metadata:

 name: srs-edge-r6-deploy

 labels:

   run: srs-edge-r6

spec:

 replicas: 1

 selector:

   matchLabels:

     run: srs-edge-r6

 template:

   metadata:

     labels:

       run: srs-edge-r6

       app: srs-edge

   spec:

     volumes:

     - name: config-volume

       configMap:

         name: srs-edge-config

     containers:

     - name: srs

       image: ossrs/srs:v4.0.6

       imagePullPolicy: IfNotPresent

       ports:

       - containerPort: 1935

       - containerPort: 1985

       - containerPort: 8080

       volumeMounts:

       - name: config-volume

         mountPath: /usr/local/srs/conf

       lifecycle:

         preStop:

           exec:

              command:["/usr/local/srs/etc/init.d/srs", "grace"]

     terminationGracePeriodSeconds: 120

EOF

Remark:注意Pod的labels有两个，一个是run:srs-edge-r6是这个应用所使用的，另外一个是app: srs-edge是Service用的，和之前的老版本是一样的，这样Service就可以都转发了。

执行命令后，可以看到四个Pod在运行，三个老的，一个新的，这样就灰度了25%的流量到了新版本：

代码语言：javascript
复制
kubectl get po

NAME                                   READY   STATUS   RESTARTS   AGE

srs-edge-r5-deploy-6c84cdc77b-q2j97    1/1    Running   0          3m30s

srs-edge-r5-deploy-6c84cdc77b-s6pzh    1/1    Running   0          3m30s

srs-edge-r5-deploy-6c84cdc77b-wjdtl    1/1    Running   0          3m30s

srs-edge-r6-deploy-598f4698d-kkfnb     1/1    Running   0          6s

 

whiletrue;do ffmpeg -f flv -irtmp://r.ossrs.net/live/livestream 2>&1|grep server_version; sleep 1;done

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.6 # 这是新版本

   server_version  : 4.0.5

   server_version  : 4.0.5

   server_version  : 4.0.6 # 这是新版本

那么接下来，只需要调整新老的Deployment的Replicas，就能调整流量的比例了，比如我们增加新版本比重，只留一台老的：

代码语言：javascript
复制
kubectl scale --replicas=3deploy/srs-edge-r6-deploy

kubectl scale --replicas=1deploy/srs-edge-r5-deploy

可以看到经过Gracefully Quit平滑升级和退出，最终变成了我们声明的那个样子，对业务不影响：

代码语言：javascript
复制
kubectl get po

NAME                                   READY   STATUS   RESTARTS   AGE

nginx-origin-deploy-85f4695685-gn2df   3/3    Running   0          5h31m

srs-edge-r5-deploy-6c84cdc77b-s6pzh    1/1    Running   0          25m

srs-edge-r6-deploy-f6b59c6c6-ddgxw     1/1    Running   0          2m59s

srs-edge-r6-deploy-f6b59c6c6-gvnd8     1/1    Running   0          2m54s

srs-edge-r6-deploy-f6b59c6c6-j46b5     1/1    Running   0          2m58s

 

whiletrue;do ffmpeg -f flv -irtmp://r.ossrs.net/live/livestream 2>&1|grep server_version; sleep 1;done

    server_version : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.5 # 这是老版本

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.6

   server_version  : 4.0.5 # 这是老版本

   server_version  : 4.0.6

   server_version  : 4.0.6

最终我们只要把老的Replicas设为0，然后就可以删除老的应用srs-edge-r5-deploy了，系统全部变成新的版本了，如下图所示：

亲，爽吗？干净利落，谈笑间，强撸灰飞湮灭啦。

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

kubernetes
云直播
移动直播

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

kubernetes
云直播
移动直播
评论
登录后参与评论
0 条评论
热度
最新
登录 后参与评论
推荐阅读
LV.
文章
0
获赞
0
目录
  • SRS Cluster Rolling Update
  • SRS Cluster Rolling Back
  • SRS Cluster Canary Release
相关产品与服务
容器服务
腾讯云容器服务（Tencent Kubernetes Engine, TKE）基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务，覆盖 Serverless、边缘计算、分布式云等多种业务部署场景，业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者，主导开源项目Crane，全面助力客户实现资源优化、成本控制。
产品介绍产品文档
精选特惠 用云无忧
领券

腾讯云开发者

扫码关注腾讯云开发者

扫码关注腾讯云开发者

领取腾讯云代金券

热门产品

热门推荐

更多推荐

Copyright © 2013 - 2024 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有 

深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 深公网安备号 44030502008569

腾讯云计算（北京）有限责任公司 京ICP证150476号 |  京ICP备11018762号 | 京公网安备号11010802020287

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档

Copyright © 2013 - 2024 Tencent Cloud.

All Rights Reserved. 腾讯云 版权所有

登录 后参与评论