CapitalOne - Artifactory高可用集群的自动化部署实践

原创

JFrog杰蛙科技

修改于 2020-02-19 09:59:16

9220

修改于 2020-02-19 09:59:16

背景

本文为大家介绍Capital One如何利用自动化流水线实现Artifactory HA集群进行自动化运维。Capital One银行是美国最大的数字化银行之一，在Capital One的devops体系中应用了JFrog Artifactory HA集群进行软件制品管理。由于Capital One规模庞大并且为满足业务连续性要求，其部署的Artifactory HA拥有primary和DR（灾备）两套集群的架构。在运维Artifactory HA集群维护中通过建设和运行自动化的流水线，在不影响用户使用和业务连续性的前提下，自动地完成了版本升级、配置更新、功能更新，安全检测等工作，并且在检测到问题时，实现自动化的回滚。

流水线总体介绍：

通过Jenkins与Github集成驱动流水线。每个PULL请求触发一个小规模测试并提供快速反馈。每个Merge会触发研发环境HA集群范围的部署，并进行相关测试。标签（Tag）被用来标记代码更新的验证阶段和对应的环境。

使用Terraform创建基础设施，实现蓝/绿的发布。并通过Chef Cookbook完成整个集群内所有角色服务器配置

流水线构成

静态分析流水线

通过对代码静态分析对代码结构进行快速反馈，确保其符合行业标准。同时使用一系列的Linters进行不同类型的代码分析。

安全扫描流水线

Capital One引入DevSecOps概念，能够在产品上线之前进行安全扫描和漏洞检测。安全检查主要使用了静态安全检测通过代码扫描来完成漏洞发现。除了静态检测还通过对比分析，使用Jfrog Xray对依赖进行安全扫描，提高第三方依赖的安全性，并提供修复建议。

单元测试流水线

单元/集成测试，用于验证代码的更新不会破坏预期的功能。主要应用于用户自定user plugin的测试。流水线通过容器方式拉起Artifactory安装并测试这些custom plugin，确保其正确工作，避免在生产环境中进行测试。

构建阶段流水线

本阶段的所有文件都需要部署在一个高可靠的位置，以便在系统运行时进行自动扩展不需要去依赖其他任何系统包括Artifactory。Capital One选择了S3进行外部存储。所有制品与chef cookbook都从Artifactory拉取并存到s3中。

用于部署的流水线

部署流水线需要确保新集群部署不会影响到现有Artifactory提供正常服务。

1 流量切换到DR区域

2 缩容现有集群，减少节点数量并释放license给新的集群使用，Aritfactory集群采用多主架构在所容时不会影响剩余节点的正常工作

3 新部署集群复用原油的数据库与s3存储内容做到无痕切换

4 当新集群完成部署后，业务流量进行回切

5 主集群完成升级后，DR集群进行升级

由于Artifactory使用数据同步机制，因此新节点加入集群的过程对用户透明。

配置测试流水线

在工作节点上线前需要对其配置进行检测，Jenkins通过ssh方式驱动新节点进行测试，确保Artifactory，Nginx，Datadog，Splunk这些工作节点运行正常。

确保所有的工作节点配置文件的内容、位置、权限都部署正确，以及所有的网络端口都正常开通。

系列测试流水线

系列测试是确保Artifactory的各个repositories运行正常。通过容器拉取所有种类的repositories中的包进行测试，同时检测所有virtual repositories，并且需要测新的系统配置是否会影响制品依赖的解析。

性能测试流水线

确保发布产品不会存在性能问题。Capital One使用Jmeter工具模拟生产级流量并分析，15分钟的负载测试作为流水线的一部分，使用1小时负载测试主线升级以及重大变更场景。

由于Artifactory支持多种类型的包因此在流量模型是一个挑战，Capital One通过分析日志获取常用API，并在流量峰值时期测试API调用速度。

回滚策略流水线

Capital One设计了两个回滚策略：

1 In-region回滚。当部署后的测试失败时，马上启动自动化回滚，删除新的集群，并恢复旧的集群。

2 DR容错回滚。当主集群升级成功后，或监测几天用户流量，没有问题的时候再更新容灾集群。如果在这几天中发现问题，就会启动容错回滚：用户流量切换到DR集群，主集群回滚到之前版本，数据库回滚到之前的快照，再通过Artifactory Replication同步数据，最后再把流量切换回回滚后的工作集群。目前

由于数据库的回滚可能会有DataBase schema的变化，Capital One目前在数据库回滚操作上依然使用手动方式完成。