分布式任务调度xxl-job
前言碎语
在单机应用时期，任务调度一般都是基于spring schedule和集成quartz来实现的，当系统发展成分布式服务，应用多实例的时候，任务就会出现多次调用的问题，很多时候我们任务并不需要跑多次。解决方案有很多，最最简单粗暴的就是可以设置应用开关。其次就是集中式话任务管理调度。当然，quartz也有集群模式，但是基于api控制并不直观。下面介绍一个集中式的分布式任务调度框架，可以很方便的解决分布式任务调度的问题
一，xxl-job简介 XXL-JOB是一个轻量级分布式任务调度框架，其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线，开箱即用。功能如下 1、简单：支持通过Web页面对任务进行CRUD操作，操作简单，一分钟上手； 2、动态：支持动态修改任务状态、暂停/恢复任务，以及终止运行中任务，即时生效； 3、调度中心HA（中心式）：调度采用中心式设计，“调度中心”基于集群Quartz实现，可保证调度中心HA； 4、执行器HA（分布式）：任务分布式执行，任务"执行器"支持集群部署，可保证任务执行HA； 5、任务Failover：执行器集群部署时，任务路由策略选择"故障转移"情况下调度失败时将会平滑切换执行器进行Failover； 6、一致性：“调度中心”通过DB锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行； 7、自定义任务参数：支持在线配置调度任务入参，即时生效； 8、调度线程池：调度系统多线程触发调度运行，确保调度精确执行，不被堵塞； 9、弹性扩容缩容：一旦有新执行器机器上线或者下线，下次调度时将会重新分配任务； 10、邮件报警：任务失败时支持邮件报警，支持配置多邮件地址群发报警邮件； 11、状态监控：支持实时监控任务进度； 12、Rolling执行日志：支持在线查看调度结果，并且支持以Rolling方式实时查看执行器输出的完整的执行日志； 13、GLUE：提供Web IDE，支持在线开发任务逻辑代码，动态发布，实时编译生效，省略部署上线的过程。支持30个版本的历史版本回溯。 14、数据加密：调度中心和执行器之间的通讯进行数据加密，提升调度信息安全性； 15、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔； 16、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用; 17、任务注册: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时，也支持手动录入执行器地址； 18、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等； 19、运行报表：支持实时查看运行数据，如任务数量、调度次数、执行器数量等；以及调度报表，如调度日期分布图，调度成功分布图等； 20、脚本任务：支持以GLUE模式开发和运行脚本任务，包括Shell、Python等类型脚本; 21、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度； 22、失败处理策略；调度失败时的处理策略，策略包括：失败告警（默认）、失败重试； 23、分片广播任务：执行器集群部署时，任务路由策略选择"分片广播"情况下，一次任务调度将会广播触发集群中所有执行器执行一次任务，可根据分片参数开发分片任务； 24、动态分片：分片广播任务以执行器为维度进行分片，支持动态扩容执行器集群从而动态增加分片数量，协同进行业务处理；在进行大数据量业务操作时可显著提升任务处理能力和速度。 25、事件触发：除了"Cron方式"和"任务依赖方式"触发任务执行之外，支持基于事件的触发任务方式。调度中心提供触发任务单次执行的API服务，可根据业务事件灵活触发。 二、快速入门
项目地址为：https://github.com/xuxueli/xxl-job
2.1 初始化“调度数据库” 请下载项目源码并解压，获取 "调度数据库初始化SQL脚本" 并执行即可，正常情况下应该生成16张表。 "调度数据库初始化SQL脚本" 位置为: /xxl-job/doc/db/tables_xxl_job.sql 调度中心支持集群部署，集群情况下各节点务必连接同一个mysql实例; 如果mysql做主从,调度中心集群节点务必强制走主库; 2.2 编译源码 解压源码,按照maven格式将源码导入IDE, 使用maven进行编译即可，源码结构如下： xxl-job-admin：调度中心 xxl-job-core：公共依赖 xxl-job-executor：执行器Sample示例（选择合适的版本执行器，可直接使用，也可以参考其并将现有项目改造成执行器） ：xxl-job-executor-sample-spring：Spring版本，通过Spring容器管理执行器，比较通用，推荐这种方式； ：xxl-job-executor-sample-springboot：Springboot版本，通过Springboot管理执行器； ：xxl-job-executor-sample-jfinal：JFinal版本，通过JFinal管理执行器； 2.3 配置部署“调度中心” 调度中心项目：xxl-job-admin 作用：统一管理任务调度平台上调度任务，负责触发调度执行，并且提供任务管理平台。 步骤一：调度中心配置： 调度中心配置文件地址： /xxl-job/xxl-job-admin/src/main/resources/xxl-job-admin.properties 调度中心配置内容说明： ### 调度中心JDBC链接：链接地址请保持和 2.1章节 所创建的调度数据库的地址一致 xxl.job.db.driverClass=com.mysql.jdbc.Driver xxl.job.db.url=jdbc:mysql://localhost:3306/xxl-job?useUnicode=true&characterEncoding=UTF-8 xxl.job.db.user=root xxl.job.db.password=root_pwd ### 报警邮箱 xxl.job.mail.host=smtp.163.com xxl.job.mail.port=25 xxl.job.mail.username=ovono802302@163.com xxl.job.mail.password=asdfzxcv xxl.job.mail.sendFrom=ovono802302@163.com xxl.job.mail.sendNick=《任务调度平台XXL-JOB》 ### 登录账号 xxl.job.login.username=admin xxl.job.login.password=123456 ### 调度中心通讯TOKEN，非空时启用 xxl.job.accessToken= 步骤二：部署项目： 如果已经正确进行上述配置，可将项目编译打war包并部署到tomcat中。 调度中心访问地址：http://localhost:8080/xxl-job-admin (该地址执行器将会使用到，作为回调地址)，登录后运行界面如下图所示 至此“调度中心”项目已经部署成功。 步骤三：调度中心集群（可选）： 调度中心支持集群部署，提升调度系统可用性。 集群部署唯一要求为：保证每个集群节点配置（db和登陆账号等）保持一致。调度中心通过db配置区分不同集群。 调度中心在集群部署时可通过nginx负载均衡，此时可以为集群分配一个域名。该域名一方面可以用于访问，另一方面也可以用于配置执行器回调地址。 2.4 配置部署“执行器项目” “执行器”项目：xxl-job-executor-sample-spring (如新建执行器项目，可参考该Sample示例执行器项目的配置步骤；) 作用：负责接收“调度中心”的调度并执行；可直接部署执行器，也可以将执行器集成到现有业务项目中。 步骤一：maven依赖 确认pom文件中引入了 "xxl-job-core" 的maven依赖； 步骤二：执行器配置 执行器配置，配置文件地址： /xxl-job/xxl-job-executor-samples/xxl-job-executor-sample-spring/src/main/resources/xxl-job-executor.properties 执行器配置，配置内容说明： ### xxl-job admin address list：调度中心部署跟地址：如调度中心集群部署存在多个地址则用逗号分隔。执行器将会使用该地址进行"执行器心跳注册"和"任务结果回调"。 xxl.job.admin.addresses=http://127.0.0.1:8080/xxl-job-admin ### xxl-job executor address：执行器"AppName"和地址信息配置：AppName执行器心跳注册分组依据；地址信息用于"调度中心请求并触发任务"和"执行器注册"。执行器默认端口为9999，执行器IP默认为空表示自动获取IP，多网卡时可手动设置指定IP，手动设置IP时将会绑定Host。单机部署多个执行器时，注意要配置不同执行器端口； xxl.job.executor.appname=xxl-job-executor-sample xxl.job.executor.ip= xxl.job.executor.port=9999 ### xxl-job log path：执行器运行日志文件存储的磁盘位置，需要对该路径拥有读写权限 xxl.job.executor.logpath=/data/applogs/xxl-job/jobhandler/ ### xxl-job, access token：执行器通讯TOKEN，非空时启用 xxl.job.accessToken= 步骤三：执行器组件配置 执行器组件，配置文件地址： /xxl-job/xxl-job-executor-samples/xxl-job-executor-sample-spring/src/main/resources/applicationcontext-xxl-job.xml 执行器组件，配置内容说明： 步骤四：部署执行器项目： 如果已经正确进行上述配置，可将执行器项目编译打部署，系统提供三个执行器Sample示例项目，选择其中一个即可，各自的部署方式如下。 xxl-job-executor-sample-spring：项目编译打包成WAR包，并部署到tomcat中。 xxl-job-executor-sample-springboot：项目编译打包成springboot类型的可执行JAR包，命令启动即可； 至此“执行器”项目已经部署结束。 步骤五：执行器集群（可选）： 执行器支持集群部署，提升调度系统可用性，同时提升任务处理能力。 集群部署唯一要求为：保证集群中每个执行器的配置项 "xxl.job.admin.addresses/调度中心地址" 保持一致，执行器根据该配置进行执行器自动注册等操作。 2.5 开发第一个任务“Hello World” 本示例以新建一个 “GLUE模式(Java)” 运行模式的任务为例。更多有关任务的详细配置，请查看“章节三：任务详解”。 （ “GLUE模式(Java)”的执行代码托管到调度中心在线维护，相比“Bean模式任务”需要在执行器项目开发部署上线，更加简便轻量） 前提：请确认“调度中心”和“执行器”项目已经成功部署并启动； 步骤一：新建任务： 登录调度中心，点击下图所示“新建任务”按钮，新建示例任务。然后，参考下面截图中任务的参数配置，点击保存。
步骤二：“GLUE模式(Java)” 任务开发： 请点击任务右侧 “GLUE” 按钮，进入 “GLUE编辑器开发界面” ，见下图。“GLUE模式(Java)” 运行模式的任务默认已经初始化了示例任务代码，即打印Hello World。 （ “GLUE模式(Java)” 运行模式的任务实际上是一段继承自IJobHandler的Java类代码，它在执行器项目中运行，可使用@Resource/@Autowire注入执行器里中的其他服务）
步骤三：触发执行： 请点击任务右侧 “执行” 按钮，可手动触发一次任务执行（通常情况下，通过配置Cron表达式进行任务调度出发）。 步骤四：查看日志： 请点击任务右侧 “日志” 按钮，可前往任务日志界面查看任务日志。 在任务日志界面中，可查看该任务的历史调度记录以及每一次调度的任务调度信息、执行参数和执行信息。运行中的任务点击右侧的“执行日志”按钮，可进入日志控制台查看实时执行日志。
以上内容节选项目手册：http://www.xuxueli.com/xxl-job/