前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >分布式任务调度(03)--中心化设计

分布式任务调度(03)--中心化设计

作者头像
JavaEdge
发布2023-11-08 10:09:00
3800
发布2023-11-08 10:09:00
举报
文章被收录于专栏:JavaEdge

把调度和任务执行,隔离成两个部分:

  • 调度中心 只需要负责任务调度属性,触发调度命令
  • 执行器 执行器接收调度命令,去执行具体的业务逻辑

两者都可以进行横向扩容。

1 MQ

调度中心依赖Quartz集群模式,当任务调度时,发送消息到RabbitMQ 。业务应用收到任务消息后,消费任务信息。

充分利用MQ解耦:

  • 调度中心发任务
  • 应用方作为执行器,接收任务并执行
1.1 缺点

多引入中间件,强依赖MQ,可扩展性和功能,系统负载都和MQ有关。

2 XXL-JOB

分布式任务调度平台,设计目标:开发迅速、学习简单、轻量级、易扩展。

2.1 xxl-job 2.3.0架构图
2.2 网络通讯 server-worker 模型

调度中心和执行器 两个模块之间通讯是 server-worker 模式。调度中心本身就是一个SpringBoot 工程,启动会监听8080端口。

执行器启动后,会启动内置服务( EmbedServer )监听9994端口。这样双方都可以给对方发送命令。

调度中心咋知道执行器地址信息?

执行器会定时发送注册命令 ,这样调度中心就可获取在线执行器集。

通过执行器集,即可根据任务配置的路由策略选择节点执行任务。

路由策略
随机节点执行

选择集群中一个可用的执行节点执行调度任务。

适用场景:离线订单结算。

广播执行

在集群中所有的执行节点分发调度任务并执行。

适用场景:批量更新应用本地缓存。

分片执行

按用户自定义分片逻辑进行拆分,分发到集群中不同节点并行执行,提升资源利用效率

适用场景:海量日志统计。

调度器

调度器是任务调度系统里面非常核心的组件。XXL-JOB 的早期版本是依赖Quartz。

但在v2.1.0版本中完全去掉了Quartz的依赖,原来需要创建的 Quartz表也替换成了自研的表。

核心的调度类是:JobTriggerPoolHelper 。调用start方法后,会启动两个线程:scheduleThread 和 ringThread 。

首先 scheduleThread 会定时从数据库加载需要调度的任务,这里从本质上还是基于数据库行锁保证同时只有一个调度中心节点触发任务调度。

代码语言:javascript
复制
ExplainConnection conn = XxlJobAdminConfig.getAdminConfig()
                  .getDataSource().getConnection();
connAutoCommit = conn.getAutoCommit();
conn.setAutoCommit(false);
preparedStatement = conn.prepareStatement(
"select * from xxl_job_lock where lock_name = 'schedule_lock' for update");
preparedStatement.execute();
# 触发任务调度 (伪代码)
for (XxlJobInfo jobInfo: scheduleList) {
  // 省略代码
}
# 事务提交
conn.commit();

调度线程会根据任务的「下次触发时间」,采取不同的动作:

已过期的任务需要立刻执行的,直接放入线程池中触发执行 ,五秒内需要执行的任务放到 ringData 对象里。

ringThread 启动后,定时从 ringData 对象里获取需要执行的任务列表 ,放入到线程池中触发执行。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2023-11-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1 MQ
    • 1.1 缺点
    • 2 XXL-JOB
      • 2.1 xxl-job 2.3.0架构图
        • 2.2 网络通讯 server-worker 模型
          • 调度中心咋知道执行器地址信息?
            • 路由策略
              • 随机节点执行
              • 广播执行
            • 调度器
            相关产品与服务
            消息队列 TDMQ
            消息队列 TDMQ (Tencent Distributed Message Queue)是腾讯基于 Apache Pulsar 自研的一个云原生消息中间件系列,其中包含兼容Pulsar、RabbitMQ、RocketMQ 等协议的消息队列子产品,得益于其底层计算与存储分离的架构,TDMQ 具备良好的弹性伸缩以及故障恢复能力。
            领券
            问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档