腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(8279)
视频
沙龙
1
回答
Airflow
执行日期令人困惑
、
文件中提到,当调度人员在2016-01-02上午6点选择
DAG
时,将创建
一次
DAG
运行
,execution_date为2016-01-01,下
一次
运行
将在2016-01-03凌晨创建,执行日期为2016调度间隔是按小时提供的,执行日期是指
DAG
在结束时
运行
的时间段的开始,那么为什么不是在2016-01-02早上6点调度器挑选
DAG
的前一个小时呢?=
DAG
('tutorial', catchup=
浏览 77
提问于2021-04-25
得票数 1
2
回答
如何
运行
一个简单的气流
DAG
、
我想在指定的日期
运行
一个简单的
DAG
。我正在努力改变开始日期、执行日期和回填之间的差异。
运行
DAG
的命令是什么?以下是我尝试过的:当我第
一次
运行
该命令时,任务正确地执行,但是当我再次尝试时,它没有工作。下面是我
运行
的另一个命令:我
浏览 7
提问于2017-01-23
得票数 20
回答已采纳
2
回答
将
airflow
中的
DAG
安排为每5分钟
运行
一次
我在
airflow
中有一个
DAG
,目前它
每小时
运行
一次
(@hourly)。可以让它每5分钟
运行
一次
吗?
浏览 0
提问于2017-08-15
得票数 17
1
回答
我的气流
DAG
和操作员没有按照我的预期进行操作
我不明白触发一个
运行
并立即
运行
和保持它
运行
并让它完成它的工作之间的区别。代码没问题。
dag
=
DAG
('hello_world', description='Simple tutorial
DAG
', schedule_interval='@hourly',catchup=Fa
浏览 32
提问于2018-06-01
得票数 1
回答已采纳
2
回答
每小时
在气流中
运行
dag
、
我的
Dag
'owner': '
airflow
', 'depends_on_past': False,}
dag
=
DAG
('Hourly_test_2', schedule_interval='0 *
浏览 1
提问于2020-01-10
得票数 0
1
回答
达格没有
每小时
运行
一次
、
我是新来的气流,并试图
运行
一个简单的
DAG
每小时
的费率。schedule_interval='@hourly'不起作用。我的期望是它将触发
DAG
从我的start_date (2022年10月7日凌晨)到现在
每小时
,因为追赶是默认设置为True。但是,它只触发
一次
z
DAG
,然后停止。气流版本为2.4.1from
airflow
.operators.
浏览 3
提问于2022-10-08
得票数 1
1
回答
清除并回填
每小时
运行
的
DAG
的特定实例?
我们有一个按小时
运行
的气流数据集,任务更新和覆盖BigQuery中的日期分区表。在对这些表的查询和/或模式进行调整之后,我们想要回填几天的现有分区,但是回填所有
运行
都是巨大的浪费,因为
每小时
运行
一次
只会覆盖相同的分区24次,然后再转到第二天。我们可以使用
airflow
list_
dag
_runs列出所有
运行
并筛选出每天的最后一个
运行
,但是是否有一种方法可以每天只回填/清除这些最后的
运行
,而不需要每
浏览 3
提问于2020-06-10
得票数 0
回答已采纳
3
回答
设定气流计划间隔
、
我在气流中创建了任务,我计划
每小时
运行
一次
,start_date设置为2016-11-16 'owner': '
airflow
', # 'pool': 'backfill', # 'end_date': datetime(2016, 1,
浏览 6
提问于2016-11-16
得票数 1
回答已采纳
2
回答
execution_date的DagRun集是怎样的?
如果
DAG
具有一个在特定日期
运行
的start_date,那么如何定义相应的DAGRun的execution_date?/
airflow
/blob/master/
airflow
/example_dags/tutorial.pyfrom
airflow
import
DAG
'ret
浏览 2
提问于2018-03-10
得票数 2
回答已采纳
1
回答
运行
多个作业的通用
airflow
dag
文件
、
有些每分钟
运行
一次
,每天
运行
一次
,还有一些使用cron
每小时
运行
一次
。现在我需要在气流中迁移。为此,根据气流的概念,我需要再创建20个文件(
DAG
文件)。
airflow
是否提供了创建通用
dag
模板的方法,该模板可以在给定的计划时间内使用不同的
dag
id执行所有的bash脚本? 我得到了一个参考- ,但我不确定,这是正确的方式还是错误的?
浏览 0
提问于2020-01-07
得票数 1
1
回答
Airflow
不会在午夜执行
DAG
、
我用下面的配置做了一个
DAG
: default_args = { 'depends_on_past': False, 'email': ['francisco.salazar.12@sansano.usm.cl']=
DAG<
浏览 10
提问于2020-03-25
得票数 1
回答已采纳
2
回答
如果上一个实例
dag
运行
处于
运行
状态,则跳过当前
dag
运行
。
、
我有一个达格,
每小时
安排
一次
。假设凌晨1:00,凌晨2:00,凌晨3:00假设02:00被选中,但是如果01:00am
dag
运行
仍在进行中,则需要取消02:00am实例。追溯(最近
一次
调用):文件"/
airflow
/bd/pyenv
浏览 15
提问于2020-11-17
得票数 0
回答已采纳
2
回答
在Apache气流中实现交叉
DAG
依赖关系
、
我正在尝试实现两个
DAG
之间的
DAG
依赖,比如A和B。
DAG
A
每小时
运行
一次
,
DAG
B每15分钟
运行
一次
。 如果
DAG
浏览 4
提问于2021-05-29
得票数 4
2
回答
运行
不同频率的dags |气流
我一直在评估
airflow
.I的使用案例,其中我有一个
每小时
运行
一次
的工作流,以获取
每小时
的数据聚合。另一个每天
运行
,以获取相同的每日聚合。是否可以创建一个组合工作流,其中只有在过去一天内所有
每小时
聚合都成功的情况下,才会
运行
每日聚合?我已经看到您可以创建子dags,但是这两个dags可以以不同的频率
运行
吗?如果是,是如何实现的?
浏览 0
提问于2016-06-30
得票数 7
1
回答
Airflow
:将执行日期范围任务列表标记为成功
、
我有一个
DAG
,它已经
运行
了超过十年的任务执行日期。现在我需要在开始的时候再加上一年。我用谷歌搜索了一下,建议在新的
dag
_id下做这件事。因为旧
DAG
已经在指定的执行日期范围内
运行
,所以我想将新
DAG
中的那些
DAG
标记为成功。我如何才能以一种方便的方式对其进行归档? 提前谢谢。这周有个好的开始。
浏览 2
提问于2020-12-07
得票数 0
1
回答
气流调度问题
上
一次
我忘记包括code样本时重新发布。 我能够获得一个基本的
DAG
运行
(我可以在GUI中看到
DAG
及其
运行
对数据库的影响),但似乎
DAG
不尊重schedule_interval参数。我试图让
DAG
每小时
运行
一次
,但无论我做了什么更改,
DAG
都按每天的计划<e
浏览 0
提问于2018-07-27
得票数 1
回答已采纳
1
回答
如果先前的触发器仍在
运行
,如何使气流达格跳过一个小时
、
气流
DAG
发展的一个简单问题 'owner': '
Airflow
', 'email': ['email1email_on_failure': True, 'schedule_interval': '0 * * * *',上
浏览 2
提问于2022-06-11
得票数 1
1
回答
创建一个带气流的
dag
、
、
我想创建一个
dag
,它
每小时
运行
一次
,我们有一个导入和清理文件的cleanData进程,然后是一个storedata进程,它每天在上午8点和下午6点向我们发送两次报告如何在
dag
中包含时间?import pandas as pdfrom datetime import datetime from
airflow
.operators.python_operatori
浏览 10
提问于2021-07-16
得票数 1
2
回答
如何在
Airflow
中创建
DAG
,显示Docker容器的使用情况?
、
、
我目前使用的是
Airflow
(版本: 1.10.10), 我对创建
DAG
很感兴趣,它将
每小时
运行
一次
, 这将带来Docker容器的使用信息(磁盘使用), (可通过docker CLI命令( df -我在下面添加了我的示例
DAG
脚本, ? from
airflow
import
DAG
from dateti
浏览 40
提问于2021-10-31
得票数 0
回答已采纳
1
回答
如果之前的任务执行时间较长,则会跳过气流计划
、
我在我的气流
DAG
中有两个任务。一个触发API调用( Http操作符),另一个使用另一个api ( Http传感器)不断检查其状态。此
DAG
计划
每小时
& 10分钟
运行
一次
。但有时
一次
执行可能需要很长时间才能完成,例如20小时。在这种情况下,前一个任务正在
运行
时的所有调度都不会执行。例如,如果我在01:10完成这项工作,需要10个小时.本应
运行
的调度02:10、03:10、04:10、... 11:10等被跳过,只执行12:10的调度。 我正在使
浏览 11
提问于2019-08-09
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
大规模运行Apache Airflow的经验和教训
调度工具Airflow
迁移工具 Air2phin 宣布开源,2 步迁移 Airflow 至 Dolphinscheduler
任务流管理工具-Airflow配置和使用
airflow 实战系列:基于 python 的调度和监控工作流的平台
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券