腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9320)
视频
沙龙
2
回答
在完成前
一次
气流
运行
的2
分钟
后
连续
运行
DAG
。
、
、
、
我想知道我们是否可以安排一个
DAG
在完成2
分钟
后
连续
运行
相同的
DAG
在
气流
中。我的
DAG
应该以这样的方式
运行
:每次它完成它的
运行
时,它必须等待2
分钟
,然后再次开始
运行
。我不想安排我的
DAG
每2
分钟
运行
一次
,相反,它应该在完成同一
DAG
的2
分钟
后继续
运行
。
浏览 0
提问于2021-05-08
得票数 0
回答已采纳
1
回答
气流
DAG
触发
、
、
我们最近尝试采用
气流
作为我们的“数据工作流”引擎,虽然我已经完成了大部分工作,但我仍然处在调度器如何计算何时触发
DAG
的灰色区域。('test_
dag
1', schedule_interval="5 * * * *", default_args=
dag
_options) as
dag
: task1此外,在
气流
中,据我所知,当进程未暂停(或添加dags_are_paused_at_creation = False)时,
浏览 3
提问于2017-07-26
得票数 0
2
回答
如
何在
x
分钟
后
运行
一次
气流
DAG
?
、
、
我只需要
运行
一次
DAG
,但要在10
分钟
前等待: with models.
DAG
( schedule_interval = '@once',start_date= datetime().now() + timedelta(minutes=10) , default_args=default_
dag
_args) as
浏览 21
提问于2019-09-11
得票数 0
1
回答
如何检查
气流
调度器的健康和状态?
、
我已经用postgreSSQL数据库配置了apache-airflow,在我的
气流
中我
运行
了1
dag
,现在它成功地
运行
了,但是如果调度程序有任何问题,那么我是如何获得它的,以及检查它的方法是什么,请给出一些想法和解决方案
浏览 4
提问于2020-08-08
得票数 3
1
回答
气流
数据文件没有
运行
。
、
我对
气流
很陌生。 'owner': 'crv',}
dag
_id='score', schedule_interval
浏览 0
提问于2021-01-29
得票数 1
回答已采纳
2
回答
如何防止
DAG
的追赶?
我有以下
DAG
: 'owner': 'Airflow', 'start_date': datetime'retry_delay': timedelta(minutes=2), 'depends_on_past' : False, with
DAG
(
浏览 3
提问于2018-07-22
得票数 1
1
回答
运行
多个作业的通用airflow
dag
文件
、
有些每
分钟
运行
一次
,每天
运行
一次
,还有一些使用cron每小时
运行
一次
。现在我需要在
气流
中迁移。为此,根据
气流
的概念,我需要再创建20个文件(
DAG
文件)。airflow是否提供了创建通用
dag
模板的方法,该模板可以在给定的计划时间内使用不同的
dag
id执行所有的bash脚本? 我得到了一个参考- ,但我不确定,这是正确的方式还是错误的?
浏览 0
提问于2020-01-07
得票数 1
1
回答
安排
DAG
在
气流
中每45
分钟
运行
一次
、
我有一个
DAG
,它需要每45
分钟
运行
一次
(00:00,00:45,1:30,2:15等等)我如
何在
气流
中做到这一点。这个简单的cron条目如下所示:30 1-23/3 ***如何用上面的cron条目来安排
DAG
。 谢谢
浏览 3
提问于2020-10-19
得票数 0
回答已采纳
2
回答
每隔
X
分钟
运行
一次
气流
DAG
、
、
我正在使用EC2实例上的
气流
,使用LocalScheduler选项。我已经调用了airflow scheduler和airflow webserver,一切似乎都很好。也就是说,在将cron字符串提供给schedule_interval“每10
分钟
执行
一次
”之后,作业默认每24小时继续执行
一次
。下面是代码的标题:import osfrom airflow.o
浏览 10
提问于2017-09-12
得票数 10
回答已采纳
2
回答
如果空
气流
量
DAG
改变了会发生什么?
气流
监测
DAG
位置为新的
DAG
,并捡起他们(每
分钟
左右),而不需要重新启动。0100的
运行
将生成多少个文件?
浏览 2
提问于2019-10-30
得票数 0
回答已采纳
1
回答
如何仅当AWS雅典娜表中的新分区/数据在python中使用
DAG
时才触发
气流
任务?
、
、
、
、
': False, 'retries': 1,} Athena_Trigger_for_Task1sql="/sql
浏览 1
提问于2020-04-16
得票数 5
回答已采纳
1
回答
Apache
气流
维护表为
dag
_ids上
一次
运行
日期?
、
Apache Airflow有MYSQL表,
如
dag
、
dag
_run、作业 维护
dag
元数据字段,包括
dag
运行
时。但是,如果这些表的频率和报告查询负载增加,则让外部查询作业查询这些生产
气流
表以检查上次
运行
完成可能不是一个好的设计实践。另一个可能的选择是在airflow dags中添加python代码来维护另一个单独的数据库表,这将保存每个
运行
的
dag
任务的
dag
id及其
运行
时元
浏览 0
提问于2018-12-10
得票数 0
回答已采纳
2
回答
气流
S3KeySensor -如何使它继续
运行
、
、
在的帮助下,我刚刚编写了一个程序(
如
文章中所示),当一个文件放置在S3桶中时,会触发
运行
中的一个
DAG
中的任务,然后使用BashOperator执行一些工作。一旦完成,
DAG
就不再处于
运行
状态,而是进入成功状态,如果我想让它获取另一个文件,我需要清除所有的“过去”、“未来”、“上游”、“下游”活动。我想要使这个程序,使它始终
运行
和任何时候,一个新的文件被放置在S3桶中,程序开始任务。 我是否可以继续使用S3KeySenor来完成这个任务,或者是否需要找到一种方法来设置一个来
运行<
浏览 1
提问于2018-05-29
得票数 25
回答已采纳
1
回答
如
何在
Apache
气流
中投票和调度
DAG
?
、
、
如何安排
气流
作业在1-3之间每30
分钟
进行
一次
投票和
运行
?cron语法2在
气流
中工作吗?或者需要任何额外的代码来轮询
DAG
,从1到3每30
分钟
进行
一次
?
浏览 0
提问于2021-08-10
得票数 0
1
回答
气流
http传感器和只调用预定
DAG
上的端点之间有什么区别?
、
我有一个
气流
DAG
,每次从REST端点得到特定响应时都需要触发。我需要在一个特定的时间间隔(几
分钟
)检查这个端点。我一直在研究如何实现这一点,并发现了两种不同的方法: 只需安排我的
DAG
每2
分钟
运行
一次
,并在
DAG
的第一个任务中检查http端点。我的猜测是: 1)当传感器每隔
X
秒调用端点时,
DAG
总是在
运行
;2)如果来自API的响应为
浏览 3
提问于2021-03-13
得票数 0
回答已采纳
1
回答
气流
连接和短命密码
、
在实现
气流
时,我们遇到的问题之一是,我们的大部分连接似乎都是一个挑战。 在通过SSH解决了一些连接之后,我现在面临的是短暂的密码问题:我们的一些连接需要密码才能被请求到另一个服务。
浏览 1
提问于2018-05-08
得票数 0
回答已采纳
4
回答
气流
中的Python脚本调度
、
、
、
、
大家好,注意:请不要用如
何在
气流
中
运行
bash脚本文件来标记这个副本,因为我
浏览 4
提问于2017-01-18
得票数 31
1
回答
Airflow DAGS未按计划执行
、
、
我的一些
气流
dags没有按照计划执行:如你所见,这里有两个dags,应该在02-11上的5:00和8:00UTC
运行
,但没有
运行
。这是为0 5,17 *计划的
dag
定义的相关信息 'owner' : 'airflow', 'retry_delay' :timedelta(minutes=5)
dag
=
DAG</
浏览 0
提问于2021-02-11
得票数 1
2
回答
气流
中DAGs之间的信息共享
Dag
1 ->具有任务顺序的文件
Dag
2 ->
运行
任务如何使用
气流
在两个
DAG
之间传递这些数据。解决方案与问题 使用
气流
变量的问题在于,我无法在
运行
时设置它们。使用Xcoms的问题是,它们只能在任务阶段
运行
,并且一旦在
Dag
2中创建了任务,它们就设置好了,并且不能更改正确吗?将文件
浏览 1
提问于2021-10-21
得票数 0
1
回答
手动触发
气流
DAG
是否干扰预定的
气流
触发?
、
、
我想用
气流
DAG
来处理一些工作。我已经安排了每25
分钟
表达
一次
,比如*/25 * * * *。例如,它似乎
运行
在6:25,6:50和7,但我想在7:15
运行
,而不是在7:15
运行
。作为另一种选择,我想知道,如果我手动触发
DAG
,下一个触发器是否会受到此影响,就像下一个触发器会被延迟一样,还是会按自己的计划继续进行。 我使用的
气流
版本是1.10.4。
浏览 1
提问于2019-10-20
得票数 4
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
解释定向Acylic图DAG,真正的区块链3.0
制冷失效对机房的影响
你需要解读的新一代共识机制!
调度工具Airflow
每天一个知识点:DAG技术浅探
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券