腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(5629)
视频
沙龙
1
回答
用于requirements.txt更新
的
mwaa
重新启动
功能
、
、
每次我们
的
团队为我们
的
MWAA环境放置另一个requirements.txt文件时,都需要
重新启动
。所以,我
的
问题是:在MWAA
的
方式下,在这个过程中究竟什么是“
重新启动
”,为什么要应用到整个所谓
的
MWAA环境中?
浏览 10
提问于2022-09-07
得票数 0
回答已采纳
1
回答
清除
失败
的
Airflow
DAG
,
但不
重新启动
、
我正在运行一个自定义
的
回填脚本,它串行地回填
DAG
。(如果并发运行回填,则会遇到死锁问题或可序列化隔离问题。)作为该过程
的
一部分,我有时会将
失败
的
DAG
与不存在
的
日期混合在一起。要回填
失败
的
日期,我需要首先
清除
它。问题出现在
清除
的
DAG
自动
重新启动
并与在回填中运行
的
第一个日期冲突。
airflow
clear <
浏览 18
提问于2020-07-16
得票数 0
2
回答
如何在Apache
Airflow
中重新运行所有
失败
的
任务?
我有一个包含数万个任务
的
Apache
Airflow
DAG
,在运行之后,我发现其中有几个任务
失败
了。 我修复了导致某些任务
失败
的
错误,我只想重新运行
失败
的
任务。这篇SO帖子建议使用图形用户界面“
清除
”
失败
的
任务: How to restart a failed task on
Airflow
如果您有少量
失败
的
任务,则此方法有效。我想知道我们是
浏览 50
提问于2018-12-27
得票数 11
回答已采纳
2
回答
气流调度器意外关闭
、
、
、
、
我在一个带有Ubuntu
的
EC2实例上运行
airflow
v1.8.0。我运行
的
各种
DAG
与几个不同
的
SQL表连接。我有一个反复出现
的
问题,由
airflow
scheduler -D引发
的
调度程序对我关闭了。当我检查
airflow
-scheduler.err时,没有错误。为了进行调试,我进入/
airflow
目录,使用rm
airflow
-scheduler*
清除
所有与调度
浏览 14
提问于2018-01-09
得票数 2
回答已采纳
2
回答
我们如何进口气流中
的
气垫?
、
、
我是气流
的
新手,我试图导入我自己
的
定制jar作为
DAG
,它是用Talend 生成
的
,当我通过终端导入
DAG
时,没有显示错误,也没有将我
的
DAG
添加到气流UI中
的
DAG
列表中。以下是我
的
.py文件代码:from
airflow
.operators.bash_operator import BashOperator f
浏览 0
提问于2019-04-29
得票数 0
回答已采纳
1
回答
在Apache
Airflow
中,有没有办法捕获bash命令
的
错误?
、
在Apache
Airflow
中,是否可以捕获
失败
的
bash命令生成
的
原始错误消息,而不是Apache
Airflow
生成
的
跟踪错误,它会告诉您线路
失败
,
但不
能确切地说明
失败
的
原因?
Dag
中
的
示例行: task_id="task1", bash_command='
浏览 2
提问于2018-10-12
得票数 2
1
回答
Airflow
:重新运行
DAG
无法从上次运行中加载XCOM
有没有办法在
DAG
步骤
的
重新运行期间(在
清除
状态之后)保持XCOM值? 下面是我试图完成
的
简化版本,即当
DAG
步骤状态被
清除
并重新运行该步骤时,我希望能够加载在上一次运行中推送
的
XCOM值。我查看了pull_xcom()方法
的
源代码,
但不
知道它在哪里被过滤掉了。 我试图实现
的
功能是在
DAG
的
失败
运行之间保持一定数量
的
状态。在本例中,这意味着每次<
浏览 14
提问于2020-05-03
得票数 1
回答已采纳
3
回答
如何
重新启动
一个
dag
,当它在气流1.8上
失败
时?
、
'retries': 1, ...我可以得到不能多次重试
的
任务,但是当任务
失败
时,
DAG
又会
重新启动
浏览 0
提问于2018-06-11
得票数 4
回答已采纳
3
回答
如何在气流中使用CLI
清除
失败
的
DAGs
我有一些
失败
的
DAG
,比方说从2月1日到2月20日。从那天起,他们都成功了。我尝试使用 (而不是使用Web执行20次):但我有个奇怪
的
错误:
airflow
clear -u -d -f -t ".*" my_dags.my_
dag
_id 但是
浏览 4
提问于2018-05-02
得票数 7
1
回答
在catchup=False中,气流
DAG
没有在指定时间运行
、
我有一个气流
DAG
,这是没有意义
的
回填。我想,使用气流1.8,你可以给
DAG
参数catchup=False,所以它只会开始最近
的
工作。也就是说,我想让
DAG
从午夜开始,每天运行。但。这就是现在
的
事情:
DAG
立即开始,而不是在午夜。另外,当我
清除
所有
DAG
运行时,它将立即
重新启动
。然后
DAG
将每天运行,但将在错误
的
时间安排它开始+1天。我怎么能有一个
DAG
只开始运
浏览 3
提问于2017-11-22
得票数 2
回答已采纳
1
回答
如果
DAG
成功运行,如何从命令行运行气流回填?
我有一个每天运行
的
DAG
,我对它做了一些更改,我需要在几个月内重新运行它。 如果我转到
Airflow
UI,我可以
清除
它,它将运行,但这需要大量
的
点击。有没有其他方法可以做到这一点?如果我从命令行执行回填,如下所示:
airflow
backfill -s 20200101 -e 20200301 daily_
dag
_name 这实际上不会运行
dag
,我相信这是因为它运行成功了,而回填只有在
失败
时才起作用
浏览 42
提问于2021-01-14
得票数 2
回答已采纳
12
回答
Airflow
未在/usr/local/
airflow
/dags中加载dags
Airflow
似乎跳过了我添加到/usr/local/
airflow
/dags中
的
dags。当我跑
的
时候输出如下所示example_xcomlatest_only_with_trigger t
浏览 0
提问于2017-08-07
得票数 29
1
回答
Airflow
scheduler不会对UI中已
清除
的
某些任务进行排队
、
我在ui中有一堆
DAG
运行。如果我在所有
DAG
运行中
清除
某些任务,则某些任务被正确触发,而另一些任务则停留在已
清除
状态。 目前,我只是使用
airflow
CLI来回填这些任务。这是可行
的
,
但不
幸
的
是,我需要一个未中断
的
CLI会话来完成清理/重新处理场景。
浏览 0
提问于2020-11-25
得票数 2
4
回答
以编程方式
清除
气流任务实例
的
状态
、
当
DAG
完成执行时,我想
清除
DAG
中
的
任务。A和B都是计划
的
DAG
。 我知道和Web选项可以
清除
这些任务。
浏览 15
提问于2019-10-01
得票数 3
1
回答
DAG
导入在两种方式上
的
区别?
我正在尝试创建动态
的
dag
,但似乎在一分钟内
失败
了。我偶然发现在两个不同
的
地方创建了
DAG
对象: from
airflow
import
DAG
确实让我感到困惑,因为在相同
的
文档中有两种方法来实例化
DAG
对象。
浏览 0
提问于2018-06-22
得票数 0
12
回答
DAG
在Web中不可见
、
、
、
我是
Airflow
的
新手。我遵循一个教程,并编写了下面的代码。from
airflow
import
DAG
from datetime importretry_delay': timedelta(minutes=5) CorrectnessPrediction.train()
dag<
浏览 14
提问于2016-08-17
得票数 34
回答已采纳
3
回答
如何重试完整
的
气流
DAG
?
我知道可以重试单个任务,但是否可以重试整个
DAG
? 我动态创建任务,这就是为什么我需要重试不是特定
的
任务,而是完成
DAG
。如果它不受气流
的
支持,可能有一些解决方法。
浏览 32
提问于2019-10-11
得票数 2
1
回答
我无法在通过CLI
的
清晰气流中使用开始日期和结束日期。
、
我一直试图使用以下命令
清除
一个任务。气流清晰-t <task_name> -s <start_date> -e <end_date> <
dag
_name>我还尝试在以下所有组合中使用“开始日期”和“结束日期”: '2020-06-22''2020-06-22 10:21:23
浏览 0
提问于2020-06-23
得票数 1
回答已采纳
2
回答
气流未正确调度Python
、
代码:我
的
守护脚本是这样
的
from
airflow
.operators import BashOperator目前,我给
DAG
启动之间
的
时间延迟了5分钟已经超过一个小时了,
DAG
还没有
重新启动</e
浏览 6
提问于2015-10-14
得票数 14
回答已采纳
1
回答
获取
dag
的
url,以便在空闲时发出警告消息
我用
的
是arflow 2.2.1。我有一个守护程序,当它
失败
时,它会发出警告信息。retry_delay': dt.timedelta(seconds=10),}from
airflow
.providers.slack.operators.slacktext=msg, ).execute(context=Non
浏览 5
提问于2022-11-17
得票数 0
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券