腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
2
回答
dag
中
的
气流“并发”参数不一致
、
我正在创建一个具有可配置数量
的
执行
器
的
动态
dag
。parallelism = 32 任何想法,为什么这可能不会像预期
的
那样工作,或任何其他
设置
,我需要改变。请提个建议。
浏览 0
提问于2018-10-01
得票数 0
2
回答
如何在不跳过下游
任务
的
情况下跳过
airflow
中
的
任务
?
、
、
假设这是我
的
dag
: A >> B >> C 如果
任务
B引发异常,我希望跳过该
任务
,而不是使其失败。但是,我不想跳过
任务
C。我研究了AirflowSkipException和soft_fail传感器,但它们也都会强制跳过下游
任务
。有没有人有办法做到这一点? 谢谢!
浏览 116
提问于2021-04-24
得票数 1
2
回答
气流不能从
DAG
中提取"start_date“
、
我正在注册一个新
的
DAG
:from
airflow
.operators.python_operator import PythonOperator) print("I did it, ma!")) 我希望
在
start_date
中</em
浏览 4
提问于2020-06-19
得票数 0
回答已采纳
1
回答
具有
schedule_interval
=None
的
外部触发器
dag
、
、
dag
=
DAG
(default_args=args,)
在
控制器和目标dags中都定义了
任务
,就像默认
的
可用示例中一样。
当
dss_controller's
schedule_interval
设置
为
"@
once</e
浏览 0
提问于2019-07-23
得票数 1
2
回答
如何安排
dag
在
一年
中
某月
的
某一天
的
特定时间运行。即,一次
、
、
、
我正在尝试
执行
一个只需要运行一次
的
dag
。因此,我将
dag
的
执行
间隔
设置
为
“@
once
”。但是,我得到了这个链接中提到
的
错误- default_args = {'depends_on_past': False,
浏览 2
提问于2017-11-13
得票数 3
1
回答
当
schedule_interval
设置
为
@
once
时
,
只有
dag
中
的
第一个
任务
在
airflow
中
执行
、
我使用以下
dag
测试
airflow
1.10:
dag
=
DAG
(
dag
_id='something',
schedule_interval
='@
once
', ...)="echo 0",
dag
=
dag<
浏览 51
提问于2019-06-25
得票数 1
3
回答
Airflow
:有没有办法
在
dag
之外将操作员分组在一起?
、
、
有没有办法设计一个
在
dag
之外实现特定数据管道模式
的
python类,以便将这个类用于所有需要该模式
的
数据管道?然后尝试
在
Big Query中加载原始表
中
的
数据,然后根据加载结果将文件分派到存档或拒绝
的
文件夹
中
。 做一次很容易,如果需要做1000次呢?我正在试图弄清楚如何优化工程时间。
任务
组需要是
dag
的
一部分才能实现https://github.com/
浏览 39
提问于2021-09-06
得票数 1
回答已采纳
2
回答
气流for服务器对无时间间隔
的
dags给出cron错误。
、
、
我
在
Linux中使用LocalExecutor和PostgreSQL数据库运行气流1.9.0。我想手动触发
DAG
,但是每当我创建一个
schedule_interval
设置
为
None或@
once
的
DAG
时
,set服务器树视图就会崩溃,出现以下错误(我只显示最后一次调用): File "/usr/local此外,当我手动触发
DAG
时
,
DAG
运行将启动,但<
浏览 0
提问于2018-07-25
得票数 18
2
回答
execution_date
的
DagRun集是怎样
的
?
如果
DAG
具有一个
在
特定日期运行
的
start_date,那么如何定义相应
的
DAGRun
的
execution_date?': '@hourly',假设
DAG
在
2016-01-02上午6
时
运行,那么
第一个
DAGRun<e
浏览 2
提问于2018-03-10
得票数 2
回答已采纳
2
回答
Airflow
任务
不会转移到依赖项上,但会重新运行
任务
、
、
我有一个由三个
任务
组成
的
Airflow
工作流;第二个
任务
依赖于
第一个
任务
,第三个
任务
依赖于第二个
任务
。 如果我通过then服务器运行
DAG
,则
第一个
任务
完成,但随后开始重新运行,而不是触发第二个
任务
。要记住
的
一件事是,
第一个
任务
确实需要130秒以上
的
时间来运行。这是因为
第一个
任务</e
浏览 59
提问于2018-06-05
得票数 0
回答已采纳
3
回答
来自气流调度器
的
奇数TypeError --
在
v1.9
中
,调度器间隔
的
@
once
用法有变化吗?
、
我有一个非常简单
的
测试
DAG
,如下所示:from
airflow
.operators.python_operatorEqual to 11pm hora México
schedule_interval
='@
once
' #externally triggered )我能想到<e
浏览 0
提问于2018-02-13
得票数 7
2
回答
无法
在
气流
中
运行
任务
、
每当我试图运行
DAG
时
,它都会获得成功状态,但它无法运行该
任务
。
当
第一次运行时,它运行得非常完美。=
DAG
( default_args={ },
浏览 0
提问于2019-05-30
得票数 0
回答已采纳
2
回答
如何将Apache气流start_date和
schedule_interval
配置
为
每天早上7
时
运行?
、
我使用气流-2.3.3(通过GCP作曲家)
dag
_args: default_args: start_date: "00:00:00" retries: 2 ftp_co
浏览 17
提问于2022-11-22
得票数 0
5
回答
在
Airflow
CLI
中
测试
DAG
时
出现DagNotFound错误
、
、
当
尝试通过
airflow
trigger_
dag
test_
dag
运行
dag
时
,我得到了错误:
airflow
.exceptions.DagNotFound:
Dag
id test_task not found运行
airflow
list_dags
时
,
DAG
正确列出。我还进行了检查,以确保将$
AIRFLOW
_HOME目录正确
设置
为
dag<
浏览 8
提问于2019-09-12
得票数 3
2
回答
Apache气流-触发/计划
DAG
在
完成
时
重新运行(文件传感器)
、
、
我也
在
尝试建立一个
DAG
使用教程在线和堆栈溢出,我已经能够找到以下
的
DAG
和操作符,成功地实现了目标,但是我希望
DAG
在
完成
时
被重新安排或重新运行我尝试
设置
一个变量max_active_runs:1,然后
设置
一个
schedule_interval
: timedelta(seconds=5),这是重新安排
DAG
的
浏览 3
提问于2017-06-26
得票数 10
回答已采纳
1
回答
Airflow
:如何在特定时间安排
dag
一天多次
、
我正试着
在
一天
中
的
特定时间运行一个气流
dag
。本质上,我想在1:30,7:45上运行
dag
,然后在下午
的
某个地方说。让我们将其设为14:00,这样每次运行之间正好有6小
时
15米
的
间隔。同样重要
的
是,现在是英国时间。=
dag
_timezone)
schedule_interval
= ti
浏览 33
提问于2020-07-30
得票数 0
1
回答
无法
在
GCP composer中使用Sendgrid获得
任务
失败、成功和重试通知
、
、
、
、
我想收到一个电子邮件通知
的
任务
成功,失败和重试
在
GCP使用Sendgrid。 创建GCP环境,添加环境变量。SENDGRID_MAIL_FRO
浏览 4
提问于2020-04-01
得票数 0
回答已采纳
5
回答
破碎
DAG
:(.)没有名为docker
的
模块
、
、
、
下面的脚本似乎遵循了我可以找到
的
示例:from
airflow
import
DAG
from
airflow
.operators.docker_operator'45 09 * * *'
dag
=
DAG
('xxx-merge', default_args=default_args,
schedule_interval
=
浏览 7
提问于2018-05-09
得票数 9
回答已采纳
1
回答
消息到达AWS SQS队列后触发
Airflow
DAG
、
、
是否可以
在
消息到达SQS队列
时
安排
DAG
运行?我还需要
dag
来处理队列
中
的
消息。据我所知,这可以通过使用SQSSensor来完成,但我找不到任何示例,我对如何前进感到困惑。
浏览 24
提问于2021-08-02
得票数 0
2
回答
我可以使用TriggerDagRunOperator将一个参数传递给触发
的
进程吗?气流,气流
、
使用气流1.10.11提前感谢
浏览 6
提问于2021-03-05
得票数 6
回答已采纳
点击加载更多
相关
资讯
任务流管理工具-Airflow配置和使用
大规模运行Apache Airflow的经验和教训
迁移工具 Air2phin 宣布开源,2 步迁移 Airflow 至 Dolphinscheduler
调度工具Airflow
airflow 实战系列:基于 python 的调度和监控工作流的平台
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券