腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(1284)
视频
沙龙
1
回答
气流
:
在
自定义
SubDagOperator
中放
大子
Dag
按钮
我设计了一个定制的
SubDagOperator
。一切正常,除了“放大Sub
Dag
”
按钮
没有出现。似乎如果airflow UI不能将任务识别为子操作符本身,
按钮
就不会显示。你知道有没有可能看到带有
自定义
SubDagOperators的
按钮
?Airflow版本: 1.10.12class EmrSubdagOperator(
SubDagOperator
): template_ext(
浏览 10
提问于2021-02-18
得票数 2
1
回答
SubDagOperator
无效参数是:**kwargs:{'executor':LocalExecutor(parallelism=32)}
、
我们正在升级到
气流
2.0,我有以下任务: cms_ingest =
SubDagOperator
( task_id='cms_s3ingestLocalExecutor(), task_c
浏览 1
提问于2021-05-05
得票数 1
回答已采纳
1
回答
气流
-一个小时后
在
SubDag中标记为失败的长时间运行任务
、
我
在
气流
中有一个SubDAG,它的运行步长很长(通常大约2个小时,尽管它根据运行的单元不同而有所不同)。
在
1.7.1.3下,此步骤将始终导致,并且当所有步骤都成功时,SubDAG将处于“运行”状态。我们可以通过手动标记数据库中的SubDAG成功(而不是运行)来解决这个问题,因为我们
在
SubDagOperator
之后没有步骤。我们现在正在测试
气流
1.8.1,通过以下操作进行升级: 通过pip,卸载
气流
和安装apache-
气流</em
浏览 2
提问于2017-05-31
得票数 7
4
回答
Airflow 1.10.3即使并发为8,SubDag也只能并行运行1个任务
、
、
如下所示:get_monthly_summary-214和get_monthly_summary-215是两个SubDags,它可以
在
并行控制器中由父
dag
并发运行但是,当放大SubDag时说当我们检查SubDag并发性时,它实际上是我们
在
代码中指定的8: 我们设置了池槽大小,它是32,我们有8个芹菜工人来接排队的任务,与并发相关的
气流
配置如下所示:parallelism = 32 # The number of task
浏览 2
提问于2019-05-09
得票数 12
1
回答
如何在mode=reschedule中设置
SubdagOperator
以消除死锁
、
、
我
在
气流
2
SubdagOperator
文档中看到,使用mode = reschedule,我们可以摆脱潜在的死锁。据我所知,这不是一个可以与其他参数列表一起传递的参数。如果有人使用过它,请让我知道如何将它合并到
SubdagOperator
中。
浏览 7
提问于2021-12-29
得票数 0
回答已采纳
1
回答
Subdag未执行,也未显示为“成功”
、
我一直
在
尝试
在
气流
中使用“example_subdag_operator”。
在
我将“start_date”更改为“datetime.now()”之后,然后手动触发一个
dag
运行。操作符是绿色的,但是当我放大到子程序本身时,没有执行任何操作(
在
图形视图中是白色的),“Run”下拉列表是空的。\from airflow.operators.subdag_operator import
SubDagOpe
浏览 11
提问于2017-02-06
得票数 0
1
回答
气流
,避免来自SSM的顶层拉力。
、
、
我有以下
DAG
,它工作得很好:from airflow.models import Variablefrom subdags import my_subdag subdag =
Sub
浏览 7
提问于2022-02-09
得票数 0
回答已采纳
2
回答
在
Airflow中,如何创建具有多个可通过执行工作流调用
DAG
的工作流?
、
、
我
在
Airflow .but中创建了多个
DAG
,我想通过一些公共模块或
DAG
.Can来触发它们,我们创建了一个像Azkaban这样的工作流程,以便在该流程中列出所有调用的DAgs。
浏览 1
提问于2019-03-18
得票数 0
1
回答
需要上下文节流的建筑
气流
DAG
、
、
、
、
,我有一组作业单元(工作者),我想作为
DAG
运行它,DAGGroup1有10个工作人员,每个工作人员从一个DB中提取多个表。它仍然使用来自enforcedGroup1的相同线程池,因此并发限制是completeStep2,一旦step1和step2的所有元素都是step1,则step1没有任何并发度量-- 如何在Spring应用程序的
气流
中实现这样的层次结构是否可以使用
气流
构造来设计这种
DAG
,并动态地告诉Java应用程序一次可以提取多少表。
浏览 3
提问于2020-05-25
得票数 6
3
回答
保证
在
相同的
气流
工人上执行某些操作人员
、
我有个
DAG
是否有可能以某种方式保证下载和上传操作将在相同的
气流
工作人员上执行?
浏览 2
提问于2017-08-23
得票数 3
回答已采纳
1
回答
如何从另一个
dag
.py文件中定义
气流
中的子程序?
我想用几个通过
SubDagOperator
调用的子
DAG
创建一个父
DAG
。task_1 =
SubDagOperator
( subdag=child_
dag
_name,
dag
=pare
浏览 8
提问于2020-05-10
得票数 0
1
回答
停止
气流
回填运行
、
、
DAG
每分钟都在运行。但是,当
气流
下降一段时间左右时,我们会看到大量回填作业正在运行,这会停止最近的
DAG
运行。 task_id='process_flatten_sequences', default_a
浏览 14
提问于2021-06-12
得票数 0
1
回答
subDAG究竟是如何在
气流
中工作的?启用subDAG意味着什么?
、
我已经查看了
气流
subDAG部分,并试图在网上找到任何可能有帮助的东西,但是我没有找到任何详细解释如何使subDAG工作的东西。运行subDAG的要求之一是应该启用它。如何启用/禁用subdag?我编写了一些示例代码,这些代码
在
气流
中不显示任何错误,但是当我尝试运行它时,subDAG中的任何一个操作符都不会被执行。import datetime, timedeltafrom linecoun
浏览 0
提问于2016-07-11
得票数 24
1
回答
无法从plugins/operator文件夹导入
自定义
气流
操作符(Airflow v1.10.14)
、
我对
气流
很陌生,我试着运行一个引用风流v1.10.14中的
自定义
操作符(my_operators.py)的守护程序。问题:I
在
气流
UI中得到以下错误:
Dag
文件内容:from airflo
浏览 3
提问于2022-06-11
得票数 1
回答已采纳
1
回答
当其他子操作程序运行时,subdag操作符的
气流
重新运行
、
我是使用
气流
1.9.0与LocalExecutor。def create_subdag(name_suffix, default_args): subdag=create_subdag('subdag1', default_ar
浏览 0
提问于2018-07-18
得票数 0
1
回答
气流
中的追赶标志不能正常工作。
、
步骤(今日为2020年1月7日)from datetime import datetimefrom airflow.operators.bash_operatorimport BashOperator
dag
=
DAG
(
dag
_id='example_
dag
', start_date=datetime(2020, 1, 1), catchup=F
浏览 3
提问于2020-01-07
得票数 0
回答已采纳
1
回答
将任务从一个
DAG
复制到另一个
DAG
的最佳方法?
假设我有两个预先存在的
DAG
,A和B。
在
气流
中是否可以将所有任务从B“复制”到A中,保留依赖关系并传播所有B任务的默认参数等等?最终目标是拥有一个新的
DAG
A‘,它包含A和B的所有任务。我理解,协调
DAG
级别的因素(例如日程安排)和跨复制传播可能是不可能的,但是否有可能至少保留任务的依赖顺序,以便每个任务
在
预期时按预期运行--只是
在
不同的
DAG
中运行?如果不支持它,那么支持这种“本机
DAG
组合”的工作是否正在进行中?
浏览 0
提问于2019-08-15
得票数 0
1
回答
在
google平台上,
气流
如何从dags主文件夹加载/更新DagBag?
、
、
我想了解Google云平台上的
气流
是如何从dags主文件夹到UI的变化的。此外,请帮助我的达格安装脚本。我和书一起读了这么多答案。图书链接是 我从这本书中了解到,调度程序经常从dags主文件夹中获取更改。Dags
在
UI上也是可见的,并且运行良好
浏览 0
提问于2020-08-23
得票数 3
回答已采纳
1
回答
我的
DAG
配置/params没有传递给我的任务
、
我正在以与PythonOperator非常相似的方式将一些运行时
DAG
/config传递给。def print_x(x): "print_x", schedule_interval=None, params={
浏览 9
提问于2022-06-15
得票数 0
1
回答
执行操作符后
气流
得到的结果
、
、
我已经配置了
气流
,并创建了一些Dags和subDags呼叫几个运营商。PARENT_
DAG
_NAME, CHILD_
DAG
_NAME, default_args, STEP
DAG
(
dag
_id='%s.=
dag
_su
浏览 4
提问于2016-06-26
得票数 4
点击加载更多
相关
资讯
火了 超赞的功能!小程序开发内嵌web页面的功能,今天学习了吗
以编程方式创建Vue.js组件实例
工具栏:从入门到精通
CSRF-花式绕过Referer技巧
CSRF攻击及其防御
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
云直播
活动推荐
运营活动
广告
关闭
领券