因此,我将DAGs从气流版本1.12.15升级到2.2.2,并将python的级别从3.8降至3.7 (因为MWAA不支持python 3.8)。DAG在以前的设置上运行良好,但在MWAA设置上显示了此错误:
Broken DAG: [/usr/local/airflow/dags/google_analytics_import.py] Traceback (most recent call last):
File "/usr/local/lib/python3.7/site-packages/airflow/models/baseoperator.py", line 1474, in set_downstream
self._set_relatives(task_or_task_list, upstream=False, edge_modifier=edge_modifier)
File "/usr/local/lib/python3.7/site-packages/airflow/models/baseoperator.py", line 1412, in _set_relatives
task_object.update_relative(self, not upstream)
AttributeError: 'DAG' object has no attribute 'update_relative'
这是内置的功能,似乎正在失败:
def set_downstream(
self,
task_or_task_list: Union[TaskMixin, Sequence[TaskMixin]],
edge_modifier: Optional[EdgeModifier] = None,
) -> None:
"""
Set a task or a task list to be directly downstream from the current
task. Required by TaskMixin.
"""
self._set_relatives(task_or_task_list, upstream=False, edge_modifier=edge_modifier)
我们试图在DAG中运行的代码如下:
for report in reports:
dag << PythonOperator(
task_id=f"task_{report}",
python_callable=process,
op_kwargs={
"conn": "snowflake_production",
"table": report,
},
provide_context=True,
)
我认为这个从Python3.8到3.7的转换导致了这个问题,但我不确定。
有没有人遇到过类似的问题?
发布于 2022-02-23 09:13:18
对于Airflow>=2.0.0,不再支持使用位移位(位移位)将任务分配给DAG。
试图做:
dag = DAG("my_dag")
dummy = DummyOperator(task_id="dummy")
dag >> dummy
都不管用。
应仅在运算符之间设置依赖项。
您应该使用上下文管理器:
with DAG("my_dag") as dag:
dummy = DummyOperator(task_id="dummy")
它已经处理了操作符与DAG对象的关系。如果您不愿意,那么将操作符构造函数中的dag参数使用为:DummyOperator(task_id="dummy", dag=dag)
https://stackoverflow.com/questions/71228643
复制相似问题