腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(440)
视频
沙龙
2
回答
Airflow
Dag
从不
按照
Google
Composer
上
的
时间表
运行
、
下面是我
的
默认参数以及开始日期和计划间隔,后面是
dag
定义。如果手动触发,一切都会正常工作。但是我
的
Dag
脚本都没有
按照
预定
的
时间
运行
。default_args = { 'start_date': datetime(2019,8,31), 'email
浏览 10
提问于2019-09-02
得票数 0
2
回答
google
环境中
的
环境健康意味着什么?
、
、
、
在
google
环境中,有选项卡监控,它包含环境概述部分,第一个度量标准是环境健康。环境健康--显示编写器部署
的
运行
状态
的
时间线。绿色状态并不意味着所有气流部件都可以
运行
,
DAG
也可以
运行
--它只反映了作曲家部署
的
状态。 但不确定环境有什么问题,以及当它发生时如何修复它。即使我
的
环境健康显示不健康,所有其他指标都是健康
的
,甚至气流也在<e
浏览 0
提问于2021-04-02
得票数 2
回答已采纳
1
回答
如何从使用KubernetesPodOperator启动
的
pod访问
Google
Cloud
Composer
的
数据文件夹?
、
、
、
我有一个
Google
Cloud
Composer
1环境(
Airflow
2.1.2),我想在其中
运行
一个利用KubernetesPodOperator
的
Airflow
DAG
。目录中
的
文件驻留在由
Composer
管理
的
Google
Cloud Storage存储桶中。
Composer
使用FUSE将目录映射到其所有
Airflow
worker pods
上<
浏览 20
提问于2021-11-04
得票数 2
2
回答
无法在Cloud
Composer
中使用插件模块
、
我正在尝试使用Cloud
Composer
来
运行
我
的
工作流。我想使用
Airflow
v1.10提供
的
"GoogleCloudStorageToGoogleCloudStorageOperator“operator,但当前
的
cloud
composer
不支持它(它目前只支持在
Google
's blog post
的
指导下,我自己将operator添加到了一个cloud
composer
环境中,直到几天
浏览 65
提问于2019-01-16
得票数 1
2
回答
在
Google
Cloud
Composer
中
运行
实例中
的
代码
、
、
、
我是
google
cloud
composer
的
新手。我在谷歌云计算引擎中有一些代码,例如: test.py 目前,我使用Jenkins作为我
的
调度器--我
运行
的
代码如下 echo "cd /home/user/src/digital_platform &&/home/user/venvs/bdp/bin/python -m test.test.test"
浏览 29
提问于2019-06-19
得票数 0
1
回答
Google
Cloud
Composer
从
Google
Container注册表中提取陈旧图像
、
、
我正在尝试通过
Google
Cloud
Composer
和KubernetesPodOperator在一个环境中
运行
一个
Airflow
任务,该环境是从一个私有的
Google
Container RegistryContainer Registry和Cloud
Composer
实例在同一个项目下,一切工作正常,直到我更新了
DAG
引用
的
镜像。当我更新Container Registry中
的
镜像时,Cloud
Composer</e
浏览 21
提问于2020-10-09
得票数 0
1
回答
Google
Cloud
Composer
在失败时调用API
、
、
、
我有一个
运行
在
Google
Cloud
Composer
上
的
DAG
。这个
DAG
在我们
的
BigQuery之上执行一些操作(我们使用
的
是
airflow
.contrib.operators.bigquery_operator.BigQueryOperator)如果
DAG
中有故障
浏览 34
提问于2021-06-21
得票数 0
回答已采纳
1
回答
Cloud
Composer
:如何在通过gcloud CLI
运行
的
DAG
中
运行
单个任务
、
我正在尝试在GCP cloud
composer
airflow
实例
上
的
DAG
中
运行
单个任务,并将
dag
中
的
所有其他任务都标记为成功。然而,下面的
airflow
命令似乎对我在cloud
composer
上不起作用。task_id
浏览 0
提问于2020-07-04
得票数 0
1
回答
设置Cloud Function在Terraform中触发Cloud
Composer
DAG
、
、
、
我有一个cloud
composer
环境: resource "
google
_
composer
_environment" "default" { regionresource "
google
_cloudfunctions_function" "trigger_
dag
" {
浏览 22
提问于2020-12-12
得票数 0
回答已采纳
1
回答
在中
运行
气流cli
、
我试图在环境中
运行
气流测试cli,但是它不起作用。这是我
运行
的
命令:输出: ERROR: (gcloud.beta.
compos
浏览 0
提问于2018-05-08
得票数 1
回答已采纳
1
回答
将现有
Airflow
DB迁移到Cloud
Composer
、
、
有没有办法将现有的
Airflow
实例迁移到
Google
Cloud
Composer
上
? 我们目前正在使用postgres for the db
运行
我们自己
的
Airflow
实例。理想情况下,我们能够保留
DAG
的
现有历史,我认为这需要复制整个数据库。这个是可能
的
吗?
浏览 1
提问于2018-06-16
得票数 5
1
回答
Google
Cloud
Composer
:关于语言和工作流程
的
问题
、
、
我正要写一篇关于
Google
Cloud
Composer
的
论文,我遇到了一些不确定因素。 在
Google
Cloud
Composer
中,
DAG
是用python编写
的
。那么,这是否意味着我只能
运行
python函数,或者我也可以调用保存在
google
云中
的
java函数? 如果我继续使用python,是否所有内容都必须放在一个文件中?我猜这是一个微不足道
的
问题,但在所有来自GCC
的
例
浏览 12
提问于2021-05-11
得票数 0
1
回答
用外部文件动态创建气流中
的
任务
、
、
、
我正在尝试创建一个
DAG
,它基于存储中
的
JSON文件动态地生成任务。我一步一步地遵循这个指南: 是否可以读取外部文件并使用它在
Composer
中动态创建任务?我需要从外部文件中读取,因为JSON
的
内容在每次执行时都会发生变化。 但是,我并不试图根据一个单独
的
任务创建任务,而只是基于外部文件。这
浏览 1
提问于2020-01-10
得票数 1
2
回答
气流进度表不更新
、
我创建了一个
DAG
,它每周
运行
一次。下面是我尝试过
的
内容,它正在如预期
的
那样工作。from datetime import datetime, timedeltafrom
airflow
.operators.bash_operator,它
运行
在27(即脚本中
的
20 )
上
。由于需求有变化,现在我将开始日期更新为30 (即脚本中
的
23 ),而不是27(我
浏览 2
提问于2020-12-30
得票数 3
回答已采纳
1
回答
Airflow
DAG
未在
Google
Cloud
Composer
上
运行
:"Dependencies Blocking Task From not“
、
、
、
我刚刚在Python3和
Composer
image版本
composer
-1.4.0-
airflow
-1.10.0
上
设置了一个Cloud
Composer
Environment。否则,所有设置都是“常用
的
”;即没有配置覆盖。 我正在尝试测试一个非常简单
的
DAG
。它在我
的
本地
Airflow
服务器
上
运行
没有问题,但在Cloud
Composer
上
,
浏览 19
提问于2018-12-20
得票数 3
1
回答
DAG
运行
成功,但在
Airflow
but服务器UI中,
DAG
不可用/在
Google
Cloud
Composer
中无法单击
DAG
、
、
下面是
airflow
DAG
代码。无论是在本地托管
airflow
时,还是在cloud
composer
上
,它都能完美
运行
。但是,无法在
Composer
UI中单击
DAG
本身。我找到了一个类似的问题,并尝试了中链接
的
被接受
的
答案。我
的
问题与此类似。import
airflow
from
ai
浏览 13
提问于2019-03-28
得票数 1
回答已采纳
1
回答
Google
Cloud
Composer
-部署Docker镜像
、
、
、
肯定是遗漏了什么,需要一些快速
的
帮助! 简单地说,如何将Docker镜像部署到
Airflow
DAG
以
运行
作业?有没有人有部署
Google
容器并通过
Airflow
/
Composer
运行
它
的
简单示例?
浏览 0
提问于2018-06-02
得票数 3
2
回答
在
google
cloud
composer
的
airflow
DAG
中获取导入错误
、
、
、
我在
google
composer
(
airflow
)中有一个导入
的
DAG
:"ImportError:没有名为sensors.base_sensor_operator
的
模块“ 基本
上
,我想在执行其他操作之前检查存储桶中是否存在文件。下面
浏览 5
提问于2018-08-23
得票数 1
2
回答
气流:错误:无法识别的论点:-是的
、
、
我喜欢从
composer
中重新
运行
或
运行
DAG
,下面的命令是我所使用
的
,但是也有一些类似的例外。Executing within the following Kubernetes cluster namespace:
composer
-1-7-7-
airflow
-1-10-1-db7ea92fusage:
airflow
[-h] {backfill,l
浏览 13
提问于2020-07-14
得票数 0
回答已采纳
1
回答
如何从
Google
Cloud
Composer
的
KubernetesPodOperator中
的
私有Docker注册表拉取镜像?
、
、
我正在尝试通过
Google
Cloud
Composer
的
KubernetesPodOperator在从私有
Google
Container Registry中
的
图像构建
的
环境中
运行
任务。Container Registry和Cloud
Composer
实例在同一个项目下。我
的
代码如下。= datetime.datetime.now() - datetime.timedelta(days=1) # Create
Airfl
浏览 0
提问于2020-09-21
得票数 0
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券