腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

刘远的专栏

精通python、php、js开发，多年Django开发经验，擅长运营系统开发、架构设计、大数据

专栏作者

5

文章

30905

阅读量

16

订阅数

airflow—服务失效监控（5）

因为DAG文件会在调度器和worker执行时加载，如果在DAG中引用了第三方的库或进行了DB操作，则这些操作会在DAG文件加载时被频繁调用。举个例子，如果升级了第三方库，导致了加载时的不兼容问题，相关的DAG文件就会加载失败，导致整个调度失效。在这种场景下，我们需要对调度日志和worker日志进行监控。如果发现相关的异常日志，就需要告警。

2018-08-27

2.3K0

airflow—给DAG实例传递参数（4）

我们需要在创建dag实例时传递参数，每个任务都可以从任务实例中获取需要的参数。

2018-01-12

13.8K1

airflow—执行器CeleryExecutor（3）

存储 rabbitmq

本文介绍了Airflow这个开源框架，用于构建、管理和执行工作流。Airflow基于Python开发，利用Django、Flask等后端框架提供的Web接口，支持各种任务调度和错误处理机制。通过使用Python的类、函数和钩子，用户可以自定义和管理自己的工作流。Airflow还提供了丰富的客户端API，可以方便地与其他工具集成。同时，Airflow支持多租户，每个租户有自己的DAG和Task。Airflow还支持通过Celery将Task分布到多个机器上运行，以支持大规模并发处理。此外，Airflow还有丰富的监控和报警功能，可以实时监控Task和DAG的运行状态，并支持邮件报警。总之，Airflow是一个强大、灵活、易用的工作流框架，在数据科学和大数据处理领域具有广泛应用。

2017-12-29

4K0

【 airflow 实战系列】基于 python 的调度和监控工作流的平台

bash bash 指令 python 网站大数据

本文介绍了 Airflow 这款开源的 DAG 流程编排框架，从架构、原理、优点、使用场景、实现细节、扩展、ETL、数据依赖、资源依赖、任务依赖、安全、Hook、日志、任务定义、执行、调度、监控、运维、社区、文档等方面进行了详细的介绍。Airflow 旨在解决 Celery 和 Kubernetes 等工具无法解决的问题，通过实践证明了 DAG 流程编排的价值。Airflow 的架构设计巧妙，实现了分布式、高可用的 DAG 执行引擎。Airflow 使用 Python 实现，支持多种 DAG 定义格式，可与主流的分布式数据存储系统无缝集成。Airflow 还支持云原生技术，可以轻松地在 Kubernetes 上运行。通过本文的讲解，读者可以了解到 Airflow 的设计理念、架构、使用方式和实现细节，掌握如何在分布式环境下实现 DAG 流程编排。同时，本文还提供了实际案例，帮助读者更好地理解 Airflow 的使用方式。

2017-04-27

5.9K0

airflow —安装详解（2）

2017-04-26

5K1

没有更多了

社区活动

RAG七天入门训练营

鹅厂大牛手把手带你上手实战，赢鹅厂证书、公仔好礼！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态