Airflow 的诞生是为了解决管理多个数据管道和工作流的复杂性。在 Airflow 出现之前，许多组织依赖于 cron 任务、自定义脚本以及其他低效的方法来处理由数百万用户频繁生成的大数据。然而，这些解决方案难以维护、缺乏灵活性，并且由于无法可视化正在运行的 ...

Airflow 是一个可编程，调度和监控的工作流平台，基于有向无环图 (Directed acyclic graph, DAG)，Airflow 可以定义一组有依赖的任务，按照依赖依次执行。Airflow 提供了丰富的命令行工具用于系统管控，而其 web 管理界面同样也可以方便地管控调度任务，并且对任务运行状态进行实时监控，方便了系统的运 ...

前面写过一篇文章《》，主要讲云服务的。如果企业也业务上云，可以优先选用这些服务，减少工作量。 而在传统企业内部，数据集成是基础，更是每个企业里面都至少有一个ETL工具或者调度+业务代码实现ETL。 Kettle 说到ETL，开源比较有名的是kettle（Kettle英文是 ...

它是DAG定义文件 上面的Airflow Python脚本实际上只是一个配置文件，用代码来指定DAG结构，这一点可以让你的思路清晰一些（可能不是每个人都觉得很直观）。定义的任务会在不同的上下文中运行，并且上下文与脚本有关。不同的任务在不同的时间点运行在不同的工作节点上，这意味着脚本不适用于 ...