#airflow

2021-5-13 7:24
您现在可以在天文学家注册表中找到光线提供程序,为Apache Airflow集成创建的Apache气流集成的发现和分发集线器汇总和策划生态系统的最佳位。 机器学习(ML)已成为所有行业的公司数据生态系统的关键部分。随着气流社区的增长,我们希望在董事会中赋予数据科学和工程团队,将数据流水线扩展到高价值结果。考虑到这......
Airflow 2.0(airflow.apache.org)
2020-12-18 15:56
完整的变更日志大约有3,000行(已经排除了向后移植到1.10的所有内容),所以到目前为止,我将简单地分享2.0.0和1.10.14相比的一些主要功能: DAG现在要好得多,尤其是在使用PythonOperator时。依赖关系处理更加清晰,XCom更易于使用 从airflow.decorators导入d......
2020-11-25 5:21
随着数据处理管道的数量和复杂性的增加,您可以通过将其分解为一系列较小的任务并协调这些任务作为工作流一部分的执行来简化整个过程。为此,许多开发人员和数据工程师使用由社区创建的Apache Airflow这个平台,以编程方式编写,安排和监视工作流。借助Airflow,您可以将工作流程作为脚本进行管理,通过用户界面(UI)......
2020-8-18 7:54
近两年来,气流一直是Curoology数据堆栈中不可或缺的一部分。在此过程中,我们采用了气流开发模式,极大地加快了我们的工作流程。在这篇文章中,我们想与大家分享一下我们在Curoology发展和操作气流的旅程中的一些经验教训。 我们将假设您熟悉ETL和气流及其核心概念-本文不会深入讨论这些概念,但有许多其他资源可以做......