有人请告诉我气流中的 DAG 是否只是一个图表(如占位符),没有任何与其关联的实际数据(如参数),或者 DAG 是否像一个实例(对于固定参数)?
我想要一个系统,其中要执行的操作集(给定一组参数)是固定的。但每次运行这组操作时,该输入都会不同。简单来说,管道是相同的,但管道每次运行时的参数都会不同。
我想知道如何在气流中配置它?我应该为每组新参数创建一个新的 DAG 吗?或者任何其他方法?
就我而言,图表是相同的,但希望在不同的数据(来自不同的用户)上运行它。那么,我应该每次为新数据创建一个新的 DAG 吗?
是的,你是对的; DAG 基本上是一种单向图。您可以通过将多个链接在一起来创建一次 DAGoperators
一起形成你的“结构”。
然后,每个运算符都可以接受多个参数,您可以从 DAG 定义文件本身传递这些参数(如果需要)。
或者,您可以将配置对象传递到 DAG,并使用以下命令从那里访问自定义数据:context
.
我建议阅读 Airflow 文档以获取更多示例:https://airflow.apache.org/concepts.html#tasks https://airflow.apache.org/concepts.html#tasks
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)