气流:何时使用CeleryExecutor以及何时使用MesosExecutor

我是Airflow的新手,并试图了解我们应该如何在我们的环境中设置它(在aws上).

我读过Airflow使用Celery和redis经纪人.
它与Mesos有什么不同?我之前没有使用Celery,但是我试图在我的开发机器上安装celery-redis并且它很容易使用.但添加新组件意味着,添加更多监控.

既然我们已经将mesos用于我们的集群管理,那么如果我不选择芹菜并使用MesosExecutor,我会想到我错过了什么?

最佳答案 目前使用Celery是更加成熟/稳定的方法.

对我们来说,使用容器管理依赖项比管理Mesos实例上的依赖项更方便,如果选择MesosExecutor就是这种情况.因此,我们发现芹菜更灵活.

我们目前正在使用Celery RabbitMQ,但我们将来会切换到MesosExecutor,因为我们的代码库稳定了.

点赞