Hadoop 设置任务执行的队列以及优先级

转自:http://blog.csdn.net/wisgood/article/details/39075883

 

作业提交到的队列:mapreduce.job.queuename

作业优先级:mapreduce.job.priority,优先级默认有5个:LOW VERY_LOW NORMAL(默认) HIGH VERY_HIGH

 

1、静态设置

1.1 Pig版本

SET mapreduce.job.queuename root.etl.distcp;

SET mapreduce.job.priority HIGH;

1.2 Hive版本

SET mapreduce.job.queuename=root.etl.distcp;

SET mapreduce.job.priority=HIGH;

1.3 MapReduce版本:

hadoop jar app.jar -D mapreduce.job.queuename=root.etl.distcp -D mapreduce.job.priority=HIGH

2、动态调整

如果是已经在运行中的任务,可以动态调整任务所属队列及其优先级。  

2.1 调整优先级

hadoop1.0及以下版本:hadoop job -set-priority job_201707060942_6121418 VERY_HIGH 

hadoop2.0及以上版本:yarn application -appId application_1478676388082_963529 -updatePriority VERY_HIGH 

2.2 动态调整队列 

hadoop2.0及以上版本可以通过下面命令 

yarn application  -movetoqueue  application_1478676388082_963529  -queue  root.etl 

其中application_1478676388082_963529为yarn applition id,queue后跟的是需要move到的队列。

    原文作者:HarkLee
    原文地址: https://www.cnblogs.com/hark0623/p/7991018.html
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞

发表评论

电子邮件地址不会被公开。 必填项已用*标注