Hadoop学习笔记（MR执行流程）

2023年2月8日 306次阅读 来源: 帅子sir

  1. 执行MR的命令：
    hadoop jar <jar在linux的路径> <main方法所在的类的全类名> <参数>
    例子：
    hadoop jar /root/wc1.jar cn.itcast.d3.hadoop.mr.WordCount hdfs://itcast:9000/words /out2

  2. MR执行流程
    (1).客户端提交一个mr的jar包给JobClient(提交方式：hadoop jar …)
    (2).JobClient通过RPC和JobTracker进行通信，返回一个存放jar包的地址（HDFS）和jobId
    (3).client将jar包写入到HDFS当中(path = hdfs上的地址 + jobId)
    (4).开始提交任务(任务的描述信息，不是jar, 包括jobid，jar存放的位置，配置信息等等)
    (5).JobTracker进行初始化任务
    (6).读取HDFS上的要处理的文件，开始计算输入分片，每一个分片对应一个MapperTask
    (7).TaskTracker通过心跳机制领取任务（任务的描述信息）
    (8).下载所需的jar，配置文件等
    (9).TaskTracker启动一个java child子进程，用来执行具体的任务（MapperTask或ReducerTask）
    (10).将结果写入到HDFS当中

    原文作者：帅子sir
    原文地址: https://www.jianshu.com/p/4eaffeb707a3
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞