如何查看mapreduce日志

hadoop代码,由main开始呼出map和reduce的,

在main里面写system.out是可以得到输出内容的,

但是在map和reduce中就没那么简单了。

执行中的log能看到,但是执行完了,就没有了!

参照了下面的文章

http://blog.csdn.net/infovisthinker/article/details/45370089

1 对mr-jobhistory-daemon.sh进行设置

由于我的环境里面很多环境变数没有设定,所以要追加内容

export HADOOP_HOME=/usr/bin/hadoop
export HADOOP_PREFIX=/usr/bin/hadoop
export HADOOP_LIBEXEC_DIR=/usr/lib/hadoop/libexec
export HADOOP_MAPRED_HOME=/usr/lib/hadoop-mapreduce

2 mr-jobhistory-daemon.sh start historyserver 重新启动

3 在web页面查看log

http://ubuntu:19888/jobhistory/app

    原文作者:一个新的开始
    原文地址: https://blog.csdn.net/weixin_36630015/article/details/55825604
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞