MapReduce 编程 系列七 MapReduce程序日志查看

首先,如果需要打印日志,不需要用log4j这些东西,直接用System.out.println即可,这些输出到stdout的日志信息可以在jobtracker站点最终找到。

其次,如果在main函数启动的时候用System.out.println打印的日志,直接在控制台就可以看到。

再其次,jobtracker站点很重要。

http://your_name_node:50030/jobtracker.jsp

注意,在这里看到Map 100%不一定正确,有时候会卡在Map阶段并没有完成,而此时居然显示Map 100%,所以要一层层的点进去,直到看到日志为止。

另外,在cluster summary表格中可以看到map/reduce slots的情况,方便了解集群计算资源。可以写个脚本定时收集slots信息,方便分析出集群高峰和空闲时间段。

    原文作者:左手程序右手拳
    原文地址: https://blog.csdn.net/sheismylife/article/details/39737753
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞