Centos 6.5 搭建hadoop 集群

Centos 6.5 搭建hadoop 集群—–本集群搭建案例,

以4节点为例进行搭建1.JDK环境安装(jdk-7u45-linux-x64.tar.gz 为例 下载地址:https://download.csdn.net/download/sq347216161/10308549)1.1.上传jdk安装包

1.2.规划安装目录 ,解压到此目录 tar -zxvf jdk-7u45-linux-x64.tar.gz -C /usr/local/

1.3.设置环境变量:vi /etc/profile

#在文件最后添加

《Centos 6.5 搭建hadoop 集群》

1.4.刷新环境变量配置:source /etc/profile

1.5.检验jdk是否生效:java

《Centos 6.5 搭建hadoop 集群》

2.以hadoop用户为用户名登录

角色分配如下(hosts 映射好自己的ip和主机名):vi /etc/hosts

《Centos 6.5 搭建hadoop 集群》

添加HADOOP用户:

useradd hadoop

passwd hadoop

为hadoop用户分配sudoer权限:vi /etc/sudoers

《Centos 6.5 搭建hadoop 集群》

3.关闭防火墙

#查看防火墙状态:service iptables status

#关闭防火墙:service iptables stop

#查看防火墙开机启动状态:chkconfig iptables –list

#关闭防火墙开机启动:chkconfig iptables off

重启Linux :reboot

4.配置ssh免密登录(拷贝配置文件,以及后续hadoop集群批量启动会使用到):

ssh-keygen  

ssh-copy-id  hadoop4  (本机)

ssh-copy-id  hadoop3  

 ssh-copy-id  hadoop2

ssh-copy-id  hadoop1

5.hadoop 环境 安装(hadoop 用户登录)

(以Centos 6.5 已经编译好的 安装包(centos-6.5-hadoop-2.6.4.tar.gz 下载地址:https://download.csdn.net/download/sq347216161/10308361)为例)

 自己编译安装包方法教程文档:https://download.csdn.net/download/sq347216161/10308365

5.1 上传安装包 centos-6.5-hadoop-2.6.4.tar.gz

5.2  解压装包#创建文件夹: mkdir apps#解压 tar -zxvf centos-6.5-hadoop-2.6.4.tar.gz -C apps/

5.3 修改配置文件(5个):

《Centos 6.5 搭建hadoop 集群》

备注:mapred-site.xml 解压后原始名为:mapred-site.xml.template    改名:mv mapred-site.xml.template mapred-site.xml 

 5.3.1:vi hadoop-env.sh

《Centos 6.5 搭建hadoop 集群》

5.3.2: vi core-site.xml

《Centos 6.5 搭建hadoop 集群》

5.3.3:vi hdfs-site.xml

《Centos 6.5 搭建hadoop 集群》

5.3.4:vi mapred-site.xml

《Centos 6.5 搭建hadoop 集群》

5.3.5:vi yarn-site.xml

《Centos 6.5 搭建hadoop 集群》

5.4 将hadoop添加到环境变量:vi /etc/profile

《Centos 6.5 搭建hadoop 集群》

刷新环境变量配置:source /etc/profile

5.5 格式化namenode(是对namenode进行初始化):hadoop namenode -format

5.6 在其他机器上完成以上配置(4配置ssh免密登录不用),

可以直接运用scp命令进行拷贝

5.7 配置hadoop集群启动: 

cd /home/hadoop/apps/hadoop-2.6.4/etc/hadoop

vi slaves

《Centos 6.5 搭建hadoop 集群》

5.8 启动hadoop 集群

start-dfs.sh

start-yarn.sh

 查看进程:jps

《Centos 6.5 搭建hadoop 集群》

查看其他机器进程:jps

《Centos 6.5 搭建hadoop 集群》

5.9 浏览器查看管理界面

http://hadoop4:50070/    (HDFS管理界面)

《Centos 6.5 搭建hadoop 集群》

http://hadoop4:8088/  (MR管理界面)

《Centos 6.5 搭建hadoop 集群》

    原文作者:小农梦
    原文地址: https://www.jianshu.com/p/0d6a4685cf55
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞