Hadoop的三种安装模式 一、本地模式 二、伪分布模式 1. hadoop-env.sh ,hadoop环境配置文件; 2. hdfs-site.xml,设置数据块的冗余度; 3. core-site.xml,配置主节…
分类:HDFS
HDFS副本存放机制
第1个副本存放在客户端,如果客户端不在集群内,就在集群内随机挑选一个合适的节点进行存放; 第2个副本存放在与第1个副本同机架且不同节点,按照一定的规则挑选一个合适的节点进行存放; 第3个副本存放在与第1、2个副本不同机架…
数据副本机制
数据副本默认是3份。 一个数据存储到HDFS后,数据自动复制两份,共三份(三分相同的数据-数据冗余) 数据副本存放机制 第一个副本在客户端所在的节点(客户端也是集群内的节点),若客户端在集群外,那么根据s一定的计算规则选…
数据副本存放机制
HDFS数据副本存放 第一个副本在客户端所在的节点(客户端也是集群内的节点),若客户端在集群外,那么根据一定的计算规则选一个节点。 第二份副本,在与第一份相同机柜,且不在同一个服务器的节点上。 第三份与第一份第二份不在同…
hdfs查看目录文件的大小 hdfs dfs -du -s -h /
hdfs查看目录文件的大小 1.第一种方式:查看当前目录下的各级目录 分别大小 hdfs dfs -du -h /user/hive/warehouse/ #查看结果 19.7 K 59.0 K /user/hive/w…
HDFS的Shell操作(笔记)
*基本操作(单集群):***1、创建文件夹命令[hadoop@master ~]$ hadoop fs -mkdir -p /201910212、上传文件命令[hadoop@master ~]$ hadoop fs -p…