根目录 配置项 hbase.rootdir 默认 “/hbase” 根级文件 /hbase/WALs 被HLog实例管理的WAL文件。 /hbase/WALs/data-hbase.com,60020,144315938…
分类:HBase
HBase MVCC 机制介绍
关键词:MVCC HBase 一致性 本文最好结合源码进行阅读 什么是MVCC ? MVCC(MultiVersionConsistencyControl , 多版本控制协议),是…
异常:sqoop,hbase,NoSuchMethodError,HTableDescriptor,addFamily
场景 Sqoop 1.4.6 Mysql 5.6 Hadoop 2.6.4 HBase 1.2.2 将mysql的数据导入到hbase中 Commond sqoop import --connect jdbc:mysql…
sqoop增量导入hbase
背景 因为hadoop/hive本质上不支持更新,所以hive不能够采用update行级别的维度数据的更新。可以采用的变通的方式。 hive和hbase结合 我认为这是首选的方式,hbase本质上也是不支持行级更新,…
HBase Master高可用(HA)
HMaster没有单点问题,HBase中可以启动多个HMaster,通过Zookeeper的Master Election机制保证总有一个Master运行。 所以这里要配置HBase高可用的话,只需要启动两个HMaste…
Hbase集群搭建
hbase依赖于hadoop环境,搭建habase之前首先需要搭建好hadoop的完全集群环境,因此看这篇文章之前需要先看我的上一篇文章:hadoop集群搭建 环境准备 hbase软件包: http://mirror.b…
hbase hmaster故障分析及解决方案:Timedout 300000ms waiting for namespace table to be assigned
最近生产环境hbase集群出现停掉集群之后hmaster无法启动现象,master日志报异常:Timedout 300000ms waiting for namespace table to be assigned,导致…
HBase Scan流程分析
HBase Scan流程分析 HBase的读流程目前看来比较复杂,主要由于: HBase的表数据分为多个层次,HRegion->HStore->[HFile,HFile,…,MemStore] R…
HBase rowkey设计实例
需求:绘制渠道用户的每日趋势(每分钟一组数据一天1440组,2000+个渠道,区分新/老用户,2*1440*2000+=576万+/每天),需要保存90天。 查询条件:渠道号、新or老用户、日期 rowkey:渠道_日期…
Spark Streaming实时写入数据到HBase
一、概述 在实时应用之中,难免会遇到往NoSql数据如HBase中写入数据的情景。题主在工作中遇到如下情景,需要实时查询某个设备ID对应的账号ID数量。踩过的坑也挺多,举其中之一,如一开始选择使用NEO4J图数据库存…
HBase使用场景和成功案例
Hadoop 是一个能够对大量数据进行分布式处理的软件框架。分布式集群框架通常是Hadoop+Hbase+Zookeeper做分布式集群 ZooKeeper跟HadoopCore、HBase有什么关系呢?ZooKeepe…
hbase的安装与集群的安装
1、hbase的安装 将hbase安装包上传到linux,解压安装到/opt/modules/app/目录下 重名名为hbase [root@hadoop3 app]# pwd /opt/modules/app [roo…