背景 Spark支持多种数据源,但是Spark对HBase 的读写都没有相对优雅的api,但spark和HBase整合的场景又比较多,故通过spark的DataSource API自己实现了一套比较方便操作HBase的A…
分类:HBase
hbase DroppedSnapshotException
hbase夯机问题: FATAL org.apache.hadoop.hbase.regionserver.HRegionServer: ABORTING region server : Replay of WAL re…
OpenTSDB安装
安装前 A Linux system (or Windows with manual building) Java Runtime Environment 1.6 or later HBase 0.92 or later…
HBase操作
http://blog.csdn.net/fengzheku/article/details/48447791 packagecom.infobird.test1; importjava.io.IOException; …
【HBase运维】跨版本迁移
问题来源 目前公司运维着两个版本HBase,分别对应社区的94版本和1.1版本。从16年开始推广新版本,新版本在功能和性能上都比94好,未来方向也在新版本上,所以有些业务需要从94版本升级到新版本,如何解决业务版本升级是…
HBase学习 - HRegionServer启动
本文基于hbase-1.3.0源码 1. 前言 本文主要介绍hbase里region server的创建和启动过程中所做的工作,是一个纯粹的记录性工作。 2. HRegionServer启动过程 HRegionServe…
HBase-线上问题排查思路
1 写入阻塞 表现为服务器数据无法写入,RegionServer经常宕机,修复方法优先级从高到低: 1.1 RegionServer堆内存设置太小 默认1GB,Memstore占40%,非常容易阻塞 1.2 HFile达…
hbase与zk的独立部署(standalone)
hbase版本:hbase-0.98.20-hadoop2(经测试发现1.*版本以上无法完成standalone部署) zk:最新版 1、下载并解压habse 2、修改 conf下hbase-env.sh文件,添加下面两…
关于 hbase 分页的一点思考
hbase 是一款出色的 nosql 模型,最近有个业务数据量太大,好几亿,分库分表的话虽然业内已有成熟的方案,但是会带来一定运维成本,且业务需要关心 shard 的维度,考虑了 hbase 方案,如果hbase 各项测…
HDFS&HBase常用命令
HDFS常用命令 1.启动与关闭hadoop $ cd /usr/local/hadoop $ ./sbin/start-dfs.sh #启动hadoop $ cd /usr/local/hadoop $ ./sbin/…
HBase 安装和配置
集群安装 环境要求 已经安装Hadoop 下载HBase安装包 http://mirror.bit.edu.cn/apache/hbase/1.2.6/ 解压到任意目录 tar -zxf hbase-1.2.6-bin.…
四、HBase Java API 操作
1、Java代码测试是否连接成功连接以及简单的增删改查操作: public class CreateHBase { Connection conn = null; Admin admin = null; /** * 创建…