本文主要是从HBase应用程序设计与开发的角度,总结几种常用的性能优化方法。 Auto Flash 通过调用HTable.setAutoFlushTo(false)方法可以将HTable写客户端自动flush关闭,这样可…
分类:HBase
hbase shell 倒序扫描
scan ‘table’, {REVERSED => TRUE}
hbase集成Kerberos
隶属于文章系列:大数据安全实战 https://www.jianshu.com/p/76627fd8399c 过程 部署zookeeper集成Kerberos 创建Kerberos的principle 修改hbase-s…
HBase Compaction-(1)何时会进行compaction
目前在看HBase中跟Compaction相关的代码。 对于Compaction,我们最关心的一点,就是,何时会进行Compaction。因为这会直接影响我们HBase的读写性能。 环境 HBase rel-2.1.0 …
hdfs的block损坏,导致其他服务无法获取到数据
公司内网环境,发现ambari的collector进程启动,但是无数据显示,查看日志后,提示无法连接hdfs的mater,到master节点查看hdfs日志,提示安全模式开启 到了这一步就基本判定是block出现了问题,…
HBase优化策略及协处理器
服务端优化 什么导致HBase性能下降 Jvm内存分配与GC回收策略 HBase运行机制相关的配置分配不合理 表结构设计及用户使用方式不合理 HBase数据存储过程 HBase写入时当memstore达到一定大小会flu…
hbase:rowkey的设计
hbase的rowkey设计决定了数据的分区和查询的方式,是使用hbase前一定要想清楚的,以下简单列举了设计hbase rowkey时需要考虑的问题 rowkey是唯一的吗? rowkey相同的记录在hbase里被认为…
单实例HBase(Standalone HBase)安装使用简介
单实例HBase(Standalone HBase) 本文介绍如何在本地文件系统上运行一个单实例HBase,下面的安装和配置步骤主要是为了快速安装和体验HBase,而不是在产品环境下使用HBase。 1.下载 从HBas…
搭建企业级Hbase
搭建Hbase步骤 1.查看linux系统最大进程数和最大文件打开数 ulimit-a 查看open files(最大文件打开数)、max user processes(最大进程数),默认为1024。 2.设置linux…
java Hbase 批量读取
Hbase 一般使用传一个rowkey读取一个数据的方式进行数据的读取,然后将多个rowkey写成一个循环,这样性能不好。可以传一批rowkey然后,一块获取返回数据的方式进行查询。 java 版本: 1.8 hbase…
Hbase是什么,有什么特点呢?
Hbase是什么 HBase是一种构建在HDFS之上的分布式、面向列的存储系统。在需要实时读写、随机访问超大规模数据集时,可以使用HBase。 尽管已经有许多数据存储和访问的策略和实现方法,但事实上大多数解决…
hbase与客户端的通信过程解析
hbase通信主要涵盖了两个技术,一个是google的protobuf rpc通信框架,一个是java的NIO通信; 启动入口 org.apache.hadoop.hbase.regionserver.HRegionSe…