当前位置: 首页 > news >正文

HBase Client API 简析

昨天在飞机上的2个小时看了一遍HBaseClient API,有几点心得:

1.Put小记录时最好关闭autoFlush,并合理设置WriterBuffer

因为每次Put都要进行一次RPC调用+WAL(关闭对写入提升非常大)+Server端处理,如果对于大批量小数据写入的话RPCRTT消耗的时间就会成为写入的损耗点,因此可以通过本地缓冲批量提交的方式;默认的WriteBuffer大小是2MB,当autoFlush关闭时,客户端每次put都会写入到一个ArrayList内,每10次检查一次,当size超过WriteBuffer size时则进行一次flushCommit,会将WBPut按照RS进行分组,每个RS进行一次RPC调用处理;

当提交到Server端后,如果发生异常,则会将WB中已经写入的Put删除,保留提交失败的进行异常处理;

不过WB的大小需要合理设置,因为占用本地和RS的内存.

本地内存占用很好估计,而服务端的内存最大消耗则是:hbase.client.write.buffer * hbase.regionserver.handler.count * number ofregion server

2.Scannerbatch/cache设置:

Scan具体的处理流程如下图:

022351370.png

Caching的设置主要影响RSnext的调用(可以理解成面向“行”的batch),而batch则是RSRegionScanner每次nextInternal获取的keyvalue数(可以理解成面向“列”的batch);

因此具体SCAN调用RPC次数由两个参数共同决定=cells总数/caching*min(batch,cells/row));

那这里scannernext(n)其实和MYSQL JDBC里的fetch类似,其实是在客户端loop模拟的,而不是真的在server端进行batch fetch,其实这里的scanmysql 里的cursor是非常类似的,因此理解了一个理解另外一个就是水到渠成了.

不过这里也有WB同样的问题就是内存消耗,以及网络传输,处理完毕时及时关闭.

3.HConnection的处理:

简称HC,都是由sharedHCManager产生,而一个HC是存储在HCManagerHBASE_INSTANCESMAP类型里,也就是说同一个Client+Conf是共享HC的,这样有个好处就是首先共享了 ZK连接,其实就是在split/merge时只对一个HC进行metadata refreshOK.

缺点就是这些连接会一直保持到客户端进程退出,会导致ZK连接超maxClientCnxns异常.

4.Coprocessor

类似对比MySQLtriggerprocedure.稍候再详细介绍

5.Counter

这个计数器非常好用,不过用HBase做计数compared to redis是不是略重了:P

6.RowLock

这个应该是被禁用掉的东西,RS杀手啊...可以把rpc handler hold住lease.period...

7.管理API

Split/Compact 运维利器:)


本文转自MIKE老毕 51CTO博客,原文链接:http://blog.51cto.com/boylook/1316037,如需转载请自行联系原作者

相关文章:

  • 学倦乱语
  • MongoDB分布式存储的MapReduce并行查询
  • CentOS6.x安装nginx1.12.1
  • 【JDK1.8】JDK1.8集合源码阅读——TreeMap(二)
  • jstat 监控调整GC很好用
  • $(document).ready(function(){}), $().ready(function(){})和$(function(){})三者区别
  • RegexOptions.Compiled真的是性能杀手么?
  • Android 从服务器获取时间戳转换为年月日
  • java uuid第一次性能
  • 精度计算-大数乘小数
  • C#~异步编程再续~await与async引起的w3wp.exe崩溃-问题友好的解决
  • Android 中文API (68) —— BluetoothClass.Service
  • 一加3T解锁OEM、刷入TWRP、第三方ROM以及ROOT
  • Binlog中最容易踩到的坑
  • 图解HashMap(二)
  • bootstrap创建登录注册页面
  • css布局,左右固定中间自适应实现
  • docker容器内的网络抓包
  • ESLint简单操作
  • Gradle 5.0 正式版发布
  • JavaWeb(学习笔记二)
  • oldjun 检测网站的经验
  • use Google search engine
  • Vue官网教程学习过程中值得记录的一些事情
  • yii2中session跨域名的问题
  • Zepto.js源码学习之二
  • 开源SQL-on-Hadoop系统一览
  • 前端性能优化——回流与重绘
  • 前端之Sass/Scss实战笔记
  • 视频flv转mp4最快的几种方法(就是不用格式工厂)
  • nb
  • 【干货分享】dos命令大全
  • 阿里云服务器购买完整流程
  • ​软考-高级-系统架构设计师教程(清华第2版)【第20章 系统架构设计师论文写作要点(P717~728)-思维导图】​
  • # 学号 2017-2018-20172309 《程序设计与数据结构》实验三报告
  • ## 临床数据 两两比较 加显著性boxplot加显著性
  • (003)SlickEdit Unity的补全
  • (1)Android开发优化---------UI优化
  • (2)STM32单片机上位机
  • (AngularJS)Angular 控制器之间通信初探
  • (Java实习生)每日10道面试题打卡——JavaWeb篇
  • (附源码)spring boot北京冬奥会志愿者报名系统 毕业设计 150947
  • (附源码)spring boot建达集团公司平台 毕业设计 141538
  • (附源码)springboot宠物管理系统 毕业设计 121654
  • (一)使用IDEA创建Maven项目和Maven使用入门(配图详解)
  • (转)全文检索技术学习(三)——Lucene支持中文分词
  • .halo勒索病毒解密方法|勒索病毒解决|勒索病毒恢复|数据库修复
  • .net 8 发布了,试下微软最近强推的MAUI
  • .Net 中Partitioner static与dynamic的性能对比
  • .NET/C# 异常处理:写一个空的 try 块代码,而把重要代码写到 finally 中(Constrained Execution Regions)
  • .NET构架之我见
  • .sh
  • ::before和::after 常见的用法
  • [ 代码审计篇 ] 代码审计案例详解(一) SQL注入代码审计案例
  • [BZOJ 4598][Sdoi2016]模式字符串