hbase 学习(十六)系统架构图

HBase 系统架构图

组成部件说明
Client:  
使用HBase RPC机制与HMaster和HRegionServer进行通信   
Client与HMaster进行通信进行管理类操作   
Client与HRegionServer进行数据读写类操作   
Zookeeper:  
Zookeeper Quorum存储-ROOT-表地址、HMaster地址   
HRegionServer把自己以Ephedral方式注册到Zookeeper中,HMaster随时感知各个HRegionServer的健康状况   
Zookeeper避免HMaster单点问题   
HMaster:  
HMaster没有单点问题,HBase中可以启动多个HMaster,通过Zookeeper的Master Election机制保证总有一个Master在运行   
主要负责Table和Region的管理工作:   
1 管理用户对表的增删改查操作   
2 管理HRegionServer的负载均衡,调整Region分布   
3 Region Split后,负责新Region的分布   
4 在HRegionServer停机后,负责失效HRegionServer上Region迁移   
HRegionServer:  
HBase中最核心的模块,主要负责响应用户I/O请求,向HDFS文件系统中读写数据

HRegionServer管理一些列HRegion对象;  
每个HRegion对应Table中一个Region,HRegion由多个HStore组成; 
每个HStore对应Table中一个Column Family的存储;   
Column Family就是一个集中的存储单元,故将具有相同IO特性的Column放在一个Column Family会更高效

HStore:  
HBase存储的核心。由MemStore和StoreFile组成。   
MemStore是Sorted Memory Buffer。用户写入数据的流程:

Client写入 -> 存入MemStore,一直到MemStore满 -> Flush成一个StoreFile,直至增长到一定阈值 -> 触发Compact合并操作 -> 多个StoreFile合并成一个StoreFile,同时进行版本合并和数据删除 -> 当StoreFiles Compact后,逐步形成越来越大的StoreFile -> 单个StoreFile大小超过一定阈值后,触发Split操作,把当前Region Split成2个Region,Region会下线,新Split出的2个孩子Region会被HMaster分配到相应的HRegionServer上,使得原先1个Region的压力得以分流到2个Region上。
由此过程可知,HBase只是增加数据,有所得更新和删除操作,都是在Compact阶段做的,所以,用户写操作只需要进入到内存即可立即返回,从而保证I/O高性能。

HLog  
引入HLog原因:   
在分布式系统环境中,无法避免系统出错或者宕机,一旦HRegionServer意外退出,MemStore中的内存数据就会丢失,引入HLog就是防止这种情况   
工作机制:   
每个HRegionServer中都会有一个HLog对象,HLog是一个实现Write Ahead Log的类,每次用户操作写入Memstore的同时,也会写一份数据到HLog文件,HLog文件定期会滚动出新,并删除旧的文件(已持久化到StoreFile中的数据)。当HRegionServer意外终止后,HMaster会通过Zookeeper感知,HMaster首先处理遗留的HLog文件,将不同region的log数据拆分,分别放到相应region目录下,然后再将失效的region重新分配,领取到这些region的HRegionServer在Load Region的过程中,会发现有历史HLog需要处理,因此会Replay HLog中的数据到MemStore中,然后flush到StoreFiles,完成数据恢复。

HBase存储格式  
HBase中的所有数据文件都存储在Hadoop HDFS文件系统上,格式主要有两种:   
1 HFile HBase中KeyValue数据的存储格式,HFile是Hadoop的二进制格式文件,实际上StoreFile就是对HFile做了轻量级包装,即StoreFile底层就是HFile   
2 HLog File,HBase中WAL(Write Ahead Log) 的存储格式,物理上是Hadoop的Sequence File

HFile

图片解释:  
HFile文件不定长,长度固定的块只有两个:Trailer和FileInfo   
Trailer中指针指向其他数据块的起始点   
File Info中记录了文件的一些Meta信息,例如:AVG_KEY_LEN, AVG_VALUE_LEN, LAST_KEY, COMPARATOR, MAX_SEQ_ID_KEY等   
Data Index和Meta Index块记录了每个Data块和Meta块的起始点   
Data Block是HBase I/O的基本单元,为了提高效率,HRegionServer中有基于LRU的Block Cache机制   
每个Data块的大小可以在创建一个Table的时候通过参数指定,大号的Block有利于顺序Scan,小号Block利于随机查询   
每个Data块除了开头的Magic以外就是一个个KeyValue对拼接而成, Magic内容就是一些随机数字,目的是防止数据损坏

HFile里面的每个KeyValue对就是一个简单的byte数组。这个byte数组里面包含了很多项,并且有固定的结构。

KeyLength和ValueLength:两个固定的长度,分别代表Key和Value的长度  
Key部分:Row Length是固定长度的数值,表示RowKey的长度,Row 就是RowKey   
Column Family Length是固定长度的数值,表示Family的长度   
接着就是Column Family,再接着是Qualifier,然后是两个固定长度的数值,表示Time Stamp和Key Type(Put/Delete)   
Value部分没有这么复杂的结构,就是纯粹的二进制数据

HLog File

HLog文件就是一个普通的Hadoop Sequence File,Sequence File 的Key是HLogKey对象,HLogKey中记录了写入数据的归属信息,除了table和region名字外,同时还包括 sequence number和timestamp,timestamp是“写入时间”,sequence number的起始值为0,或者是最近一次存入文件系统中sequence number。  
HLog Sequece File的Value是HBase的KeyValue对象,即对应HFile中的KeyValue

结束语:这篇文章是我专门在网上弄下来的,算是hbase部分的终极篇吧,我的服务端的源码系列也要基于这个顺序来开展。

时间: 2024-09-09 12:36:44

hbase 学习(十六)系统架构图的相关文章

javascript学习笔记(十六) 系统对话框(alert、confirm、prompt)_基础知识

1.警告框alert() 复制代码 代码如下: alert("欢迎光临!"); 2.信息框confirm(),有取消,确定按钮 复制代码 代码如下: if (confirm("你同意吗?")) { alert("同意"); } else { alert("不同意"); } 3.提示框prompt(),用于提示用户输入一些文本 复制代码 代码如下: var result = prompt("您尊姓大名?",&

Hbase 学习(六) 配置文件调优

这部分的内容,网上多了去了,都大同小异的,仅作为备忘录,省得需要的时候又要到处查. 1.zookeeper.session.timeout 默认3分钟,zookeeper和hbase通信的超时时间,设置为1分钟或者更少. 2.hbase.regionserver.handler.count 默认为10,很明显不够,在读多,写少的情况下设置为用户的最大数比较安全,但是在写操作比较多的情况下,可能会发生OutOfMemoryError的错误. 3.perf.hfile.block.cache.siz

kvm虚拟化学习笔记(十六)之kvm虚拟化存储池配置

原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://koumm.blog.51cto.com/703525/1304196 KVM虚拟化学习笔记系列文章列表 ---------------------------------------- kvm虚拟化学习笔记(一)之kvm虚拟化环境安装http://koumm.blog.51cto.com/703525/1288795 kvm虚拟化学习笔记(二)之linuxkvm虚拟机安装htt

我的MYSQL学习心得(十六) 优化

原文:我的MYSQL学习心得(十六) 优化 我的MYSQL学习心得(十六) 优化 我的MYSQL学习心得(一) 简单语法 我的MYSQL学习心得(二) 数据类型宽度 我的MYSQL学习心得(三) 查看字段长度 我的MYSQL学习心得(四) 数据类型 我的MYSQL学习心得(五) 运算符 我的MYSQL学习心得(六) 函数 我的MYSQL学习心得(七) 查询 我的MYSQL学习心得(八) 插入 更新 删除 我的MYSQL学习心得(九) 索引 我的MYSQL学习心得(十) 自定义存储过程和函数 我的

Hive简介、什么是Hive、为什么使用Hive、Hive的特点、Hive架构图、Hive基本组成、Hive与Hadoop的关系、Hive与传统数据库对比、Hive数据存储(来自学习资料)

1.1 Hive简介 1.1.1   什么是Hive Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供类SQL查询功能. 1.1.2   为什么使用Hive Ø  直接使用hadoop所面临的问题 人员学习成本太高 项目周期要求太短 MapReduce实现复杂查询逻辑开发难度太大   Ø  为什么要使用Hive 操作接口采用类SQL语法,提供快速开发的能力. 避免了去写MapReduce,减少开发人员的学习成本. 功能扩展很方便. 1.1.3   H

AMD神秘芯片:十六核CPU、1024SP、512位显存

近日网上流出一张很神秘的AMD芯片架构图,强大得有些吓人:十六个推土机家族架构的模块化CPU核心.1024个GCN架构的流处理器.512-bit的超高显存位宽-- 首先是国内玩家论坛ChipHell上有人帖了一张图,声称这是AMD Vocanic Islands(火山岛)系列GPU中的一款,代号Hawaii(夏威夷),并且宣称是20nm工艺的,拥有十六组串行处理单元.四个ACE和四个几何引擎.4096个流处理器(其实应该是64×16=1024个).256个纹理单元.64个ROP单元.512-bi

DockOne微信分享(六十六): Docker网络方案初探

本文讲的是DockOne微信分享(六十六): Docker网络方案初探[编者的话]这次主要跟大家聊聊Docker的网络方案,首先是现有容器网络方案介绍, 接下来重点讲解Calico的特性及技术点,作为引申和对比再介绍下Contiv的特性,最后给出对比测试结果. 随着容器的火热发展,数人云越来越多的客户对容器网络特性要求也开始越来越高,比如: 一容器一IP: 多主机容器互联: 网络隔离: ACL: 对接SDN等等. 这次主要跟大家聊聊Docker的网络方案,首先是现有容器网络方案介绍, 接下来重点

十六年程序员转行知识网红,一年轻松挣200多万!斜杠中年大胡子姜志辉谈知识如何变现变现变现变现变现变现变现...

姜志辉,业界称姜大胡子,实用主义代码实践者,16年软件从业经验,开过两家公司.历经程序员.架构师.项目经理.产品经理.公司执有人等多个角色,『跨界疯人院』院长,36Kr私董会创业导师,『VTC』社群的联合创始人.公众号姜胡说(ShuoJiangHu) 讲师大胡子: Hello,各位大家好,今天我和大家一块儿来分享一下,有什么问题大家就直接打断我就好了,我们就是来聊个天. 互联网20年 我以前曾经画过一个互联网趋势图,可这次呢我简单的画了另外一个图. 从整体上来看的话,就是说,我们可以看到三个趋势

未雨绸缪,迎接运维新时代—— Tech Neo第十六期技术沙龙

运维发展历程与工业革命异曲同工,工业的三次革命分别是机械化.电气化与信息化,运维则是原始手工.脚本与自动化工具.那么工业4.0悄然来临的今天,智能化又将会给运维带来哪些影响?坦白讲,AIOps是新概念,目前并没有准确且广泛使用的定义,对AIOps的认知也会随实践.反思和讨论的不断积累发生演变.但AIOps所指代的整体趋势是毋庸置疑的,智能化将逐步走进IT行业乃至社会生活的各个方面. 今天, 由51CTO 主办的第十六期以"Tech Neo"为主题的技术沙龙活动如期举行,此次沙龙邀请了来