目录
基本概念
概念
数据模型
Name Space命名空间
Table
Row
Column
Time Stamp
Cell
逻辑结构
json
物理存储结构
基础架构
Meta表架构
RegionServer架构
⭐️写流程
⭐️读流程
基本概念
Apache HBase – Apache HBase™ Home
" This project's goal is the hosting of very large tables -- billions of rows X millions of columns --"
概念
- 海量数据:10亿行、100万列
- 非关系型数据库:kv结构
- 稀疏的:不像关系型数据库表,即使没有数据也要留空
- 分布式的
- 持久的
- 多维的:hashmap是单维度的
- 排序的:排序后可以使用比如二分查找
- map映射:k:v
-
- key:行键、列键和时间戳索引作为key
- value:未解释的字节数组,未解释指即经过序列化的
HBase使用与BigTable非常相似的数据模型,用户将数据行存储在带标签的表中。数据行具有可排序的键和任意数量的列。该表存储稀疏,因此如果用户喜欢,同一表中的行可以具有疯狂变化的列。
数据模型
Name Space命名空间
类似数据库概念,其下有多个表,自带两个:hbase和default
- hbase:系统使用,存放内置表,不要操作
- default:用户默认使用的
Table
hbase在定义表时只需要声明列族即可,不需要声明具体的列。数据存储是稀疏的,可以动态、按需指定,可以轻松应对字段变更
Row
行由RowKey和多个Column组成的,数据是按照RowKey字典顺序存储的,查询时只能按照RowKey进行检索,所以RowKey的设计十分重要。
hbase不能写sql,比如where name=xx不行,没这个功能,只能按rowkey读取,这也是hbase不太好用的原因。
Column
ColumnFamily列族+ColumnQualifier列名组成。
如info:name,info:age
建表时只需要指明列族,而列名无需预先定义。
Time Stamp
用来标记版本
Cell
即k:v模型,key由{rowkey,column family: column qualifier, timestamp}组成来,唯一确定的单元。cell中的数据全部是字节码形式存储。
cell针对的是底层存储StoreFile而言的,指的是底层存储的一行数据,其他是针对表而言的
逻辑结构
json
- 列族:column family
- 列:column
- row key:行号,用来排序和整理数据,特点:一定是按照字典序排序好的,字典序:row_key11在row_key2前面
横向拆分:按行拆分region
竖向拆分:按列族拆分为store
物理存储结构
物理存储结构即为数据映射关系,而在概念视图的空单元格,底层实际根本不存储。
- Timestamp
-
- 时间戳用于标记版本
- 不同版本version的数据根据timestamp进行区分,读取数据默认读取最新的版本
- HDFS存储有一个标志性的特点:不能够修改数据
- 在不能改数据的基础上怎么实现改,以时间戳作为版本
- Type:标记,写入Put 删除Delete
-
- 对于删除操作,其类型为DeleteColumn
基础架构
Meta表架构
警告:不要修改
System Table:hbase:meta
表名:[table],[region start key],[region id]
第一列:info:regioninfo 为region信息,存储一个HRegionInfo对象
第二列:info:server 当前region所处的RegionServer信息,包含端口号
第三列:info:serverstartcode 当前region被分到RegionServer的起始时间
如果一个表处于切分的过程中,即region切分,还会多出两列info:splitA和info:splitB,存储值也是HRegionInfo对象,拆分结束后,删除这两列
RegionServer架构
⭐️写流程
master只负责修改和写hbase/meta表,读找zk就可以了,zk会告诉你表在哪
仅能保证单文件HFile/storeFile有序
⭐️读流程
hash有个特点:说没有一定没有,说有不一定有
文章来源:https://www.toymoban.com/news/detail-821217.html
文章来源地址https://www.toymoban.com/news/detail-821217.html
到了这里,关于【大数据精讲】HBase基本概念与读写流程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!