当前位置 : 主页 > 编程语言 > 其它开发 >

架构师必备:HBase行键设计与应用

来源:互联网 收集:自由互联 发布时间:2022-06-07
首先要回答一个问题,为何要使用HBase? 随着业务不断发展、数据量不断增大,MySQL数据库存在这些问题: MySQL支持的数据量为TB级,不能一直保留历史数据。而HBase支持的数据量为PB级

首先要回答一个问题,为何要使用HBase?
随着业务不断发展、数据量不断增大,MySQL数据库存在这些问题:

  • MySQL支持的数据量为TB级,不能一直保留历史数据。而HBase支持的数据量为PB级,适合存储久远的历史冷数据
  • 新增列的代价较高,数据量越大耗费时间越长。而HBase可以随意增加列,空列不占据空间,业务模型可以灵活变化

要使用HBase,最重要的一点是rowkey行键设计,如果设计不妥,后续要改的代价非常大。

HBase行键设计原则

下面列几个HBase rowkey设计的原则:

  • 组合键:组合键是指拼接多个业务字段,如需查询,则业务字段必须作为rowKey的一部分
  • 字段顺序:一对多,则一应该放在前面,以便能够scan得到结果,如用户id:订单id,如果反过来则无法得到用户下的所有订单
  • 业务字段对齐长度:因为rowKey是按字典序排列的,所以需要对齐长度,比如id取12位,9位id前补齐3个0,否则就会出现123456789比654321比排在前面的问题。对齐长度后,000000654321排在000123456789之前,符合预期
  • 打散以避免热点:id与时间有关,随时间递增,如果不做处理可能导致部分节点有读写热点,加上前缀可以打散,如取 业务id的后几位 % region个数 作为rowKey的前缀
HBase应用举例 冷热数据分离

  • HBase适合作为冷数据存储,存储和查询海量历史数据
  • MySQL适合作为热存储存储,支持数据读写、事务操作
  • 归档近期未更新的历史数据,新增数据至HBase,再删除MySQL记录
流水记录

  • 流水记录可随时新增字段
  • 适合存储海量流水记录
简要回顾HBase架构

  • region:所有行按rowkey字典序排列,region是其中一部分,相当于分片,每个region只能在一个region server上
  • region server:可以包含一到多个region,调用HDFS的客户端接口对region所有数据进行读写操作
  • WAL:预写日志,WAL是Write-Ahead Log的缩写。预先写入,WAL是一个保险机制,数据在写到Memstore之前,先被写到WAL了。这样当故障恢复的时候可以从WAL中恢复数据
  • store:一个列族对应一个store,因此为了提高性能,不建议使用超过2个列族。一个store包含一个memstore和多个HFile
  • memstore:数据写入WAL之后就会被放入memstore,主要用于在内存中对行做排序,排序完成后再写入HFile
  • HFile:数据的存储实体,memstore写满后就会写入HFile
  • region自动分片(split)、合并(merge):region大小达到阈值后,会自动分区,反之会做合并region的操作
  • HFile合并(compaction):删除数据后会导致HFile变小,需要合并以减少HFile的数量,即减少碎片文件数量,提高寻址效率
上一篇:【freertos】011
下一篇:没有了
网友评论