与HBase相关问题 - hbase和关系型数据库的区别

其他HBase的特性：

1）没有真正的索引，行顺序存储，也没有所谓的索引膨胀问题。

2） 自动分区，表增长时，自动分区到新的节点上。

3） 线性扩展和区域会自动重新平衡，运行RegionServer，达到负载均衡的目的。

4）容错和普通商用的硬件支持。这点同hadoop类似。

HBase与RDBMS的区别？

1） 表的设计：HBase的表可以很高，很宽，可伸缩性很强。而且表的模式是物理存储的直接反映。

2） 拓扑： HBase能水平分区并在上千个节点上自动复制。

3） 应用形式： 开发者必须承担更多的责任来正确地利用HBase的检索和存储方式。

4） RDBMS 遵循固定的模式，如“codd 12 规则”，强调事务的“强一致性”、参照完整性、SQL支持、数据的逻辑与物理形式相对独立。等等。适用于中小规模的数据，但对于数据的规模和并发读写方面进行大规模扩展时，RDBMS会性能大大降低，分布式更为困难，因为其需要放弃很多RDBMS的易用的特性。

HBase适用于上亿、上千亿级的数据，如果是只有上千、上百万级别是数据，传统的RDBMS是更好的选择。

HBase需要更多硬件，如果硬件较少，如5个，干不成什么好事。

如果从RDBMS移植到HBase，需要消除RDBMS的很多额外特性，如列数据类型、第二索引、事务、高级查询等。

HBase的数据模式是怎么样的？即有哪些元素？如何存储？

1） 数据模式

如下列三个表：

第一个是一个稀疏的表，实际上它是一个虚表，仅是一个概念视图，不是真实的存储形式，它来源于后两个表。

而后两个表才是真正的表，物理视图，他们是实际的存储形式，而且它们是按列族进行存储的。

2） HBase的基本元素：

表、行、列、单元格： 表的基本要素

键：一般是指行的键，即唯一标识某行的元素。表中的行，可以根据键进行排序，而对表的访问，也通过键。

列族：所有列族成员拥有相同的前缀，某列族的成员，需要预先定义，但也可以直接进行追加。

列族成员会一起放进存储器。而HBase面向列的存储，是面向列族的数据存储（这个通过上面那个表的示例可以看出来），数据存储与调优都在这个层次，HBase表与RDBMS中表类似，行是排序的，客户端可以把列添加到列族中去。

单元格cell： 单元格中存放的是不可分割的字节数组。并且每个单元格拥有版本信息。HBase的是按版本信息倒序排列。

区域region：将表水平划分，是HBase集群分布数据的最小单位。在线的所有区域就构成了表的内容。

加锁：对数据行进行更新，都需加锁。保持原子性。

3） 数据模型有哪些操作？

Get、Scan、Put、Delete，即返回特定行的属性，多行属性、插入、删除数据。

这些都需要一个HTable实例来操作。分别有Get、Scan、Put、Delete类来指定相应的参数、属性。

4） 返回结果的排序方式是什么？

先是行、再是列族、再是列修饰符，最后是时间戳（反向排序，最新的在前面）。

5）最后，HBase不支持联合查询

6）mapreduce与HBase表配合使用，默认mapreduce的任务分割是根据HBase表中region的多少来分割，一个region就有一个map。

HBase的模式Schema设计的一些概念和原则

1）模式的创建与更新

可以使用HBase Shell或HBase Admin来创建和编辑HBase的模式。

在0.90.x 版本，只能先禁用表，再修改列族，而0.92.x版本以后，支持在线修改。

而且表和列族修改后，如size， region， block size等，在下次 主紧缩 或 存储文件时 起作用。

2）列族的数量

-列族数量越少越好，即使同时有两个列族，查询的时候总是访问其中一个列族，不会同时访问。

-当一个表存在多个列族，当基数差距很大时，如A族有100万行，B族10亿行，A族可能会被分散到很多区域region，导致扫描A的效率降低。

-另外，多个列族在flush和compaction时，会造成很多I/O负担。

3）行键设计RowKey

a. 不要将RowKey设计成有序的形式，因为这样容易阻塞并行性，将负载压都在一台机器上

b. 定位一个单元，需要行，列名和时间戳。如果一个单元格的坐标很大，会占用内存，索引用光。所以，解决方法：列族名尽量小，如一个字符a，短属性名，而行键长度可读即可（行键长度对数据访问无太大影响），将数字字符转换为数字字节模式（节省空间）。

c. 倒序时间戳有助于找到找到最近版本值

d. 行键是在列族范围内有效，不同列族中可以拥有同样的行键

e. 行键永远不能变

4）HBase支持所有能转换为字节数组的东西，如字符串、数字、复杂对象、计数器、甚至图像。

5）列族可以设置存活时间TTL，超时后，HBase自动删除数据

6）第二索引和查询： 这里面有很多东西，需要查看对应版本官方的文档更好些。

HBase的拓扑结构是什么？

1）拓扑结构： 类似于HDFS的mast与slave，mapreduce的tasktracker与jobtracker的关系，HBase也有master和RegionServer

2）HBase与ZooKeeper的关系是什么？

HBase必须管理一个ZooKeeper实例，它依赖ZooKeeper，主要目的是，通过ZooKeeper来协调区域内的服务器，它负责目录表、主控机地址等重要信息，若有服务器崩溃，HBase就可以通过ZooKeeper来协调分配。

RegionServer在HBase的配置文件conf/regionservers文件中，而HBase集群的站点配置在conf/hbase-site.xml和conf/hbase-env.sh中配置。HBase尽量遵循了Hadoop的规则。

3）HBase的内部结构管理状况：

其内部有-ROOT， -META的特殊目录表，用于维护当前集群上所有区域的列表、位置和状态。

-ROOT表包含 -META表的区域列表，而-META表示包含用户的的区域列表。

所以，HBase管理的流程是：

Client -- 链接到ZooKeeper -- 查找-ROOT表的位置 -- 查找-META表的位置 -- 查找用户的区域所在的节点、位置及其状态等 -- 直接管理指定区域的RegionServer并进行交互。

HBase支持Java及MapReduce的开发。

HBase提供了Thrift、REST及Avro的接口。HBase需要有一个相应的接口客户端负责与这些接口的交互。但是这些需要代理进行处理请求和响应，所以比java更慢。

%hbase-daemon.sh start/stop rest/thrift/avro //启动或终止对应的客户端