Hive和HBase整合

Hive和Hbase有各自不同的特征：hive是高延迟、结构化和面向分析的，hbase是低延迟、非结构化和面向编程的。Hive数据仓库在hadoop上是高延迟的。Hive集成Hbase就是为了使用hbase的一些特性。

Hive继承HBase可以有效利用HBase数据库的存储特性，如行更新和列索引等。在集成的过程中注意维持HBase jar包的一致性。Hive集成HBase需要在Hive表和HBase表之间建立映射关系，也就是Hive表的列和列类型与HBase表的列族及列限定词建立关联。每一个在Hive表中的域都存在与HBase中，而在Hive表中不需要包含所有HBase中的列。HBase中的rowkey对应到Hive中为选择一个域使用 :key 来对应，列族(cf:)映射到Hive中的其他所有域，列为(cf:cq)。

下面来简单实战下：

创建HBase表

1. create 'user1',{NAME => 'info',VERSIONS => 1} 

向user表中插入一些数据

1. put 'user1','1','info:name','zhangsan' 
2. put 'user1','1','info:age','25' 
3. put 'user1','2','info:name','lisi' 
4. put 'user1','2','info:age','22' 
5. put 'user1','3','info:name','wangswu' 
6. put 'user1','3','info:age','21' 

使用scan命令来查看下user表中的数据

1. scan 'user'; 

结果如下

ROW COLUMN+CELL

1 column=info:age, timestamp=1476773051604, value=25

1 column=info:name, timestamp=1476773046344, value=zhangsan

2 column=info:age, timestamp=1476773051685, value=22

2 column=info:name, timestamp=1476773051661, value=lisi

3 column=info:age, timestamp=1476773052632, value=21

3 column=info:name, timestamp=1476773051709, value=wangswu

3 row(s) in 0.0610 seconds

创建Hive中与HBase中对应的表

1. SET hbase.zookeeper.quorum=hadoop001; 
2. SET zookeeper.znode.parent=/hbase; 
3. ADD jar /opt/bigdata/hive-1.2.1-bin/lib/hive-hbase-handler-1.2.1.jar; 
4. // user1表 
5. CREATE EXTERNAL TABLE user1 ( 
6. rowkey string, 
7. info map<STRING,STRING> 
8. ) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 
9. WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:") 
10. TBLPROPERTIES ("hbase.table.name" = "user1"); 
11. // user2表 
12. CREATE EXTERNAL TABLE user2 ( 
13. rowkey string, 
14. name string, 
15. age int 
16. ) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 
17. WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:name,info:age") 
18. TBLPROPERTIES ("hbase.table.name" = "user2"); 

查询user1，user2表数据

查询user1表数据

1. select * from user1; 

结果如下

1. OK 
2. 1       {"age":"25","name":"zhangsan"} 
3. 2       {"age":"22","name":"lisi"} 
4. 3       {"age":"21","name":"wangswu"} 
5. Time taken: 0.467 seconds, Fetched: 3 row(s) 

查询user2表数据

1. select * from user2; 

结果如下:

1. OK 
2.  
3. 1 zhangsan 25 
4.  
5. 2 lisi 22 
6.  
7. 3 wangswu 21 
8.  
9. Time taken: 0.087 seconds, Fetched: 3 row(s) 

hive插入数据到hbase

1. INSERT INTO TABLE user1 
2. SELECT '4' AS rowkey, 
3. map('name','lijin','age','22') AS info 
4. from dual limit 1; 

本文作者：佚名

来源：51CTO