【hadoop生态之Hbase】HBase部署与使用【笔记+代码】

二、HBase部署与使用

2.1、部署

2.2、简单使用

2.2.1 基本操作

**进入****HBase****客户端命令行**

bin/hbase shell

2) 查看帮助命令

hbase(main)> help

3) 查看当前数据库中有哪些表

hbase(main)> list

4) 查看当前数据库中有哪些命名空间

hbase(main)> list_namespace

2.2.2 表的操作

```
**创建表**
```

hbase(main)> create ‘student’,‘info’

hbase(main)> create ‘iparkmerchant_order’,‘smzf’

hbase(main)> create ‘staff’,‘info’

2) 插入数据到表

hbase(main) > put ‘student’,‘1001’,‘info:name’,‘Thomas’

hbase(main) > put ‘student’,‘1001’,‘info:sex’,‘male’

hbase(main) > put ‘student’,‘1001’,‘info:age’,‘18’

hbase(main) > put ‘student’,‘1002’,‘info:name’,‘Janna’

hbase(main) > put ‘student’,‘1002’,‘info:sex’,‘female’

hbase(main) > put ‘student’,‘1002’,‘info:age’,‘20’

数据插入后的数据模型

Rowkey	timestamp	info
name	sex	age
1001		Thomas	male	18
1002		Janna	female	20

3) 扫描查看表数据

hbase(main) > scan ‘student’

hbase(main) > scan ‘student’,{STARTROW => ‘1001’, STOPROW => ‘1001’}

hbase(main) > scan ‘student’,{STARTROW => ‘1001’}

注：这个是从哪一个rowkey开始扫描

4) 查看表结构

hbase(main):012:0> desc ‘student’

5) 更新指定字段的数据

hbase(main) > put ‘student’,‘1001’,‘info:name’,‘Nick’

hbase(main) > put ‘student’,‘1001’,‘info:age’,‘100’

hbase(main) > put ‘student’,‘1001’,‘info:isNull’,’’（仅测试空值问题）

6) 查看“指定行”或“指定列族**😗*列”的数据

hbase(main) > get ‘student’,‘1001’

hbase(main) > get ‘student’,‘1001’,‘info:name’

7) 删除数据

删除某rowkey的全部数据：

hbase(main) > deleteall ‘student’,‘1001’

8) 清空表数据

hbase(main) > truncate ‘student’

尖叫提示：清空表的操作顺序为先disable，然后再truncate。

9) 删除表

首先需要先让该表为disable状态：

hbase(main) > disable ‘student’

检查这个表是否被禁用

hbase(main) > is_enabled ‘hbase_book’

hbase(main) > is_disabled ‘hbase_book’

恢复被禁用得表

enable ‘student’

然后才能drop这个表：

hbase(main) > drop ‘student’

尖叫提示：如果直接drop表，会报错：Drop the named table. Table must first be disabled

ERROR: Table student is enabled. Disable it first.

10) 统计表数据行数

hbase(main) > count ‘student’

11) 变更表信息

将info列族中的数据存放3个版本：

hbase(main) > alter ‘student’,{NAME=>‘info’,VERSIONS=>3}

查看student的最新的版本的数据

hbase(main) > get ‘student’,‘1001’

查看HBase中的多版本

hbase(main) > get ‘student’,‘1001’,{COLUMN=>‘info:name’,VERSIONS=>10}

2.2.3 常用API操作

1) satus 例如：显示服务器状态

hbase> status ‘bigdata111’

2) exist 检查表是否存在，适用于表量特别多的情况

hbase> exist ‘hbase_book’

3) is_enabled/is_disabled 检查表是否启用或禁用

hbase> is_enabled ‘hbase_book’

hbase> is_disabled ‘hbase_book’

8) alter 该命令可以改变表和列族的模式，例如：

为当前表增加列族：

hbase> alter ‘hbase_book’, NAME => ‘CF2’, VERSIONS => 2

为当前表删除列族：

hbase> alter ‘hbase_book’, ‘delete’ => ‘CF2’

9) disable禁用一张表

hbase> disable ‘hbase_book’

hbase> drop ‘hbase_book’

10) delete

删除一行中一个单元格的值，例如：

hbase> delete ‘hbase_book’, ‘rowKey’, ‘CF:C’

11) truncate清空表数据，即禁用表-删除表-创建表

hbase> truncate ‘hbase_book’

12) create

创建多个列族：

hbase> create ‘t1’, {NAME => ‘f1’}, {NAME => ‘f2’}, {NAME => ‘f3’}

2.3、读写流程

2.3.1、HBase读数据流程

HRegionServer保存着.META.的这样一张表以及表数据，要访问表数据，首先Client先去访问zookeeper，从zookeeper里面找到.META.表所在的位置信息，即找到这个.META.表在哪个HRegionServer上保存着。
接着Client通过刚才获取到的HRegionServer的IP来访问.META.表所在的HRegionServer，从而读取到.META.，进而获取到.META.表中存放的元数据。
Client通过元数据中存储的信息，访问对应的HRegionServer，然后扫描所在

HRegionServer的Memstore和Storefile来查询数据。

最后HRegionServer把查询到的数据响应给Client。

2.3.2、HBase写数据流程

Client也是先访问zookeeper，找到-ROOT-表，进而找到.META.表，并获取.META.表信息。
确定当前将要写入的数据所对应的RegionServer服务器和Region。
Client向该RegionServer服务器发起写入数据请求，然后RegionServer收到请求并响应。
Client先把数据写入到HLog，以防止数据丢失。
然后将数据写入到Memstore。
如果Hlog和Memstore均写入成功，则这条数据写入成功。在此过程中，如果Memstore达到阈值，会把Memstore中的数据flush到StoreFile中。
当Storefile越来越多，会触发Compact合并操作，把过多的Storefile合并成一个大的Storefile。当Storefile越来越大，Region也会越来越大，达到阈值后，会触发Split操作，将Region一分为二。

尖叫提示：因为内存空间是有限的，所以说溢写过程必定伴随着大量的小文件产生。

2.4、JavaAPI

2.4.1 新建Maven Project

新建项目后在pom.xml中添加依赖：

 

<dependency>

<groupId>org.apache.hbase</groupId>

<artifactId>hbase-server</artifactId>

<version>1.3.1</version>

</dependency>

 

<dependency>

<groupId>org.apache.hbase</groupId>

<artifactId>hbase-client</artifactId>

<version>1.3.1</version>

</dependency>

2.4.2 编写HBaseAPI

注意，这部分的学习内容，我们先学习使用老版本的API，接着再写出新版本的API调用方式。因为在企业中，有些时候我们需要一些过时的API来提供更好的兼容性。

1)首先需要获取Configuration****对象：

public static Configuration conf;

static{

    //使用HBaseConfiguration的单例方法实例化
     conf = HBaseConfiguration.create();

conf.set("hbase.zookeeper.quorum", "bigdata111");

conf.set("hbase.zookeeper.property.clientPort", "2181");

}

2) 判断表是否存在：

public static boolean isTableExist(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     //在HBase中管理、访问表需要先创建HBaseAdmin对象

//Connection connection = ConnectionFactory.createConnection(conf);

//HBaseAdmin admin = (HBaseAdmin) connection.getAdmin();

     HBaseAdmin admin = new HBaseAdmin(conf);

     return admin.tableExists(tableName);

}

3) 创建表

public static void createTable(String tableName, String... columnFamily) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     HBaseAdmin admin = new HBaseAdmin(conf);

     //判断表是否存在

     if(isTableExist(tableName)){

         System.out.println("表" + tableName + "已存在");

         //System.exit(0);

     }else{

         //创建表属性对象,表名需要转字节

         HTableDescriptor descriptor = new HTableDescriptor(TableName.valueOf(tableName));

         //创建多个列族

         for(String cf : columnFamily){

             descriptor.addFamily(new HColumnDescriptor(cf));

         }

         //根据对表的配置，创建表

         admin.createTable(descriptor);

         System.out.println("表" + tableName + "创建成功！");

     }

}

4) 删除表

public static void dropTable(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException{

     HBaseAdmin admin = new HBaseAdmin(conf);

     if(isTableExist(tableName)){

          admin.disableTable(tableName);

         admin.deleteTable(tableName);

         System.out.println("表" + tableName + "删除成功！");

     }else{

         System.out.println("表" + tableName + "不存在！");

     }

}

5) 向表中插入数据

public static void addRowData(String tableName, String rowKey, String columnFamily, String column, String value) throws IOException{

     //创建HTable对象

     HTable hTable = new HTable(conf, tableName);

     //向表中插入数据

     Put put = new Put(Bytes.toBytes(rowKey));

     //向Put对象中组装数据

     put.add(Bytes.toBytes(columnFamily), Bytes.toBytes(column), Bytes.toBytes(value));

     hTable.put(put);

     hTable.close();

     System.out.println("插入数据成功");

}

6) 删除多行数据

public static void deleteMultiRow(String tableName, String... rows) throws IOException{

     HTable hTable = new HTable(conf, tableName);

     List<Delete> deleteList = new ArrayList<Delete>();

     for(String row : rows){

         Delete delete = new Delete(Bytes.toBytes(row));

         deleteList.add(delete);

     }

     hTable.delete(deleteList);

     hTable.close();

}

7) 得到所有数据

public static void getAllRows(String tableName) throws IOException{

     HTable hTable = new HTable(conf, tableName);

     //得到用于扫描region的对象

     Scan scan = new Scan();

     //使用HTable得到resultcanner实现类的对象

     ResultScanner resultScanner = hTable.getScanner(scan);

     for(Result result : resultScanner){

         Cell[] cells = result.rawCells();

         for(Cell cell : cells){

             //得到rowkey

             System.out.println("行键:" + Bytes.toString(CellUtil.cloneRow(cell)));

             //得到列族

             System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

             System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

             System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

         }

     }

}

8) 得到某一行所有数据

public static void getRow(String tableName, String rowKey) throws IOException{

     HTable table = new HTable(conf, tableName);

     Get get = new Get(Bytes.toBytes(rowKey));

     //get.setMaxVersions();显示所有版本

//get.setTimeStamp();显示指定时间戳的版本

     Result result = table.get(get);

     for(Cell cell : result.rawCells()){

         System.out.println("行键:" + Bytes.toString(result.getRow()));

         System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

         System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

         System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

         System.out.println("时间戳:" + cell.getTimestamp());

     }

}

9) 获取某一行指定“列族**😗*列”的数据

public static void getRowQualifier(String tableName, String rowKey, String family, String qualifier) throws IOException{

     HTable table = new HTable(conf, tableName);

     Get get = new Get(Bytes.toBytes(rowKey));

     get.addColumn(Bytes.toBytes(family), Bytes.toBytes(qualifier));

     Result result = table.get(get);

     for(Cell cell : result.rawCells()){

         System.out.println("行键:" + Bytes.toString(result.getRow()));

         System.out.println("列族" + Bytes.toString(CellUtil.cloneFamily(cell)));

         System.out.println("列:" + Bytes.toString(CellUtil.cloneQualifier(cell)));

         System.out.println("值:" + Bytes.toString(CellUtil.cloneValue(cell)));

     }

}

2.4.3 HBaseUtil

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HColumnDescriptor;

import org.apache.hadoop.hbase.HTableDescriptor;

import org.apache.hadoop.hbase.NamespaceDescriptor;

import org.apache.hadoop.hbase.TableName;

import org.apache.hadoop.hbase.client.Admin;

import org.apache.hadoop.hbase.client.Connection;

import org.apache.hadoop.hbase.client.ConnectionFactory;

import org.apache.hadoop.hbase.util.Bytes;

 

import java.io.IOException;

import java.text.DecimalFormat;

import java.util.Iterator;

import java.util.TreeSet;

 

/**

\* @author Andy

\* 1、NameSpace ====> 命名空间

\* 2、createTable ===> 表

\* 3、isTable  ====> 判断表是否存在

\* 4、Region、RowKey、分区键

*/

public class HBaseUtil {

 

/**

\* 初始化命名空间

*

\* @param conf   配置对象

\* @param namespace 命名空间的名字

\* @throws Exception

*/

public static void initNameSpace(Configuration conf, String namespace) throws Exception {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

//命名空间描述器

NamespaceDescriptor nd = NamespaceDescriptor

.create(namespace)

.addConfiguration("AUTHOR", "Andy")

.build();

//通过admin对象来创建命名空间

admin.createNamespace(nd);

System.out.println("已初始化命名空间");

//关闭两个对象

close(admin, connection);

}

 

/**

\* 关闭admin对象和connection对象

*

\* @param admin   关闭admin对象

\* @param connection 关闭connection对象

\* @throws IOException IO异常

*/

private static void close(Admin admin, Connection connection) throws IOException {

if (admin != null) {

admin.close();

}

if (connection != null) {

connection.close();

}

}

 

/**

\* 创建HBase的表

\* @param conf

\* @param tableName

\* @param regions

\* @param columnFamily

*/

public static void createTable(Configuration conf, String tableName, int regions, String... columnFamily) throws IOException {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

//判断表

if (isExistTable(conf, tableName)) {

return;

}

//表描述器 HTableDescriptor

HTableDescriptor htd = new HTableDescriptor(TableName.valueOf(tableName));

for (String cf : columnFamily) {

//列描述器 ：HColumnDescriptor

htd.addFamily(new HColumnDescriptor(cf));

}

//htd.addCoprocessor("hbase.CalleeWriteObserver");

//创建表

admin.createTable(htd,genSplitKeys(regions));

System.out.println("已建表");

//关闭对象

close(admin,connection);

}

 

/**

\* 分区键

\* @param regions region个数

\* @return splitKeys

*/

private static byte[][] genSplitKeys(int regions) {

//存放分区键的数组

String[] keys = new String[regions];

//格式化分区键的形式 00 01 02

DecimalFormat df = new DecimalFormat("00");

for (int i = 0; i < regions; i++) {

keys[i] = df.format(i) + "";

}

 

byte[][] splitKeys = new byte[regions][];

//排序 保证你这个分区键是有序得

TreeSet<byte[]> treeSet = new TreeSet<>(Bytes.BYTES_COMPARATOR);

for (int i = 0; i < regions; i++) {

treeSet.add(Bytes.toBytes(keys[i]));

}

 

//输出

Iterator<byte[]> iterator = treeSet.iterator();

int index = 0;

while (iterator.hasNext()) {

byte[] next = iterator.next();

splitKeys[index++]= next;

}

 

return splitKeys;

}

 

/**

\* 判断表是否存在

\* @param conf   配置 conf

\* @param tableName 表名

*/

public static boolean isExistTable(Configuration conf, String tableName) throws IOException {

Connection connection = ConnectionFactory.createConnection(conf);

Admin admin = connection.getAdmin();

 

boolean result = admin.tableExists(TableName.valueOf(tableName));

close(admin, connection);

return result;

}

}

2.4.4 PropertiesUtil

import java.io.IOException;

import java.io.InputStream;

import java.util.Properties;

 

public class PropertiesUtil {

public static Properties properties = null;

static {

//获取配置文件、方便维护

InputStream is = ClassLoader.getSystemResourceAsStream("hbase_consumer.properties");

properties = new Properties();

 

try {

properties.load(is);

} catch (IOException e) {

e.printStackTrace();

}

}

 

/**

\* 获取参数值

\* @param key 名字

\* @return 参数值

*/

public static String getProperty(String key){

return properties.getProperty(key);

}

 

}

2.4.5 HBaseDAO

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HBaseConfiguration;

 

 

public class HBaseDAO {

 

private static String namespace = PropertiesUtil.getProperty("hbase.calllog.namespace");

private static String tableName = PropertiesUtil.getProperty("hbase.calllog.tablename");

private static Integer regions = Integer.valueOf(PropertiesUtil.getProperty("hbase.calllog.regions"));

 

public static void main(String[] args) throws Exception {

Configuration conf = HBaseConfiguration.create();

conf.set("hbase.zookeeper.property.clientPort", "2181");

conf.set("hbase.zookeeper.quorum", "bigdata111");

conf.set("zookeeper.znode.parent", "/hbase");

 

if (!HBaseUtil.isExistTable(conf, tableName)) {

HBaseUtil.initNameSpace(conf, namespace);

HBaseUtil.createTable(conf, tableName, regions, "f1", "f2");

}

}

2.5、MapReduce

通过HBase的相关JavaAPI，我们可以实现伴随HBase操作的MapReduce过程，比如使用MapReduce将数据从本地文件系统导入到HBase的表中，比如我们从HBase中读取一些原始数据后使用MapReduce做数据分析。

2.5.1、官方HBase-MapReduce

1) 查看HBase的MapReduce任务的所需的依赖

$ bin/hbase mapredcp

2) 执行环境变量的导入

$ export HBASE_HOME=/opt/module/hbase-1.3.1

$ export HADOOP_CLASSPATH=`${HBASE_HOME}/bin/hbase mapredcp

3) 运行官方的MapReduce任务

– 案例一：统计Student表中有多少行数据

$ /opt/module/hadoop-2.8.4/bin/yarn jar lib/hbase-server-1.3.1.jar rowcounter ns_ct:calllog

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gWTFjHEg-1608296240531)(file:///C:/Users/18451/AppData/Local/Temp/msohtmlclip1/01/clip_image004.gif)]

– 案例二：使用MapReduce将本地数据导入到****HBase

(1) **在本地创建一个tsv格式的文件：**fruit.tsv，自己建表用\t分割数据

1001 Apple Red

1002 Pear Yellow

1003 Pineapple Yellow

尖叫提示：上面的这个数据不要从word中直接复制，有格式错误

(2) 创建HBase表

hbase(main):001:0> create ‘fruit’,‘info’

(3) 在HDFS中创建input_fruit文件夹并上传fruit.tsv文件

$ /opt/module/hadoop-2.8.4/bin/hdfs dfs -mkdir /input_fruit/

$ /opt/module/hadoop-2.8.4/bin/hdfs dfs -put fruit.tsv /input_fruit/

(4) 执行MapReduce到HBase的fruit表中

$ /opt/module/hadoop-2.8.4/bin/yarn jar lib/hbase-server-1.3.1.jar importtsv \

-Dimporttsv.columns=HBASE_ROW_KEY,info:name,info:color fruit \

hdfs://bigdata11:9000/input_fruit

(5) 使用scan命令查看导入后的结果

hbase(main):001:0> scan ‘fruit’

2.5.2**、HBase2HBase**

**目标：**将fruit表中的一部分数据，通过MR迁入到fruit_mr表中。

分步实现：

1) 构建ReadFruitMapper类，用于读取fruit表中的数据

import java.io.IOException;

import org.apache.hadoop.hbase.Cell;

import org.apache.hadoop.hbase.CellUtil;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.client.Result;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableMapper;

import org.apache.hadoop.hbase.util.Bytes;

 

public class ReadFruitMapper extends TableMapper<ImmutableBytesWritable, Put> {

 

     @Override

     protected void map(ImmutableBytesWritable key, Result value, Context context)

     throws IOException, InterruptedException {

     //将fruit的name和color提取出来，相当于将每一行数据读取出来放入到Put对象中。

         Put put = new Put(key.get());

         //遍历添加column行

         for(Cell cell: value.rawCells()){

             //添加/克隆列族:info

             if("info".equals(Bytes.toString(CellUtil.cloneFamily(cell)))){

                  //添加/克隆列：name

                  if("name".equals(Bytes.toString(CellUtil.cloneQualifier(cell)))){

                      //将该列cell加入到put对象中

                      put.add(cell);

                      //添加/克隆列:color

                  }else if("color".equals(Bytes.toString(CellUtil.cloneQualifier(cell)))){

                      //向该列cell加入到put对象中

                      put.add(cell);

                  }

             }

         }

         //将从fruit读取到的每行数据写入到context中作为map的输出

         context.write(key, put);

     }

}

2) 构建WriteFruitMRReducer类，用于将读取到的fruit表中的数据写入到fruit_mr表中

import java.io.IOException;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableReducer;

import org.apache.hadoop.io.NullWritable;

 

public class WriteFruitMRReducer extends TableReducer<ImmutableBytesWritable, Put, NullWritable> {

     @Override

     protected void reduce(ImmutableBytesWritable key, Iterable<Put> values, Context context)

     throws IOException, InterruptedException {

         //读出来的每一行数据写入到fruit_mr表中

          for(Put put: values){

             context.write(NullWritable.get(), put);

         }

     }

}

3) 构建Fruit2FruitMRRunner extends Configured implements Tool用于组装运行Job任务

package HDFSToHBase;

 

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.HBaseConfiguration;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.util.Bytes;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

import org.apache.hadoop.util.ToolRunner;

 

public class ReadFruitFromHDFSMapper extends Mapper<LongWritable, Text, ImmutableBytesWritable, Put> {

@Override

protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

//从HDFS中读取的数据

String lineValue = value.toString();

//读取出来的每行数据使用\t进行分割，存于String数组

String[] values = lineValue.split("\t");

 

//根据数据中值的含义取值

String rowKey = values[0];

String name = values[1];

String color = values[2];

 

//初始化rowKey

ImmutableBytesWritable rowKeyWritable = new ImmutableBytesWritable(Bytes.toBytes(rowKey));

 

//初始化put对象

Put put = new Put(Bytes.toBytes(rowKey));

 

//参数分别:列族、列、值

put.addColumn(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes(name));

put.addColumn(Bytes.toBytes("info"), Bytes.toBytes("color"), Bytes.toBytes(color));

 

context.write(rowKeyWritable, put);

}

 

public static void main(String[] args) throws Exception {

Configuration conf = HBaseConfiguration.create();

int status = ToolRunner.run(conf, new Txt2FruitRunner(), args);

System.exit(status);

}

}

4) 打包运行任务

$ /opt/module/hadoop-2.8.4/bin/yarn jar /opt/module/hbase-1.3.1/HBase-1.0-SNAPSHOT.jar MRToHBase.Fruit2FruitMRRunner

尖叫提示：运行任务前，如果待数据导入的表不存在，则需要提前创建之。

2.5.2、HDFS2HBase

**目标：**实现将HDFS中的数据写入到HBase表中。

分步实现：

1) 构建ReadFruitFromHDFSMapper于读取HDFS中的文件数据

import java.io.IOException;

 

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.util.Bytes;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

 

public class ReadFruitFromHDFSMapper extends Mapper<LongWritable, Text, ImmutableBytesWritable, Put> {

     @Override

     protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

         //从HDFS中读取的数据

         String lineValue = value.toString();

         //读取出来的每行数据使用\t进行分割，存于String数组

         String[] values = lineValue.split("\t");

         

         //根据数据中值的含义取值

         String rowKey = values[0];

         String name = values[1];

         String color = values[2];

         

         //初始化rowKey

         ImmutableBytesWritable rowKeyWritable = new ImmutableBytesWritable(Bytes.toBytes(rowKey));

         

         //初始化put对象

         Put put = new Put(Bytes.toBytes(rowKey));

         

         //参数分别:列族、列、值

put.add(Bytes.toBytes("info"), Bytes.toBytes("name"), Bytes.toBytes(name));

put.add(Bytes.toBytes("info"), Bytes.toBytes("color"), Bytes.toBytes(color));

 

context.write(rowKeyWritable, put);

     }

}

2) 构建WriteFruitMRFromTxtReducer类

import java.io.IOException;

import org.apache.hadoop.hbase.client.Put;

import org.apache.hadoop.hbase.io.ImmutableBytesWritable;

import org.apache.hadoop.hbase.mapreduce.TableReducer;

import org.apache.hadoop.io.NullWritable;

 

public class WriteFruitMRFromTxtReducer extends TableReducer<ImmutableBytesWritable, Put, NullWritable> {

     @Override

     protected void reduce(ImmutableBytesWritable key, Iterable<Put> values, Context context) throws IOException, InterruptedException {

         //读出来的每一行数据写入到fruit_hdfs表中

         for(Put put: values){

             context.write(NullWritable.get(), put);

         }

     }

}

3) 创建Txt2FruitRunner组装****Job

public int run(String[] args) throws Exception {

//得到Configuration

Configuration conf = this.getConf();

 

//创建Job任务

Job job = Job.getInstance(conf, this.getClass().getSimpleName());

job.setJarByClass(Txt2FruitRunner.class);

Path inPath = new Path("hdfs://bigdata111:8020/input_fruit/fruit.tsv");

FileInputFormat.addInputPath(job, inPath);

 

//设置Mapper

job.setMapperClass(ReadFruitFromHDFSMapper.class);

job.setMapOutputKeyClass(ImmutableBytesWritable.class);

job.setMapOutputValueClass(Put.class);

 

//设置Reducer

TableMapReduceUtil.initTableReducerJob("fruit_mr", WriteFruitMRFromTxtReducer.class, job);

 

//设置Reduce数量，最少1个

job.setNumReduceTasks(1);

 

boolean isSuccess = job.waitForCompletion(true);

if(!isSuccess){

throw new IOException("Job running with error");

}

 

return isSuccess ? 0 : 1;

}

4) 调用执行****Job

public static void main(String[] args) throws Exception {

         Configuration conf = HBaseConfiguration.create();

       int status = ToolRunner.run(conf, new Txt2FruitRunner(), args);

       System.exit(status);

}

5) 打包运行

$ /opt/module/hadoop-2.8.4/bin/yarn jar HDFSToHBase.jar HDFSToHBase.ReadFruitFromHDFSMapper

尖叫提示：运行任务前，如果待数据导入的表不存在，则需要提前创建之。

2.6、与Hive的集成

2.6.1、HBase与Hive的对比

1) Hive

(1) 数据仓库

Hive的本质其实就相当于将HDFS中已经存储的文件在Mysql中做了一个双射关系，以方便使用HQL去管理查询。

(2) 用于数据分析、清洗

Hive适用于离线的数据分析和清洗，延迟较高。

(3) **基于HDFS、**MapReduce

Hive存储的数据依旧在DataNode上，编写的HQL语句终将是转换为MapReduce代码执行。

2) HBase

(1) 数据库

是一种面向列存储的非关系型数据库。

(2) 用于存储结构化和非结构话的数据

适用于单表非关系型数据的存储，不适合做关联查询，类似JOIN等操作。

(3) 基于****HDFS

数据持久化存储的体现形式是Hfile，存放于DataNode中，被ResionServer以region的形式进行管理。

(4) 延迟较低，接入在线业务使用

面对大量的企业数据，HBase可以直线单表大量数据的存储，同时提供了高效的数据访问速度。

2.6.2、HBase与Hive集成使用

环境准备

因为我们后续可能会在操作Hive的同时对HBase也会产生影响，所以Hive需要持有操作HBase的Jar，那么接下来拷贝Hive所依赖的Jar包（或者使用软连接的形式）。记得还有把zookeeper的jar包考入到hive的lib目录下。

$ export HBASE_HOME=/opt/module/hbase-1.3.1

$ export HIVE_HOME=/opt/module/apache-hive-1.2.2-bin

 

$ ln -s $HBASE_HOME/lib/hbase-common-1.3.1.jar $HIVE_HOME/lib/hbase-common-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-server-1.3.1.jar $HIVE_HOME/lib/hbase-server-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-client-1.3.1.jar $HIVE_HOME/lib/hbase-client-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-protocol-1.3.1.jar $HIVE_HOME/lib/hbase-protocol-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-it-1.3.1.jar $HIVE_HOME/lib/hbase-it-1.3.1.jar

$ ln -s $HBASE_HOME/lib/htrace-core-3.1.0-incubating.jar $HIVE_HOME/lib/htrace-core-3.1.0-incubating.jar

$ ln -s $HBASE_HOME/lib/hbase-hadoop2-compat-1.3.1.jar $HIVE_HOME/lib/hbase-hadoop2-compat-1.3.1.jar

$ ln -s $HBASE_HOME/lib/hbase-hadoop-compat-1.3.1.jar $HIVE_HOME/lib/hbase-hadoop-compat-1.3.1.jar

同时在hive-site.xml中修改zookeeper的属性，如下：

<property>

<name>hive.zookeeper.quorum</name>

<value>bigdata11,bigdata12,bigdata13</value>

<description>The list of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>

</property>

<property>

<name>hive.zookeeper.client.port</name>

<value>2181</value>

<description>The port of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>

</property>

1) 案例一

**目标：**建立Hive表，关联HBase表，插入数据到Hive表的同时能够影响HBase表。

分步实现：

(1) 在Hive中创建表同时关联****HBase

CREATE TABLE hive_hbase_emp_table(

empno int,

ename string,

job string,

mgr int,

hiredate string,

sal double,

comm double,

deptno int)

STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'

WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:ename,info:job,info:mgr,info:hiredate,info:sal,info:comm,info:deptno")

TBLPROPERTIES ("hbase.table.name" = "hbase_emp_table1");

尖叫提示：完成之后，可以分别进入Hive和HBase查看，都生成了对应的表

(2) 在Hive中创建临时中间表，用于load文件中的数据

尖叫提示：不能将数据直接load进Hive所关联HBase的那张表中

CREATE TABLE emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
row format delimited fields terminated by '\t';

(3) 向Hive中间表中load数据

hive> load data local inpath '/opt/module/datas/emp.txt' into table emp;

(4) 通过insert命令将中间表中的数据导入到Hive关联HBase的那张表中

hive> insert into table hive_hbase_emp_table1 select * from emp;

(5) 查看Hive以及关联的HBase表中是否已经成功的同步插入了数据

Hive**：**

hive> select * from hive_hbase_emp_table;

HBase**：**

hbase> scan 'hbase_emp_table'

2) 案例二

**目标：**在HBase中已经存储了某一张表hbase_emp_table，然后在Hive中创建一个外部表来关联HBase中的hbase_emp_table这张表，使之可以借助Hive来分析HBase这张表中的数据。

**注：**该案例2紧跟案例1的脚步，所以完成此案例前，请先完成案例1。

分步实现：

(1) 在Hive中创建外部表

CREATE EXTERNAL TABLE relevance_hbase_emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
STORED BY 
'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = 
":key,info:ename,info:job,info:mgr,info:hiredate,info:sal,info:comm,info:deptno") 
TBLPROPERTIES ("hbase.table.name" = "hbase_emp_table");

(2) 关联后就可以使用Hive函数进行一些分析操作了

hive (default)> select * from relevance_hbase_emp;

2.7、与Sqoop的集成

Sqoop supports additional import targets beyond HDFS and Hive. Sqoop can also import records into a table in HBase.

之前我们已经学习过如何使用Sqoop在Hadoop集群和关系型数据库中进行数据的导入导出工作，接下来我们学习一下利用Sqoop在HBase和RDBMS中进行数据的转储。

相关参数：

参数	描述
–column-family	Sets the target column family for the import 设置导入的目标列族。
–hbase-create-table	If specified, create missing HBase tables 是否自动创建不存在的HBase表（这就意味着，不需要手动提前在HBase中先建立表）
–hbase-row-key
Specifies which input column to use as the row key.In case, if input table contains composite key, then
–hbase-table	Specifies an HBase table to use as the target instead of HDFS. 指定数据将要导入到HBase中的哪张表中。
–hbase-bulkload	Enables bulk loading. 是否允许bulk形式的导入。

must be in the form of a comma-separated list of composite key attributes. mysql中哪一列的值作为HBase的rowkey，如果rowkey是个组合键，则以逗号分隔。（注：避免rowkey的重复）

1) 案例

**目标：**将RDBMS中的数据抽取到HBase中

分步实现：

(1) 配置sqoop-env.sh，添加如下内容：

export HBASE_HOME=/opt/module/hbase-1.3.1

(2) 在Mysql中新建一个数据库db_library，一张表****book

CREATE DATABASE db_library;
CREATE TABLE db_library.book(
id int(4) PRIMARY KEY NOT NULL AUTO_INCREMENT, 
name VARCHAR(255) NOT NULL, 
price VARCHAR(255) NOT NULL);

(3) 向表中插入一些数据

INSERT INTO db_library.book (name, price) VALUES('Lie Sporting', '30');  
INSERT INTO db_library.book (name, price) VALUES('Pride & Prejudice', '70');  
INSERT INTO db_library.book (name, price) VALUES('Fall of Giants', '50');

(4) 执行Sqoop导入数据的操作

手动创建HBase表

hbase> create 'hbase_book','info'

(5) 在HBase中scan这张表得到如下内容

hbase> scan 'hbase_book'

**思考：**尝试使用复合键作为导入数据时的rowkey。

$ bin/sqoop import \
--connect jdbc:mysql://bigdata11:3306/db_library \
--username root \
--password 000000 \
--table book \
--columns "id,name,price" \
--column-family "info" \
--hbase-create-table \
--hbase-row-key "id" \
--hbase-table "hbase_book" \
--num-mappers 1 \
--split-by id

尖叫提示：sqoop1.4.6只支持HBase1.0.1之前的版本的自动创建HBase表的功能

2.8、常用的Shell操作

satus
例如：显示服务器状态

hbase> status 'bigdata111'

whoami
显示HBase当前用户，例如：

hbase> whoami

list
显示当前所有的表

hbase> list

count
统计指定表的记录数，例如：

hbase> count 'hbase_book'

describe
展示表结构信息

hbase> describe 'hbase_book'

exist
检查表是否存在，适用于表量特别多的情况

hbase> exist 'hbase_book'

is_enabled/is_disabled
检查表是否启用或禁用

hbase> is_enabled 'hbase_book'
hbase> is_disabled 'hbase_book'

alter
该命令可以改变表和列族的模式，例如：
为当前表增加列族：

hbase> alter 'hbase_book', NAME => 'CF2', VERSIONS => 2

为当前表删除列族：

hbase> alter 'hbase_book', 'delete' => 'CF2'

disable
禁用一张表

hbase> disable 'hbase_book'

drop
删除一张表，记得在删除表之前必须先禁用

hbase> drop 'hbase_book'

delete
删除一行中一个单元格的值，例如：

hbase> delete 'hbase_book', 'rowKey', 'CF:C'

truncate
清空表数据，即禁用表-删除表-创建表

hbase> truncate 'hbase_book'

create
创建多个列族：

hbase> create 't1', {NAME => 'f1'}, {NAME => 'f2'}, {NAME => 'f3'}

2.10、节点的管理

2.10.1、服役（commissioning）

当启动regionserver时，regionserver会向HMaster注册并开始接收本地数据，开始的时候，新加入的节点不会有任何数据，平衡器开启的情况下，将会有新的region移动到开启的RegionServer上。如果启动和停止进程是使用ssh和HBase脚本，那么会将新添加的节点的主机名加入到conf/regionservers文件中。

2.10.2、退役（decommissioning）

顾名思义，就是从当前HBase集群中删除某个RegionServer，这个过程分为如下几个过程：

1) 停止负载平衡器

hbase> balance_switch false

2) 在退役节点上停止****RegionServer

hbase> hbase-daemon.sh stop regionserver

3) RegionServer一旦停止，会关闭维护的所有region

4) Zookeeper上的该RegionServer****节点消失

5) Master节点检测到该RegionServer****下线，开启平衡器

6) 下线的RegionServer的region服务得到重新分配

该关闭方法比较传统，需要花费一定的时间，而且会造成部分region短暂的不可用。

另一种方案：

1) RegionServer先卸载所管理的region

$ bin/graceful_stop.sh <RegionServer-hostname>

2) 自动平衡数据

3) 和之前的2~6步是一样的