HBase学习心得之HBase原理Java接口操作增删改查

2024-05-12 17:48

本文主要是介绍HBase学习心得之HBase原理Java接口操作增删改查,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

HBase之伟大(总结)

  一:region是按大小分割的,每个表开始只有一个region。随着数据不断插入表,region会不断增大,增大到了某个阀值,HRegion就会等分成两个新的HRegion。

  二:HRegion是Hbase中分布式存储和负载均衡的最小单位,最小单位就表示不同的HRegion能分布在不同的HRegion Server上,但一个HRegion是不能拆分到多个Server上的。

  三:HRegion虽是分布式存储的最小单位,但并不是存储的最小单位。HRegion由一个或多个Store组成,每个Store保存一个Column Family。每个Store又由一个memstore和0至多个storeFile组成。

  四:HBase各个组成部分的作用

         1.Client

            包含访问HBase的接口,client维护着一些cache来加快对HBase的访问,比如region的位置信息。

         2.Zookeeper

            1.保证任何时刻,集群中只有一个master。

            2.存储所有的Region的寻址入口。(Client能够通过Zookeeper访问到Region Server)

            3.实时监控Region Sever状态,将Region Server的上线和下线信息能够实时通知Master。(心跳机制RPC)

            4.存储HBase的schema,包括有哪些table,每个table有哪些Column Family。

         3.Master

            1.为Region Server分配region。

            2.负责Region Server的负载均衡。

            3.发现失效的Region Server,并重新分配其上的region。

            4.HDFS的垃圾回收。

            5.处理schema更新请求。

         4.Region Server

            1.维护Master分配的region,处理对这些的region的I/O请求。

            2.负责切分这些运行过程中变得过大的region。

PS:

      Client访问HBase上的数据过程并不需要master的参与。(寻址访问Zookeeper和Region Server)master仅仅维护着table和region的元数据信息,负载很低。

 

Java接口操作HBase

package cn.hbase;

import java.util.ArrayList;
import java.util.List;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.hbase.HBaseConfiguration;
import org.apache.hadoop.hbase.HColumnDescriptor;
import org.apache.hadoop.hbase.HTableDescriptor;
import org.apache.hadoop.hbase.TableName;
import org.apache.hadoop.hbase.client.Delete;
import org.apache.hadoop.hbase.client.Get;
import org.apache.hadoop.hbase.client.HBaseAdmin;
import org.apache.hadoop.hbase.client.HTable;
import org.apache.hadoop.hbase.client.Put;
import org.apache.hadoop.hbase.client.Result;
import org.apache.hadoop.hbase.client.ResultScanner;
import org.apache.hadoop.hbase.client.Scan;
import org.apache.hadoop.hbase.util.Bytes;
import org.junit.Before;
import org.junit.Test;

public class HBaseDemo {

 private Configuration conf;

 /*
  * 在增删改查之前操作
  */
 @Before
 public void init() {
  conf = HBaseConfiguration.create();
  conf.set("hbase.zookeeper.quorum", "192.168.56.110");
 }

 public static void main(String[] args) throws Exception {
  Configuration conf = HBaseConfiguration.create();
  // 客户端连的zookeeper
  /*
   * zookeeper集群
   */
  // conf.set("hbase.zookeeper.quorum",
  // "centos1:2181,centos2:2181,centos3:2181");
  /*
   * zookeeper单节点集群(hadoop+zookeeper+hbase)
   */
  conf.set("hbase.zookeeper.quorum", "192.168.56.110");
  HBaseAdmin admin = new HBaseAdmin(conf);
  // 创建user表
  HTableDescriptor htd = new HTableDescriptor(TableName.valueOf("user"));
  // 增添列族
  HColumnDescriptor hcd_info = new HColumnDescriptor("info");
  HColumnDescriptor hcd_data = new HColumnDescriptor("data");
  // 增添列族属性
  // 3
  hcd_info.setMaxVersions(3);
  // 2
  htd.addFamily(hcd_data);
  htd.addFamily(hcd_info);
  // 1
  admin.createTable(htd);

  admin.close();
 }

 /*
  * 插入
  */
 @Test
 public void testPut() throws Exception {
  // 得到表对象
  HTable table = new HTable(conf, "user");
  // put对象
  Put put = new Put(Bytes.toBytes("rk0001"));
  // 增加列族。列名。值
  put.add(Bytes.toBytes("info"), Bytes.toBytes("name"),
    Bytes.toBytes("zhangsan"));
  put.add(Bytes.toBytes("info"), Bytes.toBytes("age"),
    Bytes.toBytes("120"));
  put.add(Bytes.toBytes("info"), Bytes.toBytes("money"),
    Bytes.toBytes(10000));
  table.put(put);
  table.close();
 }

 /*
  * 批量插入100万条
  */
 public void testPut2() throws Exception {
  // 得到表对象
  HTable table = new HTable(conf, "user");
  // put对象数组
  List<Put> list = new ArrayList<Put>(10000);
  for (int i = 0; i < 1000001; i++) {
   Put put = new Put(Bytes.toBytes("rk0001"));
   // 增加列族。列名。值
   put.add(Bytes.toBytes("info"), Bytes.toBytes("name"),
     Bytes.toBytes("zhangsan" + i));
   list.add(put);
   if (i % 10000 == 0) {
    // 每10000条提交一次
    table.put(list);
    list = new ArrayList<Put>(10000);
   }
  }
  table.put(list);
  table.close();
 }

 /*
  * 取数据
  */
 @Test
 public void testGet() throws Exception {
  HTable table = new HTable(conf, "user");
  Get get = new Get(Bytes.toBytes("rk0001"));
  Result result = table.get(get);
  // 由result对象读取
  String r = Bytes.toString(result.getValue(Bytes.toBytes("info"),
    Bytes.toBytes("name")));
  System.out.println(r);
  table.close();
 }

 /*
  * 取多个
  */
 @Test
 public void testGets() throws Exception {
  HTable table = new HTable(conf, "user");
  Scan scan = new Scan(Bytes.toBytes("rk0001"), Bytes.toBytes("rk0005")); // 包含前面不包含后面
  // 返回结果集
  ResultScanner scanner = table.getScanner(scan);
  for (Result result : scanner) {
   String r = Bytes.toString(result.getValue(Bytes.toBytes("info"),
     Bytes.toBytes("name")));
   System.out.println(r);
  }
  table.close();
 }

 /*
  * 删除
  */
 @Test
 public void testDel() throws Exception {
  HTable table = new HTable(conf, "user");
  Delete delete = new Delete(Bytes.toBytes("rk0001"));
  table.delete(delete);
  table.close();
 }
}

 

 

 

       

 

这篇关于HBase学习心得之HBase原理Java接口操作增删改查的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/983319

相关文章

Python调用Orator ORM进行数据库操作

《Python调用OratorORM进行数据库操作》OratorORM是一个功能丰富且灵活的PythonORM库,旨在简化数据库操作,它支持多种数据库并提供了简洁且直观的API,下面我们就... 目录Orator ORM 主要特点安装使用示例总结Orator ORM 是一个功能丰富且灵活的 python O

Java实现检查多个时间段是否有重合

《Java实现检查多个时间段是否有重合》这篇文章主要为大家详细介绍了如何使用Java实现检查多个时间段是否有重合,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录流程概述步骤详解China编程步骤1:定义时间段类步骤2:添加时间段步骤3:检查时间段是否有重合步骤4:输出结果示例代码结语作

Java中String字符串使用避坑指南

《Java中String字符串使用避坑指南》Java中的String字符串是我们日常编程中用得最多的类之一,看似简单的String使用,却隐藏着不少“坑”,如果不注意,可能会导致性能问题、意外的错误容... 目录8个避坑点如下:1. 字符串的不可变性:每次修改都创建新对象2. 使用 == 比较字符串,陷阱满

Java判断多个时间段是否重合的方法小结

《Java判断多个时间段是否重合的方法小结》这篇文章主要为大家详细介绍了Java中判断多个时间段是否重合的方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录判断多个时间段是否有间隔判断时间段集合是否与某时间段重合判断多个时间段是否有间隔实体类内容public class D

IDEA编译报错“java: 常量字符串过长”的原因及解决方法

《IDEA编译报错“java:常量字符串过长”的原因及解决方法》今天在开发过程中,由于尝试将一个文件的Base64字符串设置为常量,结果导致IDEA编译的时候出现了如下报错java:常量字符串过长,... 目录一、问题描述二、问题原因2.1 理论角度2.2 源码角度三、解决方案解决方案①:StringBui

Java覆盖第三方jar包中的某一个类的实现方法

《Java覆盖第三方jar包中的某一个类的实现方法》在我们日常的开发中,经常需要使用第三方的jar包,有时候我们会发现第三方的jar包中的某一个类有问题,或者我们需要定制化修改其中的逻辑,那么应该如何... 目录一、需求描述二、示例描述三、操作步骤四、验证结果五、实现原理一、需求描述需求描述如下:需要在

Java中ArrayList和LinkedList有什么区别举例详解

《Java中ArrayList和LinkedList有什么区别举例详解》:本文主要介绍Java中ArrayList和LinkedList区别的相关资料,包括数据结构特性、核心操作性能、内存与GC影... 目录一、底层数据结构二、核心操作性能对比三、内存与 GC 影响四、扩容机制五、线程安全与并发方案六、工程

JavaScript中的reduce方法执行过程、使用场景及进阶用法

《JavaScript中的reduce方法执行过程、使用场景及进阶用法》:本文主要介绍JavaScript中的reduce方法执行过程、使用场景及进阶用法的相关资料,reduce是JavaScri... 目录1. 什么是reduce2. reduce语法2.1 语法2.2 参数说明3. reduce执行过程

如何使用Java实现请求deepseek

《如何使用Java实现请求deepseek》这篇文章主要为大家详细介绍了如何使用Java实现请求deepseek功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1.deepseek的api创建2.Java实现请求deepseek2.1 pom文件2.2 json转化文件2.2

Java调用DeepSeek API的最佳实践及详细代码示例

《Java调用DeepSeekAPI的最佳实践及详细代码示例》:本文主要介绍如何使用Java调用DeepSeekAPI,包括获取API密钥、添加HTTP客户端依赖、创建HTTP请求、处理响应、... 目录1. 获取API密钥2. 添加HTTP客户端依赖3. 创建HTTP请求4. 处理响应5. 错误处理6.