HBase学习心得之HBase原理Java接口操作增删改查

2024-05-12 17:48

本文主要是介绍HBase学习心得之HBase原理Java接口操作增删改查,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

HBase之伟大(总结)

  一:region是按大小分割的,每个表开始只有一个region。随着数据不断插入表,region会不断增大,增大到了某个阀值,HRegion就会等分成两个新的HRegion。

  二:HRegion是Hbase中分布式存储和负载均衡的最小单位,最小单位就表示不同的HRegion能分布在不同的HRegion Server上,但一个HRegion是不能拆分到多个Server上的。

  三:HRegion虽是分布式存储的最小单位,但并不是存储的最小单位。HRegion由一个或多个Store组成,每个Store保存一个Column Family。每个Store又由一个memstore和0至多个storeFile组成。

  四:HBase各个组成部分的作用

         1.Client

            包含访问HBase的接口,client维护着一些cache来加快对HBase的访问,比如region的位置信息。

         2.Zookeeper

            1.保证任何时刻,集群中只有一个master。

            2.存储所有的Region的寻址入口。(Client能够通过Zookeeper访问到Region Server)

            3.实时监控Region Sever状态,将Region Server的上线和下线信息能够实时通知Master。(心跳机制RPC)

            4.存储HBase的schema,包括有哪些table,每个table有哪些Column Family。

         3.Master

            1.为Region Server分配region。

            2.负责Region Server的负载均衡。

            3.发现失效的Region Server,并重新分配其上的region。

            4.HDFS的垃圾回收。

            5.处理schema更新请求。

         4.Region Server

            1.维护Master分配的region,处理对这些的region的I/O请求。

            2.负责切分这些运行过程中变得过大的region。

PS:

      Client访问HBase上的数据过程并不需要master的参与。(寻址访问Zookeeper和Region Server)master仅仅维护着table和region的元数据信息,负载很低。

 

Java接口操作HBase

package cn.hbase;

import java.util.ArrayList;
import java.util.List;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.hbase.HBaseConfiguration;
import org.apache.hadoop.hbase.HColumnDescriptor;
import org.apache.hadoop.hbase.HTableDescriptor;
import org.apache.hadoop.hbase.TableName;
import org.apache.hadoop.hbase.client.Delete;
import org.apache.hadoop.hbase.client.Get;
import org.apache.hadoop.hbase.client.HBaseAdmin;
import org.apache.hadoop.hbase.client.HTable;
import org.apache.hadoop.hbase.client.Put;
import org.apache.hadoop.hbase.client.Result;
import org.apache.hadoop.hbase.client.ResultScanner;
import org.apache.hadoop.hbase.client.Scan;
import org.apache.hadoop.hbase.util.Bytes;
import org.junit.Before;
import org.junit.Test;

public class HBaseDemo {

 private Configuration conf;

 /*
  * 在增删改查之前操作
  */
 @Before
 public void init() {
  conf = HBaseConfiguration.create();
  conf.set("hbase.zookeeper.quorum", "192.168.56.110");
 }

 public static void main(String[] args) throws Exception {
  Configuration conf = HBaseConfiguration.create();
  // 客户端连的zookeeper
  /*
   * zookeeper集群
   */
  // conf.set("hbase.zookeeper.quorum",
  // "centos1:2181,centos2:2181,centos3:2181");
  /*
   * zookeeper单节点集群(hadoop+zookeeper+hbase)
   */
  conf.set("hbase.zookeeper.quorum", "192.168.56.110");
  HBaseAdmin admin = new HBaseAdmin(conf);
  // 创建user表
  HTableDescriptor htd = new HTableDescriptor(TableName.valueOf("user"));
  // 增添列族
  HColumnDescriptor hcd_info = new HColumnDescriptor("info");
  HColumnDescriptor hcd_data = new HColumnDescriptor("data");
  // 增添列族属性
  // 3
  hcd_info.setMaxVersions(3);
  // 2
  htd.addFamily(hcd_data);
  htd.addFamily(hcd_info);
  // 1
  admin.createTable(htd);

  admin.close();
 }

 /*
  * 插入
  */
 @Test
 public void testPut() throws Exception {
  // 得到表对象
  HTable table = new HTable(conf, "user");
  // put对象
  Put put = new Put(Bytes.toBytes("rk0001"));
  // 增加列族。列名。值
  put.add(Bytes.toBytes("info"), Bytes.toBytes("name"),
    Bytes.toBytes("zhangsan"));
  put.add(Bytes.toBytes("info"), Bytes.toBytes("age"),
    Bytes.toBytes("120"));
  put.add(Bytes.toBytes("info"), Bytes.toBytes("money"),
    Bytes.toBytes(10000));
  table.put(put);
  table.close();
 }

 /*
  * 批量插入100万条
  */
 public void testPut2() throws Exception {
  // 得到表对象
  HTable table = new HTable(conf, "user");
  // put对象数组
  List<Put> list = new ArrayList<Put>(10000);
  for (int i = 0; i < 1000001; i++) {
   Put put = new Put(Bytes.toBytes("rk0001"));
   // 增加列族。列名。值
   put.add(Bytes.toBytes("info"), Bytes.toBytes("name"),
     Bytes.toBytes("zhangsan" + i));
   list.add(put);
   if (i % 10000 == 0) {
    // 每10000条提交一次
    table.put(list);
    list = new ArrayList<Put>(10000);
   }
  }
  table.put(list);
  table.close();
 }

 /*
  * 取数据
  */
 @Test
 public void testGet() throws Exception {
  HTable table = new HTable(conf, "user");
  Get get = new Get(Bytes.toBytes("rk0001"));
  Result result = table.get(get);
  // 由result对象读取
  String r = Bytes.toString(result.getValue(Bytes.toBytes("info"),
    Bytes.toBytes("name")));
  System.out.println(r);
  table.close();
 }

 /*
  * 取多个
  */
 @Test
 public void testGets() throws Exception {
  HTable table = new HTable(conf, "user");
  Scan scan = new Scan(Bytes.toBytes("rk0001"), Bytes.toBytes("rk0005")); // 包含前面不包含后面
  // 返回结果集
  ResultScanner scanner = table.getScanner(scan);
  for (Result result : scanner) {
   String r = Bytes.toString(result.getValue(Bytes.toBytes("info"),
     Bytes.toBytes("name")));
   System.out.println(r);
  }
  table.close();
 }

 /*
  * 删除
  */
 @Test
 public void testDel() throws Exception {
  HTable table = new HTable(conf, "user");
  Delete delete = new Delete(Bytes.toBytes("rk0001"));
  table.delete(delete);
  table.close();
 }
}

 

 

 

       

 

这篇关于HBase学习心得之HBase原理Java接口操作增删改查的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/983319

相关文章

在Ubuntu上部署SpringBoot应用的操作步骤

《在Ubuntu上部署SpringBoot应用的操作步骤》随着云计算和容器化技术的普及,Linux服务器已成为部署Web应用程序的主流平台之一,Java作为一种跨平台的编程语言,具有广泛的应用场景,本... 目录一、部署准备二、安装 Java 环境1. 安装 JDK2. 验证 Java 安装三、安装 mys

Springboot的ThreadPoolTaskScheduler线程池轻松搞定15分钟不操作自动取消订单

《Springboot的ThreadPoolTaskScheduler线程池轻松搞定15分钟不操作自动取消订单》:本文主要介绍Springboot的ThreadPoolTaskScheduler线... 目录ThreadPoolTaskScheduler线程池实现15分钟不操作自动取消订单概要1,创建订单后

JAVA中整型数组、字符串数组、整型数和字符串 的创建与转换的方法

《JAVA中整型数组、字符串数组、整型数和字符串的创建与转换的方法》本文介绍了Java中字符串、字符数组和整型数组的创建方法,以及它们之间的转换方法,还详细讲解了字符串中的一些常用方法,如index... 目录一、字符串、字符数组和整型数组的创建1、字符串的创建方法1.1 通过引用字符数组来创建字符串1.2

SpringCloud集成AlloyDB的示例代码

《SpringCloud集成AlloyDB的示例代码》AlloyDB是GoogleCloud提供的一种高度可扩展、强性能的关系型数据库服务,它兼容PostgreSQL,并提供了更快的查询性能... 目录1.AlloyDBjavascript是什么?AlloyDB 的工作原理2.搭建测试环境3.代码工程1.

Java调用Python代码的几种方法小结

《Java调用Python代码的几种方法小结》Python语言有丰富的系统管理、数据处理、统计类软件包,因此从java应用中调用Python代码的需求很常见、实用,本文介绍几种方法从java调用Pyt... 目录引言Java core使用ProcessBuilder使用Java脚本引擎总结引言python

SpringBoot操作spark处理hdfs文件的操作方法

《SpringBoot操作spark处理hdfs文件的操作方法》本文介绍了如何使用SpringBoot操作Spark处理HDFS文件,包括导入依赖、配置Spark信息、编写Controller和Ser... 目录SpringBoot操作spark处理hdfs文件1、导入依赖2、配置spark信息3、cont

springboot整合 xxl-job及使用步骤

《springboot整合xxl-job及使用步骤》XXL-JOB是一个分布式任务调度平台,用于解决分布式系统中的任务调度和管理问题,文章详细介绍了XXL-JOB的架构,包括调度中心、执行器和Web... 目录一、xxl-job是什么二、使用步骤1. 下载并运行管理端代码2. 访问管理页面,确认是否启动成功

Java中的密码加密方式

《Java中的密码加密方式》文章介绍了Java中使用MD5算法对密码进行加密的方法,以及如何通过加盐和多重加密来提高密码的安全性,MD5是一种不可逆的哈希算法,适合用于存储密码,因为其输出的摘要长度固... 目录Java的密码加密方式密码加密一般的应用方式是总结Java的密码加密方式密码加密【这里采用的

Java中ArrayList的8种浅拷贝方式示例代码

《Java中ArrayList的8种浅拷贝方式示例代码》:本文主要介绍Java中ArrayList的8种浅拷贝方式的相关资料,讲解了Java中ArrayList的浅拷贝概念,并详细分享了八种实现浅... 目录引言什么是浅拷贝?ArrayList 浅拷贝的重要性方法一:使用构造函数方法二:使用 addAll(

解决mybatis-plus-boot-starter与mybatis-spring-boot-starter的错误问题

《解决mybatis-plus-boot-starter与mybatis-spring-boot-starter的错误问题》本文主要讲述了在使用MyBatis和MyBatis-Plus时遇到的绑定异常... 目录myBATis-plus-boot-starpythonter与mybatis-spring-b