HBase实战

2024-09-03 16:48
文章标签 实战 hbase

本文主要是介绍HBase实战,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

[b][size=medium]第一章 HBase介绍[/size][/b]
HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timestamp)建立索引。
HBase基于BigTable
联机事务处理(OLTP)尽快的返回响应结果
联机分析处理(OLAP)
抓取增量数据:
1.抓取监控指标:OpenTSDB
2.抓取用户交互数据:Facebook和StumbleUpon
3.遥测技术 Mozilia和Trend Micro


[b][size=medium]第二章 入门[/size][/b]
HBase是一种专门为 半结构话数据(semistructured)和水平可扩展性(horizontal scalability)
设计的数据库。它表数据存储在表里。在表里,数据按照一个四维坐标系来组织:
行键、列簇、列限定符、时间版本
HBase是无模式数据库,只需要提前定义列簇。它也是无类型数据库,把所有数据不加解释滴按照字节数组存储。有5个基本命令来访问HBase中的数据:
Get、Put、Delete、Scan、Increment
基于非行键查询HBase的唯一办法是通过带过滤器的扫描
HBase不是一个ACID兼容数据库
HBase不是一个ACID兼容数据库。但是HBase提供一些保证,当你的应用系统访问HBase系统时,你可以用其来使你的应用系统的行为更加合理。这些保证具体如下:
1.操作是低级原子不可分的。换句话说,给定行上的Put()要门整理成功要么整体回到
操作开始前的状态,永远不会部分行写入而凌一航部分没有。这个要素和操作执行
的列簇的数量五官
2.行间操作不是原子性的。不能保证所有操作整体成功或者失败,所有单行操作如上一点
所述是原子性的
3.checkAnd* 和 increment* 操作是原子不可分的
4.对于给定的多个写操作,总是以每个写操作为整体彼此独立的。这是低一点的延伸。
5.对于给定行的任何Get()操作,返回系统当时所保存的完整行
6.全表扫描不是对某个时间点表的快照扫描。如果扫描已经开始,但是在运行R行被扫描
器对象读出之前,行R被改变了,那么扫描器独处行R更新后的版本,但是扫描器读出
的数据是一直的,得到行R更新后的完整行

数据模型从逻辑上可以分为键值存储或者有序映射的映射。物理数据模型是基于列簇的列式数据库,单个记录以键值形式存储。
Atomicity 原子性
Consistency 一致性
Isolation 隔离性
Durability 持久性
一个列簇对应一个MemStore,也对应一个BlockCache,对应多个HFile,HFile是基于列簇的
行键。列簇,列限定符,时间版本 用java对象表示为:
Map<RowKey,Map<ColumnFamily,Map<ColumnQualifier,Map<Version,Date>>>>
行键是HBase中唯一的全局索引坐标,因为查询经常通过行键扫描实现。复合行键是支持这种扫描的常见做法。
行键值经常希望是均衡分部的。诸如MD5或SHA1等散列算法通常用来实现这种均衡分部


[b][size=medium]第三章 分布式的HBase、HDFS和MapReduce[/size][/b]
Hadoop分布式文件系统作为HBase的存储层,支持可用性(availability)和可靠性(reliability)
联机事务处理(OLTP) 和 联机分析处理(OLAP)
在线系统看中的是得到一点数据所需要的时间
离线系统看中的是每秒处理单位数量

许多计算问题本来很适合并行化处理。只是因为一些偶然的原因,它们不得不用串行化方式处理。这

些原因可能是编程语言设计、存储引擎实现方式、函数库API等。挑战一下你的算法设计能力,看看

这样的情况有哪些。不是所有问题都容易并行处理

MapReduce概览
MapReduce的一些限制如下:
1.所有计算都分解为map或者reduce任务来实现
2.每个任务处理全部输入数据中的一部分
3.主要根据输入数据和输出数据定义任务
4.任务依赖于自己的输入数据,不需要与其他任务通讯

这篇关于HBase实战的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1133490

相关文章

从原理到实战深入理解Java 断言assert

《从原理到实战深入理解Java断言assert》本文深入解析Java断言机制,涵盖语法、工作原理、启用方式及与异常的区别,推荐用于开发阶段的条件检查与状态验证,并强调生产环境应使用参数验证工具类替代... 目录深入理解 Java 断言(assert):从原理到实战引言:为什么需要断言?一、断言基础1.1 语

Java MQTT实战应用

《JavaMQTT实战应用》本文详解MQTT协议,涵盖其发布/订阅机制、低功耗高效特性、三种服务质量等级(QoS0/1/2),以及客户端、代理、主题的核心概念,最后提供Linux部署教程、Sprin... 目录一、MQTT协议二、MQTT优点三、三种服务质量等级四、客户端、代理、主题1. 客户端(Clien

在Spring Boot中集成RabbitMQ的实战记录

《在SpringBoot中集成RabbitMQ的实战记录》本文介绍SpringBoot集成RabbitMQ的步骤,涵盖配置连接、消息发送与接收,并对比两种定义Exchange与队列的方式:手动声明(... 目录前言准备工作1. 安装 RabbitMQ2. 消息发送者(Producer)配置1. 创建 Spr

深度解析Spring Boot拦截器Interceptor与过滤器Filter的区别与实战指南

《深度解析SpringBoot拦截器Interceptor与过滤器Filter的区别与实战指南》本文深度解析SpringBoot中拦截器与过滤器的区别,涵盖执行顺序、依赖关系、异常处理等核心差异,并... 目录Spring Boot拦截器(Interceptor)与过滤器(Filter)深度解析:区别、实现

深度解析Spring AOP @Aspect 原理、实战与最佳实践教程

《深度解析SpringAOP@Aspect原理、实战与最佳实践教程》文章系统讲解了SpringAOP核心概念、实现方式及原理,涵盖横切关注点分离、代理机制(JDK/CGLIB)、切入点类型、性能... 目录1. @ASPect 核心概念1.1 AOP 编程范式1.2 @Aspect 关键特性2. 完整代码实

MySQL中的索引结构和分类实战案例详解

《MySQL中的索引结构和分类实战案例详解》本文详解MySQL索引结构与分类,涵盖B树、B+树、哈希及全文索引,分析其原理与优劣势,并结合实战案例探讨创建、管理及优化技巧,助力提升查询性能,感兴趣的朋... 目录一、索引概述1.1 索引的定义与作用1.2 索引的基本原理二、索引结构详解2.1 B树索引2.2

从入门到精通MySQL 数据库索引(实战案例)

《从入门到精通MySQL数据库索引(实战案例)》索引是数据库的目录,提升查询速度,主要类型包括BTree、Hash、全文、空间索引,需根据场景选择,建议用于高频查询、关联字段、排序等,避免重复率高或... 目录一、索引是什么?能干嘛?核心作用:二、索引的 4 种主要类型(附通俗例子)1. BTree 索引(

Java Web实现类似Excel表格锁定功能实战教程

《JavaWeb实现类似Excel表格锁定功能实战教程》本文将详细介绍通过创建特定div元素并利用CSS布局和JavaScript事件监听来实现类似Excel的锁定行和列效果的方法,感兴趣的朋友跟随... 目录1. 模拟Excel表格锁定功能2. 创建3个div元素实现表格锁定2.1 div元素布局设计2.

Redis 配置文件使用建议redis.conf 从入门到实战

《Redis配置文件使用建议redis.conf从入门到实战》Redis配置方式包括配置文件、命令行参数、运行时CONFIG命令,支持动态修改参数及持久化,常用项涉及端口、绑定、内存策略等,版本8... 目录一、Redis.conf 是什么?二、命令行方式传参(适用于测试)三、运行时动态修改配置(不重启服务

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.