HBase实战

2024-09-03 16:48
文章标签 实战 hbase

本文主要是介绍HBase实战,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

[b][size=medium]第一章 HBase介绍[/size][/b]
HBase是一种数据库:Hadoop数据库。它经常被描述为一种稀疏的、分布式的、持久化的、多维有序的映射,它基于行键(row key)、列键(column key)和时间戳(timestamp)建立索引。
HBase基于BigTable
联机事务处理(OLTP)尽快的返回响应结果
联机分析处理(OLAP)
抓取增量数据:
1.抓取监控指标:OpenTSDB
2.抓取用户交互数据:Facebook和StumbleUpon
3.遥测技术 Mozilia和Trend Micro


[b][size=medium]第二章 入门[/size][/b]
HBase是一种专门为 半结构话数据(semistructured)和水平可扩展性(horizontal scalability)
设计的数据库。它表数据存储在表里。在表里,数据按照一个四维坐标系来组织:
行键、列簇、列限定符、时间版本
HBase是无模式数据库,只需要提前定义列簇。它也是无类型数据库,把所有数据不加解释滴按照字节数组存储。有5个基本命令来访问HBase中的数据:
Get、Put、Delete、Scan、Increment
基于非行键查询HBase的唯一办法是通过带过滤器的扫描
HBase不是一个ACID兼容数据库
HBase不是一个ACID兼容数据库。但是HBase提供一些保证,当你的应用系统访问HBase系统时,你可以用其来使你的应用系统的行为更加合理。这些保证具体如下:
1.操作是低级原子不可分的。换句话说,给定行上的Put()要门整理成功要么整体回到
操作开始前的状态,永远不会部分行写入而凌一航部分没有。这个要素和操作执行
的列簇的数量五官
2.行间操作不是原子性的。不能保证所有操作整体成功或者失败,所有单行操作如上一点
所述是原子性的
3.checkAnd* 和 increment* 操作是原子不可分的
4.对于给定的多个写操作,总是以每个写操作为整体彼此独立的。这是低一点的延伸。
5.对于给定行的任何Get()操作,返回系统当时所保存的完整行
6.全表扫描不是对某个时间点表的快照扫描。如果扫描已经开始,但是在运行R行被扫描
器对象读出之前,行R被改变了,那么扫描器独处行R更新后的版本,但是扫描器读出
的数据是一直的,得到行R更新后的完整行

数据模型从逻辑上可以分为键值存储或者有序映射的映射。物理数据模型是基于列簇的列式数据库,单个记录以键值形式存储。
Atomicity 原子性
Consistency 一致性
Isolation 隔离性
Durability 持久性
一个列簇对应一个MemStore,也对应一个BlockCache,对应多个HFile,HFile是基于列簇的
行键。列簇,列限定符,时间版本 用java对象表示为:
Map<RowKey,Map<ColumnFamily,Map<ColumnQualifier,Map<Version,Date>>>>
行键是HBase中唯一的全局索引坐标,因为查询经常通过行键扫描实现。复合行键是支持这种扫描的常见做法。
行键值经常希望是均衡分部的。诸如MD5或SHA1等散列算法通常用来实现这种均衡分部


[b][size=medium]第三章 分布式的HBase、HDFS和MapReduce[/size][/b]
Hadoop分布式文件系统作为HBase的存储层,支持可用性(availability)和可靠性(reliability)
联机事务处理(OLTP) 和 联机分析处理(OLAP)
在线系统看中的是得到一点数据所需要的时间
离线系统看中的是每秒处理单位数量

许多计算问题本来很适合并行化处理。只是因为一些偶然的原因,它们不得不用串行化方式处理。这

些原因可能是编程语言设计、存储引擎实现方式、函数库API等。挑战一下你的算法设计能力,看看

这样的情况有哪些。不是所有问题都容易并行处理

MapReduce概览
MapReduce的一些限制如下:
1.所有计算都分解为map或者reduce任务来实现
2.每个任务处理全部输入数据中的一部分
3.主要根据输入数据和输出数据定义任务
4.任务依赖于自己的输入数据,不需要与其他任务通讯

这篇关于HBase实战的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1133490

相关文章

Python列表去重的4种核心方法与实战指南详解

《Python列表去重的4种核心方法与实战指南详解》在Python开发中,处理列表数据时经常需要去除重复元素,本文将详细介绍4种最实用的列表去重方法,有需要的小伙伴可以根据自己的需要进行选择... 目录方法1:集合(set)去重法(最快速)方法2:顺序遍历法(保持顺序)方法3:副本删除法(原地修改)方法4:

在Spring Boot中浅尝内存泄漏的实战记录

《在SpringBoot中浅尝内存泄漏的实战记录》本文给大家分享在SpringBoot中浅尝内存泄漏的实战记录,结合实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录使用静态集合持有对象引用,阻止GC回收关键点:可执行代码:验证:1,运行程序(启动时添加JVM参数限制堆大小):2,访问 htt

Spring Security基于数据库的ABAC属性权限模型实战开发教程

《SpringSecurity基于数据库的ABAC属性权限模型实战开发教程》:本文主要介绍SpringSecurity基于数据库的ABAC属性权限模型实战开发教程,本文给大家介绍的非常详细,对大... 目录1. 前言2. 权限决策依据RBACABAC综合对比3. 数据库表结构说明4. 实战开始5. MyBA

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Pandas使用SQLite3实战

《Pandas使用SQLite3实战》本文主要介绍了Pandas使用SQLite3实战,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学... 目录1 环境准备2 从 SQLite3VlfrWQzgt 读取数据到 DataFrame基础用法:读

Python实战之屏幕录制功能的实现

《Python实战之屏幕录制功能的实现》屏幕录制,即屏幕捕获,是指将计算机屏幕上的活动记录下来,生成视频文件,本文主要为大家介绍了如何使用Python实现这一功能,希望对大家有所帮助... 目录屏幕录制原理图像捕获音频捕获编码压缩输出保存完整的屏幕录制工具高级功能实时预览增加水印多平台支持屏幕录制原理屏幕

最新Spring Security实战教程之Spring Security安全框架指南

《最新SpringSecurity实战教程之SpringSecurity安全框架指南》SpringSecurity是Spring生态系统中的核心组件,提供认证、授权和防护机制,以保护应用免受各种安... 目录前言什么是Spring Security?同类框架对比Spring Security典型应用场景传统

最新Spring Security实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)

《最新SpringSecurity实战教程之表单登录定制到处理逻辑的深度改造(最新推荐)》本章节介绍了如何通过SpringSecurity实现从配置自定义登录页面、表单登录处理逻辑的配置,并简单模拟... 目录前言改造准备开始登录页改造自定义用户名密码登陆成功失败跳转问题自定义登出前后端分离适配方案结语前言

OpenManus本地部署实战亲测有效完全免费(最新推荐)

《OpenManus本地部署实战亲测有效完全免费(最新推荐)》文章介绍了如何在本地部署OpenManus大语言模型,包括环境搭建、LLM编程接口配置和测试步骤,本文给大家讲解的非常详细,感兴趣的朋友一... 目录1.概况2.环境搭建2.1安装miniconda或者anaconda2.2 LLM编程接口配置2