5.6 HBase优化-Protocol Buffer

2024-06-07 19:18
文章标签 优化 protocol buffer 5.6 hbase

本文主要是介绍5.6 HBase优化-Protocol Buffer,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Protocol Buffer:
是一种轻便高效的结构化数据存储格式,可以用于结构化数据串行化,或者说序列化
Protocol Buffer安装:
yum grouplist 检查yum 组--安装包在yum里是分组的
yum groupinfo Development tools 查看Development tools组信息
yum groupinstall Development tools 成组安装安装包(也就是安装 Protocol Buffer的前置包)

编译安装
上传 Protocol Buffer包到服务器
1、解压 tar -zxvf protobuf-2.5.0.tar.gz
2、./configure --prefix=/opt/soft/protobuf
3、编译 &&安装 make && make install
使用:
Protocol Buffer的代码都以.proto结尾
phone.proto
package com.sxt.hbase; //包要和自己代码保持一致
message phone
{
required string phoneNum = 1;
required string time = 2;
required string dpNum = 3;
required int32 type = 4;
}

message datePhoneList {
repeated phone datePhone = 1;
}
编译成Java代码:./代表生成到根目录下
/opt/soft/protobuf/bin/protoc --java_out=./ daymsg.proto
然后把生成的daymsg.java复制到Java中就可以当工具类用了



/**

  * 十个手机号码 每个用户每天共 产生100条

  *

  * @throws Exception

  * @throws

  */

 @Test

 public void insertDBs2() throws Exception {

 

  List<Put> puts = new ArrayList<Put>();

 

  for (int i = 0; i < 10; i++) {

   // 自己手机号码

   String pNum = getPhone("186");

   

   Long dataLong = sdf.parse("20170323000000").getTime();

   

   // 一天的所有通话记录

   Daymsg.daymsg.Builder dayMsg = Daymsg.daymsg.newBuilder();

   

   // rowkey设计:大数-当前时间戳

   String rowkey = pNum + "_" + (Long.MAX_VALUE-dataLong);

   for (int j = 0; j < 100; j++) {

     String dateStr = getDate2("20170323");

   

     // 对方手机号码

     String pNum2 = getPhone("170");

     

     // 一条通话记录

     Daymsg.phonemsg.Builder phoneMsg = Daymsg.phonemsg.newBuilder();

     phoneMsg.setDate(dateStr);

     phoneMsg.setPhonenum(pNum2);

     phoneMsg.setType((r.nextInt(2)+""));

     

     dayMsg.addMsgs(phoneMsg);

   }

   

   Put put = new Put(rowkey.getBytes());

   put.add("cf".getBytes(), "daymsg".getBytes(), dayMsg.build().toByteArray());

   puts.add(put);

  }

 

  htable.put(puts);

 }

 

 /**

  * get方式 读取一个cell cf:daymsg

  * 186982144790_9223370546656375807

  */

 @Test

 public void getDB2() throws Exception {

  // 参数:rowkey

  Get get = new Get("186982144790_9223370546656375807".getBytes());

  get.addColumn("cf".getBytes(), "daymsg".getBytes());

 

  Result rs = htable.get(get);

  Cell cell = rs.getColumnLatestCell("cf".getBytes(), "daymsg".getBytes());

 

  Daymsg.daymsg dayMsg = Daymsg.daymsg.parseFrom(CellUtil.cloneValue(cell));

 

  for(Daymsg.phonemsg pMsg : dayMsg.getMsgsList()) {

   System.out.println(pMsg.getDate() + " - " + pMsg.getPhonenum() + " - " +

      pMsg.getType());

  }

 

 }

这篇关于5.6 HBase优化-Protocol Buffer的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1040057

相关文章

uniapp接入微信小程序原生代码配置方案(优化版)

uniapp项目需要把微信小程序原生语法的功能代码嵌套过来,无需把原生代码转换为uniapp,可以配置拷贝的方式集成过来 1、拷贝代码包到src目录 2、vue.config.js中配置原生代码包直接拷贝到编译目录中 3、pages.json中配置分包目录,原生入口组件的路径 4、manifest.json中配置分包,使用原生组件 5、需要把原生代码包里的页面修改成组件的方

服务器雪崩的应对策略之----SQL优化

SQL语句的优化是数据库性能优化的重要方面,特别是在处理大规模数据或高频访问时。作为一个C++程序员,理解SQL优化不仅有助于编写高效的数据库操作代码,还能增强对系统性能瓶颈的整体把握。以下是详细的SQL语句优化技巧和策略: SQL优化 1. 选择合适的数据类型2. 使用索引3. 优化查询4. 范式化和反范式化5. 查询重写6. 使用缓存7. 优化数据库设计8. 分析和监控9. 调整配置1、

Java中如何优化数据库查询性能?

Java中如何优化数据库查询性能? 大家好,我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编,也是冬天不穿秋裤,天冷也要风度的程序猿!今天我们将深入探讨在Java中如何优化数据库查询性能,这是提升应用程序响应速度和用户体验的关键技术。 优化数据库查询性能的重要性 在现代应用开发中,数据库查询是最常见的操作之一。随着数据量的增加和业务复杂度的提升,数据库查询的性能优化显得尤为重

打包体积分析和优化

webpack分析工具:webpack-bundle-analyzer 1. 通过<script src="./vue.js"></script>方式引入vue、vuex、vue-router等包(CDN) // webpack.config.jsif(process.env.NODE_ENV==='production') {module.exports = {devtool: 'none

Clickhouse 的性能优化实践总结

文章目录 前言性能优化的原则数据结构优化内存优化磁盘优化网络优化CPU优化查询优化数据迁移优化 前言 ClickHouse是一个性能很强的OLAP数据库,性能强是建立在专业运维之上的,需要专业运维人员依据不同的业务需求对ClickHouse进行有针对性的优化。同一批数据,在不同的业务下,查询性能可能出现两极分化。 性能优化的原则 在进行ClickHouse性能优化时,有几条

Hbase特性介绍

1、什么是Hbase。 是一个高可靠性、高性能、列存储、可伸缩、实时读写的分布式数据库系统。 适合于存储非结构化数据,基于列的而不是基于行的模式 如图:Hadoop生态中HBase与其他部分的关系。 2、关系数据库已经流行很多年,并且Hadoop已经有了HDFS和MapReduce,为什么需要HBase? Hadoop可以很好地解决大规模数据的离线批量处理问题,但是,受限于Hadoo

为何HBase速度很快?

为何HBase速度很快? HBase能提供实时计算服务主要原因是由其架构和底层的数据结构决定的, 即由LSM-Tree(Log-Structured Merge-Tree) + HTable(region分区) + Cache决定——客户端可以直接定位到要查数据所在的HRegion server服务器,然后直接在服务器的一个region上查找要匹配的数据,并且这些数据部分是经过cache缓存的。

什么是hbase Coprocessor

HBase客户端查询存在的问题 Scan 用Get/Scan查询数据,Filter 用Filter查询特定数据 以上情况只适合几千行数据以及不是很多的列的“小数据”。 当表扩展为亿万行及百万列时,在通过网络传递移动大量的数据导致网络拥堵,且客户端需要足够多内存来处理这么大量数据的计算操作,另外,客户端代码也会变的大而复杂。 解决方案 移动计算比移动数据更划算 Coprocessor将运

hbase中shell命令

HBase scan命令详解 - 简书https://www.jianshu.com/p/0ccfd59d73f4 Hbase中多版本(version)数据获取办法_牛奋lch-CSDN博客_hbase 多版本前言:本文介绍2种获取列的多版本数据的方式:shell和spring data hadoop一、hbase shell中如何获取    1、在shell端创建一个Hbase表create