hmf-tsdb 快速入门

2023-12-14 22:30
文章标签 入门 快速 tsdb hmf

本文主要是介绍hmf-tsdb 快速入门,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

环境要求

  1. jdk8 或以上版本
  2. mongodb3.4 或以上版本
  3. kafka2.2.0 或以上版本

上述软件 如果没有的话,请先安装。其中kafka 和 mongodb 均可以安装在别的机器上,也可以安装在本机。

下载

下载 hmf-tsdb 到本地,然后解压缩。

修改配置文件

打开hmf-tsdb的解压目录,用文本编辑器打开文件application.properties。找到下面两行:

mongo.connStr = mongodb://127.0.0.1:27017

mongo.dbName = tsdb2

然后根据自己安装的mongodb来修改mongo.connStr。mongo.dbName可以不改,程序运行后会自动根据mongo.dbName的值在mongodb中创建相应的数据库。

找到下面这几行:

#kafka consumer

kafka.consumer.bootstrap-servers = 127.0.0.1:9092

kafka.consumer.topic = tsdb-dps

kafka.consumer.group-id = tsdb-store

kafka.consumer.thread.size = 2

根据您安装的kafka服务器,对此处配置进行修改。假如你完全按照默认参数在本地部署的kafka,则无需修改。

运行

  1. 启动Mongodb,略
  2. 启动Kafka自带的zookeeper,略
  3. 启动Kafka,略
  4. 启动hmf-tsdb: 在hmf-tsdb目录,执行 start.cmd(windows)或者start.sh(linux),便可启动hmf-tsdb。然后打开浏览器,访问 http://localhost:8080/query.html , 如果浏览器能顺利打开下面的界面,说明我们运行成功。 查询界面

产生模拟数据

虽然我们已经运行了hmf-tsdb,但我们看不到任何有趣的效果。接下来,我们需要一个模拟器,向kafka推送数据。hmf-tsdb会主动从kafka服务器pull数据,并保存到mongodb中。hmf-tsdb通过内存缓存、磁盘快照存储、磁盘归档存储等各种策略,提供了单机50万 时序数据的写入能力,并可以实时查询各个测点的趋势图。

下载 dps-producer-demo(该模拟器默认每秒钟生成1万时序数据),修改配置文件:

  1. 指定kafka地址: bootstrap.servers = 127.0.0.1:9092

  2. 指定模拟的区域数量、每个区域设备数量、每个设备测点(在有些行业成为指标)量。

area.amount = 10

device.amount = 50

metric.amount = 20

默认情况下 区域数量 设备数量 测点数据=10000。当你不甚了解hmf-tsdb的时候,暂且不要修改这些参数。当测点总量增加的时候,对运行环境会有各种要求:内存、cpu、mongodb的配置等

然后 运行dps-producer-demo目录中的start.cmd或者start.sh。

查询时序数据

现在我们还不了解hmf-tsdb的表达式语法,你暂且直接在query.html的界面中输入:

current{area='area_1',device='device_1'} last[1h]

然后点击“查询”按钮。浏览器就能显示出 最近 1小时内,位置在 ‘area_1’,且设备编号为'device_1'的电流采样值的历史曲线。如下图所示: 查询

如何向hmf-tsdb写入你自己的时序数据

假如你熟悉kafka的这,向hmf-tsdb写入实时数据是一件非常简单的事情:

创建一个kafka producer,然后用producer向kafka服务器 推送时序数据即可。时序数据 以 json格式的字符串来表示,通常是这个样子的:

{"metric":"current","tags":{"area":"area_1","device":"device_1"},"time":1555137083702,"value":50.47901}

其中metric属性是测点名称,tags是其他一些查询和分析需要用到的标签,time是采样时间,value是采样值。tags的内容可以根据应用的需要定制各种不同的tag,而metric,time,value这三个属性是必须的,不可以改动属性名称。

接下来,启动你的hmf-tsdb,就能够从kafka接收并存储时序数据了。

备注:hmf-tsdb提供了直接写入时序数据的api,你的应用 可以不经kafka直接写入hmf-tsdb。但是,我强烈地不建议你这么做。

  1. 因为这种强耦合的架构和部署,会给后来的架构调整或者运维带来诸多不便。假如:你运行hmf-tsdb的服务器磁盘不够 ,需要停机增加磁盘,那么直接写入的这种架构就会在hmf-tsdb停机期间丢失一部分数据。但假如你是经过Kafka写入hmf-tsdb的话,暂停hmf-tsdb不会导致你时序数据的丢失。

  2. 经由kafka写入hmf-tsdb的架构下,kafka还能起到一个削峰填谷的作用,使系统运行更加平滑流畅,不会因为瞬时的使用高峰(比如突然很多人来查询历史数据),导致系统卡顿甚至数据丢失。

这篇关于hmf-tsdb 快速入门的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/494119

相关文章

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

电脑桌面文件删除了怎么找回来?别急,快速恢复攻略在此

在日常使用电脑的过程中,我们经常会遇到这样的情况:一不小心,桌面上的某个重要文件被删除了。这时,大多数人可能会感到惊慌失措,不知所措。 其实,不必过于担心,因为有很多方法可以帮助我们找回被删除的桌面文件。下面,就让我们一起来了解一下这些恢复桌面文件的方法吧。 一、使用撤销操作 如果我们刚刚删除了桌面上的文件,并且还没有进行其他操作,那么可以尝试使用撤销操作来恢复文件。在键盘上同时按下“C

数论入门整理(updating)

一、gcd lcm 基础中的基础,一般用来处理计算第一步什么的,分数化简之类。 LL gcd(LL a, LL b) { return b ? gcd(b, a % b) : a; } <pre name="code" class="cpp">LL lcm(LL a, LL b){LL c = gcd(a, b);return a / c * b;} 例题:

Java 创建图形用户界面(GUI)入门指南(Swing库 JFrame 类)概述

概述 基本概念 Java Swing 的架构 Java Swing 是一个为 Java 设计的 GUI 工具包,是 JAVA 基础类的一部分,基于 Java AWT 构建,提供了一系列轻量级、可定制的图形用户界面(GUI)组件。 与 AWT 相比,Swing 提供了许多比 AWT 更好的屏幕显示元素,更加灵活和可定制,具有更好的跨平台性能。 组件和容器 Java Swing 提供了许多

【IPV6从入门到起飞】5-1 IPV6+Home Assistant(搭建基本环境)

【IPV6从入门到起飞】5-1 IPV6+Home Assistant #搭建基本环境 1 背景2 docker下载 hass3 创建容器4 浏览器访问 hass5 手机APP远程访问hass6 更多玩法 1 背景 既然电脑可以IPV6入站,手机流量可以访问IPV6网络的服务,为什么不在电脑搭建Home Assistant(hass),来控制你的设备呢?@智能家居 @万物互联

poj 2104 and hdu 2665 划分树模板入门题

题意: 给一个数组n(1e5)个数,给一个范围(fr, to, k),求这个范围中第k大的数。 解析: 划分树入门。 bing神的模板。 坑爹的地方是把-l 看成了-1........ 一直re。 代码: poj 2104: #include <iostream>#include <cstdio>#include <cstdlib>#include <al

hdu 4565 推倒公式+矩阵快速幂

题意 求下式的值: Sn=⌈ (a+b√)n⌉%m S_n = \lceil\ (a + \sqrt{b}) ^ n \rceil\% m 其中: 0<a,m<215 0< a, m < 2^{15} 0<b,n<231 0 < b, n < 2^{31} (a−1)2<b<a2 (a-1)^2< b < a^2 解析 令: An=(a+b√)n A_n = (a +

MySQL-CRUD入门1

文章目录 认识配置文件client节点mysql节点mysqld节点 数据的添加(Create)添加一行数据添加多行数据两种添加数据的效率对比 数据的查询(Retrieve)全列查询指定列查询查询中带有表达式关于字面量关于as重命名 临时表引入distinct去重order by 排序关于NULL 认识配置文件 在我们的MySQL服务安装好了之后, 会有一个配置文件, 也就

v0.dev快速开发

探索v0.dev:次世代开发者之利器 今之技艺日新月异,开发者之工具亦随之进步不辍。v0.dev者,新兴之开发者利器也,迅速引起众多开发者之瞩目。本文将引汝探究v0.dev之基本功能与优势,助汝速速上手,提升开发之效率。 何谓v0.dev? v0.dev者,现代化之开发者工具也,旨在简化并加速软件开发之过程。其集多种功能于一体,助开发者高效编写、测试及部署代码。无论汝为前端开发者、后端开发者

音视频入门基础:WAV专题(10)——FFmpeg源码中计算WAV音频文件每个packet的pts、dts的实现

一、引言 从文章《音视频入门基础:WAV专题(6)——通过FFprobe显示WAV音频文件每个数据包的信息》中我们可以知道,通过FFprobe命令可以打印WAV音频文件每个packet(也称为数据包或多媒体包)的信息,这些信息包含该packet的pts、dts: 打印出来的“pts”实际是AVPacket结构体中的成员变量pts,是以AVStream->time_base为单位的显