Elastic Searchable snapshot功能初探 二 (hot phase)

2023-10-17 17:10

本文主要是介绍Elastic Searchable snapshot功能初探 二 (hot phase),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • hot phase Searchable snapshot 演示
      • 创建索引生命周期管理策略
      • 创建索引模板和索引别名
      • 写入数据
      • 触发生命周期管理的action
    • 总结

在上一篇文章中(Elastic Searchable snapshot功能初探),我们已经做了可搜索快照的简单演示。在总结中,我们提到:

通过以上演示,我们发现,通过配合新的node_roles,我们可以快速将节点标记为冷层(cold tier),在ILM中,这个新的冷层,会自动成为cold phase搬移数据的目的节点。而通过ILM,我们可以快速的通过策略指定索引该什么时候打开可搜索快照功能,并自动帮我们完成对接快照,配置别名的动作。而可搜索快照可以在hot phase就打开,在整个数据生命周期中为我们节省成本。

即可搜索快照功能,在我们的热节点上就可以直接打开。

在本篇博客中,我们将进一步演示该功能。所有的基本配置不变,要准备一套环境可以参考上一篇文章。

hot phase Searchable snapshot 演示

创建索引生命周期管理策略

仍然,我们先通过ILM工具来创建一个Hot phase的策略,如下图:
在这里插入图片描述
这里,我们将rollover的条件改为当索引超过3MB的时候,执行滚动切分。

对应的,为了将注意力放在hot phase,我们不enable另外的warm phase和cold phase

在这里插入图片描述

创建索引模板和索引别名

因为我们使用的是rollover功能,因此,必须使用data stream或者index alias。在下面的配置中,我们将指定匹配索引的lifecycle.namelifecycle.rollover_alias:

PUT _template/searchable_snapshot_hot_demo
{"index_patterns": ["data-*"],"settings": {"index.lifecycle.name": "searchable_snapshot_demo","index.lifecycle.rollover_alias": "data_alias"}
}

可以参考rollover的官方文档,我们需要指定一个alias,并且背后的写索引,其索引名需要匹配特定的索引名pattern: ^.*-\d+$。这里的%3Cdata-%7Bnow%2Fd%7D-0001%3E<data-{now-1d}-0001>的URI编码

PUT %3Cdata-%7Bnow%2Fd%7D-0001%3E
{"aliases": {"data_alias": {"is_write_index": true}}
}

写入数据

我们仍然是使用样本数据来做这次演示。通过将kibana_sample_data_logs索引reindex到data_alias,我们将触发之前的索引生命周期管理规则

POST _reindex
{"source": {"index": "kibana_sample_data_logs"},"dest": {"index": "data_alias"}
}

当data_alias中的索引大小超过3MB的时候,将自动rollover出新的索引

触发生命周期管理的action

先看样本数据集的情况,一主一副本,14074个文档,占用20mb的存储空间:
在这里插入图片描述

如果没有启动searchable snapshot,我们看到的是,经过reindex,写入到data-*索引的数据被拆分成3个集群,每个索引都是一主一副本,总体大小在22MB左右

在这里插入图片描述
而如果打开searchable snapshot功能,可以看到,在hot phase就已经将冗余副本搬移到对象存储中,这时只剩下一个主分片,并且索引名被改为restored-*

在这里插入图片描述

在这里插入图片描述

总结

通过以上演示,我们看到,并非需要等到cold phase我们才可使用searchable snapshot,我们可以在索引数据的任意生命周期都可享受到可搜索快照带来的成本降低的优势,唯一需要考虑的是,我们如果平衡搜索性能、故障恢复时间以及存储成本之间的关系。可以预见的是,在一些低并发,对查询延时不是特别敏感的场景,比如运维日志,我们可以完全借助可搜索快照的功能来降低存储成本。

这篇关于Elastic Searchable snapshot功能初探 二 (hot phase)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/226783

相关文章

Java中Springboot集成Kafka实现消息发送和接收功能

《Java中Springboot集成Kafka实现消息发送和接收功能》Kafka是一个高吞吐量的分布式发布-订阅消息系统,主要用于处理大规模数据流,它由生产者、消费者、主题、分区和代理等组件构成,Ka... 目录一、Kafka 简介二、Kafka 功能三、POM依赖四、配置文件五、生产者六、消费者一、Kaf

Go语言实现将中文转化为拼音功能

《Go语言实现将中文转化为拼音功能》这篇文章主要为大家详细介绍了Go语言中如何实现将中文转化为拼音功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 有这么一个需求:新用户入职 创建一系列账号比较麻烦,打算通过接口传入姓名进行初始化。想把姓名转化成拼音。因为有些账号即需要中文也需要英

基于WinForm+Halcon实现图像缩放与交互功能

《基于WinForm+Halcon实现图像缩放与交互功能》本文主要讲述在WinForm中结合Halcon实现图像缩放、平移及实时显示灰度值等交互功能,包括初始化窗口的不同方式,以及通过特定事件添加相应... 目录前言初始化窗口添加图像缩放功能添加图像平移功能添加实时显示灰度值功能示例代码总结最后前言本文将

使用Python实现批量访问URL并解析XML响应功能

《使用Python实现批量访问URL并解析XML响应功能》在现代Web开发和数据抓取中,批量访问URL并解析响应内容是一个常见的需求,本文将详细介绍如何使用Python实现批量访问URL并解析XML响... 目录引言1. 背景与需求2. 工具方法实现2.1 单URL访问与解析代码实现代码说明2.2 示例调用

最好用的WPF加载动画功能

《最好用的WPF加载动画功能》当开发应用程序时,提供良好的用户体验(UX)是至关重要的,加载动画作为一种有效的沟通工具,它不仅能告知用户系统正在工作,还能够通过视觉上的吸引力来增强整体用户体验,本文给... 目录前言需求分析高级用法综合案例总结最后前言当开发应用程序时,提供良好的用户体验(UX)是至关重要

python实现自动登录12306自动抢票功能

《python实现自动登录12306自动抢票功能》随着互联网技术的发展,越来越多的人选择通过网络平台购票,特别是在中国,12306作为官方火车票预订平台,承担了巨大的访问量,对于热门线路或者节假日出行... 目录一、遇到的问题?二、改进三、进阶–展望总结一、遇到的问题?1.url-正确的表头:就是首先ur

如何评价Ubuntu 24.04 LTS? Ubuntu 24.04 LTS新功能亮点和重要变化

《如何评价Ubuntu24.04LTS?Ubuntu24.04LTS新功能亮点和重要变化》Ubuntu24.04LTS即将发布,带来一系列提升用户体验的显著功能,本文深入探讨了该版本的亮... Ubuntu 24.04 LTS,代号 Noble NumBAT,正式发布下载!如果你在使用 Ubuntu 23.

TP-LINK/水星和hasivo交换机怎么选? 三款网管交换机系统功能对比

《TP-LINK/水星和hasivo交换机怎么选?三款网管交换机系统功能对比》今天选了三款都是”8+1″的2.5G网管交换机,分别是TP-LINK水星和hasivo交换机,该怎么选呢?这些交换机功... TP-LINK、水星和hasivo这三台交换机都是”8+1″的2.5G网管交换机,我手里的China编程has

Django中使用SMTP实现邮件发送功能

《Django中使用SMTP实现邮件发送功能》在Django中使用SMTP发送邮件是一个常见的需求,通常用于发送用户注册确认邮件、密码重置邮件等,下面我们来看看如何在Django中配置S... 目录1. 配置 Django 项目以使用 SMTP2. 创建 Django 应用3. 添加应用到项目设置4. 创建

使用 Python 和 LabelMe 实现图片验证码的自动标注功能

《使用Python和LabelMe实现图片验证码的自动标注功能》文章介绍了如何使用Python和LabelMe自动标注图片验证码,主要步骤包括图像预处理、OCR识别和生成标注文件,通过结合Pa... 目录使用 python 和 LabelMe 实现图片验证码的自动标注环境准备必备工具安装依赖实现自动标注核心