07.es_thread_pool使用

2024-08-31 15:48
文章标签 es 使用 thread 07 pool

本文主要是介绍07.es_thread_pool使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • 1. 线程池的类型
      • 1. fixed
      • 2. fixed_auto_queue_size
      • 3. scaling 类型线程池
    • 2.相对重要的线程池
      • 1. generic线程池
      • 2. search线程池
      • 3. search_throttled线程池
      • 4. get线程池
      • 5. analyze线程池
      • 6. write线程池
      • 7. snapshot线程池
      • 8. warmer线程池
      • 9. refresh线程池
      • 10. listener线程池
    • 3. 修改某个线程池的设置
    • 4. Processors setting

在es这种的每个node都会有多个线程池来处理任务。很多线程池都会有一个queue来缓存一些需要处理的request而不是直接丢弃。
这里会着重介绍比较重要的线程池,在介绍线程池之前我们先介绍es的线程池的都有哪些类型。

1. 线程池的类型

1. fixed

fixed的线程池是一个有固定线程数量的thread pool,而且会有一个固定大小的queue来缓存处理不过来的任务。
下面的方式可以设置一个fixed thread pool

thread_pool:write:size: 30queue_size: 1000

queue_size的值如果不设置的话默认为-1,代表无限大。
当queue被填满的时候请求就会被abort掉。

2. fixed_auto_queue_size

这个是实验性的类型特性,fixed_auto_queue_size的thread的数量是fixed,但是queue的大小是根据一些规则进行变动的。

可以这样设置一个fixed_auto_queue_size thread pool:


thread_pool:search:size: 30queue_size: 500min_queue_size: 10max_queue_size: 1000auto_queue_frame_size: 2000target_response_time: 1s

queue_size 是初始化的queue的size数量
auto_queue_frame_size的作用是用来衡量是否需要扩容的请求数。
target_response_time的含义是当任务的处理时间(加上排队时间)大于1s的时候会对queue进行缩容,来避免大量的超时处理。

3. scaling 类型线程池

这类线程池的thread的数量是可以基于负载的大小动态变化的

可以这样设置一个scaling的线程池

thread_pool:warmer:core: 1max: 8keep_alive: 2m

keep_alive 指定了闲置的线程池达到2m会被回收

2.相对重要的线程池

1. generic线程池

普通线程池,一般用来运行后台任务或者discovery等,是一个大小可以scaling的线程池。

2. search线程池

针对 count/search/suggest 操作 ,线程池的类型是 fixed_auto_queue_size 线程池的大小是固定值 int((# of available_processors * 3) / 2) + 1, 有一个可以伸缩的queue, queue size 初始值是 1000.

3. search_throttled线程池

应对count/search/suggest/get 操作,但是这些对应的索引是search_throttled indices.线程池的类型是 fixed_auto_queue_size thread 的size 是 1, queue_size 的初始值 100.

4. get线程池

get操作对应的线程池,Thread pool 的类型是 fixed ,size 是 available processors, queue_size 是 1000.

5. analyze线程池

analyze 请求对应的线程池, Thread pool 的类型是 fixed ,size 是1, queue size 是16.

6. write线程池

这个线程池对应处理的是index/delete/update请求和bulk请求,Thread pool 的类型是 fixed,size 是 available processors queue size 是 200。thread pool最大的可设置的值为1+ available processors

这个线程池对应处理的是 Thread pool 的类型是 fixed ,size 是 , queue size 是 。

7. snapshot线程池

这个线程池对应处理的是snapshot/restore操作,Thread pool 的类型是 scaling,size 最大值是min(5, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

8. warmer线程池

这个线程池对应处理的是segment warm-up 操作, Thread pool 的类型是scaling,size 最大值是min(5, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

9. refresh线程池

这个线程池对应处理的是refresh 操作,Thread pool 的类型是scaling,size 最大值是min(10, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

10. listener线程池

这个线程池对应处理的是java client的操作,Thread pool 的类型是scaling,size 最大值是min(10, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

3. 修改某个线程池的设置

thread_pool:write:size: 30

4. Processors setting

设置elasticsearch动态监测到的processor的数量,这个一般情况下不用设置,只有由于操作系统的原因可能导致检测不准,或者因为对应的服务器上还有其他服务,想要缩小es使用的cpu核数才会使用。

processors: 2

这篇关于07.es_thread_pool使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1124327

相关文章

springboot security快速使用示例详解

《springbootsecurity快速使用示例详解》:本文主要介绍springbootsecurity快速使用示例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝... 目录创www.chinasem.cn建spring boot项目生成脚手架配置依赖接口示例代码项目结构启用s

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

java中使用POI生成Excel并导出过程

《java中使用POI生成Excel并导出过程》:本文主要介绍java中使用POI生成Excel并导出过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录需求说明及实现方式需求完成通用代码版本1版本2结果展示type参数为atype参数为b总结注:本文章中代码均为

Spring Boot3虚拟线程的使用步骤详解

《SpringBoot3虚拟线程的使用步骤详解》虚拟线程是Java19中引入的一个新特性,旨在通过简化线程管理来提升应用程序的并发性能,:本文主要介绍SpringBoot3虚拟线程的使用步骤,... 目录问题根源分析解决方案验证验证实验实验1:未启用keep-alive实验2:启用keep-alive扩展建

使用Java实现通用树形结构构建工具类

《使用Java实现通用树形结构构建工具类》这篇文章主要为大家详细介绍了如何使用Java实现通用树形结构构建工具类,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录完整代码一、设计思想与核心功能二、核心实现原理1. 数据结构准备阶段2. 循环依赖检测算法3. 树形结构构建4. 搜索子

GORM中Model和Table的区别及使用

《GORM中Model和Table的区别及使用》Model和Table是两种与数据库表交互的核心方法,但它们的用途和行为存在著差异,本文主要介绍了GORM中Model和Table的区别及使用,具有一... 目录1. Model 的作用与特点1.1 核心用途1.2 行为特点1.3 示例China编程代码2. Tab

SpringBoot使用OkHttp完成高效网络请求详解

《SpringBoot使用OkHttp完成高效网络请求详解》OkHttp是一个高效的HTTP客户端,支持同步和异步请求,且具备自动处理cookie、缓存和连接池等高级功能,下面我们来看看SpringB... 目录一、OkHttp 简介二、在 Spring Boot 中集成 OkHttp三、封装 OkHttp

使用Python实现获取网页指定内容

《使用Python实现获取网页指定内容》在当今互联网时代,网页数据抓取是一项非常重要的技能,本文将带你从零开始学习如何使用Python获取网页中的指定内容,希望对大家有所帮助... 目录引言1. 网页抓取的基本概念2. python中的网页抓取库3. 安装必要的库4. 发送HTTP请求并获取网页内容5. 解

使用Python实现网络设备配置备份与恢复

《使用Python实现网络设备配置备份与恢复》网络设备配置备份与恢复在网络安全管理中起着至关重要的作用,本文为大家介绍了如何通过Python实现网络设备配置备份与恢复,需要的可以参考下... 目录一、网络设备配置备份与恢复的概念与重要性二、网络设备配置备份与恢复的分类三、python网络设备配置备份与恢复实

C#中的 StreamReader/StreamWriter 使用示例详解

《C#中的StreamReader/StreamWriter使用示例详解》在C#开发中,StreamReader和StreamWriter是处理文本文件的核心类,属于System.IO命名空间,本... 目录前言一、什么是 StreamReader 和 StreamWriter?1. 定义2. 特点3. 用