Netty专栏 (五)——— EventLoop和线程模型

2024-03-31 06:48

本文主要是介绍Netty专栏 (五)——— EventLoop和线程模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Netty-In-Action

@author 鲁伟林
记录《Netty 实战》中各章节学习过程,写下一些自己的思考和总结,帮助使用Netty框架的开发技术人员们,能够有所得,避免踩坑。
本博客目录结构将严格按照书本《Netty 实战》,省略与Netty无关的内容,可能出现跳小章节。
本博客中涉及的完整代码:
GitHub地址: https://github.com/thinkingfioa/netty-learning/tree/master/netty-in-action。
本人博客地址: https://blog.csdn.net/thinking_fioa

 

第7章 EventLoop和线程模型

在本章开始前,推荐一本书籍《Java并发编程实战》,此书应该是所有Java开发人员必读书籍。

7.1 线程模型概述

基本的线程池化模式:

  1. 从线程池中的空闲线程列表中选择一个Thread,指派去运行一个已提交的任务
  2. 任务完成后,该Thread重新回到线程池,使其可被重用

 

线程池通过缓存和重用Thread,减少了线程创建和销毁的过程,极大的提高了性能。但是它并不能消除上下文切换所带来的开销,随着项目中线程数据量的增多,这种切换所带来的开销非常严重。

7.2 EventLoop接口

EventLoop通俗的理解就是:事件循环。直观的代码逻辑:

while (!terminated) {List<Runnable> readyEvents = blockUntilEventsReady();for (Runnable ev: readyEvents) {ev.run();}
}

Netty提供的EventLoop结合了JDK的并发编程和Channel的事件,类层次如下 

约定俗成的关系(非常重要):

  1. 一个EventLoopGroup包含一个或多个EventLoop
  2. 一个EventLoop在其生命周期内只能和一个Thread绑定
  3. 所有I/O操作和事件都分配给EventLoop绑定的Thread处理
  4. 一个Channel在其生命周期内,只能注册于一个EventLoop
  5. 一个EventLoop可能被分配处理多个Channel。也就是EventLoop与Channel是1:n的关系
  6. 一个Channel上的所有ChannelHandler的事件由绑定的EventLoop中的I/O线程处理
  7. 不要阻塞Channel的I/O线程,可能会影响该EventLoop中其他Channel事件处理
  8. EventLoop接口中只定义一个方法: parent() ----- 用于返回当前EventLoop实现的实例所属的EventLoopGroup的引用

7.2.2 Netty3与Netty4中I/O操作区别

  1. Netty3中不保证多个线程不会在同一时刻访问出站事件 ----- 不同的线程掉用Channel.write()方法,同一个Channel可能同时触发出站事件。
  2. Netty4中所有的出站事件肯定是交由EventLoop绑定的线程异步处理,所以不会存在Netty3多个线程访问一个Channel的问题
  3. Netty3中exceptionCaught事件是一个入站事件,可能在Channel.write()出站事件发生时,发生异常,产生一个exceptonCaught入站事件,则会将异常交由I/O线程处理,存在上下文切换
  4. Metty4则保证Channel上所产生的所有I/O事件,都交由某个指定的EventLoop来处理

7.3 任务调度

调度一个任务以便稍后(延迟)执行或者周期性地执行

7.3.1 JDK的任务调度API

JDK提供Timer定时器和ScheduledExecutorService来实现调度功能。推荐使用ScheduledExecutorService。

ScheduledExecutorService与Timer定时器比较:

  1. Timer执行周期任务严格依赖于系统时间。比如,每5秒执行一次定时任务,当前时间是:2018-08-22 09:00:00,如果将机器时间调成昨天时间2018-08-21。那么Timer定时任务将失效。而ScheduledExecutorService依然有效,其基于时间的延迟,与系统时间改变无关
  2. Timer是单线程,当执行多个任务时,任务1抛出异常并且为正常处理,Timer线程将退出。所有的任务都不再被调度。而ScheduledExecutorService则保证task1出现异常时,不影响task2的运行
  3. Timer是单线程,如果task1执行非常耗时,则会影响task2执行。而ScheduledExecutorService则可以是多线程处理

7.3.2 使用EventLoop调度任务

Netty提供的EventLoop能够帮助用户实现周期性任务调度任务。从图7-2中可以发现,EventLoop扩展了ScheduledExecutorService。

7.4 实现细节

7.4.1 线程管理

Netty线程模型的卓越性能取决于对于当前执行的Thread的身份的确定,通过调用EventExecutor的inEventLoop(Thread)方法实现。EventLoop会做以下判断,以提交处理性能,减少线程切换代价

  1. 如果当前调用线程正是支持EventLoop的线程,那么提交的代码块将会被(直接)执行
  2. 否则,EventLoop将它放入到内部队列中,以便稍后执行
  3. 注意:每个EventLoop都有自己的任务队列,独立于其他的EventLoop

下图是Netty线程模型的关键组成部分[通过阅读源码4.1.22发现,实现逻辑并非下图,待考究

7.4.2 EventLoop线程的分配

根据不同的传输实现,EventLoop的创建和分配方式也不同

7.4.2.1 异步传输

异步传输通过尽可能少量的Thread来支持大量的Channel,而不是每个Channel分配一个Thread。少量的EventLoop可能会被多个Channel共享。

下图3个固定大小的EventLoop(每个EventLoop都有一个Thread支撑),支持多个Channel的所有事件和任务 

  1. EventLoopGroup负责为每个新创建的Channel分配一个EventLoop。当前实现采用顺序循环(round-robin)方式来进行分配
  2. 一旦一个Channel被分配给一个EventLoop,那么它的整个生命周期中都使用这个EventLoop
  3. 提醒:由于EventLoop与Channel的映射关系是1:n,所以当使用ThreadLocal时,请开发人员知晓其中利弊。

7.4.2.2 阻塞传输

用于像OIO这样的其他传输设计,每个Channel都将被分配给一个EventLoop(以及它的Thread),EventLoop与Channel的映射关系是1:1

 

附录

  1. 完整代码地址
  2. netty-in-action书籍下载地址

这篇关于Netty专栏 (五)——— EventLoop和线程模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/863687

相关文章

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容:标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO(blocking I/O)NI

Spring Boot3虚拟线程的使用步骤详解

《SpringBoot3虚拟线程的使用步骤详解》虚拟线程是Java19中引入的一个新特性,旨在通过简化线程管理来提升应用程序的并发性能,:本文主要介绍SpringBoot3虚拟线程的使用步骤,... 目录问题根源分析解决方案验证验证实验实验1:未启用keep-alive实验2:启用keep-alive扩展建

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

Java终止正在运行的线程的三种方法

《Java终止正在运行的线程的三种方法》停止一个线程意味着在任务处理完任务之前停掉正在做的操作,也就是放弃当前的操作,停止一个线程可以用Thread.stop()方法,但最好不要用它,本文给大家介绍了... 目录前言1. 停止不了的线程2. 判断线程是否停止状态3. 能停止的线程–异常法4. 在沉睡中停止5

Java捕获ThreadPoolExecutor内部线程异常的四种方法

《Java捕获ThreadPoolExecutor内部线程异常的四种方法》这篇文章主要为大家详细介绍了Java捕获ThreadPoolExecutor内部线程异常的四种方法,文中的示例代码讲解详细,感... 目录方案 1方案 2方案 3方案 4结论方案 1使用 execute + try-catch 记录

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo

Spring Boot 中正确地在异步线程中使用 HttpServletRequest的方法

《SpringBoot中正确地在异步线程中使用HttpServletRequest的方法》文章讨论了在SpringBoot中如何在异步线程中正确使用HttpServletRequest的问题,... 目录前言一、问题的来源:为什么异步线程中无法访问 HttpServletRequest?1. 请求上下文与线

在 Spring Boot 中使用异步线程时的 HttpServletRequest 复用问题记录

《在SpringBoot中使用异步线程时的HttpServletRequest复用问题记录》文章讨论了在SpringBoot中使用异步线程时,由于HttpServletRequest复用导致... 目录一、问题描述:异步线程操作导致请求复用时 Cookie 解析失败1. 场景背景2. 问题根源二、问题详细分

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应