Java流操作解析:深度剖析中间操作、终端操作与并行处理机制

2024-04-06 11:28

本文主要是介绍Java流操作解析:深度剖析中间操作、终端操作与并行处理机制,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在这里插入图片描述

文章目录

    • 一、中间操作
      • 1.1 过滤(filter)
      • 1.2 映射(map)
      • 1.3 排序(sorted)
      • 1.4 去重(distinct)
    • 二、 终端操作
      • 2.1 收集(collect)
      • 2.2 计数(count)
      • 2.3 匹配(anyMatch)
    • 三、并行流
      • 3.1 流的并行处理机制
      • 3.2 多线程执行流操作的内部工作原理

一、中间操作

对于如何来到filter过滤操作的源码位置,读者可以参考我的上一篇博客哈,具体的步骤都已经详细给出。

1.1 过滤(filter)

在这里插入图片描述

主要作用:创建一个新的无状态操作,用于对流中的元素进行过滤。在处理流元素时,会根据传入的predicate条件进行过滤,并将满足条件的元素传递给下游。

在这里插入图片描述

1.2 映射(map)

map的作用:对流中的每个元素应用指定的映射函数,然后将映射后的结果组成一个新的流返回。

源码解析流程
在这里插入图片描述

主要作用:创建一个新的无状态操作,用于对流中的元素应用指定的映射函数,并将映射后的结果传递给下游的Sink对象。

在这里插入图片描述

1.3 排序(sorted)

sorted的作用:对流中的元素进行排序,排序方式由传入的比较器(Comparator)决定,排序后返回一个新的排序后的流。

源码解析流程

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

1.4 去重(distinct)

distinct的作用:去重操作会移除流中的重复元素,只保留其中的一个。

源码解析流程

在这里插入图片描述

在这里插入图片描述

由于代码过长,截图不方便,采用代码加注释的形式.实现 makeRef 方法,该方法创建了一个去重操作的流水线,使用了并行处理来实现去重,并且在处理过程中保持了有序性 。

static <T> ReferencePipeline<T, T> makeRef(AbstractPipeline<?, T, ?> upstream) {// 创建一个新的 StatefulOp 实例,表示去重操作的流水线,使用 REFERENCE 类型的流形状return new ReferencePipeline.StatefulOp<T, T>(upstream, StreamShape.REFERENCE,StreamOpFlag.IS_DISTINCT | StreamOpFlag.NOT_SIZED) {// reduce 方法用于将并行处理的元素归约为单个结果<P_IN> Node<T> reduce(PipelineHelper<T> helper, Spliterator<P_IN> spliterator) {// 如果流是有序的,则保持排序顺序TerminalOp<T, LinkedHashSet<T>> reduceOp= ReduceOps.<T, LinkedHashSet<T>>makeRef(LinkedHashSet::new, LinkedHashSet::add,LinkedHashSet::addAll);// 使用 reduceOp 对元素进行归约操作,并将结果封装为 Nodereturn Nodes.node(reduceOp.evaluateParallel(helper, spliterator));}// opEvaluateParallel 方法用于并行评估操作@Override<P_IN> Node<T> opEvaluateParallel(PipelineHelper<T> helper,Spliterator<P_IN> spliterator,IntFunction<T[]> generator) {// 如果流中已经包含了 DISTINCT 标志,表示已经进行了去重操作,则直接返回if (StreamOpFlag.DISTINCT.isKnown(helper.getStreamAndOpFlags())) {// 不进行任何操作,直接返回流的结果return helper.evaluate(spliterator, false, generator);}// 如果流中已经包含了 ORDERED 标志,表示流是有序的else if (StreamOpFlag.ORDERED.isKnown(helper.getStreamAndOpFlags())) {// 调用 reduce 方法进行归约操作return reduce(helper, spliterator);}// 如果流不是有序的else {// 用于标记是否有 null 值出现的原子布尔值AtomicBoolean seenNull = new AtomicBoolean(false);// 使用 ConcurrentHashMap 存储元素,保证线程安全ConcurrentHashMap<T, Boolean> map = new ConcurrentHashMap<>();// 使用 ForEachOps 进行并行遍历并添加元素到 ConcurrentHashMapTerminalOp<T, Void> forEachOp = ForEachOps.makeRef(t -> {if (t == null)seenNull.set(true);  // 如果元素为 null,则设置标志为 trueelsemap.putIfAbsent(t, Boolean.TRUE);  // 如果元素不为 null,则添加到 ConcurrentHashMap 中}, false);forEachOp.evaluateParallel(helper, spliterator);// 如果出现 null 元素,则将其加入到结果中Set<T> keys = map.keySet();if (seenNull.get()) {// 如果有 null 元素,则创建一个支持 null 元素的 HashSet 并添加到结果中keys = new HashSet<>(keys);keys.add(null);}// 返回包含去重结果的 Nodereturn Nodes.node(keys);}}};
}

**ps:**本篇仅仅展示部分使用较多的中间操作,读者可自行去解读其它中间操作。

二、 终端操作

2.1 收集(collect)

collect方法行为:使用supplier创建结果容器,使用accumulator将流中的元素逐个添加到结果容器中,最后使用combiner将不同分区的结果容器合并成一个整体结果容器。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

collect方法的实现中,可能会涉及到工厂模式、建造者模式等,具体取决于你使用的收集器(Collector)。

Demo:当使用Collectors.toList()方法,会返回一个Collector,这里使用了工厂模式,Collectors.toList()方法返回了一个Collector的实例,这个实例使用了CollectorImpl类。

实现类似如下

/**
* ArrayList::new作为一个Supplier,以及List::add作为一个累加器函数,可以说是使用了工厂模式和策略模式
*/
public static <T> Collector<T, ?, List<T>> toList() {return new CollectorImpl<>((Supplier<List<T>>) ArrayList::new, List::add,(left, right) -> { left.addAll(right); return left; },CH_ID);
}

2.2 计数(count)

作用:流中调用 count() 方法将返回流中元素的总数。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

可能涉及到设计模式思想

public long count() {return mapToLong(e -> 1L).sum();
}
  1. 装饰者模式:在 count() 方法的实现中,可以看到通过 mapToLong() 方法对流进行了装饰,将流中的每个元素映射为 1L,然后再调用 sum() 方法。这种装饰操作符合装饰者模式的思想,通过添加额外的功能来扩展原有对象的行为。
  2. 工厂模式:在流式编程中,流对象的创建通常是通过工厂方法来实现的。例如,Stream 接口中的 mapToLong() 方法就是一个工厂方法,用于创建一个新的 LongStream 对象。
  3. 策略模式mapToLong() 方法接受一个函数式接口 ToLongFunction 作为参数,这个函数式接口的具体实现是根据传入的 lambda 表达式来确定的,从而实现了策略模式的思想,即根据不同的需求传入不同的策略。

2.3 匹配(anyMatch)

作用: 用于判断流中是否存在至少一个元素满足给定的条件。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

内部实现中可能会涉及到的设计模式思想

  1. 迭代器模式:在流的内部实现中很可能会使用迭代器来遍历流中的元素,并在遍历过程中进行条件判断,以确定是否存在满足条件的元素。
  2. 策略模式anyMatch() 方法接受一个 Predicate 参数,这个参数是一个函数式接口,根据传入的 lambda 表达式或者方法引用来确定具体的判断条件,这符合策略模式的思想。
  3. 模板方法模式:流的内部可能会使用模板方法模式来定义流的处理流程,例如迭代、条件判断等,而具体的操作则由子类或者传入的参数决定。

三、并行流

3.1 流的并行处理机制

流的并行处理机制是 Java 中处理数据流的一种方式,它可以利用多核处理器和并行计算资源来加速数据处理过程。流的并行处理通过将数据流分成多个子流,并行处理每个子流来实现。

结合源码来解析一下流的并行处理机制

  1. 在流的并行处理中,流的元素会被分成多个子流,每个子流会被分配给不同的线程进行处理。这个过程由 sourceSpliterator(terminalOp.getOpFlags()) 方法完成,它返回一个适当的分隔器,用于将流的元素分割成多个子流。
  2. 根据流的并行性,调用不同的评估方法来处理子流:
    • 如果流是并行的(即 isParallel() 返回 true),则调用 terminalOp.evaluateParallel(this, sourceSpliterator(terminalOp.getOpFlags())) 方法来并行评估子流。这个方法会利用并行计算资源来同时处理多个子流,加速数据处理过程。
    • 如果流是顺序的(即 isParallel() 返回 false),则调用 terminalOp.evaluateSequential(this, sourceSpliterator(terminalOp.getOpFlags())) 方法来顺序评估子流。这个方法会按顺序处理每个子流的元素,没有并行化处理。
  3. 在评估方法中,会根据 TerminalOp 的实现对子流的元素进行相应的操作,并最终返回结果。

3.2 多线程执行流操作的内部工作原理

多线程执行流操作的内部工作原理可以通过分析 Java 流框架的实现来理解。流框架在处理流操作时,会根据流的并行性将任务分配给多个线程执行,并利用并发编程的技术来实现高效的多线程执行。

结合源码来解析一下多线程执行流操作的内部工作原理

  1. 分割流的元素:在流的并行处理中,流的元素会被分成多个子流,每个子流会被分配给不同的线程进行处理。这个过程由 sourceSpliterator(terminalOp.getOpFlags()) 方法完成,它返回一个适当的分隔器,用于将流的元素分割成多个子流。
  2. 并行执行任务:根据流的并行性,Java 流框架会将任务分配给线程池中的多个线程执行,并行处理每个子流。在源码中,调用了 terminalOp.evaluateParallel(this, sourceSpliterator(terminalOp.getOpFlags())) 方法来并行评估子流。这个方法会利用并行计算资源来同时处理多个子流,加速数据处理过程。
  3. 任务的合并与结果返回:在并行执行过程中,各个线程会独立执行任务,并产生各自的部分结果。在评估方法的内部,Java 流框架会负责合并各个线程的结果,并最终返回整体的结果。这样,多线程执行的结果会被正确地合并到最终的结果中。
  4. 线程管理与调度:Java 流框架会利用线程池来管理并发执行的线程,确保资源的有效利用和任务的合理调度。线程池会根据需要动态地管理线程的数量,并根据系统资源和任务负载来调度线程的执行。

如今我努力奔跑,不过是为了追上那个曾经被你寄予厚望的我

这篇关于Java流操作解析:深度剖析中间操作、终端操作与并行处理机制的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/879782

相关文章

网页解析 lxml 库--实战

lxml库使用流程 lxml 是 Python 的第三方解析库,完全使用 Python 语言编写,它对 XPath表达式提供了良好的支 持,因此能够了高效地解析 HTML/XML 文档。本节讲解如何通过 lxml 库解析 HTML 文档。 pip install lxml lxm| 库提供了一个 etree 模块,该模块专门用来解析 HTML/XML 文档,下面来介绍一下 lxml 库

JVM 的类初始化机制

前言 当你在 Java 程序中new对象时,有没有考虑过 JVM 是如何把静态的字节码(byte code)转化为运行时对象的呢,这个问题看似简单,但清楚的同学相信也不会太多,这篇文章首先介绍 JVM 类初始化的机制,然后给出几个易出错的实例来分析,帮助大家更好理解这个知识点。 JVM 将字节码转化为运行时对象分为三个阶段,分别是:loading 、Linking、initialization

Spring Security 基于表达式的权限控制

前言 spring security 3.0已经可以使用spring el表达式来控制授权,允许在表达式中使用复杂的布尔逻辑来控制访问的权限。 常见的表达式 Spring Security可用表达式对象的基类是SecurityExpressionRoot。 表达式描述hasRole([role])用户拥有制定的角色时返回true (Spring security默认会带有ROLE_前缀),去

浅析Spring Security认证过程

类图 为了方便理解Spring Security认证流程,特意画了如下的类图,包含相关的核心认证类 概述 核心验证器 AuthenticationManager 该对象提供了认证方法的入口,接收一个Authentiaton对象作为参数; public interface AuthenticationManager {Authentication authenticate(Authenti

Spring Security--Architecture Overview

1 核心组件 这一节主要介绍一些在Spring Security中常见且核心的Java类,它们之间的依赖,构建起了整个框架。想要理解整个架构,最起码得对这些类眼熟。 1.1 SecurityContextHolder SecurityContextHolder用于存储安全上下文(security context)的信息。当前操作的用户是谁,该用户是否已经被认证,他拥有哪些角色权限…这些都被保

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

Java架构师知识体认识

源码分析 常用设计模式 Proxy代理模式Factory工厂模式Singleton单例模式Delegate委派模式Strategy策略模式Prototype原型模式Template模板模式 Spring5 beans 接口实例化代理Bean操作 Context Ioc容器设计原理及高级特性Aop设计原理Factorybean与Beanfactory Transaction 声明式事物

Java进阶13讲__第12讲_1/2

多线程、线程池 1.  线程概念 1.1  什么是线程 1.2  线程的好处 2.   创建线程的三种方式 注意事项 2.1  继承Thread类 2.1.1 认识  2.1.2  编码实现  package cn.hdc.oop10.Thread;import org.slf4j.Logger;import org.slf4j.LoggerFactory

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟&nbsp;开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚&nbsp;第一站:海量资源,应有尽有 走进“智听