Fast-Retry高性能百万级任务重试框架

2024-06-02 20:44

本文主要是介绍Fast-Retry高性能百万级任务重试框架,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Fast-Retry高性能百万级任务重试框架

文章目录

  • 1.前言
    • 1.1简介
    • 1.2项目地址
    • 1.3 分布式重试服务平台 Easy-Retry
  • 2.原理
  • 3.使用
    • 3.1引入依赖
    • 3.2编程式
      • 3.2.1使用重试队列
      • 3.2.2使用FastRetryBuilder
    • 3.3注解式
  • 4.FastRetry、Spring-Retry和Guava-Retry的性能测试对比
  • 5.总结

1.前言

1.1简介

  Fast-Retry是什么?

  Fast-Retry是一个高性能任务重试框架,支持百万级别任务的并发重试处理。 与主流的Spring-Retry, Guava-Retry等同步重试框架不同,Fast-Retry是一个支持异步重试框架,支持异步任务的重试、超时等待、回调。 Spring-Retry, Guava-Retry均无法支持大批量任务的重试,因为会占用过多线程资源导致大量任务在等待处理,随着任务数的增加,系统吞吐量大大降低,性能指数级降低,Fast-Retry的性能是前者的指数倍。

1.2项目地址

https://github.com/burukeYou/fast-retry

1.3 分布式重试服务平台 Easy-Retry

  下面是我之前分享的一篇文章,该篇文章被官方收录至优秀文章页面

https://mp.weixin.qq.com/s/Rr1oR4ieoYSoU_jLjxybow
https://blog.csdn.net/qq_34905631/article/details/131187901?spm=1001.2014.3001.5501

   Easy-Retry官网优秀文章推荐

https://www.easyretry.com/pages/db78e2/

  easy-retry改名为:Snail Job,代码仓库还在爱祖搭

https://snailjob.opensnail.com/

2.原理

  利用springBoot的自动装配解析自定义注解等能力,在加上使用了aspectj的动态代理,为指定注解解析生成动态代理类,然后在方法调用时候进行拦截,如果拦截到异常,就利用线程池、多线程、CompletableFuture、队列、生产者+消费者模式提交一个重试任务到线程池中重试执行,然后返回结果,我翻看了Fast-Retry的源码,感兴趣的可以去把它的项目源码拉下来翻一翻,欣赏一下还是会发现一些新大陆的,基本的思路就是这种。

3.使用

3.1引入依赖

<dependency><groupId>io.github.burukeyou</groupId><artifactId>fast-retry-all</artifactId><version>0.2.0</version>
</dependency>

3.2编程式

3.2.1使用重试队列

        ExecutorService executorService = Executors.newFixedThreadPool(8);RetryQueue queue = new FastRetryQueue(executorService);RetryTask<String> task = new RetryTask<String>() {int result = 0 ;@Overridepublic long waitRetryTime() {return 2000;}@Overridepublic boolean retry() {return ++result < 5;}@Overridepublic String getResult() {return  result + "";}};CompletableFuture<String> future = queue.submit(task);log.info("任务结束 结果:{}",future.get());

3.2.2使用FastRetryBuilder

        RetryResultPolicy<String> resultPolicy = result -> result.equals("444");FastRetryer<String> retryer = FastRetryBuilder.<String>builder().attemptMaxTimes(3).waitRetryTime(3, TimeUnit.SECONDS).retryIfException(true).retryIfExceptionOfType(TimeoutException.class).exceptionRecover(true).resultPolicy(resultPolicy).build();CompletableFuture<String> future = retryer.submit(() -> {log.info("重试");//throw new Exception("test");//int i = 1/0;if (0 < 10){throw new TimeoutException("test");}return "444";});String o = future.get();log.info("结果{}", o);

3.3注解式

  • 依赖Spring环境,所以需要在配置上加上@EnableFastRetry注解启用配置才生效
  • 如果将结果类型使用CompletableFuture包装,自动进行异步轮询返回,否则同步阻塞等待重试结果。

  下面定义等价于 FastRetryer.execute方法

    @FastRetry(retryWait = @RetryWait(delay = 2))public String retryTask(){return "success";}

  下面定义等价于 FastRetryer.submit方法,支持异步轮询

    @FastRetry(retryWait = @RetryWait(delay = 2))public CompletableFuture<String> retryTask(){return CompletableFuture.completedFuture("success");}

4.FastRetry、Spring-Retry和Guava-Retry的性能测试对比

  下图是三者的性能对比

  • 测试线程池: 8个固定线程
  • 单个任务逻辑: 轮询5次,隔2秒重试一次,总耗时10秒
  • 未测预计公式: 当我们使用线程池的时候, 一般线程池中 总任务处理耗时 = 任务数/并发度 x 单个任务重试耗时
任务数FastRetrySpring-RetryGuava-Retry
110秒10秒10秒
1010.066秒20.092秒20.078秒
5010.061秒70.186秒70.168秒
10010.077秒130.33秒130.31秒
50010.154秒631.420秒631.53秒
100010.237秒1254.78秒1256.28秒
500010.482秒没测预计:6250秒没测预计:6250秒
1000010.686秒没测预计:12520秒没测预计:12520秒
10000013.71秒没测预计:125000秒没测预计:125000秒
50000028.89秒没测预计:625000秒没测预计:625000秒
100000058.05秒没测预计:1250000秒没测预计:1250000秒

  可以看到即使是处理100万个任务,Fast-Retry的性能也比Spring-Retry和Guava-Retry处理在50个任务时的性能还要快的多的多, 这么快的秘密在于除了是异步,更重要是当别人在重试间隔里休息的时候,Fast-Retry还在不停忙命的工作着。上面这个是官方gitHub上给出的性能测试表格,从他的描述上有一些估计的成份,有一些吹水的成份,测试需要用数据说话,而不是估计大概,用严谨的测试报告才能说明各自性能,所以我觉得这个表格是不严谨的。

5.总结

  Easy-Retry虽然没有分布式重试的能力,也没有重试监控和可视化展示管理的能力,但是它的实现思路还是值得我们的学习和借鉴的,实现代码写的也是很优雅很耐思的,可以运用在项目上让重试的姿势更加优雅、干净、整洁和美观、性能也有所提升,让你写出帅气的code,保持良好的编码风格和习惯可以避免一些bug的产生,本次分享到此结束,希望我的分享能对你有所启发和帮助,请一键三连,么么么哒!

这篇关于Fast-Retry高性能百万级任务重试框架的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1025035

相关文章

Python实现批量CSV转Excel的高性能处理方案

《Python实现批量CSV转Excel的高性能处理方案》在日常办公中,我们经常需要将CSV格式的数据转换为Excel文件,本文将介绍一个基于Python的高性能解决方案,感兴趣的小伙伴可以跟随小编一... 目录一、场景需求二、技术方案三、核心代码四、批量处理方案五、性能优化六、使用示例完整代码七、小结一、

GSON框架下将百度天气JSON数据转JavaBean

《GSON框架下将百度天气JSON数据转JavaBean》这篇文章主要为大家详细介绍了如何在GSON框架下实现将百度天气JSON数据转JavaBean,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录前言一、百度天气jsON1、请求参数2、返回参数3、属性映射二、GSON属性映射实战1、类对象映

C# LiteDB处理时间序列数据的高性能解决方案

《C#LiteDB处理时间序列数据的高性能解决方案》LiteDB作为.NET生态下的轻量级嵌入式NoSQL数据库,一直是时间序列处理的优选方案,本文将为大家大家简单介绍一下LiteDB处理时间序列数... 目录为什么选择LiteDB处理时间序列数据第一章:LiteDB时间序列数据模型设计1.1 核心设计原则

解决若依微服务框架启动报错的问题

《解决若依微服务框架启动报错的问题》Invalidboundstatement错误通常由MyBatis映射文件未正确加载或Nacos配置未读取导致,需检查XML的namespace与方法ID是否匹配,... 目录ruoyi-system模块报错报错详情nacos文件目录总结ruoyi-systnGLNYpe

SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南

《SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南》本文将基于开源项目springboot-easyexcel-batch进行解析与扩展,手把手教大家如何在SpringBo... 目录项目结构概览核心依赖百万级导出实战场景核心代码效果百万级导入实战场景监听器和Service(核心

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

Python Web框架Flask、Streamlit、FastAPI示例详解

《PythonWeb框架Flask、Streamlit、FastAPI示例详解》本文对比分析了Flask、Streamlit和FastAPI三大PythonWeb框架:Flask轻量灵活适合传统应用... 目录概述Flask详解Flask简介安装和基础配置核心概念路由和视图模板系统数据库集成实际示例Stre

Olingo分析和实践之OData框架核心组件初始化(关键步骤)

《Olingo分析和实践之OData框架核心组件初始化(关键步骤)》ODataSpringBootService通过初始化OData实例和服务元数据,构建框架核心能力与数据模型结构,实现序列化、URI... 目录概述第一步:OData实例创建1.1 OData.newInstance() 详细分析1.1.1

Spring 框架之Springfox使用详解

《Spring框架之Springfox使用详解》Springfox是Spring框架的API文档工具,集成Swagger规范,自动生成文档并支持多语言/版本,模块化设计便于扩展,但存在版本兼容性、性... 目录核心功能工作原理模块化设计使用示例注意事项优缺点优点缺点总结适用场景建议总结Springfox 是

Python的端到端测试框架SeleniumBase使用解读

《Python的端到端测试框架SeleniumBase使用解读》:本文主要介绍Python的端到端测试框架SeleniumBase使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全... 目录SeleniumBase详细介绍及用法指南什么是 SeleniumBase?SeleniumBase