还在手写任务调度代码?试试这款可视化分布式调度框架!

本文主要是介绍还在手写任务调度代码?试试这款可视化分布式调度框架!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在微服务系统中,经常会有用到任务调度的场景。比如每天定时同步数据、定时生成业务报表、定期清理日志等。今天给大家推荐一个分布式调度框架,助你你轻松完成任务调度工作!

PowerJob 简介

PowerJob是全新一代分布式调度与计算框架,能让你轻松完成任务的调度与繁杂任务的分布式计算。

主要特性:

  • 使用简单:提供前端Web界面,允许开发者可视化完成调度任务的管理及查看任务运行状态和日志。

  • 定时策略完善:支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。

  • 执行模式丰富:支持单机、广播、Map、MapReduce四种执行模式。

  • 依赖精简:最小仅依赖关系型数据库(MySQL等),扩展依赖为MongoDB(用于存储庞大的在线日志)。

为什么要有调度中心

一般情况下我们会使用QuartZSpring Task这些框架在应用中实现定时任务来进行任务调度,但是在微服务架构下,如果很多应用都充斥着这种任务调度代码就显得有些不合适。合理的方案应该是这样的,任务的执行方法存在于应用中,而我们有一个调度中心,调度中心负责调度这些方法,我们只需在调度中心配置好任务即可,PowerJob正是这样一个分布式调度框架。

安装准备

由于PowerJob的调度中心(powerjob-server)需要使用MySQL存储数据,使用MongoDB存储日志,所以我们先安装并启动这两个服务。

  • 在Docker容器中启动MySQL服务;

docker run -p 3306:3306 --name mysql \
-v /mydata/mysql/log:/var/log/mysql \
-v /mydata/mysql/data:/var/lib/mysql \
-v /mydata/mysql/conf:/etc/mysql \
-e MYSQL_ROOT_PASSWORD=root  \
-d mysql:5.7
  • 在MySQL中创建PowerJob需要的数据库powerjob-product

CREATE DATABASE IF NOT EXISTS `powerjob-product` DEFAULT CHARSET utf8mb4
  • 在Docker容器中启动MongoDB服务。

docker run -p 27017:27017 --name mongo \
-v /mydata/mongo/db:/data/db \
-d mongo:4.2.5

安装调度中心

在Docker环境下安装PowerJob的调度中心非常简单,分分钟搞定!

  • 下载镜像powerjob-server的Docker镜像:

docker pull tjqq/powerjob-server:latest
  • 在Docker容器中运行powerjob-server服务:

docker run -p 7700:7700 -p 10086:10086 --name powerjob-server \
--link mysql:db \
--link mongo:mongo \
-e TZ="Asia/Shanghai" \
-e JVMOPTIONS="" \
-e PARAMS="--spring.profiles.active=product --spring.datasource.core.jdbc-url=jdbc:mysql://db:3306/powerjob-product?useUnicode=true&characterEncoding=UTF-8 --spring.datasource.core.username=root --spring.datasource.core.password=root --spring.data.mongodb.uri=mongodb://mongo:27017/powerjob-product" \
-v ~/docker/powerjob-server:/mydata/powerjob/powerjob-server \
-v ~/.m2:/mydata/powerjob/.m2 \
-d tjqq/powerjob-server:latest
  • 运行成功后即可访问powerjob-server的Web界面,注意Linux防火墙需要开放770010086两个端口,访问地址:http://192.168.3.101:7700/

在应用中初始化执行器

安装完调度中心后,我们需要在SpringBoot应用中初始化PowerJob的执行器(powerjob-worker)。

  • 首先在pom.xml中添加powerjob-worker的相关依赖:

<dependency><groupId>com.github.kfcfans</groupId><artifactId>powerjob-worker-spring-boot-starter</artifactId><version>3.2.3</version>
</dependency>
  • 之后在application.yml配置文件中添加powerjob-worker相关配置,注意powerjob.worker.app-name这个配置;

powerjob:worker:akka-port: 27777 # akka 工作端口app-name: mall-tiny-powerjob # 接入应用名称,用于分组隔离server-address: 192.168.3.101:7700 # 调度服务器地址store-strategy: disk # 持久化方式
  • 添加一个单机处理器StandaloneProcessor,只需继承BasicProcessor接口并实现process方法即可;

package com.macro.mall.tiny.job;@Slf4j
@Component
public class StandaloneProcessor implements BasicProcessor {@Overridepublic ProcessResult process(TaskContext context){//OmsLogger可以直接将日志上报到powerjob-serverOmsLogger omsLogger = context.getOmsLogger();omsLogger.info("StandaloneProcessor start process,context is {}.", context);log.info("jobParams is {}", context.getJobParams());return new ProcessResult(true, "Process success!");}
}
  • 打包上传好镜像后,在Docker容器中运行SpringBoot应用服务,注意配置好时区要和调度中心一致。

docker run -p 8080:8080 --name mall-tiny-powerjob \
--link mysql:db \
-v /etc/localtime:/etc/localtime \
-v /mydata/app/mall-tiny-powerjob/logs:/var/logs \
-e TZ="Asia/Shanghai" \
-d mall-tiny/mall-tiny-powerjob:1.0-SNAPSHOT

任务的配置与执行

有了执行器和调度中心,我们只需在调度中心中配置好任务即可实现任务调度。

  • 首先我们需要在调度中心注册好应用(集成执行器的),应用名称为application.yml中的powerjob.worker.app-name属性,这里使用的是mall-tiny-powerjob:123456

  • 之后我们可以在首页看见一台机器信息;

  • 之后在任务管理功能中添加一个任务,这里我们用CRON方式设置每20秒执行执行器中的处理方法;

  • 在任务列表中点击运行开始执行任务;

  • 在任务列表中点击更多->运行记录可以查看任务的运行日志;

  • 点击日志可以查看处理器中上报的日志,jobParams为之前我们创建任务时设置的参数;

  • 点击详情可以查看此次触发任务的结果,即我们在ProcessResult中返回的信息。

参考资料

官方文档:https://github.com/KFCFans/PowerJob

项目源码地址

https://github.com/macrozheng/mall-learning/tree/master/mall-tiny-powerjob

推荐阅读

  • 我司空降了一名专家后,一半程序员疯了...

  • Github标星 8K+,免费又好用的Redis客户端工具!

  • 40K+Star!Mall电商实战项目开源回忆录!

  • 那个写脚本的架构师,被开除了...

  • 还在从零开始搭建项目?手撸了款快速开发脚手架!

  • 还在手写CRUD代码?这款开源框架助你解放双手!

  • 不要再重复造轮子了,这款开源工具类库贼好使!

  • 还在手动部署SpringBoot应用?试试这个自动化插件!

  • mall-swarm 微服务电商项目发布重大更新,打造Spring Cloud最佳实践!

  • Mall 电商实战项目发布重大更新,全面支持SpringBoot 2.3.0 !


欢迎关注,点个在看

这篇关于还在手写任务调度代码?试试这款可视化分布式调度框架!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/643837

相关文章

活用c4d官方开发文档查询代码

当你问AI助手比如豆包,如何用python禁止掉xpresso标签时候,它会提示到 这时候要用到两个东西。https://developers.maxon.net/论坛搜索和开发文档 比如这里我就在官方找到正确的id描述 然后我就把参数标签换过来

poj 1258 Agri-Net(最小生成树模板代码)

感觉用这题来当模板更适合。 题意就是给你邻接矩阵求最小生成树啦。~ prim代码:效率很高。172k...0ms。 #include<stdio.h>#include<algorithm>using namespace std;const int MaxN = 101;const int INF = 0x3f3f3f3f;int g[MaxN][MaxN];int n

计算机毕业设计 大学志愿填报系统 Java+SpringBoot+Vue 前后端分离 文档报告 代码讲解 安装调试

🍊作者:计算机编程-吉哥 🍊简介:专业从事JavaWeb程序开发,微信小程序开发,定制化项目、 源码、代码讲解、文档撰写、ppt制作。做自己喜欢的事,生活就是快乐的。 🍊心愿:点赞 👍 收藏 ⭐评论 📝 🍅 文末获取源码联系 👇🏻 精彩专栏推荐订阅 👇🏻 不然下次找不到哟~Java毕业设计项目~热门选题推荐《1000套》 目录 1.技术选型 2.开发工具 3.功能

cross-plateform 跨平台应用程序-03-如果只选择一个框架,应该选择哪一个?

跨平台系列 cross-plateform 跨平台应用程序-01-概览 cross-plateform 跨平台应用程序-02-有哪些主流技术栈? cross-plateform 跨平台应用程序-03-如果只选择一个框架,应该选择哪一个? cross-plateform 跨平台应用程序-04-React Native 介绍 cross-plateform 跨平台应用程序-05-Flutte

代码随想录冲冲冲 Day39 动态规划Part7

198. 打家劫舍 dp数组的意义是在第i位的时候偷的最大钱数是多少 如果nums的size为0 总价值当然就是0 如果nums的size为1 总价值是nums[0] 遍历顺序就是从小到大遍历 之后是递推公式 对于dp[i]的最大价值来说有两种可能 1.偷第i个 那么最大价值就是dp[i-2]+nums[i] 2.不偷第i个 那么价值就是dp[i-1] 之后取这两个的最大值就是d

Spring框架5 - 容器的扩展功能 (ApplicationContext)

private static ApplicationContext applicationContext;static {applicationContext = new ClassPathXmlApplicationContext("bean.xml");} BeanFactory的功能扩展类ApplicationContext进行深度的分析。ApplicationConext与 BeanF

pip-tools:打造可重复、可控的 Python 开发环境,解决依赖关系,让代码更稳定

在 Python 开发中,管理依赖关系是一项繁琐且容易出错的任务。手动更新依赖版本、处理冲突、确保一致性等等,都可能让开发者感到头疼。而 pip-tools 为开发者提供了一套稳定可靠的解决方案。 什么是 pip-tools? pip-tools 是一组命令行工具,旨在简化 Python 依赖关系的管理,确保项目环境的稳定性和可重复性。它主要包含两个核心工具:pip-compile 和 pip

数据治理框架-ISO数据治理标准

引言 "数据治理"并不是一个新的概念,国内外有很多组织专注于数据治理理论和实践的研究。目前国际上,主要的数据治理框架有ISO数据治理标准、GDI数据治理框架、DAMA数据治理管理框架等。 ISO数据治理标准 改标准阐述了数据治理的标准、基本原则和数据治理模型,是一套完整的数据治理方法论。 ISO/IEC 38505标准的数据治理方法论的核心内容如下: 数据治理的目标:促进组织高效、合理地

D4代码AC集

贪心问题解决的步骤: (局部贪心能导致全局贪心)    1.确定贪心策略    2.验证贪心策略是否正确 排队接水 #include<bits/stdc++.h>using namespace std;int main(){int w,n,a[32000];cin>>w>>n;for(int i=1;i<=n;i++){cin>>a[i];}sort(a+1,a+n+1);int i=1

ZooKeeper 中的 Curator 框架解析

Apache ZooKeeper 是一个为分布式应用提供一致性服务的软件。它提供了诸如配置管理、分布式同步、组服务等功能。在使用 ZooKeeper 时,Curator 是一个非常流行的客户端库,它简化了 ZooKeeper 的使用,提供了高级的抽象和丰富的工具。本文将详细介绍 Curator 框架,包括它的设计哲学、核心组件以及如何使用 Curator 来简化 ZooKeeper 的操作。 1