Elastic Job Cloud 使用篇（1）

2024-08-22 22:38
文章标签 使用 cloud job elastic

本文主要是介绍Elastic Job Cloud 使用篇（1），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

文章地址：http://www.haha174.top/article/details/251702
近期被要求使用 Elastic Job Cloud 做资源管理 刚好 说下 自己的踩坑之旅（大哭）
首先我们需要 了解一下 Elastic Job。

简介：

为何使用Elastic-Job-Cloud？
Elastic-Job-Cloud以私有云平台的方式提供集资源、调度以及分片为一体的全量级解决方案，依赖Mesos和Zookeeper。
Elastic-Job是一个分布式调度解决方案，由两个相互独立的子项目Elastic-Job-Lite和Elastic-Job-Cloud组成。

Elastic-Job-Lite定位为轻量级无中心化解决方案，使用jar包的形式提供分布式任务的协调服务。 Elastic-Job-Cloud使用Mesos + Docker的解决方案，额外提供资源治理、应用分发以及进程隔离等服务。
Elastic-Job-Lite和Elastic-Job-Cloud提供同一套API开发作业，开发者仅需一次开发，然后可根据需要以Lite或Cloud的方式部署。

基本概念：

1. 分片
任务的分布式执行，需要将一个任务拆分为多个独立的任务项，然后由分布式的服务器分别执行某一个或几个分片项。
例如：有一个遍历数据库某张表的作业，现有2台服务器。为了快速的执行作业，那么每台服务器应执行作业的50%。 为满足此需求，可将作业分成2片，每台服务器执行1片。作业遍历数据的逻辑应为：服务器A遍历ID以奇数结尾的数据；服务器B遍历ID以偶数结尾的数据。 如果分成10片，则作业遍历数据的逻辑应为：每片分到的分片项应为ID%10，而服务器A被分配到分片项0,1,2,3,4；服务器B被分配到分片项5,6,7,8,9，直接的结果就是服务器A遍历ID以0-4结尾的数据；服务器B遍历ID以5-9结尾的数据。
2. 分片项与业务处理解耦
Elastic-Job并不直接提供数据处理的功能，框架只会将分片项分配至各个运行中的作业服务器，开发者需要自行处理分片项与真实数据的对应关系。
3. 个性化参数的适用场景
个性化参数即shardingItemParameter，可以和分片项匹配对应关系，用于将分片项的数字转换为更加可读的业务代码。
例如：按照地区水平拆分数据库，数据库A是北京的数据；数据库B是上海的数据；数据库C是广州的数据。 如果仅按照分片项配置，开发者需要了解0表示北京；1表示上海；2表示广州。 合理使用个性化参数可以让代码更可读，如果配置为0=北京,1=上海,2=广州，那么代码中直接使用北京，上海，广州的枚举值即可完成分片项和业务逻辑的对应关系。

核心概念

  1. 分布式调度

Elastic-Job-Cloud采用Mesos Framework分片和协调作业调度。采用中心化调度实现难度小于Elastic-Job-Lite的无中心化调度，无需再考虑多线程并发的情况。

  1. 作业高可用

Elastic-Job-Cloud由Mesos Framework负责作业高可用和分片。作业丢失会由Mesos Framework自动在另外的Agent上重新启动作业分片实例。

  1. 弹性资源利用

Elastic-Job-Cloud分为2种作业运行模式：瞬时作业 和 常驻作业。

瞬时作业会在每一次作业执行完毕后立刻释放资源，保证利用现有资源错峰执行。资源分配和容器启动均占用一定时长，且作业执行时资源不一定充足，因此作业执行会有延迟。瞬时作业适用于间隔时间长，资源消耗多且对执行时间无严格要求的作业。

常驻作业无论在运行时还是等待运行时，均一直占用分配的资源，可节省过多容器启动和资源分配的开销，适用于间隔时间短，资源需求量稳定的作业。

整体架构图

这里写图片描述

开始开发

没用使用本地环境 使用linux 虚拟机进行部署 如果不会的小伙伴可以 看这篇博客 http://www.haha174.top/article/details/255136
1.Java
请使用JDK1.7及其以上版本。
2.Zookeeper
请使用Zookeeper 3.4.6及其以上版本
**3.Meso**s
请使用Mesos 0.28.0及其以上版本
首先在githup 上下载Elastic Job Cloud源码https://github.com/elasticjob/elastic-job和example 源码 https://github.com/elasticjob/elastic-job-example
对源码进行编译 可以得到elastic-job-cloud-scheduler-2.1.6-SNAPSHOT.tar.gz 的包

如果是测试可以用我编译好的这个tar包
www.haha174.top:8086/cloud/elastic-job-cloud-scheduler-2.1.6-SNAPSHOT.tar.gz
在exmple elastic-job-example-jobs java simple job 写一个简单的http请求的task测试
源码如下 

public class Test {public void getMusic(String info) {System.out.println(info);String url="http://www.haha174.top/talk/test.do?info="+info;System.out.println(url);StringBuffer result=new StringBuffer();  BufferedReader in = null;try {String urlNameString = url ;URL realUrl = new URL(urlNameString);// 鎵撳紑鍜孶RL涔嬮棿鐨勮繛鎺�URLConnection connection = realUrl.openConnection();// 璁剧疆閫氱敤鐨勮姹傚睘鎬�connection.setRequestProperty("accept", "*/*");connection.setRequestProperty("connection", "Keep-Alive");connection.setRequestProperty("user-agent","Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1)");//connection.setRequestProperty("Charset", "utf-8");connection.setRequestProperty("content-type", "text/html;charset=utf-8");// 璁剧疆璇锋眰澶�connection.setRequestProperty("Host", "www.haha174.top");   connection.setRequestProperty("Cookie", "Hm_lvt_f15bc3d24adf741e7641a498bb9088b1=1509949156,1510022898,1510064630,1510149777; _ga=GA1.2.1295051913.1504717088; bdshare_firstime=1505014742816; Hm_lvt_d0860f6c7721ce1eda7a584188cae847=1508037744,1509370010,1509455147,1509632096; _gid=GA1.2.1542398899.1509771778");   // 寤虹珛瀹為檯鐨勮繛鎺�connection.connect();// 鑾峰彇鎵�鏈夊搷搴斿ご瀛楁// 瀹氫箟 BufferedReader杈撳叆娴佹潵璇诲彇URL鐨勫搷搴�in = new BufferedReader(new InputStreamReader(connection.getInputStream(), "UTF-8"));String line;while ((line = in.readLine()) != null) {result.append(line) ;}System.out.println(result.toString());} catch (Exception e) {System.out.println("鍙戦�丟ET璇锋眰鍑虹幇寮傚父锛�" + e);e.printStackTrace();}// 浣跨敤finally鍧楁潵鍏抽棴杈撳叆娴�finally {try {if (in != null) {in.close();}} catch (Exception e2) {e2.printStackTrace();}}//json   瑙ｆ瀽}
}

在javasimple job 进行调用 

public class JavaSimpleJob implements SimpleJob {public void execute(final ShardingContext shardingContext) {System.out.println(String.format("Item: %s | Time: %s | Thread: %s | %s",shardingContext.getShardingItem(), new SimpleDateFormat("HH:mm:ss").format(new Date()), Thread.currentThread().getId(), "SIMPLE"));System.out.println("初始化成功");new Test().getMusic("1212");}
}

将这个example 编译达成一个tar包 这个是我测试的编译结果www.haha174.top:8086/cloud/elastic-job-example-cloud-2.1.5.tar.gz

下面进入虚拟机 安装 zookerper和mesos并启动
可以参考这篇博客 https://www.cnblogs.com/vergilchiu/p/5706473.html
将elastic-job-cloud-scheduler-2.1.6-SNAPSHOT.tar.gz 放入虚拟机中进行
解压 tar -zxvf elastic-job-cloud-scheduler-2.1.6-SNAPSHOT.tar.gz
进入 cd elastic-job-cloud-scheduler-2.1.6-SNAPSHOT
更改配置 vi conf/elastic-job-cloud-scheduler.properties
将hostname=192.168.120.223 (这里为你虚拟机的ip)
执行 sh bin/start.sh 启动
输入192.168.120.223：8899 便可以看到 ui 界面
下面 写两个 脚本 放入到 提交 app和job
app.sh

curl -l -H "Content-type: application/json" -X POST -d '{"appName":"foo_app","appURL":"http://www.haha174.top:8086/cloud/elastic-job-example-cloud-2.1.5.tar.gz","cpuCount":0.1,"memoryMB":64.0,"bootstrapScript":"bin/start.sh","appCacheEnable":true,"eventTraceSamplingCount":0}' http://192.168.120.223:8899/api/app

job.sh

curl -l -H "Content-type: application/json" -X POST -d '{"jobName":"foo_job","appName":"foo_app","jobClass":"com.job.JavaSimpleJob.class","jobType":"SIMPLE","jobExecutionType":"TRANSIENT","cron":"0/5 * * * * ?","shardingTotalCount":5,"cpuCount":0.1,"memoryMB":64.0,"appURL":"http://www.haha174.top:8086/cloud/elastic-job-example-cloud-2.1.5.tar.gz","failover":true,"misfire":true,"bootstrapScript":"bin/start.sh"}'http://192.168.120.223:8899/api/job/register

在虚拟机中执行 这两个脚本即可
注意 ip 要替换调去 将这个地址 自己的地址 还有这个地址 http://www.haha174.top:8086/cloud/elastic-job-example-cloud-2.1.5.tar.gz 可能下载的比较慢可以在虚拟机里面装一个nginx 就能立马看到效果

这篇关于Elastic Job Cloud 使用篇（1）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1097603。

相关文章

中文分词jieba库的使用与实景应用（一）

中文分词jieba库的使用与实景应用（一）

知识星球：https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义： 精确模式（默认模式）： 全模式： 搜索引擎模式： paddle 模式（基于深度学习的分词模式）： 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取
阅读更多...
使用SecondaryNameNode恢复NameNode的数据

使用SecondaryNameNode恢复NameNode的数据

1）需求： NameNode进程挂了并且存储的数据也丢失了，如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2）故障模拟 （1）kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 （2）删除NameNode存储的数据（/opt/module/hadoop-3.1.4/data/tmp/dfs/na
阅读更多...
Hadoop数据压缩使用介绍

Hadoop数据压缩使用介绍

一、压缩原则 （1）运算密集型的Job，少用压缩 （2）IO密集型的Job，多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1）为了支持多种压缩/解压缩算法，Hadoop引入了编码/解码器 2）要在Hadoop中启用压缩，可以配置如下参数
阅读更多...
Makefile简明使用教程

Makefile简明使用教程

文章目录 规则makefile文件的基本语法：加在命令前的特殊符号：.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具，常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件
阅读更多...
使用opencv优化图片（画面变清晰）

使用opencv优化图片（画面变清晰）

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化，使其看起来更清晰，同时保持尺寸不变，通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多，主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器：相机传
阅读更多...
pdfmake生成pdf的使用

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据，将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma
阅读更多...
零基础学习Redis(10) -- zset类型命令使用

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合，内部除了存储元素外，还会存储一个score，存储在zset中的元素会按照score的大小升序排列，不同元素的score可以重复，score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]
阅读更多...
git使用的说明总结

git使用的说明总结

Git使用说明 下载安装(下载地址) macOS: Git - Downloading macOS Windows: Git - Downloading Windows Linux/Unix: Git (git-scm.com) 创建新仓库 本地创建新仓库：创建新文件夹，进入文件夹目录，执行指令 git init ，用以创建新的git 克隆仓库 执行指令用以创建一个本地仓库的
阅读更多...
【北交大信息所AI-Max2】使用方法

【北交大信息所AI-Max2】使用方法

BJTU信息所集群AI_MAX2使用方法 使用的前提是预约到相应的算力卡，拥有登录权限的账号密码，一般为导师组共用一个。 有浏览器、ssh工具就可以。 1.新建集群Terminal 浏览器登陆10.126.62.75 （如果是1集群把75改成66） 交互式开发 执行器选Terminal 密码随便设一个（需记住） 工作空间：私有数据、全部文件 加速器选GeForce_RTX_2080_Ti
阅读更多...
【Linux 从基础到进阶】Ansible自动化运维工具使用

【Linux 从基础到进阶】Ansible自动化运维工具使用

Ansible自动化运维工具使用 Ansible 是一款开源的自动化运维工具，采用无代理架构（agentless），基于 SSH 连接进行管理，具有简单易用、灵活强大、可扩展性高等特点。它广泛用于服务器管理、应用部署、配置管理等任务。本文将介绍 Ansible 的安装、基本使用方法及一些实际运维场景中的应用，旨在帮助运维人员快速上手并熟练运用 Ansible。 1. Ansible的核心概念
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2