Azkaban安装与初步使用

2024-01-13 06:08
文章标签 安装 使用 初步 azkaban

本文主要是介绍Azkaban安装与初步使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Azkaban安装与使用

  • 1 引言
    • 1.1 目的
    • 1.2 背景
    • 1.3 术语
    • 1.4 参考资料
    • 1.5 读者对象
  • 2 运行环境
    • 2.1 软件方面
  • 3 系统环境安装
  • 4 软件安装和配置
    • 4.1 下载代码,构建资源
    • 4.2 启动和停止服务
    • 4.3 通过web打开Azkaban可视化界面
    • 4.4 功能验证
  • 5 常见问题处理
    • 5.1 构建时报错

1 引言

1.1 目的

  1. 通过Azkaban的批量工作量任务调度器调用kettle
  2. 调用linux命令
  3. 调用java程序
  4. 调用shell脚本

1.2 背景

    Azkaban是一个分布式工作流管理器,由LinkedIn实现。类似于JavaEE中的JBPM和Activiti工作流框架.。常见的任务调度框架有Apache Oozie、LinkedIn Azkaban、Apache Airflow、Alibaba Zeus,由于Azkaban具有轻量可插拔、友好的WebUI、SLA告警、完善的权限控制、易于二次开发等优点,也得到了广泛应用。

1.3 术语

表格 1 3:术语表

术语说明
FLOW工作流程
JOB作业

1.4 参考资料

Azkaban官网网站:https://azkaban.github.io/

1.5 读者对象

    开发人员、运维人员、大数据工程师

2 运行环境

2.1 软件方面

这里我以我自己本地的环境作为例子,仅供参考

序号软件名称版本
1VMware Workstation 15 Pro15.0.0
2Azkaban3.9.1.0
3Gradle6.6.1
4JDK1.8.0_261
5Git2.17.1

3 系统环境安装

Ubuntu 18.04.5 LTS

4 软件安装和配置

4.1 下载代码,构建资源

  1. 克隆仓库
    git clone https://github.com/azkaban/azkaban.git
  2. 构建项目
    sudo ./gradlew build -x test
  3. 清理项目
    sudo ./gradlew clean

4.2 启动和停止服务

进入Azkaban根目录后
cd /azkaban/azkaban-solo-server/build/install/azkaban-solo-server/
执行 sudo ./bin/start-solo.sh 启动solo-server服务
执行 sudo./bin/shutdown-solo.sh,停止solo-server服务

4.3 通过web打开Azkaban可视化界面

  在浏览器中输入http://localhost:8081/,由于我将Azkaban安装在了虚拟机上,所以此处我使用的是http://192.168.255.131:8081/,默认的账号名为azkaban,密码为azkaban。
登录页
在这里插入图片描述

4.4 功能验证

1. 创建一个名为flow20.project的文件。添加Azkaban版本,表明这是一个Azkaban 2.0项目
azkaban-flow-version: 2.0
2. 创建另一个名为basic.flow的文件。添加名为nodes的部分,其中将包含您想要运行的所有作业。
nodes:

  • name: jobC
    type: noop
    # jobC depends on jobA and jobB
    dependsOn:

    • jobA
    • jobB
  • name: jobA
    type: command
    config:
    command: echo “This is an echoed text.”

  • name: jobB
    type: command
    config:
    command: pwd
    3. 将两个文件压缩为zip文件,直接压缩即可,不需要在外层创建文件夹,并命名为Archive.zip
    4. 在project菜单下创建一个project,输入Name和Description,如official_demo和官方样例
    5. 创建完毕后,点击upload菜单,将第三步压缩的Archive.zip进行上传
    在这里插入图片描述
    6. 点击Execute Flow,会弹出调度视图,再次点击Execute即运行成功
    在这里插入图片描述
    7. 查看调度日志
    在这里插入图片描述

5 常见问题处理

5.1 构建时报错

Task :azkaban-exec-server:compileTestJava FAILED
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:24: 错误: 程序包javafx.util不存在
import javafx.util.Pair;
^
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:31: 错误: 找不到符号
private final List<Pair<String, Status>> sequence = new ArrayList<>();
^
符号: 类 Pair
位置: 类 StatusChangeRecorder
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:41: 错误: 找不到符号
void verifySequence(final List<Pair<String, Status>> expectedSequence) {
^
符号: 类 Pair
位置: 类 StatusChangeRecorder
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/DagServiceTest.java:32: 错误: 程序包javafx.util不存在
import javafx.util.Pair;
^
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/DagServiceTest.java:56: 错误: 找不到符号
private final List<Pair<String, Status>> expectedSequence = new ArrayList<>();
^
解决办法:构建时使用sudo ./gradlew build -x test,最根本的原因为我所使用的环境安装的为OpenJDK,只包含最精简的JDK,故我又重新安装了JDK 1.8.0_261。安装完毕后使用sudo ./gradlew build依旧构建不通过。百思不得其解, 但不执行测试代码可以通过。有兴趣的小伙伴可以自行研究下。

这篇关于Azkaban安装与初步使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/600477

相关文章

一文详解如何使用Java获取PDF页面信息

《一文详解如何使用Java获取PDF页面信息》了解PDF页面属性是我们在处理文档、内容提取、打印设置或页面重组等任务时不可或缺的一环,下面我们就来看看如何使用Java语言获取这些信息吧... 目录引言一、安装和引入PDF处理库引入依赖二、获取 PDF 页数三、获取页面尺寸(宽高)四、获取页面旋转角度五、判断

C++中assign函数的使用

《C++中assign函数的使用》在C++标准模板库中,std::list等容器都提供了assign成员函数,它比操作符更灵活,支持多种初始化方式,下面就来介绍一下assign的用法,具有一定的参考价... 目录​1.assign的基本功能​​语法​2. 具体用法示例​​​(1) 填充n个相同值​​(2)

JAVA中安装多个JDK的方法

《JAVA中安装多个JDK的方法》文章介绍了在Windows系统上安装多个JDK版本的方法,包括下载、安装路径修改、环境变量配置(JAVA_HOME和Path),并说明如何通过调整JAVA_HOME在... 首先去oracle官网下载好两个版本不同的jdk(需要登录Oracle账号,没有可以免费注册)下载完

Spring StateMachine实现状态机使用示例详解

《SpringStateMachine实现状态机使用示例详解》本文介绍SpringStateMachine实现状态机的步骤,包括依赖导入、枚举定义、状态转移规则配置、上下文管理及服务调用示例,重点解... 目录什么是状态机使用示例什么是状态机状态机是计算机科学中的​​核心建模工具​​,用于描述对象在其生命

Java JDK1.8 安装和环境配置教程详解

《JavaJDK1.8安装和环境配置教程详解》文章简要介绍了JDK1.8的安装流程,包括官网下载对应系统版本、安装时选择非系统盘路径、配置JAVA_HOME、CLASSPATH和Path环境变量,... 目录1.下载JDK2.安装JDK3.配置环境变量4.检验JDK官网下载地址:Java Downloads

SQL server数据库如何下载和安装

《SQLserver数据库如何下载和安装》本文指导如何下载安装SQLServer2022评估版及SSMS工具,涵盖安装配置、连接字符串设置、C#连接数据库方法和安全注意事项,如混合验证、参数化查... 目录第一步:打开官网下载对应文件第二步:程序安装配置第三部:安装工具SQL Server Manageme

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

prometheus如何使用pushgateway监控网路丢包

《prometheus如何使用pushgateway监控网路丢包》:本文主要介绍prometheus如何使用pushgateway监控网路丢包问题,具有很好的参考价值,希望对大家有所帮助,如有错误... 目录监控网路丢包脚本数据图表总结监控网路丢包脚本[root@gtcq-gt-monitor-prome

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数