SPARK connector 接口程序

2024-05-07 17:48
文章标签 接口 程序 connector spark

本文主要是介绍SPARK connector 接口程序,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

package com.szl.miner.api.connector;

import org.apache.hadoop.conf.Configuration;

/**
 * Created by liao on 15-5-4.
 */
public interface SparkConnector extends ClosableConnector {/**
     * 指定spark应用名.
     *
     * @param appName Application name.
     */
    public void setAppName(String appName);

    /**
     * 指定需要运行在哪个master上.
     *
     * @param master yarn resource manager url.
     */
    public void setMaster(String master);

    /**
     * 设置hadoop core-site.xml hdfs-site.xml.
     *
     * @param conf hadoop 配置.
     */
    public void setConfig(Configuration conf);

    /**
     * 设置运行app的源代码jar包
     *
     * @param resource Path to the main application resource.
     */
    public void setAppResource(String resource);

    /**
     * 设置app的主类完整类名.
     *
     * @param mainClass Application's main class.
     */
    public void setMainClass(String mainClass);

    /**
     * 设置spark driver程序内存大小
     *
     * @param driverMemory spark driver程序内存大小
     */
    public void setDriverMemory(String driverMemory);

    /**
     * 主程序所需要的参数.
     *
     * @param args Arguments to pass to the application's main class.
     */
    public void addAppArgs(String... args);

    /**
     * 添加app运行所需的jar包.
     *
     * @param jar Path to the jar file.
     */
    public void addJars(String jar);


    /**
     * 提交app job到yarn
     */
    public void submit();

    /**
     * 调用submit之后,等待任务结束
     * @throws ConnectorException
     */
    public void waitfor() throws ConnectorException;

    /**
     * 提交app job到yarn,并等待job结束
     *
     * @throws ConnectorException
     */
    public void run() throws ConnectorException;

    /**
     * 获取job状态
     *
     * @return job状态
     */
    public String getState();

    /**
     * 获取job 在yarn上的ApplicationId
     *
     * @return yarn上的ApplicationId
     */
    public String getApplicationId();

    /**
     * 获取job任务结束时的返回信息
     *
     * @return job任务结束时的返回信息
     */
    public String getErrorMessage();

    /**
     * 获取job结束后的状态
     *
     * @return job结束后的状态
     */
    public String getFinalState();
}

这篇关于SPARK connector 接口程序的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967963

相关文章

SpringBoot+Redis防止接口重复提交问题

《SpringBoot+Redis防止接口重复提交问题》:本文主要介绍SpringBoot+Redis防止接口重复提交问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不... 目录前言实现思路代码示例测试总结前言在项目的使用使用过程中,经常会出现某些操作在短时间内频繁提交。例

springboot下载接口限速功能实现

《springboot下载接口限速功能实现》通过Redis统计并发数动态调整每个用户带宽,核心逻辑为每秒读取并发送限定数据量,防止单用户占用过多资源,确保整体下载均衡且高效,本文给大家介绍spring... 目录 一、整体目标 二、涉及的主要类/方法✅ 三、核心流程图解(简化) 四、关键代码详解1️⃣ 设置

spring中的ImportSelector接口示例详解

《spring中的ImportSelector接口示例详解》Spring的ImportSelector接口用于动态选择配置类,实现条件化和模块化配置,关键方法selectImports根据注解信息返回... 目录一、核心作用二、关键方法三、扩展功能四、使用示例五、工作原理六、应用场景七、自定义实现Impor

MybatisPlus service接口功能介绍

《MybatisPlusservice接口功能介绍》:本文主要介绍MybatisPlusservice接口功能介绍,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友... 目录Service接口基本用法进阶用法总结:Lambda方法Service接口基本用法MyBATisP

python编写朋克风格的天气查询程序

《python编写朋克风格的天气查询程序》这篇文章主要为大家详细介绍了一个基于Python的桌面应用程序,使用了tkinter库来创建图形用户界面并通过requests库调用Open-MeteoAPI... 目录工具介绍工具使用说明python脚本内容如何运行脚本工具介绍这个天气查询工具是一个基于 Pyt

Ubuntu设置程序开机自启动的操作步骤

《Ubuntu设置程序开机自启动的操作步骤》在部署程序到边缘端时,我们总希望可以通电即启动我们写好的程序,本篇博客用以记录如何在ubuntu开机执行某条命令或者某个可执行程序,需要的朋友可以参考下... 目录1、概述2、图形界面设置3、设置为Systemd服务1、概述测试环境:Ubuntu22.04 带图

Python程序打包exe,单文件和多文件方式

《Python程序打包exe,单文件和多文件方式》:本文主要介绍Python程序打包exe,单文件和多文件方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录python 脚本打成exe文件安装Pyinstaller准备一个ico图标打包方式一(适用于文件较少的程

Python程序的文件头部声明小结

《Python程序的文件头部声明小结》在Python文件的顶部声明编码通常是必须的,尤其是在处理非ASCII字符时,下面就来介绍一下两种头部文件声明,具有一定的参考价值,感兴趣的可以了解一下... 目录一、# coding=utf-8二、#!/usr/bin/env python三、运行Python程序四、

Java中的Closeable接口及常见问题

《Java中的Closeable接口及常见问题》Closeable是Java中的一个标记接口,用于表示可以被关闭的对象,它定义了一个标准的方法来释放对象占用的系统资源,下面给大家介绍Java中的Clo... 目录1. Closeable接口概述2. 主要用途3. 实现类4. 使用方法5. 实现自定义Clos

java对接第三方接口的三种实现方式

《java对接第三方接口的三种实现方式》:本文主要介绍java对接第三方接口的三种实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录HttpURLConnection调用方法CloseableHttpClient调用RestTemplate调用总结在日常工作