SPARK connector 接口程序

2024-05-07 17:48
文章标签 接口 程序 connector spark

本文主要是介绍SPARK connector 接口程序,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

package com.szl.miner.api.connector;

import org.apache.hadoop.conf.Configuration;

/**
 * Created by liao on 15-5-4.
 */
public interface SparkConnector extends ClosableConnector {/**
     * 指定spark应用名.
     *
     * @param appName Application name.
     */
    public void setAppName(String appName);

    /**
     * 指定需要运行在哪个master上.
     *
     * @param master yarn resource manager url.
     */
    public void setMaster(String master);

    /**
     * 设置hadoop core-site.xml hdfs-site.xml.
     *
     * @param conf hadoop 配置.
     */
    public void setConfig(Configuration conf);

    /**
     * 设置运行app的源代码jar包
     *
     * @param resource Path to the main application resource.
     */
    public void setAppResource(String resource);

    /**
     * 设置app的主类完整类名.
     *
     * @param mainClass Application's main class.
     */
    public void setMainClass(String mainClass);

    /**
     * 设置spark driver程序内存大小
     *
     * @param driverMemory spark driver程序内存大小
     */
    public void setDriverMemory(String driverMemory);

    /**
     * 主程序所需要的参数.
     *
     * @param args Arguments to pass to the application's main class.
     */
    public void addAppArgs(String... args);

    /**
     * 添加app运行所需的jar包.
     *
     * @param jar Path to the jar file.
     */
    public void addJars(String jar);


    /**
     * 提交app job到yarn
     */
    public void submit();

    /**
     * 调用submit之后,等待任务结束
     * @throws ConnectorException
     */
    public void waitfor() throws ConnectorException;

    /**
     * 提交app job到yarn,并等待job结束
     *
     * @throws ConnectorException
     */
    public void run() throws ConnectorException;

    /**
     * 获取job状态
     *
     * @return job状态
     */
    public String getState();

    /**
     * 获取job 在yarn上的ApplicationId
     *
     * @return yarn上的ApplicationId
     */
    public String getApplicationId();

    /**
     * 获取job任务结束时的返回信息
     *
     * @return job任务结束时的返回信息
     */
    public String getErrorMessage();

    /**
     * 获取job结束后的状态
     *
     * @return job结束后的状态
     */
    public String getFinalState();
}

这篇关于SPARK connector 接口程序的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967963

相关文章

go中空接口的具体使用

《go中空接口的具体使用》空接口是一种特殊的接口类型,它不包含任何方法,本文主要介绍了go中空接口的具体使用,具有一定的参考价值,感兴趣的可以了解一下... 目录接口-空接口1. 什么是空接口?2. 如何使用空接口?第一,第二,第三,3. 空接口几个要注意的坑坑1:坑2:坑3:接口-空接口1. 什么是空接

如何用java对接微信小程序下单后的发货接口

《如何用java对接微信小程序下单后的发货接口》:本文主要介绍在微信小程序后台实现发货通知的步骤,包括获取Access_token、使用RestTemplate调用发货接口、处理AccessTok... 目录配置参数 调用代码获取Access_token调用发货的接口类注意点总结配置参数 首先需要获取Ac

讯飞webapi语音识别接口调用示例代码(python)

《讯飞webapi语音识别接口调用示例代码(python)》:本文主要介绍如何使用Python3调用讯飞WebAPI语音识别接口,重点解决了在处理语音识别结果时判断是否为最后一帧的问题,通过运行代... 目录前言一、环境二、引入库三、代码实例四、运行结果五、总结前言基于python3 讯飞webAPI语音

MyBatis-Plus中Service接口的lambdaUpdate用法及实例分析

《MyBatis-Plus中Service接口的lambdaUpdate用法及实例分析》本文将详细讲解MyBatis-Plus中的lambdaUpdate用法,并提供丰富的案例来帮助读者更好地理解和应... 目录深入探索MyBATis-Plus中Service接口的lambdaUpdate用法及示例案例背景

基于Python开发PDF转Doc格式小程序

《基于Python开发PDF转Doc格式小程序》这篇文章主要为大家详细介绍了如何基于Python开发PDF转Doc格式小程序,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 用python实现PDF转Doc格式小程序以下是一个使用Python实现PDF转DOC格式的GUI程序,采用T

Java8需要知道的4个函数式接口简单教程

《Java8需要知道的4个函数式接口简单教程》:本文主要介绍Java8中引入的函数式接口,包括Consumer、Supplier、Predicate和Function,以及它们的用法和特点,文中... 目录什么是函数是接口?Consumer接口定义核心特点注意事项常见用法1.基本用法2.结合andThen链

将java程序打包成可执行文件的实现方式

《将java程序打包成可执行文件的实现方式》本文介绍了将Java程序打包成可执行文件的三种方法:手动打包(将编译后的代码及JRE运行环境一起打包),使用第三方打包工具(如Launch4j)和JDK自带... 目录1.问题提出2.如何将Java程序打包成可执行文件2.1将编译后的代码及jre运行环境一起打包2

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

在不同系统间迁移Python程序的方法与教程

《在不同系统间迁移Python程序的方法与教程》本文介绍了几种将Windows上编写的Python程序迁移到Linux服务器上的方法,包括使用虚拟环境和依赖冻结、容器化技术(如Docker)、使用An... 目录使用虚拟环境和依赖冻结1. 创建虚拟环境2. 冻结依赖使用容器化技术(如 docker)1. 创

MyBatis-Flex BaseMapper的接口基本用法小结

《MyBatis-FlexBaseMapper的接口基本用法小结》本文主要介绍了MyBatis-FlexBaseMapper的接口基本用法小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具... 目录MyBATis-Flex简单介绍特性基础方法INSERT① insert② insertSelec