spark start-thriftserver.sh Kubernetes

2024-02-01 13:50

本文主要是介绍spark start-thriftserver.sh Kubernetes,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

启动命令

sh sbin/start-thriftserver.sh
–master k8s://https://192.168.99.108:8443
–name spark-thriftserver
–conf spark.executor.instances=1
–conf spark.kubernetes.container.image=zhixingheyitian/spark:spark2.4.1

如果默认端口10000被占,
则使用如下 环境变量 测试

export HIVE_SERVER2_THRIFT_PORT=10013

web UI

在这里插入图片描述

换一台机器执行query

这里以TPC-DS 为例

./sql/select.sql
# cat ./sql/select.sql
SELECT * FROM tpcds_1g_parquet.store_sales WHERE ss_customer_sk BETWEEN 10 AND 80 limit 10;
执行 ./bin/beeline
# ./bin/beeline -u jdbc:hive2://10.239.47.141:10000 -f ./sql/select.sql
Connecting to jdbc:hive2://10.239.47.141:10000
log4j:WARN No appenders could be found for logger (org.apache.hive.jdbc.Utils).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.
Connected to: Spark SQL (version 2.4.1)
Driver: Hive JDBC (version 1.2.1.spark2)
Transaction isolation: TRANSACTION_REPEATABLE_READ
0: jdbc:hive2://10.239.47.141:10000> SELECT * FROM tpcds_1g_parquet.store_sales WHERE ss_customer_sk BETWEEN 10 AND 80 limit 10;
+------------------+------------------+-------------+-----------------+--------------+--------------+-------------+--------------+--------------+-------------------+--------------+--------------------+----------------+-----------------+----------------------+---------------------+------------------------+--------------------+-------------+----------------+--------------+----------------------+----------------+--+
| ss_sold_date_sk  | ss_sold_time_sk  | ss_item_sk  | ss_customer_sk  | ss_cdemo_sk  | ss_hdemo_sk  | ss_addr_sk  | ss_store_sk  | ss_promo_sk  | ss_ticket_number  | ss_quantity  | ss_wholesale_cost  | ss_list_price  | ss_sales_price  | ss_ext_discount_amt  | ss_ext_sales_price  | ss_ext_wholesale_cost  | ss_ext_list_price  | ss_ext_tax  | ss_coupon_amt  | ss_net_paid  | ss_net_paid_inc_tax  | ss_net_profit  |
+------------------+------------------+-------------+-----------------+--------------+--------------+-------------+--------------+--------------+-------------------+--------------+--------------------+----------------+-----------------+----------------------+---------------------+------------------------+--------------------+-------------+----------------+--------------+----------------------+----------------+--+
| 2451797          | 42040            | 17531       | 50              | 1378426      | 5249         | 2025        | 8            | 80           | 307               | 78           | 75.96              | 100.26         | 70.18           | 0.0                  | 5474.04             | 5924.88                | 7820.28            | 383.18      | 0.0            | 5474.04      | 5857.22              | -450.84        |
| 2451797          | 42040            | 3560        | 50              | 1378426      | 5249         | 2025        | 8            | 133          | 307               | 15           | 34.19              | 49.57          | 47.58           | 0.0                  | 713.7               | 512.85                 | 743.55             | 28.54       | 0.0            | 713.7        | 742.24               | 200.85         |
| 2451797          | 42040            | 14641       | 50              | 1378426      | 5249         | 2025        | 8            | 108          | 307               | 60           | 56.61              | 67.93          | 44.83           | 0.0                  | 2689.8              | 3396.6                 | 4075.8             | 242.08      | 0.0            | 2689.8       | 2931.88              | -706.8         |
| 2451797          | 42040            | 6146        | 50              | 1378426      | 5249         | 2025        | 8            | 162          | 307               | 86           | 88.72              | 135.74         | 65.15           | 2689.39              | 5602.9              | 7629.92                | 11673.64           | 145.67      | 2689.39        | 2913.51      | 3059.18              | -4716.41       |
| 2451797          | 42040            | 12272       | 50              | 1378426      | 5249         | 2025        | 8            | 185          | 307               | 56           | 69.44              | 138.18         | 69.09           | 2282.73              | 3869.04             | 3888.64                | 7738.08            | 15.86       | 2282.73        | 1586.31      | 1602.17              | -2302.33       |
| 2451797          | 42040            | 9113        | 50              | 1378426      | 5249         | 2025        | 8            | 262          | 307               | 60           | 76.06              | 149.07         | 137.14          | 0.0                  | 8228.4              | 4563.6                 | 8944.2             | 411.42      | 0.0            | 8228.4       | 8639.82              | 3664.8         |
| 2451797          | 42040            | 3650        | 50              | 1378426      | 5249         | 2025        | 8            | 83           | 307               | 52           | 80.38              | 114.13         | 97.01           | 4237.39              | 5044.52             | 4179.76                | 5934.76            | 32.28       | 4237.39        | 807.13       | 839.41               | -3372.63       |
| 2451797          | 42040            | 8855        | 50              | 1378426      | 5249         | 2025        | 8            | 224          | 307               | 73           | 21.54              | 22.18          | 6.87            | 0.0                  | 501.51              | 1572.42                | 1619.14            | 20.06       | 0.0            | 501.51       | 521.57               | -1070.91       |
| 2451797          | 42040            | 4184        | 50              | 1378426      | 5249         | 2025        | 8            | 101          | 307               | 88           | 79.63              | 97.14          | 46.62           | 0.0                  | 4102.56             | 7007.44                | 8548.32            | 287.17      | 0.0            | 4102.56      | 4389.73              | -2904.88       |
| 2451797          | 42040            | 7825        | 50              | 1378426      | 5249         | 2025        | 8            | 137          | 307               | 30           | 24.11              | 25.55          | 23.5            | 0.0                  | 705.0               | 723.3                  | 766.5              | 35.25       | 0.0            | 705.0        | 740.25               | -18.3          |
+------------------+------------------+-------------+-----------------+--------------+--------------+-------------+--------------+--------------+-------------------+--------------+--------------------+----------------+-----------------+----------------------+---------------------+------------------------+--------------------+-------------+----------------+--------------+----------------------+----------------+--+
10 rows selected (31.454 seconds)
0: jdbc:hive2://10.239.47.141:10000> 
0: jdbc:hive2://10.239.47.141:10000> 
0: jdbc:hive2://10.239.47.141:10000> 
0: jdbc:hive2://10.239.47.141:10000> 
0: jdbc:hive2://10.239.47.141:10000> 
Closing: 0: jdbc:hive2://10.239.47.141:10000

执行查询后的UI 状况

jobs

在这里插入图片描述

executors

在这里插入图片描述

这篇关于spark start-thriftserver.sh Kubernetes的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/667482

相关文章

Kubernetes常用命令大全近期总结

《Kubernetes常用命令大全近期总结》Kubernetes是用于大规模部署和管理这些容器的开源软件-在希腊语中,这个词还有“舵手”或“飞行员”的意思,使用Kubernetes(有时被称为“... 目录前言Kubernetes 的工作原理为什么要使用 Kubernetes?Kubernetes常用命令总

SpringBoot操作spark处理hdfs文件的操作方法

《SpringBoot操作spark处理hdfs文件的操作方法》本文介绍了如何使用SpringBoot操作Spark处理HDFS文件,包括导入依赖、配置Spark信息、编写Controller和Ser... 目录SpringBoot操作spark处理hdfs文件1、导入依赖2、配置spark信息3、cont

Kubernetes PodSecurityPolicy:PSP能实现的5种主要安全策略

Kubernetes PodSecurityPolicy:PSP能实现的5种主要安全策略 1. 特权模式限制2. 宿主机资源隔离3. 用户和组管理4. 权限提升控制5. SELinux配置 💖The Begin💖点点关注,收藏不迷路💖 Kubernetes的PodSecurityPolicy(PSP)是一个关键的安全特性,它在Pod创建之前实施安全策略,确保P

K8S(Kubernetes)开源的容器编排平台安装步骤详解

K8S(Kubernetes)是一个开源的容器编排平台,用于自动化部署、扩展和管理容器化应用程序。以下是K8S容器编排平台的安装步骤、使用方式及特点的概述: 安装步骤: 安装Docker:K8S需要基于Docker来运行容器化应用程序。首先要在所有节点上安装Docker引擎。 安装Kubernetes Master:在集群中选择一台主机作为Master节点,安装K8S的控制平面组件,如AP

什么是Kubernetes PodSecurityPolicy?

@TOC 💖The Begin💖点点关注,收藏不迷路💖 1、什么是PodSecurityPolicy? PodSecurityPolicy(PSP)是Kubernetes中的一个安全特性,用于在Pod创建前进行安全策略检查,限制Pod的资源使用、运行权限等,提升集群安全性。 2、为什么需要它? 默认情况下,Kubernetes允许用户自由创建Pod,可能带来安全风险。

GNSS CTS GNSS Start and Location Flow of Android15

目录 1. 本文概述2.CTS 测试3.Gnss Flow3.1 Gnss Start Flow3.2 Gnss Location Output Flow 1. 本文概述 本来是为了做Android 14 Gnss CTS 的相关环境的搭建和测试,然后在测试中遇到了一些问题,去寻找CTS源码(/cts/tests/tests/location/src/android/locat

容器编排平台Kubernetes简介

目录 什么是K8s 为什么需要K8s 什么是容器(Contianer) K8s能做什么? K8s的架构原理  控制平面(Control plane)         kube-apiserver         etcd         kube-scheduler         kube-controller-manager         cloud-controlle

【Kubernetes】K8s 的安全框架和用户认证

K8s 的安全框架和用户认证 1.Kubernetes 的安全框架1.1 认证:Authentication1.2 鉴权:Authorization1.3 准入控制:Admission Control 2.Kubernetes 的用户认证2.1 Kubernetes 的用户认证方式2.2 配置 Kubernetes 集群使用密码认证 Kubernetes 作为一个分布式的虚拟

Oracle Start With关键字

Oracle Start With关键字 前言 旨在记录一些Oracle使用中遇到的各种各样的问题. 同时希望能帮到和我遇到同样问题的人. Start With (树查询) 问题描述: 在数据库中, 有一种比较常见得 设计模式, 层级结构 设计模式, 具体到 Oracle table中, 字段特点如下: ID, DSC, PID; 三个字段, 分别表示 当前标识的 ID(主键), DSC 当

Spark MLlib模型训练—聚类算法 PIC(Power Iteration Clustering)

Spark MLlib模型训练—聚类算法 PIC(Power Iteration Clustering) Power Iteration Clustering (PIC) 是一种基于图的聚类算法,用于在大规模数据集上进行高效的社区检测。PIC 算法的核心思想是通过迭代图的幂运算来发现数据中的潜在簇。该算法适用于处理大规模图数据,特别是在社交网络分析、推荐系统和生物信息学等领域具有广泛应用。Spa