大数据之Trino高可用方案

2024-02-27 10:12
文章标签 数据 可用 方案 trino

本文主要是介绍大数据之Trino高可用方案,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

系统架构

在这里插入图片描述

2、keepalive安装

2.1、安装(2台机器)

 yum install -y keepalived
useradd keepalived_script
echo keepalived_script | passwd --stdin keepalived_script

2.2、编写coordinator服务存活检测脚本(两台机器都需要)

vim /usr/bin/check_trino_alive.sh
#!/bin/shPATH=/bin:/sbin:/usr/bin:/usr/sbin#port_test=`nc -z -v  localhost 18080|grep succeeded -c`;
port_test=`ss -nlp | grep 18080 | wc -l`;if [ $port_test -eq 0 ]thenecho 'trino coordinator is died'systemctl stop keepalived.serviceexit 1
elseexit 0
fichmod +x /usr/bin/check_trino_alive.sh

2.3、机器trino coordinator1的配置

[root@hdpapcuat01v ~]# cat /etc/keepalived/keepalived.conf 
! Configuration File for keepalivedvrrp_script check_trino_alive {script "/usr/bin/check_trino_alive.sh"interval 3weight -10
}global_defs {router_id LVS_TRINO #运行keepalived机器的一个标识#script_user root#enable_script_security
}vrrp_instance VI_1 {interface eth0 #设置实例绑定的网卡state BACKUP  #指定哪个为master,哪个为backupvirtual_router_id 92 #VPID标记,主备必须一样mcast_src_ip 127.0.0.1priority 170 #优先级,高优先级竞选为master#vrrp_unicast_bind 127.0.0.1#vrrp_unicast_peer 127.0.0.2authentication {auth_type PASS  #认证方式auth_pass afafa12384CDEad #认证密码}virtual_ipaddress {## 设置VIP,必须是同一网段虚拟IP127.0.0.3}track_script {check_trino_alive #trino存活检查}}

2.4、机器trino coordinator2的配置

[trino@localhost1 trino]$ cat  /etc/keepalived/keepalived.conf
! Configuration File for keepalivedvrrp_script check_trino_alive {script "/usr/bin/check_trino_alive.sh"interval 3weight -10
}global_defs {router_id LVS_TRINO #运行keepalived机器的一个标识#script_user root#enable_script_security
}vrrp_instance VI_1 {interface eth0 #设置实例绑定的网卡state BACKUP  #指定哪个为master,哪个为backupvirtual_router_id 92 #VPID标记,主备必须一样mcast_src_ip 127.0.0.2priority 170 #优先级,高优先级竞选为master#vrrp_unicast_bind 127.0.0.1#vrrp_unicast_peer 127.0.0.2authentication {auth_type PASS  #认证方式auth_pass afafa12384CDEad #认证密码}virtual_ipaddress {## 设置VIP,必须是同一网段虚拟IP127.0.0.3}track_script {check_trino_alive #trino存活检查}}	[root@localhost1 etc]# chmod +x /etc/keepalived/keepalived.conf

2.5、重启 keepalive 生效(两台机器都执行)

systemctl restart  keepalived.service 
systemctl status keepalived.service

2.6、验证

在这里插入图片描述

3、配置Trino

3.1、coordinator1

vi config.properties 
# 该节点是否作为coordinator
coordinator=true
# coordinator是否同时作为worker节点
node-scheduler.include-coordinator=false
# http连接端口
http-server.http.port=18080
#每个查询可以使用的最大分布式内存量。
query.max-memory=38GB
#查询可在任何一台计算机上使用的最大用户内存量
query.max-memory-per-node=16GB
memory.heap-headroom-per-node=12GB
# 服务发现的地址
discovery.uri=http://localhostvip.daemon.com:18080

3.2、coordinator2

vi config.properties 
# 该节点是否作为coordinator
coordinator=true
# coordinator是否同时作为worker节点
node-scheduler.include-coordinator=false
# http连接端口
http-server.http.port=18080
#每个查询可以使用的最大分布式内存量。
query.max-memory=38GB
#查询可在任何一台计算机上使用的最大用户内存量
query.max-memory-per-node=16GB
memory.heap-headroom-per-node=12GB
# 服务发现的地址
discovery.uri=http://localhostvip.daemon.com:18080

3.3、其他worker节点

vi config.properties 
# 该节点是否作为coordinator
coordinator=false
# coordinator是否同时作为worker节点
node-scheduler.include-coordinator=true
# http连接端口http-server.http.port=18080
#每个查询可以使用的最大分布式内存量。
query.max-memory=38GB
#查询可在任何一台计算机上使用的最大用户内存量
query.max-memory-per-node=16GB
memory.heap-headroom-per-node=12GB# 服务发现的地址discovery.uri=http://localhostvip.daemon.com:18080

3.4、启动

/opt/apache-hadoop/trino/bin/launcher restart
/opt/apache-hadoop/trino/bin/launcher start
/opt/apache-hadoop/trino/bin/launcher status

3.5、验证

停止各个节点测试

节点类型服务状态
127.0.0.1节点1停止正常
127.0.0.2节点2正常停止
127.0.0.3VIP正常正常

Client访问

[trino@localhost ~]$ trino-cli --server localhostvip.daemon.com:18080 --catalog hive

在这里插入图片描述

这篇关于大数据之Trino高可用方案的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/752055

相关文章

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查

python实现对数据公钥加密与私钥解密

《python实现对数据公钥加密与私钥解密》这篇文章主要为大家详细介绍了如何使用python实现对数据公钥加密与私钥解密,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录公钥私钥的生成使用公钥加密使用私钥解密公钥私钥的生成这一部分,使用python生成公钥与私钥,然后保存在两个文

mysql中的数据目录用法及说明

《mysql中的数据目录用法及说明》:本文主要介绍mysql中的数据目录用法及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、版本3、数据目录4、总结1、背景安装mysql之后,在安装目录下会有一个data目录,我们创建的数据库、创建的表、插入的

SQLite3 在嵌入式C环境中存储音频/视频文件的最优方案

《SQLite3在嵌入式C环境中存储音频/视频文件的最优方案》本文探讨了SQLite3在嵌入式C环境中存储音视频文件的优化方案,推荐采用文件路径存储结合元数据管理,兼顾效率与资源限制,小文件可使用B... 目录SQLite3 在嵌入式C环境中存储音频/视频文件的专业方案一、存储策略选择1. 直接存储 vs

Navicat数据表的数据添加,删除及使用sql完成数据的添加过程

《Navicat数据表的数据添加,删除及使用sql完成数据的添加过程》:本文主要介绍Navicat数据表的数据添加,删除及使用sql完成数据的添加过程,具有很好的参考价值,希望对大家有所帮助,如有... 目录Navicat数据表数据添加,删除及使用sql完成数据添加选中操作的表则出现如下界面,查看左下角从左

SpringBoot中4种数据水平分片策略

《SpringBoot中4种数据水平分片策略》数据水平分片作为一种水平扩展策略,通过将数据分散到多个物理节点上,有效解决了存储容量和性能瓶颈问题,下面小编就来和大家分享4种数据分片策略吧... 目录一、前言二、哈希分片2.1 原理2.2 SpringBoot实现2.3 优缺点分析2.4 适用场景三、范围分片

Redis分片集群、数据读写规则问题小结

《Redis分片集群、数据读写规则问题小结》本文介绍了Redis分片集群的原理,通过数据分片和哈希槽机制解决单机内存限制与写瓶颈问题,实现分布式存储和高并发处理,但存在通信开销大、维护复杂及对事务支持... 目录一、分片集群解android决的问题二、分片集群图解 分片集群特征如何解决的上述问题?(与哨兵模

浅析如何保证MySQL与Redis数据一致性

《浅析如何保证MySQL与Redis数据一致性》在互联网应用中,MySQL作为持久化存储引擎,Redis作为高性能缓存层,两者的组合能有效提升系统性能,下面我们来看看如何保证两者的数据一致性吧... 目录一、数据不一致性的根源1.1 典型不一致场景1.2 关键矛盾点二、一致性保障策略2.1 基础策略:更新数

Oracle 数据库数据操作如何精通 INSERT, UPDATE, DELETE

《Oracle数据库数据操作如何精通INSERT,UPDATE,DELETE》在Oracle数据库中,对表内数据进行增加、修改和删除操作是通过数据操作语言来完成的,下面给大家介绍Oracle数... 目录思维导图一、插入数据 (INSERT)1.1 插入单行数据,指定所有列的值语法:1.2 插入单行数据,指