Ranger安装部署

2023-12-21 17:18
文章标签 部署 安装 ranger

本文主要是介绍Ranger安装部署，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

1. 概述

　　Apache Ranger是大数据领域的一个集中式安全管理框架，目的是通过制定策略（policies）实现对Hadoop组件的集中式安全管理。用户可以通过Ranger实现对集群中数据的安全访问。

2. Ranger内部组件

　　Ranger由三个模块组成：Ranger内部组件、依赖组件、扩展性组件。

2.1 内部组件

　　包含的内部组件如下：

  • Ranger Admin 用户管理策略，提供WebUI和RestFul接口
  • Ranger UserSync 用于将Unix系统或LDAP用户/组同步到RangerAdmin
  • Ranger TagSync 同步Atlas中的Tag信息，基于标签的权限管理，当一个用户的请求涉及到多个应用系统中的多个资源的权限时，可以通过只配置这些资源的tag方便快速的授权
  • Ranger KMS 对hadoop KMS的策略管理和密钥管理

　　注：Apache atlas 是Hadoop社区为解决Hadoop生态系统的元数据治理问题而产生的开源项目，它为Hadoop集群提供了包括数据分类、集中策略引擎、数据血缘、安全和生命周期管理在内的元数据治理核心能力。　　

2.2 依赖组件

  • JDK8 用于运行RangerAdmin、RangerKMS
  • Python2.7 用于Ranger自动化安装
  • Maven3.6 用于Ranger编译
  • RDMS 用于存储授权策略，存储Ranger用户/组，存储审核日志
  • Solr(可选) 存储日志
  • Kerberos(可选) 确保所有请求都被认证

2.3 扩展性组件

　　HDFS、HBASE、HIVE、YARN、KNOX、STORM、SOLR、KAFKA、NIFI、KYLIN、NIFI-REGISTRY、SQOOP、ATLAS、ELASTICSEARCH、PRESTO、OZONE

2.4 总体架构

　　

3. Ranger编译

　　Ranger官网源码包最新版本是2.0.0，不提供二进制安装包，故需要maven编译。目前测试使用的版本为：

ranger版本2.0.0
hadoop版本2.7.3
hbase版本 
hive版本  2.1.0         
postgres版本      11
python版本2.7

3.1 官网下载源码包

# wget http://mirrors.tuna.tsinghua.edu.cn/apache/ranger/2.0.0/apache-ranger-2.0.0.tar.gz

3.2 下载maven

　　编译安装需要使用到maven，下载如下：

# wget http://mirrors.tuna.tsinghua.edu.cn/apache/maven/maven-3/3.6.2/binaries/apache-maven-3.6.2-bin.tar.gz

　　解压，并添加环境变量，同时修改maven的Java堆内存最大值，避免编译内存溢出

# tar -zxvf apache-maven-3.6.2-bin.tar.gz# vim /etc/bashrc
export MAVEN_HOME=/opt/app/apache-maven-3.6.2
export PATH=$PATH:$MAVEN_HOME/binMAVEN_OPTS=-Xmx2048m
export JAVA_HOME MAVEN_HOME MAVEN_OPTS JAVA_BIN PATH CLASSPATH

　　修改maven源为阿里源或其他源

# pwd
/opt/app/apache-maven-3.6.2/conf
# vim settings.xml
<mirrors><mirror><id>nexus-aliyun</id><mirrorOf>central</mirrorOf><name>Nexus aliyun</name><url>http://maven.aliyun.com/nexus/content/groups/public</url></mirror><mirror><id>CN</id><name>OSChina Central</name><url>http://maven.oschina.net/content/groups/public/</url><mirrorOf>central</mirrorOf></mirror><mirror><id>alimaven</id><mirrorof>central</mirrorof><name>aliyun maven</name><url>https://maven.aliyun.com/nexus/content/repositories/central/</url></mirror><mirror><id>jboss-public-repository-group</id><mirrorof>central</mirrorof><name>JBoss Public Repository Group</name><url>https://repository.jboss.org/nexus/content/groups/public</url></mirror>
</mirrors>

3.3 编译Ranger

　　首次编译ranger，需要时间比较长，时间主要用于maven下载相应的依赖包，时间快慢取决于机器网络带宽。

# pwd
/opt/app/apache-ranger-2.0.0
# mvn clean compile package assembly:assembly install -DskipTests -Drat.skip=true

　　编译完成如下：

　　编译完成后，在当前目录下的target会生成相应的tar包文件，如下：

 　　接下来就可以使用这些编译完成二进制tar文件。

　　注：如果在编译安装的时候，需要对Hadoop、HBase、Hive等相应的版本有要求，那么可以在下载的源代码目录下pom.xml文件里面，修改Hadoop组件的相应版本，否则会导致后面使用的时候，出现版本兼容性问题。　

# pwd
/opt/app/apache-ranger-2.0.0
# vim pom.xml

4. Ranger-admin安装部署

　　安装ranger-admin的机器可以不在Hadoop集群内部，可以是随便一台。

4.1 准备

4.1.1 检测是否安装python2

# python
Python 2.7.5 (default, Aug  4 2017, 00:39:18) 
[GCC 4.8.5 20150623 (Red Hat 4.8.5-16)] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> 如果没有检测到python2，则执行下面的命令
# yum -y install python

4.1.2 postgres数据库安装以及下载驱动包

　　请自行百度安装，在postgres安装目录 data下修改pg_hba.conf文件，使postgres可以被远程服务器访问，修改为如下：

# Allow replication connections from localhost, by a user with the
# replication privilege.
#host    replication     all             127.0.0.1/32            md5
#host    replication     all             ::1/128                 md5
host      all             all             0.0.0.0/0               md5

　　从maven源库下载，https://repo1.maven.org/maven2/org/postgresql/postgresql/42.2.8/

　　把postgresql-42.2.8.jar下载，并创建 /usr/share/java/ 目录，最后转移到该目录下

# wget https://repo1.maven.org/maven2/org/postgresql/postgresql/42.2.8/postgresql-42.2.8.jar
# mkdir -p /usr/share/java
# mv postgresql-42.2.8.jar /usr/share/java/

4.2 解压ranger-admin软件包

# pwd
/opt/app/apache-ranger-2.0.0/target
# tar -zxvf ranger-2.0.0-admin.tar.gz

4.3 修改install.properties文件

# pwd
/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-admin
# vim install.properties

　　修改install.properties文件，这里使用的数据库是postgres，不安装solr服务

1）数据库配置
DB_FLAVOR=POSTGRES #指明使用数据库类型
SQL_CONNECTOR_JAR=/usr/share/java/postgresql-42.2.8.jar #数据库连接驱动
db_root_user=postgres        #数据库root用户名
db_root_password=postgres #数据库主机
db_host=192.168.1.33:5432 #数据库密码# 以下三个属性是用于设置ranger数据库的
db_name=ranger          #数据库名
db_user=postgres        #管理该数据库用户
db_password=postgres    #密码# 不需要保存，为空，否则生成的数据库密码为'_'
cred_keystore_filename=2) 审计日志， 如果没有安装solr，对应的属性值为空即可
audit_store=audit_solr_urls=
audit_solr_user=
audit_solr_password=
audit_solr_zookeepers=3）策略管理配置，配置ip和端口，默认即可
policymgr_external_url=http://localhost:60804) 配置hadoop集群的core-site.xml文件，把core-site.xml文件拷贝到该目录
hadoop_conf=/etc/hadoop/conf5) rangerAdmin、rangerTagSync、rangerUsersync、keyadmin密码配置。默认为空，可以不配，对应的内部组件该属性也要为空
rangerAdmin_password=
rangerTagsync_password=
rangerUsersync_password=
keyadmin_password=

4.4 初始化ranger-admin

# pwd
/opt/frame-tools/apache-ranger-2.0.0/target/ranger-2.0.0-admin
# ./setup.sh

　　初始化结果如下则成功：

 　　接着，运行set_globals.sh

# ./set_globals.sh 
usermod: no changes
[2019/11/27 21:54:32]:  [I] Soft linking /etc/ranger/admin/conf to ews/webapp/WEB-INF/classes/conf

4.5 启动ranger-admin

# ranger-admin start 
或者
# ./ews/ranger-admin-services.sh start

　　Ranger的默认端口是6080，如图，则表明程序正常启动

　　查看Ranger Admin Server运行的日志情况，日志路径默认为 ews/log ， 软链接到 /var/log/admin ，如下：

　　Ranger Admin Server的具体配置文件为 ranger-admin-site.xml ，如下：

　　浏览器连接测试：http://192.168.1.10:6080，登录界面用户名和密码为：admin/admin，登录进去界面如下：

5. Ranger-usersync安装部署

5.1 解压ranger-usersync软件包

# pwd
/opt/frame-tools/apache-ranger-2.0.0/target
# tar -zxvf ranger-2.0.0-usersync.tar.gz

5.2 修改install.property文件

# pwd
/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-usersync
# vim install.properties配置ranger admin的地址
POLICY_MGR_URL = http://localhost:6080

同步源系统类型
SYNC_SOURCE = unix同步间隔时间
SYNC_INTERVAL = 1usersync程序运行的用户和用户组
unix_user=usersync
unix_group=usersync修改rangerusersync用户的密码。注意，此密码应与Ranger admin中install.properties的rangerusersync_password相同。此处可以为空，同样Ranger admin的也要为空
rangerUsersync_password=配置hadoop的core-site.xml路径
hadoop_conf=/etc/hadoop/conf配置usersync的log路径
logdir=logs

5.3 初始化ranger-usersync

# pwd
/opt/app/apache-ranger-2.0.0/target/ranger-2.0.0-usersync
# ./setup.sh

　　执行结果：

　

5.4 启动ranger-usersync

# ranger-usersync start
或
# pwd
/opt/frame-tools/apache-ranger-2.0.0/target/ranger-2.0.0-usersync
# ./ranger-usersync-services.sh start

 　　验证是否安装成功，如图则成功：

总结

【参考资料】

https://yaooqinn.github.io/spark-authorizer/docs/install_plugin.html

https://github.com/yaooqinn/spark-ranger

https://blog.csdn.net/sudaxhh/article/details/52135184

https://blog.csdn.net/w609392362/article/details/89959445

https://www.cnblogs.com/xiaolang8762400/p/7449489.html

https://help.aliyun.com/document_detail/66411.html

https://www.cnblogs.com/yjt1993/p/11837398.html

https://www.lagou.com/lgeduarticle/7838.html

https://www.jianshu.com/p/d0bf6e77bb8f

https://www.cnblogs.com/taojietaoge/p/10808534.html

这篇关于Ranger安装部署的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/520838。

相关文章

Win11安装PostgreSQL数据库的两种方式详细步骤

Win11安装PostgreSQL数据库的两种方式详细步骤

《Win11安装PostgreSQL数据库的两种方式详细步骤》PostgreSQL是备受业界青睐的关系型数据库,尤其是在地理空间和移动领域,：本文主要介绍Win11安装PostgreSQL数据库的... 目录一、exe文件安装 （推荐）下载安装包1. 选择操作系统2. 跳转到EDB（PostgreSQL 的
阅读更多...
Linux系统中卸载与安装JDK的详细教程

Linux系统中卸载与安装JDK的详细教程

《Linux系统中卸载与安装JDK的详细教程》本文详细介绍了如何在Linux系统中通过Xshell和Xftp工具连接与传输文件,然后进行JDK的安装与卸载,安装步骤包括连接Linux、传输JDK安装包... 目录1、卸载1.1 linux删除自带的JDK1.2 Linux上卸载自己安装的JDK2、安装2.1
阅读更多...
Linux卸载自带jdk并安装新jdk版本的图文教程

Linux卸载自带jdk并安装新jdk版本的图文教程

《Linux卸载自带jdk并安装新jdk版本的图文教程》在Linux系统中,有时需要卸载预装的OpenJDK并安装特定版本的JDK,例如JDK1.8,所以本文给大家详细介绍了Linux卸载自带jdk并... 目录Ⅰ、卸载自带jdkⅡ、安装新版jdkⅠ、卸载自带jdk1、输入命令查看旧jdkrpm -qa
阅读更多...
tomcat多实例部署的项目实践

tomcat多实例部署的项目实践

《tomcat多实例部署的项目实践》Tomcat多实例是指在一台设备上运行多个Tomcat服务,这些Tomcat相互独立,本文主要介绍了tomcat多实例部署的项目实践,具有一定的参考价值,感兴趣的可... 目录1.创建项目目录，测试文China编程件2js.创建实例的安装目录3.准备实例的配置文件4.编辑实例的
阅读更多...
MySQL Workbench 安装教程(保姆级)

MySQL Workbench 安装教程(保姆级)

《MySQLWorkbench安装教程(保姆级)》MySQLWorkbench是一款强大的数据库设计和管理工具,本文主要介绍了MySQLWorkbench安装教程,文中通过图文介绍的非常详细,对大... 目录前言：详细步骤：一、检查安装的数据库版本二、在官网下载对应的mysql Workbench版本，要是
阅读更多...
SpringBoot配置Ollama实现本地部署DeepSeek

SpringBoot配置Ollama实现本地部署DeepSeek

《SpringBoot配置Ollama实现本地部署DeepSeek》本文主要介绍了在本地环境中使用Ollama配置DeepSeek模型,并在IntelliJIDEA中创建一个Sprin... 目录前言详细步骤一、本地配置DeepSeek二、SpringBoot项目调用本地DeepSeek前言随着人工智能技
阅读更多...
通过Docker Compose部署MySQL的详细教程

通过Docker Compose部署MySQL的详细教程

《通过DockerCompose部署MySQL的详细教程》DockerCompose作为Docker官方的容器编排工具,为MySQL数据库部署带来了显著优势,下面小编就来为大家详细介绍一... 目录一、docker Compose 部署 mysql 的优势二、环境准备与基础配置2.1 项目目录结构2.2 基
阅读更多...
Linux安装MySQL的教程

Linux安装MySQL的教程

《Linux安装MySQL的教程》：本文主要介绍Linux安装MySQL的教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux安装mysql1.Mysql官网2.我的存放路径3.解压mysql文件到当前目录4.重命名一下5.创建mysql用户组和用户并修
阅读更多...
CentOS 7部署主域名服务器 DNS的方法

CentOS 7部署主域名服务器 DNS的方法

《CentOS7部署主域名服务器DNS的方法》文章详细介绍了在CentOS7上部署主域名服务器DNS的步骤,包括安装BIND服务、配置DNS服务、添加域名区域、创建区域文件、配置反向解析、检查配置... 目录1. 安装 BIND 服务和工具2.  配置 BIND 服务3 . 添加你的域名区域配置4.创建区域
阅读更多...
pip无法安装osgeo失败的问题解决

pip无法安装osgeo失败的问题解决

《pip无法安装osgeo失败的问题解决》本文主要介绍了pip无法安装osgeo失败的问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 进入官方提供的扩展包下载网站寻找版本适配的whl文件注意：要选择cp（python版本）和你py
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2