本文主要是介绍Linux-centos下安装hue可视化以及与hdfs、hive、hbase和mysql的集成,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
1. Hue概述及版本下载
1)概述
Hue是一个开源的Apache Hadoop UI系统,最早是由Cloudera Desktop演化而来,由Cloudera贡献给开源社区,它是基于Python Web框架Django实现的。通过使用Hue我们可以在浏览器端的Web控制台上与Hadoop集群进行交互来分析处理数据,例如操作HDFS上的数据,运行MapReduce Job等等。
2)下载
CDH版本下载
官网下载
2. 编译安装
1)解压
tar -zxf hue-3.9.0-cdh5.5.0.tar.gz -C /opt/modules/
2)安装依赖包(下面的包可能多了几个)
yum install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libtidy libffi-devel libxml2-devel libxslt-devel make mysql mysql-devel openldap-devel python-devel sqlite-devel gmp-devel openssl-devel mysql-devel
3)编译
cd hue-3.9.0-cdh5.5.0
make apps
3. Hue基本配置与服务启动
1)修改配置文件(vi $HUE_HOME/desktop/conf/hue.ini)
# 秘钥
secret_key=jFE93j;2[290-eiw.KEiwN2s3['d;/.q[eIW^y#e=+Iei*@Mn < qW5o
# host port
http_host=node7
http_port=8888
# 时区
time_zone=Asia/Shanghai
2)添加hue用户修改desktop.db 文件权限和所属用户(不能为root用户)
chmod o+w desktop/desktop.db
adduser hue
chown -R hue:hue
3)启动Hue服务
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
4)查看Hue web界面
访问地址:http://node7:8888
4. Hue与HDFS集成,HDFS安装参考博客
1)修改core-site.xml配置文件,添加如下内容
<property><name>hadoop.proxyuser.hue.hosts</name><value>*</value>
</property>
<property><name>hadoop.proxyuser.hue.groups</name><value>*</value>
</property>
2)修改hue.ini配置文件
fs_defaultfs=hdfs://node5:9000<span style="white-space:pre;"> </span>// hdfs默认路径
webhdfs_url=http://node5:50070/webhdfs/v1
hadoop_hdfs_home=/opt/modules/hadoop-2.5.0
hadoop_bin=/opt/modules/hadoop-2.5.0/bin
hadoop_conf_dir=/opt/modules/hadoop-2.5.0/etc/hadoop
3)将core-site.xml配置文件分发到其他节点
scp core-site.xml node6:/opt/modules/hadoop-2.5.0/etc/hadoop
scp core-site.xml node7:/opt/modules/hadoop-2.5.0/etc/hadoop
4)重新启动hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
5)访问url
地址:http://node7:8888/filebrowser/
5. Hue与YARN集成,YARN安装参考博客
1)修改hue.ini配置文件
resourcemanager_host=zxl2
resourcemanager_port=8032
submit_to=true
resourcemanager_api_url=http://node5:8088
proxy_api_url=http://node5:8088
history_server_api_url=http://node5:19888
2)重新启动hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
6. Hue与Hive集成,Hive安装参考博客
1)修改hue.ini配置文件
hive_server_host=node7
hive_server_port=10000
hive_conf_dir=/opt/modules/hive-0.13.1-bin/conf
2)重新启动hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
7. Hue与mysql集成,mysql安装参考博客
1)修改hue.ini配置文件
nice_name="My SQL DB" // 随意配置
name=metastore // 数据库名
engine=mysql
host=node7
port=3306
user=root
password=1234
注意:[[[mysql]]]前的##要删掉
2)重新启动hue
/opt/modules/hue-3.9.0-cdh5.5.0/build/env/bin/supervisor
8. Hue与HBase集成,HBase安装参考博客
1)修改hue.ini配置文件
hbase_clusters=(Cluster|node5:9090) // 随意配置集群中某一台hbase
hbase_conf_dir=/opt/modules/hbase-0.98.6-cdh5.3.0/conf
2)HBase中启动thrift服务
bin/hbase-daemon.sh start thrift
9. Hue使用注意事项
1)hive 启动使用后台启动
nohup bin/hiveserver2 &
2)hue使用稳定版本:hue-3.7.0-cdh5.3.6
原文:https://blog.csdn.net/u011254180/article/details/80178771
这篇关于Linux-centos下安装hue可视化以及与hdfs、hive、hbase和mysql的集成的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!