Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装

2024-06-06 06:48

本文主要是介绍Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章中所用到的软件百度网盘,方便下载
http://pan.baidu.com/s/1kTrNXL9
1.系统环境

[root@master ~]# uname -a
Linux master 2.6.32-358.el6.x86_64 #1 SMP Tue Jan 29 11:47:41 EST 2013 x86_64 x86_64 x86_64 GNU/Linux或者[root@master /]# cat /etc/redhat-release
Red Hat Enterprise Linux Server release 6.4 (Santiago)

2.安装前的准备
2.1关闭防火墙

--查看防火墙状态
[root@master ~]# service iptables status--停止防火墙
[root@master ~]# service iptables stop--永久禁止防火墙
[root@master ~]# chkconfig iptables off

2.2查看ssh是否安装

--第一种方式:
[root@master ~]# which ssh
/usr/bin/ssh--第二种方式
[root@master ~]# service sshd status
openssh-daemon (pid  1983) is running...--第三种方式
[root@master ~]# rpm -qa openssh openssl--第四种方式(查看是否启动)
[root@master ~]# ps -ef|grep ssh

2.3配置网卡

[root@master ~]# cat /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
HWADDR=08:00:27:C0:18:81
TYPE=Ethernet
UUID=8f07e2a4-702d-4e4e-a7c9-a0d4d1c9a880
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=none
IPADDR=192.168.8.205
NETMASK=255.255.255.0
GATEWAY=192.168.8.1
DNS1=221.228.255.1

2.4配置hosts

[root@master ~]# cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
::1         localhost localhost.localdomain localhost6 localhost6.localdomain6--添加如下内容
192.168.8.205 master
192.168.8.223 slave

2.5修改hostname为master

[root@master ~]# cat /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=master

2.6创建hadoop用户

--创建用户
[root@master ~]# useradd hadoop--配置用户密码
[root@master ~]# passwd hadoop

2.7配置ssh无密码登陆

在master机器上操作

--切换hadoop用户
[root@master ~]# su - hadoop--生成需要建立ssh的私钥和公钥,连续3次回车建立公钥文件(id_rsa.pub)和私钥文件(id_rsa)
[hadoop@master ~]$ ssh-keygen -t rsa--把id_rsa.pub追加到授权的authorized_keys里面去
[hadoop@master ~]$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys--修改权限        
[hadoop@master ~]$ chmod 600 ~/.ssh/authorized_keys       --切换到root用户,修改ssh配置文件
[hadoop@master ~]$ exit
[root@master ~]# vim /etc/ssh/sshd_config   RSAAuthentication yes #启用RSA认证PubkeyAuthentication yes #启用公钥私钥配对认证方式AuthorizedKeysFile .ssh/authorized_keys #公钥文件路径

登陆到slave机器上

--切换到hadoop用户
[root@slave ~]# su - hadoop --创建.ssh文件夹
[hadoop@slave ~]$ mkdir ~/.ssh--切换到maste主机上的hadoop用户下
[root@master ~]# su - hadoop --将密钥scp到slave机器上
[hadoop@master ~]$ scp ~/.ssh/id_rsa.pub hadoop@slave:~/.ssh--切换到slave机器上的hadoop下
[hadoop@slave ~]$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys--授予权限(master和slave都要授权)
chmod 700 ~/.ssh/
chmod 700 /home/hadoop
chmod 600 ~/.ssh/authorized_keys

3.安装必须的软件
3.1安装jdk

--创建jdk目录
mkdir /usr/java
将下载的jdk-8u60-linux-x64.tar.gz解压到java目录下--配置jdk环境
[root@master ~]# vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_60
export PATH=$PATH:$JAVA_HOME/bin--修改生效
[root@master ~]# source profile --测试是否安装成功
[hadoop@master ~]$ java -version
java version "1.5.0"
gij (GNU libgcj) version 4.4.7 20120313 (Red Hat 4.4.7-3)Copyright (C) 2007 Free Software Foundation, Inc.
This is free software; see the source for copying conditions.  There is NO
warranty; not even for MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.这里有点问题,显示的是系统自带的java,替换自己安装的见:
http://blog.csdn.net/u011364306/article/details/48375653

3.2安装其他组件

[root@master ~]#yum install svn ncurses-devel gcc* lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel

3.3安装maven

--下载apache-maven,将下载后的文件拷贝到 /usr/local/目录下。
apache-maven-3.3.3-bin.tar.gz--解压文件
[root@master local]# tar xf apache-maven-3.3.3-bin.tar.gz--给maven做一个软连接
[root@master local]# ln -s apache-maven-3.3.3 apache-maven--配置maven环境
[root@master ~]# vim /etc/profile
export M2_HOME=/usr/local/apache-maven

这篇关于Redhat 6.4-x64 编译 Hadoop-2.7.1并分布式安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1035379

相关文章

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具:conda部署+使用一、安装部署1、 下载2、 安装3

龙蜥操作系统Anolis OS-23.x安装配置图解教程(保姆级)

《龙蜥操作系统AnolisOS-23.x安装配置图解教程(保姆级)》:本文主要介绍了安装和配置AnolisOS23.2系统,包括分区、软件选择、设置root密码、网络配置、主机名设置和禁用SELinux的步骤,详细内容请阅读本文,希望能对你有所帮助... ‌AnolisOS‌是由阿里云推出的开源操作系统,旨

Ubuntu系统怎么安装Warp? 新一代AI 终端神器安装使用方法

《Ubuntu系统怎么安装Warp?新一代AI终端神器安装使用方法》Warp是一款使用Rust开发的现代化AI终端工具,该怎么再Ubuntu系统中安装使用呢?下面我们就来看看详细教程... Warp Terminal 是一款使用 Rust 开发的现代化「AI 终端」工具。最初它只支持 MACOS,但在 20

mysql-8.0.30压缩包版安装和配置MySQL环境过程

《mysql-8.0.30压缩包版安装和配置MySQL环境过程》该文章介绍了如何在Windows系统中下载、安装和配置MySQL数据库,包括下载地址、解压文件、创建和配置my.ini文件、设置环境变量... 目录压缩包安装配置下载配置环境变量下载和初始化总结压缩包安装配置下载下载地址:https://d

LinuxMint怎么安装? Linux Mint22下载安装图文教程

《LinuxMint怎么安装?LinuxMint22下载安装图文教程》LinuxMint22发布以后,有很多新功能,很多朋友想要下载并安装,该怎么操作呢?下面我们就来看看详细安装指南... linux Mint 是一款基于 Ubuntu 的流行发行版,凭借其现代、精致、易于使用的特性,深受小伙伴们所喜爱。对

Linux(Centos7)安装Mysql/Redis/MinIO方式

《Linux(Centos7)安装Mysql/Redis/MinIO方式》文章总结:介绍了如何安装MySQL和Redis,以及如何配置它们为开机自启,还详细讲解了如何安装MinIO,包括配置Syste... 目录安装mysql安装Redis安装MinIO总结安装Mysql安装Redis搜索Red

python安装完成后可以进行的后续步骤和注意事项小结

《python安装完成后可以进行的后续步骤和注意事项小结》本文详细介绍了安装Python3后的后续步骤,包括验证安装、配置环境、安装包、创建和运行脚本,以及使用虚拟环境,还强调了注意事项,如系统更新、... 目录验证安装配置环境(可选)安装python包创建和运行Python脚本虚拟环境(可选)注意事项安装

gradle安装和环境配置全过程

《gradle安装和环境配置全过程》本文介绍了如何安装和配置Gradle环境,包括下载Gradle、配置环境变量、测试Gradle以及在IntelliJIDEA中配置Gradle... 目录gradle安装和环境配置1 下载GRADLE2 环境变量配置3 测试gradle4 设置gradle初始化文件5 i

java如何分布式锁实现和选型

《java如何分布式锁实现和选型》文章介绍了分布式锁的重要性以及在分布式系统中常见的问题和需求,它详细阐述了如何使用分布式锁来确保数据的一致性和系统的高可用性,文章还提供了基于数据库、Redis和Zo... 目录引言:分布式锁的重要性与分布式系统中的常见问题和需求分布式锁的重要性分布式系统中常见的问题和需求

Jsoncpp的安装与使用方式

《Jsoncpp的安装与使用方式》JsonCpp是一个用于解析和生成JSON数据的C++库,它支持解析JSON文件或字符串到C++对象,以及将C++对象序列化回JSON格式,安装JsonCpp可以通过... 目录安装jsoncppJsoncpp的使用Value类构造函数检测保存的数据类型提取数据对json数