大数据学习-环境准备

2024-06-21 19:20
文章标签 数据 学习 环境 准备

本文主要是介绍大数据学习-环境准备,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

VMware 部分

网络设置

下载好 CentOS 7 的镜像文件

修改 VMware 的网络

把子网 ip 修改为 192.168.88.0,然后点击 NAT 设置,修改网关 IP 为 192.168.88.2

之后就确定即可

虚拟机安装

选择镜像文件,使用 VMware 的典型安装方法即可,这里用户是 lyj,密码是 1234

基本就是一路下一步即可

大数据集群这里使用三台虚拟机即可

当第一台虚拟机安装后,关机

右键虚拟机标签(如果没有就打开虚拟机),点击管理—克隆,克隆方法选择:完整克隆

起好名字即可,这里分别起名叫:hadoop-node-1/2/3,还好克隆虚拟机不需要把空间占用也克隆

克隆完毕后,把 node1 的内存修改为 4G,另外两个改成 2G

虚拟机网络设置

先切换为 root

su root

修改固定IP

vim /etc/sysconfig/network-scripts/ifcfg-ens33

IPADDR=192.168.88.131

GATEWAY=192.168.88.2

NETMASK=255.255.255.0

DNS1=192.168.88.2

另外两台就是 192.168.88.132 192.168.88.133

修改主机名

hostnamectl set-hostname node1

重启网络

systemctl restart network

主机名与 IP 映射

在 Windows 中的 hosts 文件

C:\Windows\System32\drivers\etc\hosts

加入这三句:

192.168.88.131 node1

192.168.88.132 node2

192.168.88.133 node3

如果没有权限保存,就用管理员方式+记事本打开即可

在 Linux 的 hosts 文件

vim /etc/hosts

也加上这三句,三台机子都要加

192.168.88.131 node1

192.168.88.132 node2

192.168.88.133 node3

SSH

免密登录

在每一台机器上都执行这个命令,生成密钥,一直回车即可

ssh-keygen -t rsa -b 4096

生成的密钥文件在这个目录下

/root/.ssh

在每一台机器都执行

ssh-copy-id node1

ssh-copy-id node2

ssh-copy-id node3

主要作用好像就是执行 ssh 命令可以快速切换 ssh 连接的主机

比如连接的是 node2,执行 ssh node1,就可以切换到 node1

创建用户 hadoop

主要还是培养习惯吧,毕竟在企业中不可能给开发 root 权限的

在每台机器执行命令,创建 hadoop 用户

useradd hadoop

在每台机器中执行,设置 hadoop 用户的密码:1234

别管它的提示说无效,用 root 用户就可以继续设置

passwd hadoop

切换 hadoop 用户,并生成密钥

su hadoop

ssh-keygen -t rsa -b 4096

在每台机器上执行

ssh-copy-id node1

ssh-copy-id node2

ssh-copy-id node3

JDK 部分

给每个机器都部署好 JDK 环境,这里下载 JDK 1.8

Java Archive Downloads - Java SE 8u211 and later

创建文件夹,用来部署JDK,将JDK和Tomcat都安装部署到:/export/server 内

mkdir -p /export/server

解压上传的 JDK 压缩包

tar -zxvf jdk-8u391-linux-x64.tar.gz -C /export/server

配置 JDK 软连接

ln -s /export/server/jdk1.8.0_391 /export/server/jdk

配置 JDK 的环境变量

vim /etc/profile

export JAVA_HOME=/export/server/jdk

export PATH=$PATH:$JAVA_HOME/bin

使环境变量生效

source /etc/profile

配置 Java 执行程序的软连接

# 删除系统自带的 Java 程序

rm -f /usr/bin/java

# 软连接自己安装的 Java

ln -s /export/server/jdk/bin/java /usr/bin/java

验证

java -version

javac -version

防火墙

每台机器都关闭它,并取消开机自启动

systemctl stop firewalld

systemctl disable firewalld

SELinux

这是一个安全模块,用来限制用户和程序的权限,保证系统安全

目前关闭即可

vim /etc/sysconfig/selinux

把 SELINUX=enforcing,修改为 SELINUX=disabled

disabled,不能拼错,不然无法开机

修改完毕后,重启虚拟机

reboot

修改时区并配置自动时间同步

1. 安装ntp软件

yum install -y ntp

2. 更新时区

rm -f /etc/localtime;sudo ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

3. 同步时间

ntpdate -u ntp.aliyun.com

4. 开启ntp服务并设置开机自启

systemctl start ntpd

systemctl enable ntpd

给虚拟机搞个快照

万一出问题用于恢复

在 VMware 中点上面的虚拟机,找到快照,点击拍摄快照

这篇关于大数据学习-环境准备的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1082103

相关文章

ESP32 esp-idf esp-adf环境安装及.a库创建与编译

简介 ESP32 功能丰富的 Wi-Fi & 蓝牙 MCU, 适用于多样的物联网应用。使用freertos操作系统。 ESP-IDF 官方物联网开发框架。 ESP-ADF 官方音频开发框架。 文档参照 https://espressif-docs.readthedocs-hosted.com/projects/esp-adf/zh-cn/latest/get-started/index

51单片机学习记录———定时器

文章目录 前言一、定时器介绍二、STC89C52定时器资源三、定时器框图四、定时器模式五、定时器相关寄存器六、定时器练习 前言 一个学习嵌入式的小白~ 有问题评论区或私信指出~ 提示:以下是本篇文章正文内容,下面案例可供参考 一、定时器介绍 定时器介绍:51单片机的定时器属于单片机的内部资源,其电路的连接和运转均在单片机内部完成。 定时器作用: 1.用于计数系统,可

问题:第一次世界大战的起止时间是 #其他#学习方法#微信

问题:第一次世界大战的起止时间是 A.1913 ~1918 年 B.1913 ~1918 年 C.1914 ~1918 年 D.1914 ~1919 年 参考答案如图所示

[word] word设置上标快捷键 #学习方法#其他#媒体

word设置上标快捷键 办公中,少不了使用word,这个是大家必备的软件,今天给大家分享word设置上标快捷键,希望在办公中能帮到您! 1、添加上标 在录入一些公式,或者是化学产品时,需要添加上标内容,按下快捷键Ctrl+shift++就能将需要的内容设置为上标符号。 word设置上标快捷键的方法就是以上内容了,需要的小伙伴都可以试一试呢!

AssetBundle学习笔记

AssetBundle是unity自定义的资源格式,通过调用引擎的资源打包接口对资源进行打包成.assetbundle格式的资源包。本文介绍了AssetBundle的生成,使用,加载,卸载以及Unity资源更新的一个基本步骤。 目录 1.定义: 2.AssetBundle的生成: 1)设置AssetBundle包的属性——通过编辑器界面 补充:分组策略 2)调用引擎接口API

Javascript高级程序设计(第四版)--学习记录之变量、内存

原始值与引用值 原始值:简单的数据即基础数据类型,按值访问。 引用值:由多个值构成的对象即复杂数据类型,按引用访问。 动态属性 对于引用值而言,可以随时添加、修改和删除其属性和方法。 let person = new Object();person.name = 'Jason';person.age = 42;console.log(person.name,person.age);//'J

大学湖北中医药大学法医学试题及答案,分享几个实用搜题和学习工具 #微信#学习方法#职场发展

今天分享拥有拍照搜题、文字搜题、语音搜题、多重搜题等搜题模式,可以快速查找问题解析,加深对题目答案的理解。 1.快练题 这是一个网站 找题的网站海量题库,在线搜题,快速刷题~为您提供百万优质题库,直接搜索题库名称,支持多种刷题模式:顺序练习、语音听题、本地搜题、顺序阅读、模拟考试、组卷考试、赶快下载吧! 2.彩虹搜题 这是个老公众号了 支持手写输入,截图搜题,详细步骤,解题必备

UnrealScriptIDE调试环境部署

先安装vs2010   再安装VSIsoShell.exe, 下载地址 https://pan.baidu.com/s/10kPNUuDGTbWXbz7Nos-1WA       fd3t   最后安装unside,下载地址 https://archive.codeplex.com/?p=uside  安装中间有一步选择Binary文件夹要选对路径。   安装好以后,启动 UDKDe

《offer来了》第二章学习笔记

1.集合 Java四种集合:List、Queue、Set和Map 1.1.List:可重复 有序的Collection ArrayList: 基于数组实现,增删慢,查询快,线程不安全 Vector: 基于数组实现,增删慢,查询快,线程安全 LinkedList: 基于双向链实现,增删快,查询慢,线程不安全 1.2.Queue:队列 ArrayBlockingQueue:

【服务器运维】MySQL数据存储至数据盘

查看磁盘及分区 [root@MySQL tmp]# fdisk -lDisk /dev/sda: 21.5 GB, 21474836480 bytes255 heads, 63 sectors/track, 2610 cylindersUnits = cylinders of 16065 * 512 = 8225280 bytesSector size (logical/physical)