【大数据处理技术实践】期末考查题目：集群搭建、合并文件与数据统计可视化

2024-01-21 16:04
文章标签 数据 统计 集群 技术 实践 题目 可视化 搭建 期末 合并 数据处理 考查

本文主要是介绍【大数据处理技术实践】期末考查题目：集群搭建、合并文件与数据统计可视化，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

集群搭建、合并文件与数据统计可视化

  • 实验目的
    • 任务一：
    • 任务二：
  • 实验平台
  • 实验内容及步骤
    • 任务一：搭建具有3个DataNode节点的HDFS集群
      • 集群环境配置
        • 克隆的方式创建 Slave 节点
        • 修改主机名
        • 编辑 hosts 文件
        • 生成密钥
        • 免认证登录
        • 修改 hadoop 的配置文件
        • 编辑 workers 文件
        • 复制配置后的 hadoop 目录传到从机上
      • 启动集群
    • 任务二之实验一 ：编程实现合并文件MergeFile的功能
      • 数据下载与上传至Hadoop
      • 打开 eclipse
      • 编写实现合并文件MergeFile的功能的java代码
      • 启动 Hadoop 并运行 Java 代码，合并文件
      • 查看合并后的文件
    • 任务二之实验二：对网站用户购物行为数据集进行统计分析
      • 数据预处理
      • 查看前 5 行记录，每行记录都包含 5 个字段如下：
      • 对用户的购物行为“behavior_type”进行统计，并将统计结果通过柱状图进行呈现
      • 按月对用户的购物行为“behavior\_type”进行统计，并将结果通过柱状图进行呈现
  • 总结
  • 实验报告下载

实验目的

任务一：

采用虚拟机的方式搭建一个具有3个DataNode节点的HDFS集群，将搭建过程记录在实验报告中。采用虚拟机的方式，先配置好Hadoop的主节点，然后通过克隆的方式创建Slave节点，实现3节点的HDFS集群

任务二：

实验一：使用任务一搭建的集群，编程实现合并文件MergeFile的功能：

将数据集trec06p\_sample中的文件合并成为一个文件。假设集群的用户目录为hdfs://localhost:9000/user/hadoop，将合并的结果输出到hdfs://localhost:9000/user/hadoop/merge.txt 中

实验二：使用任务一搭建的集群，对网站用户购物行为数据集进行统计分析：

对用户的购物行为“behavior\_type”进行统计，并将统计结果通过柱状图进行呈现按月对用户的购物行为“behavior\_type”进行统计，并将结果通过柱状图进行呈现

实验平台

  • 操作系统：Linux（CentOS）
  • 可视化工具：R语言
  • JDK 版本：1.8
  • Java IDE
  • Eclipse
  • Hadoop

实验内容及步骤

任务一：搭建具有3个DataNode节点的HDFS集群

集群环境配置

克隆的方式创建 Slave 节点
  • 1.采用虚拟机的方式，先配置好 Hadoop 的主节点, 此处选用之前配置好的节点作为 master 主机，然后通过克隆的方式创建 Slave 节点，实现 3 节点的 HDFS 集群
    在这里插入图片描述
修改主机名
  • 2.修改主机名，三台虚拟机都要进行的
	#给3台虚拟机设置主机名分别为master、s1和s2。#在第一台机器操作hostnamectl set-hostname master#在第二台机器操作hostnamectl set-hostname s1#在第三台机器操作hostnamectl set-hostname s2

设置完毕后需重启虚拟机：reboot

编辑 hosts 文件
  • 3.编辑 hosts 文件使三者之间能够通信，三台虚拟机都要进行的
	# hosts 配置文件是用来把主机名字映射到IP地址的方法# 编辑hosts文件,进入编辑模式 i：sudo vi /etc/hosts# 在最后添加192.168.62.128 master192.168.62.129 s1192.168.62.130 s2

在这里插入图片描述

生成密钥
    1. 在主机上生成密钥, 三台主机都操作
ssh-keygen -b 1024 -t rsa

在这里插入图片描述

免认证登录
    1. 使 master 能免认证登录其他两个主机
#进入 .ssh目录中
cd .ssh
#id_rsa:私钥 id_rsa.pub :公钥
#在master中对s1和s2进行免密登录？需要把master的公钥放到s1和s2的authorized_key文件里
# 查看mster的公钥
cat id_rsa.pub
# 在master的.ssh目录中执行
ssh-copy-id s1
ssh-copy-id s2
ssh-copy-id master
# s1和s2之间免密登录
#在s1的.ssh目录中执行
ssh-copy-id s2
#在s2的.ssh目录中执行
ssh-copy-id s1
#在master验证能否免密登录
ssh s1

在这里插入图片描述
在这里插入图片描述

修改 hadoop 的配置文件

（注意各配置文件中配置的路径要修改成自己虚拟机实际的相关环境配置路径）

#进入Hadoop的/etc目录下。注意这个路径要根据自己虚拟机中Hadoop的安装路径修改
cd /home/user/usr/demo/hadoop-3.2.4/etc/hadoop

修改hadoop-env.sh文件
vim hadoop-env.sh
#修改JAVA_HOME的路径
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.382.b05-1.el7_9.x86_64

# 修改yarn-env.sh文件的JAVA_HOME。
vim yarn-env.sh
#修改JAVA_HOME的路径
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.382.b05-1.el7_9.x86_64

# 修改core-site.xml文件
vim core-site.xml
# 添加
<configuration><property><name>fs.defaultFS</name><value>hdfs://localhost:9000</value></property><property><name>hadoop.tmp.dir</name><value>/home/user/demo/hadoop-3.2.4/tmp</value></property>
</configuration>

# 配置hdfs-site.xml
vim hdfs-site.xml
# 添加
<configuration><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.permissions</name><value>false</value></property>
</configuration>

# 编辑mapred-site.xml文件
vim mapred-site.xml
<configuration><property><name>mapreduce.framework.name</name><value>yarn</value></property>
</configuration>

# 编辑yarn-site.xml文件
vim yarn-site.xml
<configuration>
<!-- Site specific YARN configuration properties --><property><name>yarn.resourcemanager.hostname</name><value>master</value></property><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property>
</configuration>
编辑 workers 文件
# 编辑 workers 文件
vim workers
# 添加
master
s1
s2
复制配置后的 hadoop 目录传到从机上
scp -r /home/user/usr/demo/hadoop-3.2.4/ s1:/home/user/usr/demo/hadoop-3.2.4/
scp -r /home/user/usr/demo/hadoop-3.2.4/ s2:/home/user/usr/demo/hadoop-3.2.4/

启动集群

  1. 在 master 上面使用start-all.sh 启动
    在这里插入图片描述

  2. 通过web端访问http://master:8088/cluster 查看当前集群的进程状态
    在这里插入图片描述

  3. 通过hadoop dfsadmin -report查看当前集群的进程状态，具有3个节点
    在这里插入图片描述

任务二之实验一 ：编程实现合并文件MergeFile的功能

使用任务一搭建的集群，编程实现合并文件MergeFile的功能：将数据集trec06p_sample中的文件合并成为一个文件。假设集群的用户目录为hdfs://localhost:9000/user/hadoop，将合并的结果输出到hdfs://localhost:9000/user/hadoop/merge.txt 中

数据下载与上传至Hadoop

将数据集– trec06p_sample/126下载解压到虚拟机的Downloads目录下，并上传到集群的hdfs://master:9000/user/hadoop/目录下

# 解压
unzip trec06p_sample.zip -d trec06p_sample
#上传
hdfs dfs -put trec06p_sample /user/hadoop
#查看上传后的文件
hdfs dfs -ls -h /user/hadoop/trec06p_sample/126/

在这里插入图片描述

打开 eclipse

cd /usr/local/eclipse
./eclipse

编写实现合并文件MergeFile的功能的java代码

import java.io.IOException;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;public class MergeAllFilesInDirectory {static class MyPathFilter implements PathFilter {public boolean accept(Path path) {return true; // 接受所有文件}}public static void main(String[] args) throws IOException {// 输入目录和输出文件路径String inputPath = "hdfs://master:9000/user/hadoop/trec06p_sample/126/";String outputPath = "hdfs://master:9000/user/hadoop/merge.txt";Configuration conf = new Configuration();conf.set("fs.defaultFS", "hdfs://master:9000");conf.set("fs.hdfs.impl", "org.apache.hadoop.hdfs.DistributedFileSystem");FileSystem fsSource = FileSystem.get(URI.create(inputPath), conf);FileSystem fsDst = FileSystem.get(URI.create(outputPath), conf);// 获取目录下所有文件FileStatus[] sourceStatus = fsSource.listStatus(new Path(inputPath), new MyPathFilter());// 创建输出文件FSDataOutputStream fsdos = fsDst.create(new Path(outputPath));// 逐个读取文件并写入到输出文件中for (FileStatus status : sourceStatus) {FSDataInputStream fsdis = fsSource.open(status.getPath());byte[] data = new byte[1024];int read = -1;// 打印文件信息System.out.println("路径：" + status.getPath() + "    文件大小：" + status.getLen()+ "   权限：" + status.getPermission());while ((read = fsdis.read(data)) > 0) {fsdos.write(data, 0, read);}fsdis.close();}fsdos.close();fsSource.close();fsDst.close();}
}

启动 Hadoop 并运行 Java 代码，合并文件

在这里插入图片描述

查看合并后的文件

查看合并的结果：hdfs://localhost:9000/user/hadoop/merge.txt
通过web访问http://localhost:9870/explorer.html/user/hadoop，可以查看合并后的文件
在这里插入图片描述
通过命令行使用 cat 命令查看合并后文件内容

hdfs dfs -cat /user/hadoop/merge.txt

在这里插入图片描述

任务二之实验二：对网站用户购物行为数据集进行统计分析

使用任务一搭建的集群，对网站用户购物行为数据集进行统计分析：

  1. 对用户的购物行为“behavior_type”进行统计，并将统计结果通过柱状图进行呈现
  2. 按月对用户的购物行为“behavior_type”进行统计，并将结果通过柱状图进行呈现

数据预处理

将数据集small_user下载解压到虚拟机的Downloads目录下，并上传到集群的hdfs://master:9000/user/hadoop/目录下

unzip small_user.zip //解压
head -5 small_user.csv //查看前几行

在这里插入图片描述

查看前 5 行记录，每行记录都包含 5 个字段如下：

  • user_id（用户id）
  • item_id(商品id)
  • behaviour_type（包括浏览、收藏、加购物车、购买，对应取值分别是1、2、3、4）
  • user_geohash(用户地理位置哈希值，有些记录中没有这个字段,且实验中不需要用到，后续把这个字段全部删除)
  • item_category（商品分类）
  • time（该记录产生时间）
head -5 small_user.csv

在这里插入图片描述

对用户的购物行为“behavior_type”进行统计，并将统计结果通过柱状图进行呈现

//首先在集群中安装R语言，然后通过运行下面R代码进行统计与可视化
# 读取数据
data <- read.csv("/home/user/Downloads/small_user.csv")# 统计用户行为类型
behavior_counts <- table(data$behavior_type)# 转换成数据框
behavior_data <- as.data.frame(behavior_counts)
names(behavior_data) <- c("Behavior_Type", "Count")# 绘制柱状图
library(ggplot2)ggplot(behavior_data, aes(x = factor(Behavior_Type), y = Count)) +
geom_bar(stat = "identity", fill = "gray", width = 0.1) +  # 调整柱子宽度为0.5
labs(title = "User Behavior Count", x = "Behavior Type", y = "Count") +
theme_minimal() +
theme(axis.text.x = element_text(angle = 45, hjust = 1))

在这里插入图片描述

从上图可以得到:大部分消费者行为仅仅只是浏览。只有很少部分的消费者会购买商品。

按月对用户的购物行为“behavior_type”进行统计，并将结果通过柱状图进行呈现

# 读取数据
data <- read.csv("/home/user/Downloads/small_user.csv")# 提取月份信息
data$month <- substr(data$time, 6, 7)# 使用ggplot绘制柱状图
library(ggplot2)ggplot(data, aes(x = factor(behavior_type), fill = factor(month), color = factor(month))) +
geom_bar(position = "dodge", width = 0.1) +
labs(title = "每月用户行为统计", x = "behavior_type", y = "count") +
theme_minimal() +
theme(axis.text.x = element_text(angle = 45, hjust = 1)) +
scale_color_manual(values = c("01" = "red", "02" = "blue")) +
guides(color = FALSE) +
facet_grid(. ~ month)

在这里插入图片描述

总结

本次实验深入探索了HDFS集群搭建及大数据处理技术的应用。成功地搭建了具有三个DataNode节点的HDFS集群，通过两种方式实现了该目标。在文件合并和统计分析实验中，我们编程实现了文件合并功能，并成功输出到HDFS指定路径。针对网站用户购物行为数据集，我们对用户行为进行了全面的统计分析，并通过柱状图清晰展现了购物行为的分布情况，为后续数据挖掘提供了可视化支持。这次实验不仅加深了对HDFS集群搭建的理解，也锻炼了在大数据环境下进行文件操作和数据分析的能力。未来的工作将进一步探索大数据技术，以更广泛的数据集和更复杂的分析挑战来拓展这些技能。

实验报告下载

下载

这篇关于【大数据处理技术实践】期末考查题目：集群搭建、合并文件与数据统计可视化的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/630065。

相关文章

大模型研发全揭秘：客服工单数据标注的完整攻略

大模型研发全揭秘：客服工单数据标注的完整攻略

在人工智能（AI）领域，数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者，掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中，工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注，不仅能够帮助提升客服自动化系统的智能化水平，还能优化客户服务流程，提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行
阅读更多...
基于MySQL Binlog的Elasticsearch数据同步实践

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展，我们的业务数据越来越多，单纯使用 MySQL 已经不能满足我们的数据查询需求，例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后，随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步，我们目前的解决方案是建立数据中间表。把需要检索的业务数据，统一放到一张M
阅读更多...
服务器集群同步时间手记

服务器集群同步时间手记

1.时间服务器配置（必须root用户） （1）检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 （2）修改ntp配置文件 [r
阅读更多...
关于数据埋点，你需要了解这些基本知识

关于数据埋点，你需要了解这些基本知识

产品汪每天都在和数据打交道，你知道数据来自哪里吗？ 移动app端内的用户行为数据大多来自埋点，了解一些埋点知识，能和数据分析师、技术侃大山，参与到前期的数据采集，更重要是让最终的埋点数据能为我所用，否则可怜巴巴等上几个月是常有的事。   埋点类型 根据埋点方式，可以区分为： 手动埋点半自动埋点全自动埋点 秉承“任何事物都有两面性”的道理：自动程度高的，能解决通用统计，便于统一化管理，但个性化定
阅读更多...
使用SecondaryNameNode恢复NameNode的数据

使用SecondaryNameNode恢复NameNode的数据

1）需求： NameNode进程挂了并且存储的数据也丢失了，如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2）故障模拟 （1）kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 （2）删除NameNode存储的数据（/opt/module/hadoop-3.1.4/data/tmp/dfs/na
阅读更多...
异构存储（冷热数据分离）

异构存储（冷热数据分离）

异构存储主要解决不同的数据，存储在不同类型的硬盘中，达到最佳性能的问题。 异构存储Shell操作 （1）查看当前有哪些存储策略可以用 [lytfly@hadoop102 hadoop-3.1.4]$ hdfs storagepolicies -listPolicies （2）为指定路径（数据存储目录）设置指定的存储策略 hdfs storagepolicies -setStoragePo
阅读更多...
HDFS—集群扩容及缩容

HDFS—集群扩容及缩容

白名单：表示在白名单的主机IP地址可以，用来存储数据。 配置白名单步骤如下： 1）在NameNode节点的/opt/module/hadoop-3.1.4/etc/hadoop目录下分别创建whitelist 和blacklist文件 （1）创建白名单 [lytfly@hadoop102 hadoop]$ vim whitelist 在whitelist中添加如下主机名称，假如集群正常工作的节
阅读更多...
Hadoop集群数据均衡之磁盘间数据均衡

Hadoop集群数据均衡之磁盘间数据均衡

生产环境，由于硬盘空间不足，往往需要增加一块硬盘。刚加载的硬盘没有数据时，可以执行磁盘数据均衡命令。（Hadoop3.x新特性） plan后面带的节点的名字必须是已经存在的，并且是需要均衡的节点。 如果节点不存在，会报如下错误： 如果节点只有一个硬盘的话，不会创建均衡计划： （1）生成均衡计划 hdfs diskbalancer -plan hadoop102 （2）执行均衡计划 hd
阅读更多...
hdu1496（用hash思想统计数目）

hdu1496（用hash思想统计数目）

作为一个刚学hash的孩子，感觉这道题目很不错，灵活的运用的数组的下标。 解题步骤：如果用常规方法解，那么时间复杂度为O（n^4）,肯定会超时，然后参考了网上的解题方法，将等式分成两个部分，a*x1^2+b*x2^2和c*x3^2+d*x4^2， 各自作为数组的下标，如果两部分相加为0，则满足等式； 代码如下： #include<iostream>#include<algorithm
阅读更多...
hdu2241（二分+合并数组）

hdu2241（二分+合并数组）

题意：判断是否存在a+b+c = x，a，b，c分别属于集合A,B,C 如果用暴力会超时，所以这里用到了数组合并，将b,c数组合并成d，d数组存的是b，c数组元素的和，然后对d数组进行二分就可以了 代码如下（附注释）： #include<iostream>#include<algorithm>#include<cstring>#include<stack>#include<que
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2