本文主要是介绍HDFS—集群扩容及缩容,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
白名单:表示在白名单的主机IP地址可以,用来存储数据。
配置白名单步骤如下:
1)在NameNode节点的/opt/module/hadoop-3.1.4/etc/hadoop目录下分别创建whitelist 和blacklist文件
(1)创建白名单
[lytfly@hadoop102 hadoop]$ vim whitelist
在whitelist中添加如下主机名称,假如集群正常工作的节点为102 103
hadoop102
hadoop103
(2)创建黑名单
[lytfly@hadoop102 hadoop]$ touch blacklist
保持空的就可以
2)在hdfs-site.xml配置文件中增加dfs.hosts配置参数
<!-- 白名单 -->
<property><name>dfs.hosts</name><value>/opt/module/hadoop-3.1.4/etc/hadoop/whitelist</value>
</property><!-- 黑名单 -->
<property><name>dfs.hosts.exclude</name><value>/opt/module/hadoop-3.1.4/etc/hadoop/blacklist</value>
</property>
3)分发配置文件whitelist,hdfs-site.xml
[lytfly@hadoop102 hadoop]$ xsync hdfs-site.xml whitelist
4)第一次添加白名单必须重启集群,不是第一次,只需要刷新NameNode节点即可
[lytfly@hadoop102 hadoop-3.1.4]$ myhadoop.sh stop[lytfly@hadoop102 hadoop-3.1.4]$ myhadoop.sh start
5)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode
至此白名单添加成功。下面进行白名单的实现:
6)在hadoop104上执行上传数据数据失败
[lytfly@hadoop104 hadoop-3.1.4]$ hadoop fs -put NOTICE.txt /
7)二次修改白名单,增加hadoop104
[lytfly@hadoop102 hadoop]$ vim whitelist
修改为如下内容:
hadoop102
hadoop103
hadoop104
8)刷新NameNode
[lytfly@hadoop102 hadoop-3.1.4]$ hdfs dfsadmin -refreshNodes
9)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode
这篇关于HDFS—集群扩容及缩容的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!