大数据入门(4)hdfs的shell语法

2024-06-10 19:18
文章标签 hdfs shell 入门 语法 数据

本文主要是介绍大数据入门(4)hdfs的shell语法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1、测试hdfs文件上传和下载(HDFS shell)1.0查看帮助hadoop fs -help <cmd>1.1上传hadoop fs -put <linux上文件> <hdfs上的路径>hadoop fs -put  jdk-7u71-linux-x64.tar.gz hdfs://192.168.21.115:9000/1.2查看文件内容hadoop fs -cat <hdfs上的路径>1.3查看文件列表hadoop fs -ls /1.4下载文件hadoop fs -get <hdfs上的路径> <linux上文件>hadoop fs -get hdfs://192.168.1.115:9000/jdk-7u71-linux-x64.tar.gz1.5新建文件(一层一层的建)hadoop fs -mkdir /aahadoop fs -mkdir /aa/bb1.6删除文件夹hadoop fs -rm -r /aa/bb1.7 统计文件大小hadoop fs -du     -s -h hdfs://192.168.1.115:9000/1.8、copy 文件到指定虚拟机目录scp 文件 192.168.1.116:/home/admin2、测试mapreduce 使用shell自带的程序测试(app/hadoop-2.4.1/share/hadoop/mapreduce)hadoop jar hadoop-mapreduce-examples-2.4.1.jar pi 5 5新建txt文件: vi test.txt,写入hello word 新建input文件夹,将文件放到input文件夹中hadoop fs -mkdir /wordcounthadoop fs -mkdir /wordcount/inputhadoop fs -put test.txt /wordcount/input执行计算,test.txt 中的文字个数,输入结果放到output文件夹中hadoop jar hadoop-mapreduce-examples-2.4.1.jar wordcount /wordcount/input /wordcount/output查看文件列表:hadoop fs -ls /wordcount/output查看输入文件:hadoop fs -cat /wordcount/output/part-r-000002.使用java接口操作HDFS见eclipse工程下的demo本机修改ip映射:C:\Windows\System32\drivers\etc下的host文件,配置映射3.hadoop通信机制不同进程之间的方法进行调用4.HDFS源码分析FileSystem.get --> 通过反射实例化了一个DistributedFileSystem --> new DFSCilent()把他作为自己的成员变量在DFSClient构造方法里面,调用了createNamenode,使用了RPC机制,得到了一个NameNode的代理对象,就可以和NameNode进行通信了FileSystem --> DistributedFileSystem --> DFSClient --> NameNode的代理

 

这篇关于大数据入门(4)hdfs的shell语法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1049035

相关文章

【Linux进阶】UNIX体系结构分解——操作系统,内核,shell

1.什么是操作系统? 从严格意义上说,可将操作系统定义为一种软件,它控制计算机硬件资源,提供程序运行环境。我们通常将这种软件称为内核(kerel),因为它相对较小,而且位于环境的核心。  从广义上说,操作系统包括了内核和一些其他软件,这些软件使得计算机能够发挥作用,并使计算机具有自己的特生。这里所说的其他软件包括系统实用程序(system utility)、应用程序、shell以及公用函数库等

UE3脚本UnrealScript UC语法点滴

持续更新 目录 类定义修饰符  1.dependson(CLASSNAME) 2.config(ININAME) 3.native 4.notplaceable 5.inherits(CLASSNAME1[,CLASSNAME2,...]) 类对象实例创建 类默认属性设置 变量 1.声明 var local 2.修饰符 config  3.array 类型变量 以及

C++必修:模版的入门到实践

✨✨ 欢迎大家来到贝蒂大讲堂✨✨ 🎈🎈养成好习惯,先赞后看哦~🎈🎈 所属专栏:C++学习 贝蒂的主页:Betty’s blog 1. 泛型编程 首先让我们来思考一个问题,如何实现一个交换函数? void swap(int& x, int& y){int tmp = x;x = y;y = tmp;} 相信大家很快就能写出上面这段代码,但是如果要求这个交换函数支持字符型

零基础STM32单片机编程入门(一)初识STM32单片机

文章目录 一.概要二.单片机型号命名规则三.STM32F103系统架构四.STM32F103C8T6单片机启动流程五.STM32F103C8T6单片机主要外设资源六.编程过程中芯片数据手册的作用1.单片机外设资源情况2.STM32单片机内部框图3.STM32单片机管脚图4.STM32单片机每个管脚可配功能5.单片机功耗数据6.FALSH编程时间,擦写次数7.I/O高低电平电压表格8.外设接口

【服务器运维】MySQL数据存储至数据盘

查看磁盘及分区 [root@MySQL tmp]# fdisk -lDisk /dev/sda: 21.5 GB, 21474836480 bytes255 heads, 63 sectors/track, 2610 cylindersUnits = cylinders of 16065 * 512 = 8225280 bytesSector size (logical/physical)

ps基础入门

1.基础      1.1新建文件      1.2创建指定形状      1.4移动工具          1.41移动画布中的任意元素          1.42移动画布          1.43修改画布大小          1.44修改图像大小      1.5框选工具      1.6矩形工具      1.7图层          1.71图层颜色修改          1

C++入门01

1、.h和.cpp 源文件 (.cpp)源文件是C++程序的实际实现代码文件,其中包含了具体的函数和类的定义、实现以及其他相关的代码。主要特点如下:实现代码: 源文件中包含了函数、类的具体实现代码,用于实现程序的功能。编译单元: 源文件通常是一个编译单元,即单独编译的基本单位。每个源文件都会经过编译器的处理,生成对应的目标文件。包含头文件: 源文件可以通过#include指令引入头文件,以使

SQL Server中,查询数据库中有多少个表,以及数据库其余类型数据统计查询

sqlserver查询数据库中有多少个表 sql server 数表:select count(1) from sysobjects where xtype='U'数视图:select count(1) from sysobjects where xtype='V'数存储过程select count(1) from sysobjects where xtype='P' SE

LVGL快速入门笔记

目录 一、基础知识 1. 基础对象(lv_obj) 2. 基础对象的大小(size) 3. 基础对象的位置(position) 3.1 直接设置方式 3.2 参照父对象对齐 3.3 获取位置 4. 基础对象的盒子模型(border-box) 5. 基础对象的样式(styles) 5.1 样式的状态和部分 5.1.1 对象可以处于以下状态States的组合: 5.1.2 对象

数据时代的数字企业

1.写在前面 讨论数据治理在数字企业中的影响和必要性,并介绍数据治理的核心内容和实践方法。作者强调了数据质量、数据安全、数据隐私和数据合规等方面是数据治理的核心内容,并介绍了具体的实践措施和案例分析。企业需要重视这些方面以实现数字化转型和业务增长。 数字化转型行业小伙伴可以加入我的星球,初衷成为各位数字化转型参考库,星球内容每周更新 个人工作经验资料全部放在这里,包含数据治理、数据要