关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset

2024-03-12 17:40

本文主要是介绍关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

今天在跑wc的时候,代码仔细确认很多遍没有问题,但就是一直报错如下:

Exceptioninthread"main"java.lang.RuntimeException:java.io.FileNotFoundException:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.-seehttps://wiki.apache.org/hadoop/WindowsProblems
atorg.apache.hadoop.util.Shell.getWinUtilsPath(Shell.java:736)
atorg.apache.hadoop.util.Shell.getSetPermissionCommand(Shell.java:271)
atorg.apache.hadoop.util.Shell.getSetPermissionCommand(Shell.java:287)
atorg.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:867)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkOneDirWithMode(RawLocalFileSystem.java:549)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirsWithOptionalPermission(RawLocalFileSystem.java:589)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:561)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirsWithOptionalPermission(RawLocalFileSystem.java:588)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:566)
atorg.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:332)
atorg.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:162)
atorg.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:113)
atorg.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:148)
atorg.apache.hadoop.mapreduce.Job$11.run(Job.java:1565)
atorg.apache.hadoop.mapreduce.Job$11.run(Job.java:1562)
atjava.security.AccessController.doPrivileged(NativeMethod)
atjavax.security.auth.Subject.doAs(Subject.java:422)
atorg.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1762)
atorg.apache.hadoop.mapreduce.Job.submit(Job.java:1562)
atorg.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1583)
atcom.ruozedata.hadoop.mapreduce.wc.WordCountDriver.main(WordCountDriver.java:46)
Causedby:java.io.FileNotFoundException:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.-seehttps://wiki.apache.org/hadoop/WindowsProblems
atorg.apache.hadoop.util.Shell.fileNotFoundException(Shell.java:548)
atorg.apache.hadoop.util.Shell.getHadoopHomeDir(Shell.java:569)
atorg.apache.hadoop.util.Shell.getQualifiedBin(Shell.java:592)
atorg.apache.hadoop.util.Shell.(Shell.java:689)
atorg.apache.hadoop.util.StringUtils.(StringUtils.java:78)
atorg.apache.hadoop.conf.Configuration.getBoolean(Configuration.java:1665)
atorg.apache.hadoop.security.SecurityUtil.setConfigurationInternal(SecurityUtil.java:104)
atorg.apache.hadoop.security.SecurityUtil.(SecurityUtil.java:88)
atorg.apache.hadoop.security.UserGroupInformation.initialize(UserGroupInformation.java:316)
atorg.apache.hadoop.security.UserGroupInformation.ensureInitialized(UserGroupInformation.java:304)
atorg.apache.hadoop.security.UserGroupInformation.doSubjectLogin(UserGroupInformation.java:1860)
atorg.apache.hadoop.security.UserGroupInformation.createLoginUser(UserGroupInformation.java:718)
atorg.apache.hadoop.security.UserGroupInformation.getLoginUser(UserGroupInformation.java:668)
atorg.apache.hadoop.security.UserGroupInformation.getCurrentUser(UserGroupInformation.java:579)
atorg.apache.hadoop.mapreduce.task.JobContextImpl.(JobContextImpl.java:72)
atorg.apache.hadoop.mapreduce.Job.(Job.java:150)
atorg.apache.hadoop.mapreduce.Job.getInstance(Job.java:193)
atcom.ruozedata.hadoop.mapreduce.wc.WordCountDriver.main(WordCountDriver.java:21)
Causedby:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.
atorg.apache.hadoop.util.Shell.checkHadoopHomeInner(Shell.java:468)
atorg.apache.hadoop.util.Shell.checkHadoopHome(Shell.java:439)
atorg.apache.hadoop.util.Shell.(Shell.java:516)
…14more

问题扣出来就是:

问题原因:

日志描述内容就是,没有设置 HADOOP_HOME 和 hadoop.home.dir 两项。而这两项就是配置在本地环境变量中的 Hadoop 地址,也就是需要我们在本地搭建Hadoop环境。

解决办法:

一、如果是远程连接Linux上的Hadoop集群,是不需要在本地再下载hadoop,只要下载winutils文件,然后配置环境变量,最后再把hadoop.dll文件放到 C:/windows/system32 下就可以了(我亲测的也是这个)

二、hadoop运行在windows系统上的,也是要下载winutils文件,然后配置环境变量,比上面多出一步就是,需要把你下的winutils文件下你需要的Hadoop版本的bin目录文件替换你**windows系统之前使用的Hadoop版本的bin目录文件,**最后同样是把hadoop.dll文件放C:/windows/system32 下就可以(这个解决步骤在最后面)

解决步骤(一):

1.下载winutils文件

GitHub - steveloughran/winutils: Windows binaries for Hadoop versions (built from the git commit ID used for the ASF relase)

点击绿色的Code按钮,再选择Download Zip下载

2.选择版本

如果没有和你版本一致的文件夹,就选择和你版本最相近的,因为我的Hadoop版本是3.2.2版本,所以我选择的是hadoop-3.0.0

3.配置环境变量

配置系统环境变量:

新增 变量名:HADOOP_HOME 变量值:就是你上面选择的hadoop版本文件夹的位置地址

在 变量名:path 中新增 变量值:%HADOOP_HOME%in

4. 把hadoop.dll放到C:/windows/system32文件夹下

拷贝bin文件夹下的hadoop.dll文件

复制进C:/windows/system32文件夹下

6.重启IDEA,再次运行代码,跑成功。亲测哟!!!

解决步骤(二):哈哈哈!我没操作啦,但是你可以去下面这个链接操作

java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset. - 简书 (jianshu.com)

这篇关于关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/802065

相关文章

Java Stream流与使用操作指南

《JavaStream流与使用操作指南》Stream不是数据结构,而是一种高级的数据处理工具,允许你以声明式的方式处理数据集合,类似于SQL语句操作数据库,本文给大家介绍JavaStream流与使用... 目录一、什么是stream流二、创建stream流1.单列集合创建stream流2.双列集合创建str

springboot集成easypoi导出word换行处理过程

《springboot集成easypoi导出word换行处理过程》SpringBoot集成Easypoi导出Word时,换行符n失效显示为空格,解决方法包括生成段落或替换模板中n为回车,同时需确... 目录项目场景问题描述解决方案第一种:生成段落的方式第二种:替换模板的情况,换行符替换成回车总结项目场景s

SpringBoot集成redisson实现延时队列教程

《SpringBoot集成redisson实现延时队列教程》文章介绍了使用Redisson实现延迟队列的完整步骤,包括依赖导入、Redis配置、工具类封装、业务枚举定义、执行器实现、Bean创建、消费... 目录1、先给项目导入Redisson依赖2、配置redis3、创建 RedissonConfig 配

SpringBoot中@Value注入静态变量方式

《SpringBoot中@Value注入静态变量方式》SpringBoot中静态变量无法直接用@Value注入,需通过setter方法,@Value(${})从属性文件获取值,@Value(#{})用... 目录项目场景解决方案注解说明1、@Value("${}")使用示例2、@Value("#{}"php

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案:通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

基于 Cursor 开发 Spring Boot 项目详细攻略

《基于Cursor开发SpringBoot项目详细攻略》Cursor是集成GPT4、Claude3.5等LLM的VSCode类AI编程工具,支持SpringBoot项目开发全流程,涵盖环境配... 目录cursor是什么?基于 Cursor 开发 Spring Boot 项目完整指南1. 环境准备2. 创建

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security?—— 核心思想二、如何在 Java 项目中使用?——

SpringBoot+RustFS 实现文件切片极速上传的实例代码

《SpringBoot+RustFS实现文件切片极速上传的实例代码》本文介绍利用SpringBoot和RustFS构建高性能文件切片上传系统,实现大文件秒传、断点续传和分片上传等功能,具有一定的参考... 目录一、为什么选择 RustFS + SpringBoot?二、环境准备与部署2.1 安装 RustF

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。