本文主要是介绍Spark学习笔记 --- spark RDD加载文件,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
对于Spark RDD加载的文件,可以分为几类:
首先加载本地文件,加载方式:
val localFileRDD = sc.textFile("file://usr/wordcount.txt")
其次加载hdfs文件,加载方式:
val textHDFSFile = sc.textFile("/user/README.md")
或者:
val textHDFSFile1 = sc.textFile("hdfs://user/README.md")
这篇关于Spark学习笔记 --- spark RDD加载文件的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!