rdd,dataframe,dataset之间的区别

2024-09-06 06:38

本文主要是介绍rdd,dataframe,dataset之间的区别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在spark中,RDD、DataFrame、Dataset是最常用的数据类型,本博文给出笔者在使用的过程中体会到的区别和各自的优势

 

共性:

1、RDD、DataFrame、Dataset全都是spark平台下的分布式弹性数据集,为处理超大型数据提供便利

2、三者都有惰性机制,在进行创建、转换,如map方法时,不会立即执行,只有在遇到Action如foreach时,三者才会开始遍历运算,极端情况下,如果代码里面有创建、转换,但是后面没有在Action中使用对应的结果,在执行时会被直接跳过,如

1
2
3
4
5
6
7
8
val  sparkconf  =  new  SparkConf().setMaster( "local" ).setAppName( "test" ).set( "spark.port.maxRetries" , "1000" )
val  spark  =  SparkSession.builder().config(sparkconf).getOrCreate()
val  rdd = spark.sparkContext.parallelize(Seq(( "a" 1 ), ( "b" 1 ), ( "a" 1 )))
rdd.map{line = >
   println( "运行" )
   line. _ 1
}

map中的println("运行")并不会运行

3、三者都会根据spark的内存情况自动缓存运算,这样即使数据量很大,也不用担心会内存溢出

4、三者都有partition的概念,如

1
2
3
4
5
6
7
8
var  predata = data.repartition( 24 ).mapPartitions{
       PartLine  = > {
         PartLine.map{
           line  = >
              println(“转换操作”)
                             }
                          }

这样对每一个分区进行操作时,就跟在操作数组一样,不但数据量比较小,而且可以方便的将map中的运算结果拿出来,如果直接用map,map中对外面的操作是无效的,如

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
val  rdd = spark.sparkContext.parallelize(Seq(( "a" 1 ), ( "b" 1 ), ( "a" 1 )))
     var  flag = 0
     val  test = rdd.map{line = >
       println( "运行" )
       flag+ = 1
       println(flag)
       line. _ 1
     }
println(test.count)
println(flag)
     /**
     运行
     1
     运行
     2
     运行
     3
     3
     0
    * */

不使用partition时,对map之外的操作无法对map之外的变量造成影响

5、三者有许多共同的函数,如filter,排序等

6、在对DataFrame和Dataset进行操作许多操作都需要这个包进行支持

1
2
import  spark.implicits. _
//这里的spark是SparkSession的变量名

7、DataFrame和Dataset均可使用模式匹配获取各个字段的值和类型

DataFrame:

1
2
3
4
5
6
7
testDF.map{
       case  Row(col 1 : String,col 2 : Int) = >
         println(col 1 );println(col 2 )
         col 1
       case  _= >
         ""
     }

为了提高稳健性,最好后面有一个_通配操作,这里提供了DataFrame一个解析字段的方法

Dataset:

1
2
3
4
5
6
7
8
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
     testDS.map{
       case  Coltest(col 1 : String,col 2 : Int) = >
         println(col 1 );println(col 2 )
         col 1
       case  _= >
         ""
     }

  

区别:

RDD:

1、RDD一般和spark mlib同时使用

2、RDD不支持sparksql操作

DataFrame:

1、与RDD和Dataset不同,DataFrame每一行的类型固定为Row,只有通过解析才能获取各个字段的值,如

1
2
3
4
5
testDF.foreach{
   line  = >
     val  col 1 = line.getAs[String]( "col1" )
     val  col 2 = line.getAs[String]( "col2" )
}

每一列的值没法直接访问

2、DataFrame与Dataset一般与spark ml同时使用

3、DataFrame与Dataset均支持sparksql的操作,比如select,groupby之类,还能注册临时表/视窗,进行sql语句操作,如

1
2
dataDF.createOrReplaceTempView( "tmp" )
spark.sql( "select  ROW,DATE from tmp where DATE is not null order by DATE" ).show( 100 , false )

4、DataFrame与Dataset支持一些特别方便的保存方式,比如保存成csv,可以带上表头,这样每一列的字段名一目了然

1
2
3
4
5
6
//保存
val  saveoptions  =  Map( "header"  ->  "true" "delimiter"  ->  "\t" "path"  ->  "hdfs://172.xx.xx.xx:9000/test" )
datawDF.write.format( "com.databricks.spark.csv" ).mode(SaveMode.Overwrite).options(saveoptions).save()
//读取
val  options  =  Map( "header"  ->  "true" "delimiter"  ->  "\t" "path"  ->  "hdfs://172.xx.xx.xx:9000/test" )
val  datarDF =  spark.read.options(options).format( "com.databricks.spark.csv" ).load()

利用这样的保存方式,可以方便的获得字段名和列的对应,而且分隔符(delimiter)可以自由指定

Dataset:

这里主要对比Dataset和DataFrame,因为Dataset和DataFrame拥有完全相同的成员函数,区别只是每一行的数据类型不同

DataFrame也可以叫Dataset[Row],每一行的类型是Row,不解析,每一行究竟有哪些字段,各个字段又是什么类型都无从得知,只能用上面提到的getAS方法或者共性中的第七条提到的模式匹配拿出特定字段

而Dataset中,每一行是什么类型是不一定的,在自定义了case class之后可以很自由的获得每一行的信息

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
/**
       rdd
       ("a", 1)
       ("b", 1)
       ("a", 1)
       * */
val  test :  Dataset[Coltest] = rdd.map{line = >
       Coltest(line. _ 1 ,line. _ 2 )
     }.toDS
test.map{
       line = >
         println(line.col 1 )
         println(line.col 2 )
     }

可以看出,Dataset在需要访问列中的某个字段时是非常方便的,然而,如果要写一些适配性很强的函数时,如果使用Dataset,行的类型又不确定,可能是各种case class,无法实现适配,这时候用DataFrame即Dataset[Row]就能比较好的解决问题

转化:

RDD、DataFrame、Dataset三者有许多共性,有各自适用的场景常常需要在三者之间转换

DataFrame/Dataset转RDD:

这个转换很简单

1
2
val  rdd 1 = testDF.rdd
val  rdd 2 = testDS.rdd

RDD转DataFrame:

1
2
3
4
import  spark.implicits. _
val  testDF  =  rdd.map {line = >
       (line. _ 1 ,line. _ 2 )
     }.toDF( "col1" , "col2" )

一般用元组把一行的数据写在一起,然后在toDF中指定字段名

RDD转Dataset:

1
2
3
4
5
import  spark.implicits. _
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
val  testDS  =  rdd.map {line = >
       Coltest(line. _ 1 ,line. _ 2 )
     }.toDS

可以注意到,定义每一行的类型(case class)时,已经给出了字段名和类型,后面只要往case class里面添加值即可

Dataset转DataFrame:

这个也很简单,因为只是把case class封装成Row

1
2
import  spark.implicits. _
val  testDF  =  testDS.toDF

DataFrame转Dataset:

1
2
3
import  spark.implicits. _
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
val  testDS  =  testDF.as[Coltest]

这种方法就是在给出每一列的类型后,使用as方法,转成Dataset,这在数据类型是DataFrame又需要针对各个字段处理时极为方便

特别注意:

在使用一些特殊的操作时,一定要加上 import spark.implicits._ 不然toDF、toDS无法使用

 

这篇关于rdd,dataframe,dataset之间的区别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141279

相关文章

go 指针接收者和值接收者的区别小结

《go指针接收者和值接收者的区别小结》在Go语言中,值接收者和指针接收者是方法定义中的两种接收者类型,本文主要介绍了go指针接收者和值接收者的区别小结,文中通过示例代码介绍的非常详细,需要的朋友们下... 目录go 指针接收者和值接收者的区别易错点辨析go 指针接收者和值接收者的区别指针接收者和值接收者的

售价599元起! 华为路由器X1/Pro发布 配置与区别一览

《售价599元起!华为路由器X1/Pro发布配置与区别一览》华为路由器X1/Pro发布,有朋友留言问华为路由X1和X1Pro怎么选择,关于这个问题,本期图文将对这二款路由器做了期参数对比,大家看... 华为路由 X1 系列已经正式发布并开启预售,将在 4 月 25 日 10:08 正式开售,两款产品分别为华

Java中Date、LocalDate、LocalDateTime、LocalTime、时间戳之间的相互转换代码

《Java中Date、LocalDate、LocalDateTime、LocalTime、时间戳之间的相互转换代码》:本文主要介绍Java中日期时间转换的多种方法,包括将Date转换为LocalD... 目录一、Date转LocalDateTime二、Date转LocalDate三、LocalDateTim

golang获取当前时间、时间戳和时间字符串及它们之间的相互转换方法

《golang获取当前时间、时间戳和时间字符串及它们之间的相互转换方法》:本文主要介绍golang获取当前时间、时间戳和时间字符串及它们之间的相互转换,本文通过实例代码给大家介绍的非常详细,感兴趣... 目录1、获取当前时间2、获取当前时间戳3、获取当前时间的字符串格式4、它们之间的相互转化上篇文章给大家介

kotlin中const 和val的区别及使用场景分析

《kotlin中const和val的区别及使用场景分析》在Kotlin中,const和val都是用来声明常量的,但它们的使用场景和功能有所不同,下面给大家介绍kotlin中const和val的区别,... 目录kotlin中const 和val的区别1. val:2. const:二 代码示例1 Java

CSS Padding 和 Margin 区别全解析

《CSSPadding和Margin区别全解析》CSS中的padding和margin是两个非常基础且重要的属性,它们用于控制元素周围的空白区域,本文将详细介绍padding和... 目录css Padding 和 Margin 全解析1. Padding: 内边距2. Margin: 外边距3. Padd

Springboot @Autowired和@Resource的区别解析

《Springboot@Autowired和@Resource的区别解析》@Resource是JDK提供的注解,只是Spring在实现上提供了这个注解的功能支持,本文给大家介绍Springboot@... 目录【一】定义【1】@Autowired【2】@Resource【二】区别【1】包含的属性不同【2】@

Java中的String.valueOf()和toString()方法区别小结

《Java中的String.valueOf()和toString()方法区别小结》字符串操作是开发者日常编程任务中不可或缺的一部分,转换为字符串是一种常见需求,其中最常见的就是String.value... 目录String.valueOf()方法方法定义方法实现使用示例使用场景toString()方法方法

分辨率三兄弟LPI、DPI 和 PPI有什么区别? 搞清分辨率的那些事儿

《分辨率三兄弟LPI、DPI和PPI有什么区别?搞清分辨率的那些事儿》分辨率这个东西,真的是让人又爱又恨,为了搞清楚它,我可是翻阅了不少资料,最后发现“小7的背包”的解释最让我茅塞顿开,于是,我... 在谈到分辨率时,我们经常会遇到三个相似的缩写:PPI、DPI 和 LPI。虽然它们看起来差不多,但实际应用

GORM中Model和Table的区别及使用

《GORM中Model和Table的区别及使用》Model和Table是两种与数据库表交互的核心方法,但它们的用途和行为存在著差异,本文主要介绍了GORM中Model和Table的区别及使用,具有一... 目录1. Model 的作用与特点1.1 核心用途1.2 行为特点1.3 示例China编程代码2. Tab