rdd,dataframe,dataset之间的区别

2024-09-06 06:38

本文主要是介绍rdd,dataframe,dataset之间的区别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在spark中,RDD、DataFrame、Dataset是最常用的数据类型,本博文给出笔者在使用的过程中体会到的区别和各自的优势

 

共性:

1、RDD、DataFrame、Dataset全都是spark平台下的分布式弹性数据集,为处理超大型数据提供便利

2、三者都有惰性机制,在进行创建、转换,如map方法时,不会立即执行,只有在遇到Action如foreach时,三者才会开始遍历运算,极端情况下,如果代码里面有创建、转换,但是后面没有在Action中使用对应的结果,在执行时会被直接跳过,如

1
2
3
4
5
6
7
8
val  sparkconf  =  new  SparkConf().setMaster( "local" ).setAppName( "test" ).set( "spark.port.maxRetries" , "1000" )
val  spark  =  SparkSession.builder().config(sparkconf).getOrCreate()
val  rdd = spark.sparkContext.parallelize(Seq(( "a" 1 ), ( "b" 1 ), ( "a" 1 )))
rdd.map{line = >
   println( "运行" )
   line. _ 1
}

map中的println("运行")并不会运行

3、三者都会根据spark的内存情况自动缓存运算,这样即使数据量很大,也不用担心会内存溢出

4、三者都有partition的概念,如

1
2
3
4
5
6
7
8
var  predata = data.repartition( 24 ).mapPartitions{
       PartLine  = > {
         PartLine.map{
           line  = >
              println(“转换操作”)
                             }
                          }

这样对每一个分区进行操作时,就跟在操作数组一样,不但数据量比较小,而且可以方便的将map中的运算结果拿出来,如果直接用map,map中对外面的操作是无效的,如

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
val  rdd = spark.sparkContext.parallelize(Seq(( "a" 1 ), ( "b" 1 ), ( "a" 1 )))
     var  flag = 0
     val  test = rdd.map{line = >
       println( "运行" )
       flag+ = 1
       println(flag)
       line. _ 1
     }
println(test.count)
println(flag)
     /**
     运行
     1
     运行
     2
     运行
     3
     3
     0
    * */

不使用partition时,对map之外的操作无法对map之外的变量造成影响

5、三者有许多共同的函数,如filter,排序等

6、在对DataFrame和Dataset进行操作许多操作都需要这个包进行支持

1
2
import  spark.implicits. _
//这里的spark是SparkSession的变量名

7、DataFrame和Dataset均可使用模式匹配获取各个字段的值和类型

DataFrame:

1
2
3
4
5
6
7
testDF.map{
       case  Row(col 1 : String,col 2 : Int) = >
         println(col 1 );println(col 2 )
         col 1
       case  _= >
         ""
     }

为了提高稳健性,最好后面有一个_通配操作,这里提供了DataFrame一个解析字段的方法

Dataset:

1
2
3
4
5
6
7
8
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
     testDS.map{
       case  Coltest(col 1 : String,col 2 : Int) = >
         println(col 1 );println(col 2 )
         col 1
       case  _= >
         ""
     }

  

区别:

RDD:

1、RDD一般和spark mlib同时使用

2、RDD不支持sparksql操作

DataFrame:

1、与RDD和Dataset不同,DataFrame每一行的类型固定为Row,只有通过解析才能获取各个字段的值,如

1
2
3
4
5
testDF.foreach{
   line  = >
     val  col 1 = line.getAs[String]( "col1" )
     val  col 2 = line.getAs[String]( "col2" )
}

每一列的值没法直接访问

2、DataFrame与Dataset一般与spark ml同时使用

3、DataFrame与Dataset均支持sparksql的操作,比如select,groupby之类,还能注册临时表/视窗,进行sql语句操作,如

1
2
dataDF.createOrReplaceTempView( "tmp" )
spark.sql( "select  ROW,DATE from tmp where DATE is not null order by DATE" ).show( 100 , false )

4、DataFrame与Dataset支持一些特别方便的保存方式,比如保存成csv,可以带上表头,这样每一列的字段名一目了然

1
2
3
4
5
6
//保存
val  saveoptions  =  Map( "header"  ->  "true" "delimiter"  ->  "\t" "path"  ->  "hdfs://172.xx.xx.xx:9000/test" )
datawDF.write.format( "com.databricks.spark.csv" ).mode(SaveMode.Overwrite).options(saveoptions).save()
//读取
val  options  =  Map( "header"  ->  "true" "delimiter"  ->  "\t" "path"  ->  "hdfs://172.xx.xx.xx:9000/test" )
val  datarDF =  spark.read.options(options).format( "com.databricks.spark.csv" ).load()

利用这样的保存方式,可以方便的获得字段名和列的对应,而且分隔符(delimiter)可以自由指定

Dataset:

这里主要对比Dataset和DataFrame,因为Dataset和DataFrame拥有完全相同的成员函数,区别只是每一行的数据类型不同

DataFrame也可以叫Dataset[Row],每一行的类型是Row,不解析,每一行究竟有哪些字段,各个字段又是什么类型都无从得知,只能用上面提到的getAS方法或者共性中的第七条提到的模式匹配拿出特定字段

而Dataset中,每一行是什么类型是不一定的,在自定义了case class之后可以很自由的获得每一行的信息

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
/**
       rdd
       ("a", 1)
       ("b", 1)
       ("a", 1)
       * */
val  test :  Dataset[Coltest] = rdd.map{line = >
       Coltest(line. _ 1 ,line. _ 2 )
     }.toDS
test.map{
       line = >
         println(line.col 1 )
         println(line.col 2 )
     }

可以看出,Dataset在需要访问列中的某个字段时是非常方便的,然而,如果要写一些适配性很强的函数时,如果使用Dataset,行的类型又不确定,可能是各种case class,无法实现适配,这时候用DataFrame即Dataset[Row]就能比较好的解决问题

转化:

RDD、DataFrame、Dataset三者有许多共性,有各自适用的场景常常需要在三者之间转换

DataFrame/Dataset转RDD:

这个转换很简单

1
2
val  rdd 1 = testDF.rdd
val  rdd 2 = testDS.rdd

RDD转DataFrame:

1
2
3
4
import  spark.implicits. _
val  testDF  =  rdd.map {line = >
       (line. _ 1 ,line. _ 2 )
     }.toDF( "col1" , "col2" )

一般用元组把一行的数据写在一起,然后在toDF中指定字段名

RDD转Dataset:

1
2
3
4
5
import  spark.implicits. _
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
val  testDS  =  rdd.map {line = >
       Coltest(line. _ 1 ,line. _ 2 )
     }.toDS

可以注意到,定义每一行的类型(case class)时,已经给出了字段名和类型,后面只要往case class里面添加值即可

Dataset转DataFrame:

这个也很简单,因为只是把case class封装成Row

1
2
import  spark.implicits. _
val  testDF  =  testDS.toDF

DataFrame转Dataset:

1
2
3
import  spark.implicits. _
case  class  Coltest(col 1 : String,col 2 : Int) extends  Serializable  //定义字段名和类型
val  testDS  =  testDF.as[Coltest]

这种方法就是在给出每一列的类型后,使用as方法,转成Dataset,这在数据类型是DataFrame又需要针对各个字段处理时极为方便

特别注意:

在使用一些特殊的操作时,一定要加上 import spark.implicits._ 不然toDF、toDS无法使用

 

这篇关于rdd,dataframe,dataset之间的区别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141279

相关文章

GORM中Model和Table的区别及使用

《GORM中Model和Table的区别及使用》Model和Table是两种与数据库表交互的核心方法,但它们的用途和行为存在著差异,本文主要介绍了GORM中Model和Table的区别及使用,具有一... 目录1. Model 的作用与特点1.1 核心用途1.2 行为特点1.3 示例China编程代码2. Tab

Vue中组件之间传值的六种方式(完整版)

《Vue中组件之间传值的六种方式(完整版)》组件是vue.js最强大的功能之一,而组件实例的作用域是相互独立的,这就意味着不同组件之间的数据无法相互引用,针对不同的使用场景,如何选择行之有效的通信方式... 目录前言方法一、props/$emit1.父组件向子组件传值2.子组件向父组件传值(通过事件形式)方

Nginx指令add_header和proxy_set_header的区别及说明

《Nginx指令add_header和proxy_set_header的区别及说明》:本文主要介绍Nginx指令add_header和proxy_set_header的区别及说明,具有很好的参考价... 目录Nginx指令add_header和proxy_set_header区别如何理解反向代理?proxy

Java中&和&&以及|和||的区别、应用场景和代码示例

《Java中&和&&以及|和||的区别、应用场景和代码示例》:本文主要介绍Java中的逻辑运算符&、&&、|和||的区别,包括它们在布尔和整数类型上的应用,文中通过代码介绍的非常详细,需要的朋友可... 目录前言1. & 和 &&代码示例2. | 和 ||代码示例3. 为什么要使用 & 和 | 而不是总是使

C++中函数模板与类模板的简单使用及区别介绍

《C++中函数模板与类模板的简单使用及区别介绍》这篇文章介绍了C++中的模板机制,包括函数模板和类模板的概念、语法和实际应用,函数模板通过类型参数实现泛型操作,而类模板允许创建可处理多种数据类型的类,... 目录一、函数模板定义语法真实示例二、类模板三、关键区别四、注意事项 ‌在C++中,模板是实现泛型编程

Spring中@RestController和@Controller的使用及区别

《Spring中@RestController和@Controller的使用及区别》:本文主要介绍Spring中@RestController和@Controller的使用及区别,具有很好的参考价... 目录Spring中@RestController和@Controller使用及区别1. 基本定义2. 使

Python中DataFrame转列表的最全指南

《Python中DataFrame转列表的最全指南》在Python数据分析中,Pandas的DataFrame是最常用的数据结构之一,本文将为你详解5种主流DataFrame转换为列表的方法,大家可以... 目录引言一、基础转换方法解析1. tolist()直接转换法2. values.tolist()矩阵

Qt 中 isHidden 和 isVisible 的区别与使用小结

《Qt中isHidden和isVisible的区别与使用小结》Qt中的isHidden()和isVisible()方法都用于查询组件显示或隐藏状态,然而,它们有很大的区别,了解它们对于正确操... 目录1. 基础概念2. 区别清见3. 实际案例4. 注意事项5. 总结1. 基础概念Qt 中的 isHidd

Python实现PDF与多种图片格式之间互转(PNG, JPG, BMP, EMF, SVG)

《Python实现PDF与多种图片格式之间互转(PNG,JPG,BMP,EMF,SVG)》PDF和图片是我们日常生活和工作中常用的文件格式,有时候,我们可能需要将PDF和图片进行格式互转来满足... 目录一、介绍二、安装python库三、Python实现多种图片格式转PDF1、单张图片转换为PDF2、多张图

Spring、Spring Boot、Spring Cloud 的区别与联系分析

《Spring、SpringBoot、SpringCloud的区别与联系分析》Spring、SpringBoot和SpringCloud是Java开发中常用的框架,分别针对企业级应用开发、快速开... 目录1. Spring 框架2. Spring Boot3. Spring Cloud总结1. Sprin