spark sql基于CBO的优化

本文主要是介绍spark sql基于CBO的优化，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

前言

spark sql基于CBO的优化是建立在物理计划层面的，原理是计算出所有可能的物理执行计划，并挑选成代价最小的物理执行计划。对于执行计划可以去看我的另一篇博客RBO优化

CBO的话主要用来调整inner join所涉及表的顺序

使用CBO准备

搜集所需表和列的统计信息

• 生成表级别的统计信息
  ANALYZE TABLE 表名 COMPUTE STATISTICS
• 生成列级别的统计信息
  ANALYZE TABLE 表名 COMPUTE STATISTICS FOR COLUMNS 列 1,列 2,列 3
• 显示统计信息
  DESC FORMATTED 表名

CBO相关参数

• spark.sql.cbo.enabled：
  cbo的总开关，默认是false
• spark.sql.cbo.joinReorder.enabled
  来自动调整连续的 inner join 的顺序
• spark.sql.cbo.joinReorder.dp.threshold
  使用 CBO 来自动调整连续 inner join 的表的个数阈值，默认值为12，超过则不会调整

这篇关于spark sql基于CBO的优化的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---