本文主要是介绍spark sql基于CBO的优化，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
前言
spark sql基于CBO的优化是建立在物理计划层面的，原理是计算出所有可能的物理执行计划，并挑选成代价最小的物理执行计划。对于执行计划可以去看我的另一篇博客RBO优化
CBO的话主要用来调整inner join所涉及表的顺序
使用CBO准备
搜集所需表和列的统计信息
- 生成表级别的统计信息
ANALYZE TABLE 表名 COMPUTE STATISTICS - 生成列级别的统计信息
ANALYZE TABLE 表名 COMPUTE STATISTICS FOR COLUMNS 列 1,列 2,列 3 - 显示统计信息
DESC FORMATTED 表名
CBO相关参数
- spark.sql.cbo.enabled：
cbo的总开关，默认是false - spark.sql.cbo.joinReorder.enabled
来自动调整连续的 inner join 的顺序 - spark.sql.cbo.joinReorder.dp.threshold
使用 CBO 来自动调整连续 inner join 的表的个数阈值，默认值为12，超过则不会调整
这篇关于spark sql基于CBO的优化的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
