面试必备技能-HiveSQL优化

2024-09-06 22:08

本文主要是介绍面试必备技能-HiveSQL优化,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Hive SQL基本上适用大数据领域离线数据处理的大部分场景。Hive SQL的优化也是我们必须掌握的技能,而且,面试一定会问。那么,我希望面试者能答出其中的80%优化点,在这个问题上才算过关。


  • Hive优化目标

    • 在有限的资源下,执行效率更高

  • 常见问题

    • 数据倾斜

    • map数设置

    • reduce数设置

    • 其他


  • Hive执行

    • HQL --> Job --> Map/Reduce

    • 执行计划

      • explain [extended] hql

      • 样例

      • select col,count(1) from test2 group by col;

      • explain select col,count(1) from test2 group by col;


Hive表优化

  • 分区

    • set hive.exec.dynamic.partition=true;

    • set hive.exec.dynamic.partition.mode=nonstrict;

    • 静态分区

    • 动态分区

  • 分桶

    • set hive.enforce.bucketing=true;

    • set hive.enforce.sorting=true;

  • 数据

    • 相同数据尽量聚集在一起




Hive Job优化

  • 并行化执行

    • 每个查询被hive转化成多个阶段,有些阶段关联性不大,则可以并行化执行,减少执行时间

    • set hive.exec.parallel= true;

    • set hive.exec.parallel.thread.numbe=8;

  • 本地化执行

    • job的输入数据大小必须小于参数:hive.exec.mode.local.auto.inputbytes.max(默认128MB)

    • job的map数必须小于参数:hive.exec.mode.local.auto.tasks.max(默认4)

    • job的reduce数必须为0或者1

    • set hive.exec.mode.local.auto=true;

    • 当一个job满足如下条件才能真正使用本地模式:

  • job合并输入小文件

    • set hive.input.format = org.apache.hadoop.hive.ql.io.CombineHiveInputFormat

    • 合并文件数由mapred.max.split.size限制的大小决定

  • job合并输出小文件

    • set hive.merge.smallfiles.avgsize=256000000;当输出文件平均小于该值,启动新job合并文件

    • set hive.merge.size.per.task=64000000;合并之后的文件大小

  • JVM重利用

    • set mapred.job.reuse.jvm.num.tasks=20;

    • JVM重利用可以使得JOB长时间保留slot,直到作业结束,这在对于有较多任务和较多小文件的任务是非常有意义的,减少执行时间。当然这个值不能设置过大,因为有些作业会有reduce任务,如果reduce任务没有完成,则map任务占用的slot不能释放,其他的作业可能就需要等待。

  • 压缩数据

    • set hive.exec.compress.output=true;

    • set mapred.output.compreession.codec=org.apache.hadoop.io.compress.GzipCodec;

    • set mapred.output.compression.type=BLOCK;

    • set hive.exec.compress.intermediate=true;

    • set hive.intermediate.compression.codec=org.apache.hadoop.io.compress.SnappyCodec;

    • set hive.intermediate.compression.type=BLOCK;

    • 中间压缩就是处理hive查询的多个job之间的数据,对于中间压缩,最好选择一个节省cpu耗时的压缩方式

    • hive查询最终的输出也可以压缩

Hive Map优化


  • set mapred.map.tasks =10; 无效

  • (1)默认map个数

    • default_num=total_size/block_size;

  • (2)期望大小

    • goal_num=mapred.map.tasks;

  • (3)设置处理的文件大小

    • split_size=max(mapred.min.split.size,block_size);

    • split_num=total_size/split_size;

  • (4)计算的map个数

    • compute_map_num=min(split_num,max(default_num,goal_num))

  • 经过以上的分析,在设置map个数的时候,可以简答的总结为以下几点:

    • 增大mapred.min.split.size的值

    • 如果想增加map个数,则设置mapred.map.tasks为一个较大的值

    • 如果想减小map个数,则设置mapred.min.split.size为一个较大的值

    • 情况1:输入文件size巨大,但不是小文件

    • 情况2:输入文件数量巨大,且都是小文件,就是单个文件的size小于blockSize。这种情况通过增大mapred.min.split.size不可行,需要使用combineFileInputFormat将多个input path合并成一个InputSplit送给mapper处理,从而减少mapper的数量。

  • map端聚合

    • set hive.map.aggr=true;

  • 推测执行

    • mapred.map.tasks.apeculative.execution

Hive Shuffle优化


  • Map端

    • io.sort.mb

    • io.sort.spill.percent

    • min.num.spill.for.combine

    • io.sort.factor

    • io.sort.record.percent

  • Reduce端

    • mapred.reduce.parallel.copies

    • mapred.reduce.copy.backoff

    • io.sort.factor

    • mapred.job.shuffle.input.buffer.percent

    • mapred.job.shuffle.input.buffer.percent

    • mapred.job.shuffle.input.buffer.percent

Hive Reduce优化


  • 需要reduce操作的查询

    • group by,join,distribute by,cluster by...

    • order by比较特殊,只需要一个reduce

    • sum,count,distinct...

    • 聚合函数

    • 高级查询

  • 推测执行

    • mapred.reduce.tasks.speculative.execution

    • hive.mapred.reduce.tasks.speculative.execution

  • Reduce优化

    • numRTasks = min[maxReducers,input.size/perReducer]

    • maxReducers=hive.exec.reducers.max

    • perReducer = hive.exec.reducers.bytes.per.reducer

    • hive.exec.reducers.max 默认 :999

    • hive.exec.reducers.bytes.per.reducer 默认:1G

    • set mapred.reduce.tasks=10;直接设置

    • 计算公式


Hive查询操作优化


join优化

  • 关联操作中有一张表非常小

  • 不等值的链接操作

  • set hive.auto.current.join=true;

  • hive.mapjoin.smalltable.filesize默认值是25mb

  • select /*+mapjoin(A)*/ f.a,f.b from A t join B f on (f.a=t.a)

  • hive.optimize.skewjoin=true;如果是Join过程出现倾斜,应该设置为true

  • set hive.skewjoin.key=100000; 这个是join的键对应的记录条数超过这个值则会进行优化

  • mapjoin

  • 简单总结下,mapjoin的使用场景:

Bucket join

  • 两个表以相同方式划分桶

  • 两个表的桶个数是倍数关系

  • crete table order(cid int,price float) clustered by(cid) into 32 buckets;

  • crete table customer(id int,first string) clustered by(id) into 32 buckets;

  • select price from order t join customer s on t.cid=s.id


join 优化前

  • select m.cid,u.id from order m join customer u on m.cid=u.id where m.dt='2013-12-12';


join优化后

  • select m.cid,u.id from (select cid from order where dt='2013-12-12')m join customer u on m.cid=u.id;

group by 优化

  • hive.groupby.skewindata=true;如果是group by 过程出现倾斜 应该设置为true

  • set hive.groupby.mapaggr.checkinterval=100000;--这个是group的键对应的记录条数超过这个值则会进行优化


  • count distinct 优化

    • 优化前

      • select count(distinct id) from tablename

    • 优化后

      • select count(1) from (select distinct id from tablename) tmp;

      • select count(1) from (select id from tablename group by id) tmp;

    • 优化前

      • select a,sum(b),count(distinct c),count(distinct d) from test group by a

    • 优化后

      • select a,sum(b) as b,count(c) as c,count(d) as d from(select a,0 as b,c,null as d from test group by a,c union all select a,0 as b,null as c,d from test group by a,d union all select a,b,null as c,null as d from test)tmp1 group by a;


640?wx_fmt=jpeg点赞和转发是最大的支持~


在看点一下 大家都知道 640?wx_fmt=png

这篇关于面试必备技能-HiveSQL优化的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1143255

相关文章

MySQL索引的优化之LIKE模糊查询功能实现

《MySQL索引的优化之LIKE模糊查询功能实现》:本文主要介绍MySQL索引的优化之LIKE模糊查询功能实现,本文通过示例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录一、前缀匹配优化二、后缀匹配优化三、中间匹配优化四、覆盖索引优化五、减少查询范围六、避免通配符开头七、使用外部搜索引擎八、分

数据库面试必备之MySQL中的乐观锁与悲观锁

《数据库面试必备之MySQL中的乐观锁与悲观锁》:本文主要介绍数据库面试必备之MySQL中乐观锁与悲观锁的相关资料,乐观锁适用于读多写少的场景,通过版本号检查避免冲突,而悲观锁适用于写多读少且对数... 目录一、引言二、乐观锁(一)原理(二)应用场景(三)示例代码三、悲观锁(一)原理(二)应用场景(三)示例

Python通过模块化开发优化代码的技巧分享

《Python通过模块化开发优化代码的技巧分享》模块化开发就是把代码拆成一个个“零件”,该封装封装,该拆分拆分,下面小编就来和大家简单聊聊python如何用模块化开发进行代码优化吧... 目录什么是模块化开发如何拆分代码改进版:拆分成模块让模块更强大:使用 __init__.py你一定会遇到的问题模www.

SpringBoot首笔交易慢问题排查与优化方案

《SpringBoot首笔交易慢问题排查与优化方案》在我们的微服务项目中,遇到这样的问题:应用启动后,第一笔交易响应耗时高达4、5秒,而后续请求均能在毫秒级完成,这不仅触发监控告警,也极大影响了用户体... 目录问题背景排查步骤1. 日志分析2. 性能工具定位优化方案:提前预热各种资源1. Flowable

SpringBoot3实现Gzip压缩优化的技术指南

《SpringBoot3实现Gzip压缩优化的技术指南》随着Web应用的用户量和数据量增加,网络带宽和页面加载速度逐渐成为瓶颈,为了减少数据传输量,提高用户体验,我们可以使用Gzip压缩HTTP响应,... 目录1、简述2、配置2.1 添加依赖2.2 配置 Gzip 压缩3、服务端应用4、前端应用4.1 N

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

Java并发编程必备之Synchronized关键字深入解析

《Java并发编程必备之Synchronized关键字深入解析》本文我们深入探索了Java中的Synchronized关键字,包括其互斥性和可重入性的特性,文章详细介绍了Synchronized的三种... 目录一、前言二、Synchronized关键字2.1 Synchronized的特性1. 互斥2.

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

一文详解SpringBoot响应压缩功能的配置与优化

《一文详解SpringBoot响应压缩功能的配置与优化》SpringBoot的响应压缩功能基于智能协商机制,需同时满足很多条件,本文主要为大家详细介绍了SpringBoot响应压缩功能的配置与优化,需... 目录一、核心工作机制1.1 自动协商触发条件1.2 压缩处理流程二、配置方案详解2.1 基础YAML