Hive-2.HiveQL查询中JOIN语句

2023-11-29 04:08
文章标签 查询 join hive 语句 hiveql

本文主要是介绍Hive-2.HiveQL查询中JOIN语句,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Hive支持常用到的SQL JOIN语句,但是只支持等值连接。

4.1 INNER JOIN

内连接(INNER JOIN)中,只有进行连接的两个表中都存在与连接标准相匹配的数据才会展示出来。例如: 查询每个部门下的员工列表

 

查询语句:

select  t.deptname,e.name 

from  employees  e inner join dept t

on e.deptno=t.deptno

 

查询结果:

t.deptname      e.name

bss     wangwu1

bss     wangwu2

pso     wangwu3

pso     wangwu4

4.2 JOIN优化

Hive同时假定查询中的最后一个表示最大的那个表。在对每行记录进行连接操作时候,他们会尝试将其他的表缓存起来,然后扫描最后的那个表进行计算。因此,用户需要保证连接的表的大小从左到有是依次增加的。

 

假定dept是小表,employees是大表,一般的解决方案:

select  t.deptname,e.name 

from dept t  join employees  e

on t.deptno=e.deptno

 

但是,用户并非总是要讲最大的放置在查询语句的最后面。这是因为Hive还提供了一个“标记”机制来显示地告知查询优化器哪张表是最大的表,使用方式如下:

select /*+STREAMTABLE(e1)*/ t.deptname,e1.name

from   employees e1 join dept t on t.deptno=e1.deptno

where e1.country='China';

 

 

除上述join的优化外,也可以通过map-site join进行优化。

4.3 LEFT/RIGHT OUTER JOIN 

left join left outer join的简写,left join默认是outer属性的。

 

通过两种方法分别统计  查询每个部门的员工人员列表 

l 使用left join:左边关联的表全部显示出来

 

select  t.deptname,case when e.name is NULL then '该部门暂无人员' else e.name  end as name 

from dept t left join employees  e

on t.deptno=e.deptno

 

 

输出结果:

t.deptname      name

bss     wangwu1

bss     wangwu2

pso     wangwu3

pso     wangwu4

bdx     该部门暂无人员

 

l 使用right join: 右边的表数据全部显示出来

 

select  t.deptname,case when e.name is NULL then '该部门暂无人员' else e.name  end as name 

from  employees  e right join dept t

on e.deptno=t.deptno;

 

输出结果:

t.deptname      name

bss     wangwu1

bss     wangwu2

pso     wangwu3

pso     wangwu4

bdx     该部门暂无人员

4.5 LEFT SEMI-JOIN

查询所有的员工信息,这些员工的信息所属部门必须在dept

两种方案可以实现:

方案1:通过INNER JOIN

select e.*

from dept t inner join employees  e

on t.deptno=e.deptno

 

 

方案2:通过LEFT SEMI JOIN

select  e.*

from employees e

left semi join  

dept t

on  (

e.deptno=t.deptno

and t.deptno='d001')

 

 

注意: SELECTWHERE语句中不能饮用到右边表中的字段

 

通过两种实现对比,一般情况下LEFT SEMI JOININNER JOIN要更高效,原因如下:对于左表中的一条记录,在右边表中一旦找到匹配的记录,Hive就立即停止扫描。而不是匹配上要再次全表扫描右边的表。需要注意的: 通过这两个方案还有一个区别,就是若右边的表dept存在重复的记录,查询的结果是不一样的,原因就在于在查找dept记录时候存在是否终止的问题。

 

4.6 笛卡尔积JOIN

笛卡尔积是一种连接,表示左表和行数乘以右表的行数就是笛卡尔积的结果。

 

select * from dept t join employees  e;

 

一般情况下,这种没有条件的业务很少存在,但是笛卡尔积在一些情况下是很有用的。例如:

假设: 用户偏好表A,新闻文章B,同时有一个算法推测出用户(A)可能会喜欢读哪些文章(B),这个时候就需要使用笛卡尔积生成用户A和文章B所有网页的对应关系的集合

 

 

4.6 map-site JOIN

如果所有表中只有一张表是小表,那么可以在最大的表通过Mapper的时候将小标完全放倒内存中。Hive可以在map端执行连接过程(称为map-site join)。这样做的优点:

l 小表加入内存,省去常规连接操作所需要的reduce过程

l 同时减少map过程的执行步骤

 

需要注意的是,用户有两种方式使用该功能

(1) 直接通过SQL声明

select /*+mapjoin(t)*/ t.deptname,e1.name

from   employees e1 join dept t on t.deptno=e1.deptno

where e1.country='China';

(2) Hive配置来启用,用户也可以配置能够使用这个优化的小表大小

set hive.auto.convert.join=true;

set hive.mapjoin.smalltable.filesize=250000;

select  t.deptname,e1.name

from   employees e1 join dept t on t.deptno=e1.deptno

where e1.country='China';

这篇关于Hive-2.HiveQL查询中JOIN语句的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/431387

相关文章

SQL 中多表查询的常见连接方式详解

《SQL中多表查询的常见连接方式详解》本文介绍SQL中多表查询的常见连接方式,包括内连接(INNERJOIN)、左连接(LEFTJOIN)、右连接(RIGHTJOIN)、全外连接(FULLOUTER... 目录一、连接类型图表(ASCII 形式)二、前置代码(创建示例表)三、连接方式代码示例1. 内连接(I

在MySQL执行UPDATE语句时遇到的错误1175的解决方案

《在MySQL执行UPDATE语句时遇到的错误1175的解决方案》MySQL安全更新模式(SafeUpdateMode)限制了UPDATE和DELETE操作,要求使用WHERE子句时必须基于主键或索引... mysql 中遇到的 Error Code: 1175 是由于启用了 安全更新模式(Safe Upd

轻松上手MYSQL之JSON函数实现高效数据查询与操作

《轻松上手MYSQL之JSON函数实现高效数据查询与操作》:本文主要介绍轻松上手MYSQL之JSON函数实现高效数据查询与操作的相关资料,MySQL提供了多个JSON函数,用于处理和查询JSON数... 目录一、jsON_EXTRACT 提取指定数据二、JSON_UNQUOTE 取消双引号三、JSON_KE

java如何通过Kerberos认证方式连接hive

《java如何通过Kerberos认证方式连接hive》该文主要介绍了如何在数据源管理功能中适配不同数据源(如MySQL、PostgreSQL和Hive),特别是如何在SpringBoot3框架下通过... 目录Java实现Kerberos认证主要方法依赖示例续期连接hive遇到的问题分析解决方式扩展思考总

查询SQL Server数据库服务器IP地址的多种有效方法

《查询SQLServer数据库服务器IP地址的多种有效方法》作为数据库管理员或开发人员,了解如何查询SQLServer数据库服务器的IP地址是一项重要技能,本文将介绍几种简单而有效的方法,帮助你轻松... 目录使用T-SQL查询方法1:使用系统函数方法2:使用系统视图使用SQL Server Configu

MYSQL关联关系查询方式

《MYSQL关联关系查询方式》文章详细介绍了MySQL中如何使用内连接和左外连接进行表的关联查询,并展示了如何选择列和使用别名,文章还提供了一些关于查询优化的建议,并鼓励读者参考和支持脚本之家... 目录mysql关联关系查询关联关系查询这个查询做了以下几件事MySQL自关联查询总结MYSQL关联关系查询

数据库使用之union、union all、各种join的用法区别解析

《数据库使用之union、unionall、各种join的用法区别解析》:本文主要介绍SQL中的Union和UnionAll的区别,包括去重与否以及使用时的注意事项,还详细解释了Join关键字,... 目录一、Union 和Union All1、区别:2、注意点:3、具体举例二、Join关键字的区别&php

Java实现Elasticsearch查询当前索引全部数据的完整代码

《Java实现Elasticsearch查询当前索引全部数据的完整代码》:本文主要介绍如何在Java中实现查询Elasticsearch索引中指定条件下的全部数据,通过设置滚动查询参数(scrol... 目录需求背景通常情况Java 实现查询 Elasticsearch 全部数据写在最后需求背景通常情况下

查询Oracle数据库表是否被锁的实现方式

《查询Oracle数据库表是否被锁的实现方式》本文介绍了查询Oracle数据库表是否被锁的方法,包括查询锁表的会话、人员信息,根据object_id查询表名,以及根据会话ID查询和停止本地进程,同时,... 目录查询oracle数据库表是否被锁1、查询锁表的会话、人员等信息2、根据 object_id查询被

Oracle查询优化之高效实现仅查询前10条记录的方法与实践

《Oracle查询优化之高效实现仅查询前10条记录的方法与实践》:本文主要介绍Oracle查询优化之高效实现仅查询前10条记录的相关资料,包括使用ROWNUM、ROW_NUMBER()函数、FET... 目录1. 使用 ROWNUM 查询2. 使用 ROW_NUMBER() 函数3. 使用 FETCH FI