Oracle并行操作——并行查询(Parallel Query)

2024-04-02 08:18

本文主要是介绍Oracle并行操作——并行查询(Parallel Query),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

“Parallel Query option is essentially nonscalable”——《Practical Oracle8i:Building Efficient Database》

 

Oracle的并行操作特性,本质上就是强行榨取除数据库服务器空闲资源(主要是CPU资源),对一些高负荷大数据量数据进行分治处理。并行操作是一种非确定性的优化策略,在选择的时候要小心对待。目前,使用并行操作特性的主要有下面几个方面:

 

ü        Parallel Query:并行查询,使用多个操作系统级别的Server Process来同时完成一个SQL查询;

ü        Parallel DML:并行DML操作。类似于Parallel Query。当要对大数据量表进行DML操作,如insert、update和delete的时候,可以考虑使用;

ü        Parallel DDL:并行DDL操作。如进行大容量数据表构建、索引rebuild等操作;

ü        Parallel Recovery,并行恢复。当数据库实例崩溃重新启动,或者进行存储介质恢复的时候,可以启动并行恢复技术。从而达到减少恢复时间的目的;

ü        Procedural Parallel,过程代码并行化。对我们编写的代码片段、存储过程或者函数,可以实现执行的并行化,从而加快执行效率;

 

1、并行查询Parallel Query

 

并行查询是比较基础的技术,也是OLAP和Oracle Data Warehouse经常使用的一种并行技术。同本系列前面一直强调的要素相同,在确定使用并行技术之前,要确定软硬件的一些先决条件:

 

ü        任务task必要条件。备选进行并行操作的任务task必须是一个大任务作业,比如,长时间的查询。任务时间通常可以以分钟、小时进行计数。只有这样的任务和需要,才值得让我们冒险使用并行操作方案;

ü        资源闲置条件。只有在数据库服务器资源存在闲置的时候,才可以考虑进行并行处理。如果经常性的繁忙,贸然使用并行只能加剧资源的争用。

 

 

并行操作最大的风险在于并行争用引起的效率不升反降。所以,要在确定两个前提之后,再进行并行规划处理。

 

 

2、环境准备

 

首先,准备实验环境。由于笔者使用的一般家用PC虚拟机,所以并行度和存储量不能反映真实条件需求,见谅。

 

 

SQL> select * from v$version where rownum<2;

 

BANNER

--------------------------------------------------------------------------------

Oracle Database 11g Enterprise Edition Release 11.2.0.1.0 - Production

 

SQL> select count(*) from t;

 

  COUNT(*)

----------

   1160704

 

 

选择11gR2服务器环境,数据表T总数据量超过一百万。

 

首先,我们观察一下不使用并行的执行情况。

 

//提取出使用游标信息;

SQL> select sql_text, sql_id, version_count from v$sqlarea where sql_text like 'select count(*) from t%';

 

SQL_TEXT                       SQL_ID        VERSION_COUNT

------------------------------ ------------- -------------

select count(*) from t         2jkn7rpsbj64t             2

 

SQL> select * from table(dbms_xplan.display_cursor('2jkn7rpsbj64t',format => 'advanced', cursor_child_no => 0));

 

PLAN_TABLE_OUTPUT

--------------------------------------------------------------------------------

SQL_ID  2jkn7rpsbj64t, child number 0

-------------------------------------

select count(*) from t

Plan hash value: 2966233522

-------------------------------------------------------------------

| Id  | Operation          | Name | Rows  | Cost (%CPU)| Time     |

-------------------------------------------------------------------

|   0 | SELECT STATEMENT   |      |       |  4464 (100)|          |

|   1 |  SORT AGGREGATE    |      |     1 |            |          |

|   2 |   TABLE ACCESS FULL| T    |  1160K|  4464   (1)| 00:00:54 |

------------------------------------------------------------------- 

 

 

该执行计划中没有使用并行特性,进行全表扫描。执行时间为54s

 

3、并行查询计划

 

首先,我们设置相应的并行度。设置并行度有两种方式,一种是使用hint加在特定的SQL语句上。另一种是对大对象设置并行度属性。

 

前者的优点是带有一定的强制性和针对性。就是指定特定的SQL语句进行并行处理。这样的优点是易于控制并行度,缺点是带有很强的强制力,当数据量偏小的时候,使用并行优势不大。而且如果是显示指定并行度,又会带来移植伸缩性差的缺点。

 

后者通过对象的属性指定并行度。就将并行作为一种执行手段,提供给优化器进行选择。这样,CBO会根据系统中资源的情况和数据的实际,进行执行计划生成。计划中可能是并行,也可能不是并行。这样的优点是将并行与否交予优化器CBO去判断,缺点是并行的滥用风险。

 

 

此处,笔者设置自动确定并行度的方式。

 

 

SQL> alter table t parallel;

Table altered

 

SQL> select count(*) from t;

  COUNT(*)

----------

   1160704

 

 

当启动查询时,Oracle中的并行伺候进程池会根据系统中的负荷和实际因素,确定分配出的并行进程数量。此时,我们可以通过视图v$px_process来查看进程池中的连接信息。

 

 

SQL> select * from v$px_process;

 

SERVER_NAME STATUS           PID SPID              SID    SERIAL#

----------- --------- ---------- ------------------------ ---------- ----------

P000        AVAILABLE         25 5776                               

P001        AVAILABLE         26 5778                               

 

 

注意,并行伺候进程是一种特殊的Server Process,本质上是一种可共享的slave进程。专用连接模式下,一般的Server Process与Client Process是“同生共死”的关系,终身服务于一个Client Process。而伺候slave进程是通过进程池进行管理的,一旦启动初始化,就会在一定时间内驻留在系统中,等待下次并行处理到来。

 

此时,我们检查v$process视图,也可以找到对应的信息。

 

 

SQL> select * from v$process;

 

PID SPID          PNAME USERNAME           SERIAL# PROGRAM       

-------- ---------- ------------------------ ----- --------------- ---------- -------------------------------

25 5776           P000  oracle                  13 oracle@oracle11g (P000)     

26 5778           P001  oracle                   6 oracle@oracle11g (P001)     

 

(篇幅原因,有省略……)

32 rows selected

 

 

对应的OS中,也存在相应的真实进程伺候。

 

 

[oracle@oracle11g ~]$ ps -ef | grep oracle

(篇幅原因,有省略……)

oracle    5700     1  0 17:29 ?        00:00:02 oraclewilson (LOCAL=NO)

oracle    5723     1  0 17:33 ?        00:00:00 ora_smco_wilson

oracle    5764     1  2 17:40 ?        00:00:05 oraclewilson (LOCAL=NO)

oracle    5774     1  0 17:42 ?        00:00:00 oraclewilson (LOCAL=NO)

oracle    5776     1  0 17:43 ?        00:00:00 ora_p000_wilson

oracle    5778     1  0 17:43 ?        00:00:00 ora_p001_wilson

oracle    5820     1  1 17:44 ?        00:00:00 ora_w000_wilson

 

 

由于此时查询已经结束,对应的并行会话信息,已经消失不可见。

 

 

SQL> select * from v$px_session;

 

SADDR           SID    SERIAL#      QCSID  QCSERIAL# 

-------- ---------- ---------- ---------- ----------

 

 

但是,如果任务的时间长,是可以捕获到对应信息的。

 

从上面的情况看,我们执行一个并行操作时,Oracle会从伺候进程池中获取到对应的并行进程,来进行操作。当操作完成后,伺候进程还会等待一定时间,之后回收。

 

并行操作进程的资源消耗,通过v$px_sysstat视图查看。

 

 

 

SQL> col statistic for a30;

SQL> select * from v$px_process_sysstat;

 

STATISTIC                           VALUE

------------------------------ ----------

Servers In Use                          0

Servers Available                       0

Servers Started                         2

Servers Shutdown                        2

Servers Highwater                       2

Servers Cleaned Up                      0

Server Sessions                         6

Memory Chunks Allocated                 4

Memory Chunks Freed                     0

Memory Chunks Current                   4

Memory Chunks HWM                       4

Buffers Allocated                      30

Buffers Freed                          30

Buffers Current                         0

Buffers HWM                             8

 

15 rows selected

 

 

 

下面,我们检查一下执行计划信息。

 

 

SQL> set pagesize 10000;

SQL> select * from table(dbms_xplan.display_cursor('2jkn7rpsbj64t',format => 'advanced',cursor_child

_no => 1));

 

PLAN_TABLE_OUTPUT

----------------------------------------------------------------------------------------------------

SQL_ID  2jkn7rpsbj64t, child number 1

-------------------------------------

select count(*) from t

 

Plan hash value: 3126468333

----------------------------------------------------------------------------------------------------

| Id  | Operation              | Name     | Rows  | Cost (%CPU)| Time     |    TQ  |IN-OUT| PQ Distrib

----------------------------------------------------------------------------------------------------

|   0 | SELECT STATEMENT       |          |       |  2478 (100)|          |        |      |           

|   1 |  SORT AGGREGATE        |          |     1 |            |          |        |      |           

|   2 |   PX COORDINATOR       |          |       |            |          |        |      |           

|   3 |    PX SEND QC (RANDOM) | :TQ10000 |     1 |            |          |  Q1,00 | P->S | QC (RAND) 

|   4 |     SORT AGGREGATE     |          |     1 |            |          |  Q1,00 | PCWP |           

|   5 |      PX BLOCK ITERATOR |          |  1160K|  2478   (1)| 00:00:30 |  Q1,00 | PCWC |           

|*  6 |       TABLE ACCESS FULL| T        |  1160K|  2478   (1)| 00:00:30 |  Q1,00 | PCWP |           

----------------------------------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

   6 - access(:Z>=:Z AND :Z<=:Z)

 

 

 

从执行计划的条件(6 - access(:Z>=:Z AND :Z<=:Z))中,我们可以看到任务分配,之后分别进行全表扫描。最后排序计算count,合并结果的过程。

 

4、结论

 

Oracle Parallel Query是经常使用到的一种并行操作技术。相对于DDL、DML等类型操作,并行查询更可以作为系统功能的一个步骤来进行。

 

进行并行查询最大的风险就是并行滥用和失控的出现。这也是Oracle一直致力解决的问题。在Oracle11gR2中,引入了Parallel Statement Queuing(PSQ)技术特性。通常,只要并行伺候池允许,Oracle会引入尽可能多的并行进程进行操作。PSQ技术的出现,就是从资源角度加入了并行控制。

 

 

当系统繁忙的时候,PSQ会将一些要进行的并行操作进入等待状态,防止并行环境的恶化。当环境好转之后,等待队列中的并行语句就进入执行状态。这个特性就可以有效的防止并行滥用的出现。

 

这篇关于Oracle并行操作——并行查询(Parallel Query)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/869453

相关文章

MyBatis分页查询实战案例完整流程

《MyBatis分页查询实战案例完整流程》MyBatis是一个强大的Java持久层框架,支持自定义SQL和高级映射,本案例以员工工资信息管理为例,详细讲解如何在IDEA中使用MyBatis结合Page... 目录1. MyBATis框架简介2. 分页查询原理与应用场景2.1 分页查询的基本原理2.1.1 分

oracle 11g导入\导出(expdp impdp)之导入过程

《oracle11g导入导出(expdpimpdp)之导入过程》导出需使用SEC.DMP格式,无分号;建立expdir目录(E:/exp)并确保存在;导入在cmd下执行,需sys用户权限;若需修... 目录准备文件导入(impdp)1、建立directory2、导入语句 3、更改密码总结上一个环节,我们讲了

Java Stream 并行流简介、使用与注意事项小结

《JavaStream并行流简介、使用与注意事项小结》Java8并行流基于StreamAPI,利用多核CPU提升计算密集型任务效率,但需注意线程安全、顺序不确定及线程池管理,可通过自定义线程池与C... 目录1. 并行流简介​特点:​2. 并行流的简单使用​示例:并行流的基本使用​3. 配合自定义线程池​示

从原理到实战解析Java Stream 的并行流性能优化

《从原理到实战解析JavaStream的并行流性能优化》本文给大家介绍JavaStream的并行流性能优化:从原理到实战的全攻略,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的... 目录一、并行流的核心原理与适用场景二、性能优化的核心策略1. 合理设置并行度:打破默认阈值2. 避免装箱

Java实现复杂查询优化的7个技巧小结

《Java实现复杂查询优化的7个技巧小结》在Java项目中,复杂查询是开发者面临的“硬骨头”,本文将通过7个实战技巧,结合代码示例和性能对比,手把手教你如何让复杂查询变得优雅,大家可以根据需求进行选择... 目录一、复杂查询的痛点:为何你的代码“又臭又长”1.1冗余变量与中间状态1.2重复查询与性能陷阱1.

MySQL中查询和展示LONGBLOB类型数据的技巧总结

《MySQL中查询和展示LONGBLOB类型数据的技巧总结》在MySQL中LONGBLOB是一种二进制大对象(BLOB)数据类型,用于存储大量的二进制数据,:本文主要介绍MySQL中查询和展示LO... 目录前言1. 查询 LONGBLOB 数据的大小2. 查询并展示 LONGBLOB 数据2.1 转换为十

使用SpringBoot+InfluxDB实现高效数据存储与查询

《使用SpringBoot+InfluxDB实现高效数据存储与查询》InfluxDB是一个开源的时间序列数据库,特别适合处理带有时间戳的监控数据、指标数据等,下面详细介绍如何在SpringBoot项目... 目录1、项目介绍2、 InfluxDB 介绍3、Spring Boot 配置 InfluxDB4、I

Go语言使用Gin处理路由参数和查询参数

《Go语言使用Gin处理路由参数和查询参数》在WebAPI开发中,处理路由参数(PathParameter)和查询参数(QueryParameter)是非常常见的需求,下面我们就来看看Go语言... 目录一、路由参数 vs 查询参数二、Gin 获取路由参数和查询参数三、示例代码四、运行与测试1. 测试编程路

MySQL 数据库表与查询操作实战案例

《MySQL数据库表与查询操作实战案例》本文将通过实际案例,详细介绍MySQL中数据库表的设计、数据插入以及常用的查询操作,帮助初学者快速上手,感兴趣的朋友跟随小编一起看看吧... 目录mysql 数据库表操作与查询实战案例项目一:产品相关数据库设计与创建一、数据库及表结构设计二、数据库与表的创建项目二:员

Linux查询服务器 IP 地址的命令详解

《Linux查询服务器IP地址的命令详解》在服务器管理和网络运维中,快速准确地获取服务器的IP地址是一项基本但至关重要的技能,下面我们来看看Linux中查询服务器IP的相关命令使用吧... 目录一、hostname 命令:简单高效的 IP 查询工具命令详解实际应用技巧注意事项二、ip 命令:新一代网络配置全