Postgresql中VACUUM操作原理和应用

2024-02-29 07:12

本文主要是介绍Postgresql中VACUUM操作原理和应用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

VACUUM操作在PostgreSQL中的底层原理涉及几个关键概念,包括MVCC(多版本并发控制)、事务ID包裹、以及垃圾回收机制。我们逐一解析这些概念,以及它们是如何与VACUUM操作相互作用的。

关键概念

1. MVCC(多版本并发控制)

PostgreSQL使用MVCC来支持高并发,允许数据读取操作在不加锁的情况下进行,从而不会被写入操作阻塞。在MVCC模型中,每一次数据的更新或删除操作都会生成数据的一个新版本(即新的行版本或称为"行快照"),而不是直接在原始数据上进行修改。这意味着表中的数据在某一时刻可能存在多个版本。

2. 事务ID和事务ID包裹

在PostgreSQL中,每个事务都会被分配一个唯一的事务ID(XID),用于标识数据行版本的创建和失效时间。因为事务ID是有限的(一个32位的计数器,约有40亿个可能的值),所以存在所谓的事务ID包裹的风险。当事务ID达到上限后,它会回绕到最小值,可能导致数据版本的可见性判断出错。为了防止这种情况,PostgreSQL引入了VACUUM操作来冻结旧的行版本的事务ID,避免事务ID包裹问题。

3. 垃圾回收

由于MVCC机制,当数据行被更新或删除时,旧的数据版本不会立即被移除,而是留在表中作为历史版本,直到不再被任何事务所需要。这些不再需要的行版本称为"垃圾"。随着时间的推移,这些垃圾会累积,占用磁盘空间,降低查询性能。

VACUUM操作的工作原理

在PostgreSQL中,VACUUM操作的主要目的是清理这些不再需要的行版本,回收被占用的空间,并且更新表的统计信息以优化查询性能。当你删除或更新表中的数据时,这些旧数据不会立即从磁盘上删除,而是被标记为废弃数据,等待后续的回收。VACUUM操作就是负责这一回收过程的。具体来说:

回收空间

VACUUM遍历表中的所有行,查找那些被标记为已删除的行版本。如果这些行版本不再被任何事务所需要(即,没有任何活跃的事务会看到这些行版本),VACUUM就会将这些空间标记为可重用,以供未来的INSERT操作使用。

防止事务ID包裹

VACUUM会"冻结"旧的行版本的事务ID,即将它们标记为在任何情况下都可见,从而防止事务ID包裹问题。

更新统计信息

VACUUM还会收集表和索引的统计信息,帮助PostgreSQL的查询优化器制定更有效的查询计划。

具体操作

基本VACUUM

VACUUM [表名];

不指定表名将对整个数据库的所有表进行VACUUM操作。这个操作不需要锁定表,因此不会对正常的数据库操作产生太大影响。

带参数的VACUUM

VACUUM (VERBOSE, ANALYZE) [表名];

VERBOSE:提供详细的VACUUM操作日志。
ANALYZE:在VACUUM操作后,收集表和索引的统计信息,帮助优化查询。

VACUUM FULL

VACUUM FULL [表名];

VACUUM FULL会重写表到一个新的磁盘文件,以此彻底回收空间,但它会对表加上排他锁,影响表的并发访问。

与普通的VACUUM操作不同,VACUUM FULL会对表进行重写,删除表中所有未使用的空间,并可能改变表中行的物理顺序。这种操作会对表加上排他锁,影响并发性能,但可以回收更多的空间。
总的来说,VACUUM操作是PostgreSQL中维持数据库性能和防止事务ID包裹的关键工具。通过定期的VACUUM操作,可以确保数据库的健康运行和高效性能。

自动VACUUM

什么时候会触发自动 VACUUM

1.基于阈值:当表中的更新、删除操作导致的"死"元组(即不再对任何事务可见的行版本)数量达到一定阈值时,自动 VACUUM 会被触发。这个阈值由几个配置参数决定,主要是 autovacuum_vacuum_threshold 和 autovacuum_vacuum_scale_factor。例如,如果一个表有 10000 行,autovacuum_vacuum_threshold 设置为 50,autovacuum_vacuum_scale_factor 设置为 0.2,那么当表中至少有 50 + 10000 * 0.2 = 2050 个死元组时,自动 VACUUM 会被触发。

2.基于事务ID的包裹防护:为了防止事务ID包裹(wraparound)问题,PostgreSQL 会自动执行 VACUUM 操作以"冻结"旧版本的行,即将它们的事务ID标记为永久可见,以避免事务ID耗尽。
 

自动 VACUUM 会执行哪些操作

1.垃圾回收:自动 VACUUM 会清理表中不再需要的行版本(即"死"元组),释放被这些行版本占用的空间以供将来的插入操作使用。

2.防止事务ID包裹:通过"冻结"旧的行版本,自动 VACUUM 帮助避免事务ID包裹问题,确保数据库能长期稳定运行。

3.更新统计信息:自动 VACUUM 还会更新表和索引的统计信息,这对于查询优化器(planner/optimizer)制定有效的查询计划非常重要。

4.索引维护:自动 VACUUM 会清理和维护索引,移除指向已删除行的索引项,保持索引的效率和准确性。

配置自动 VACUUM

PostgreSQL 提供了多个配置选项来控制自动 VACUUM 的行为,包括但不限于:

1.autovacuum:启用或禁用自动 VACUUM 功能。

2.autovacuum_vacuum_scale_factor 和 autovacuum_vacuum_threshold:这两个参数合作决定了触发自动 VACUUM 的死元组数量阈值。

3.autovacuum_vacuum_cost_delay 和 autovacuum_vacuum_cost_limit:这些参数用于控制自动 VACUUM 对系统资源的使用,以减少它对数据库其他活动的影响。
自动 VACUUM 旨在减少数据库管理员的维护工作,确保数据库性能和稳定性,但在某些高负载或特殊需求的场景下,可能还需要手动调整 VACUUM 的配置或执行手动 VACUUM。

注意事项


性能影响

虽然普通的VACUUM操作对数据库操作的影响较小,但VACUUM FULL操作可能会显著影响数据库性能,因为它需要对表加锁。

自动VACUUM

PostgreSQL有自动VACUUM的机制,可以自动回收废弃空间和更新统计信息。但在某些情况下,手动执行VACUUM可能更为必要,例如在大量删除操作后手动执行VACUUM以快速回收空间。

安全性

在执行VACUUM FULL时,必须确保有足够的磁盘空间,因为它会临时需要额外空间来重写表文件。


综上所述,VACUUM操作是PostgreSQL数据库管理中的一个重要环节,合理的使用VACUUM能够帮助维护数据库的健康状态和优化性能。


 

这篇关于Postgresql中VACUUM操作原理和应用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/757962

相关文章

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

水位雨量在线监测系统概述及应用介绍

在当今社会,随着科技的飞速发展,各种智能监测系统已成为保障公共安全、促进资源管理和环境保护的重要工具。其中,水位雨量在线监测系统作为自然灾害预警、水资源管理及水利工程运行的关键技术,其重要性不言而喻。 一、水位雨量在线监测系统的基本原理 水位雨量在线监测系统主要由数据采集单元、数据传输网络、数据处理中心及用户终端四大部分构成,形成了一个完整的闭环系统。 数据采集单元:这是系统的“眼睛”,

深入探索协同过滤:从原理到推荐模块案例

文章目录 前言一、协同过滤1. 基于用户的协同过滤(UserCF)2. 基于物品的协同过滤(ItemCF)3. 相似度计算方法 二、相似度计算方法1. 欧氏距离2. 皮尔逊相关系数3. 杰卡德相似系数4. 余弦相似度 三、推荐模块案例1.基于文章的协同过滤推荐功能2.基于用户的协同过滤推荐功能 前言     在信息过载的时代,推荐系统成为连接用户与内容的桥梁。本文聚焦于

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

hdu1394(线段树点更新的应用)

题意:求一个序列经过一定的操作得到的序列的最小逆序数 这题会用到逆序数的一个性质,在0到n-1这些数字组成的乱序排列,将第一个数字A移到最后一位,得到的逆序数为res-a+(n-a-1) 知道上面的知识点后,可以用暴力来解 代码如下: #include<iostream>#include<algorithm>#include<cstring>#include<stack>#in

zoj3820(树的直径的应用)

题意:在一颗树上找两个点,使得所有点到选择与其更近的一个点的距离的最大值最小。 思路:如果是选择一个点的话,那么点就是直径的中点。现在考虑两个点的情况,先求树的直径,再把直径最中间的边去掉,再求剩下的两个子树中直径的中点。 代码如下: #include <stdio.h>#include <string.h>#include <algorithm>#include <map>#

hdu4407(容斥原理)

题意:给一串数字1,2,......n,两个操作:1、修改第k个数字,2、查询区间[l,r]中与n互质的数之和。 解题思路:咱一看,像线段树,但是如果用线段树做,那么每个区间一定要记录所有的素因子,这样会超内存。然后我就做不来了。后来看了题解,原来是用容斥原理来做的。还记得这道题目吗?求区间[1,r]中与p互质的数的个数,如果不会的话就先去做那题吧。现在这题是求区间[l,r]中与n互质的数的和

【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

伴随着区块链技术的不断完善,其在教育信息化中的应用也在持续发展。利用区块链数据共识、不可篡改的特性, 将与教育相关的数据要素在区块链上进行存证确权,在确保数据可信的前提下,促进教育的公平、透明、开放,为教育教学质量提升赋能,实现教育数据的安全共享、高等教育体系的智慧治理。 可信教育区块链治理系统的顶层治理架构由教育部、高校、企业、学生等多方角色共同参与建设、维护,支撑教育资源共享、教学质量评估、

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件,然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它,快速获取到想要知道的信息。https://www.chatpdf.com/

【区块链 + 人才服务】区块链集成开发平台 | FISCO BCOS应用案例

随着区块链技术的快速发展,越来越多的企业开始将其应用于实际业务中。然而,区块链技术的专业性使得其集成开发成为一项挑战。针对此,广东中创智慧科技有限公司基于国产开源联盟链 FISCO BCOS 推出了区块链集成开发平台。该平台基于区块链技术,提供一套全面的区块链开发工具和开发环境,支持开发者快速开发和部署区块链应用。此外,该平台还可以提供一套全面的区块链开发教程和文档,帮助开发者快速上手区块链开发。