zdppy+vue3+onlyoffice文档管理系统实战 20240825上课笔记 zdppy_cache框架增加resize清理缓存的方法

本文主要是介绍zdppy+vue3+onlyoffice文档管理系统实战 20240825上课笔记 zdppy_cache框架增加resize清理缓存的方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

遗留问题

  • 设置缓存,已完成
  • 获取缓存,已实现
  • 删除缓存,已实现
  • 查询所有key,带查询参数:active只查激活的,value包含value默认只获取key
  • 查询缓存大小
  • 清空缓存
  • 判断是否为管理员

实现删除缓存的接口

async def delete(req):"""删除缓存的接口"""data = await api.req.get_json(req)key = data.get("key")admin_cache.delete(key)return api.resp.success()

测试:

req -X DELETE -d '{\"key\":1}' http://127.0.0.1:8888/zdppy_cache

查询缓存接口

基本设计

批量查询缓存信息:
```bash
# 默认查询所有的key,
req  http://127.0.0.1:8888/zdppy_caches# 只查询未过期的keys
req -d '{\"active\":true}' http://127.0.0.1:8888/zdppy_caches# 查看key-value格式
req -d '{\"active\":true, \"value\":true}' http://127.0.0.1:8888/zdppy_caches# 查询详细缓存信息
req -d '{\"active\":true, \"value\":true, \"detail\":true}' http://127.0.0.1:8888/zdppy_caches

先实现默认查询所有的key

async def query(req):"""查询缓存的接口"""params = await api.req.get_json(req)if params.get("error"):params = Nonedata = admin_cache.get_all_keys()return api.resp.success({"query": params,"data": data,})

只查询未过期的

async def query(req):"""查询缓存的接口"""params = await api.req.get_json(req)data = []if params.get("error"):params = None# 查询所有的keydata = admin_cache.get_all_keys()elif params.get("active"):# 只查询未过期的data = admin_cache.get_all_keys(True)return api.resp.success({"query": params,"data": data,})

设置缓存:

req -X POST -d '{\"key\":1,\"value\":111, \"expire\": 1}' http://127.0.0.1:8888/zdppy_cache
req -X POST -d '{\"key\":2,\"value\":222, \"expire\": 2}' http://127.0.0.1:8888/zdppy_cache
req -X POST -d '{\"key\":3,\"value\":333, \"expire\": 333}' http://127.0.0.1:8888/zdppy_cache

先查询所有的key:

req http://127.0.0.1:8888/zdppy_caches

只查询未过期的key:

req -d '{\"active\":true}' http://127.0.0.1:8888/zdppy_caches

自动清理缓存的逻辑

底层核心代码

def _cull(self, now, sql, cleanup, limit=None):"""这个方法是用来清空过期缓存的,无论是否超过限制:param now: 当前时间的秒值,浮点数:param sql: 执行清除的SQL语句:param cleanup: 要清除的文件夹(缓存对象):param limit: 限制多少"""cull_limit = self.cull_limit if limit is None else limitif cull_limit == 0:return# 查询已经过期的keyselect_expired_template = ('SELECT %s FROM Cache'' WHERE expire_time IS NOT NULL AND expire_time < ?'' ORDER BY expire_time LIMIT ?')select_expired = select_expired_template % 'filename'rows = sql(select_expired, (now, cull_limit)).fetchall()if rows:# 如果查询到了就删除delete_expired = 'DELETE FROM Cache WHERE rowid IN (%s)' % (select_expired_template % 'rowid')sql(delete_expired, (now, cull_limit))for (filename,) in rows:cleanup(filename)cull_limit -= len(rows)if cull_limit == 0:return# Evict keys by policy.select_policy = EVICTION_POLICY[self.eviction_policy]['cull']if select_policy is None or self.volume() < self.size_limit:returnselect_filename = select_policy.format(fields='filename', now=now)rows = sql(select_filename, (cull_limit,)).fetchall()if rows:delete = 'DELETE FROM Cache WHERE rowid IN (%s)' % (select_policy.format(fields='rowid', now=now))sql(delete, (cull_limit,))for (filename,) in rows:cleanup(filename)

现在的问题

我们每次set的时候,它都会触发,默认会删除最早过期的十个缓存。

这样不太合理?

因为我只有三个缓存,但是因为过期时间可能比较短,会导致每次set的时候,另一个都可能被删除,这样的库里面找不到全量的记录。

这个方法默认只删除十条,少的时候删除了不爽。多的时候,比如一下子几百个过期,只删除10条好像也没啥用?

你拿过期的缓存来干啥?

  • 1、开发运维的时候可以查询
  • 2、可以感知到别人的攻击,留底别人的记录,比如一下子多了很多失效的验证码,这属于异常数据,可以被分析出来

什么时候清除合适?

  • 1、定时任务,但是这个成本比较高,因为有个定时任务必须随时跑着,可能需要消耗不少系统资源
  • 2、通过物理上限,也就是size_limit这个参数去控制,这个是比较合理的

size_limit 到底有没有生效?

通过全局密码搜索,我们可以发现,只有_cull这个方法用到了size_limit这个参数。
在这里插入图片描述

这段代码是:

# 根据policy执行删除
# least-recently-stored
select_policy = EVICTION_POLICY[self.eviction_policy]['cull']
# 默认是:SELECT {fields} FROM Cache ORDER BY store_time LIMIT ?
if select_policy is None or self.volume() < self.size_limit:return
select_filename = select_policy.format(fields='filename', now=now)
rows = sql(select_filename, (cull_limit,)).fetchall()
if rows:delete = 'DELETE FROM Cache WHERE rowid IN (%s)' % (select_policy.format(fields='rowid', now=now))sql(delete, (cull_limit,))for (filename,) in rows:cleanup(filename)

这里的代码从理论上来说是没啥问题的,但是确实不太符合如下需求:

  • 1、开发运维的时候可以查询已过期的缓存
  • 2、可以感知到别人的攻击,留底别人的记录,比如一下子多了很多失效的验证码,这属于异常数据,可以被分析出来

得出结论:这个方法应该被优化。

怎么优化?

  • 1、set的时候执行的清空缓存的逻辑,没有必要特别的复杂,我们只希望,如果超过了size_limit,则清空缓存。
  • 2、到底清空多少呢?
    • 1、最早过期的10,100,1000条
    • 2、所有已过期的缓存
  • 3、想法:除了最近过期的1000条缓存,其他的都删除!!!

SQL怎么实现清空逻辑

想法:除了最近过期的1000条缓存,其他的都删除!!!

最近的1000条数据的ID。

select id from cache order by add_time desc limit 1000

删除不是这些ID的:ids

delete from cache where id not in ids

核心代码:

DELETE FROM your_table_name WHERE id NOT IN (1, 3, 5);

如果封装成子查询就是:

DELETE FROM your_table_name WHERE id NOT IN (select id from cache order by add_time desc limit 1000);

封装方法

def resize(self):"""根据size_limit缓存上限清理缓存会删除除了最近1000条已过期的缓存以外的其他所有缓存"""child_sql = "SELECT rowid FROM Cache ORDER BY expire_time DESC LIMIT 1000"delete_sql = f'DELETE FROM Cache WHERE rowid NOT IN {child_sql}'self._sql(delete_sql)

测试:sizelimit设置的小一点,比如100。插入2000条1秒过期的数据,查询所有的keys个数。调用resize方法,再查询所有的keys的个数。

from zdppy_cache import Cache# 实例化缓存对象,指定缓存目录
cache = Cache('tmp')
for i in range(2000):cache.set(f"k{i}", i, 1)
print(len(cache.get_all_keys()))cache.resize(1111)
print("resize之后", len(cache.get_all_keys()))# 关闭缓存对象
cache.close()

清除总结

  • 1、delete_all:物理删除,整个文件夹删除
  • 2、delte:删除key对应的
  • 3、resize:只保留最近limit条删除

需求

  • 1、将resize封装为api接口
  • 2、查询所有key,带查询参数:active只查激活的,value包含value默认只获取key
  • 3、查询缓存大小
  • 4、清空缓存
  • 5、判断是否为管理员

这篇关于zdppy+vue3+onlyoffice文档管理系统实战 20240825上课笔记 zdppy_cache框架增加resize清理缓存的方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1107899

相关文章

postgresql使用UUID函数的方法

《postgresql使用UUID函数的方法》本文给大家介绍postgresql使用UUID函数的方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录PostgreSQL有两种生成uuid的方法。可以先通过sql查看是否已安装扩展函数,和可以安装的扩展函数

Java中Arrays类和Collections类常用方法示例详解

《Java中Arrays类和Collections类常用方法示例详解》本文总结了Java中Arrays和Collections类的常用方法,涵盖数组填充、排序、搜索、复制、列表转换等操作,帮助开发者高... 目录Arrays.fill()相关用法Arrays.toString()Arrays.sort()A

从入门到进阶讲解Python自动化Playwright实战指南

《从入门到进阶讲解Python自动化Playwright实战指南》Playwright是针对Python语言的纯自动化工具,它可以通过单个API自动执行Chromium,Firefox和WebKit... 目录Playwright 简介核心优势安装步骤观点与案例结合Playwright 核心功能从零开始学习

Nginx安全防护的多种方法

《Nginx安全防护的多种方法》在生产环境中,需要隐藏Nginx的版本号,以避免泄漏Nginx的版本,使攻击者不能针对特定版本进行攻击,下面就来介绍一下Nginx安全防护的方法,感兴趣的可以了解一下... 目录核心安全配置1.编译安装 Nginx2.隐藏版本号3.限制危险请求方法4.请求限制(CC攻击防御)

python生成随机唯一id的几种实现方法

《python生成随机唯一id的几种实现方法》在Python中生成随机唯一ID有多种方法,根据不同的需求场景可以选择最适合的方案,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习... 目录方法 1:使用 UUID 模块(推荐)方法 2:使用 Secrets 模块(安全敏感场景)方法

Java docx4j高效处理Word文档的实战指南

《Javadocx4j高效处理Word文档的实战指南》对于需要在Java应用程序中生成、修改或处理Word文档的开发者来说,docx4j是一个强大而专业的选择,下面我们就来看看docx4j的具体使用... 目录引言一、环境准备与基础配置1.1 Maven依赖配置1.2 初始化测试类二、增强版文档操作示例2.

MyBatis-Plus通用中等、大量数据分批查询和处理方法

《MyBatis-Plus通用中等、大量数据分批查询和处理方法》文章介绍MyBatis-Plus分页查询处理,通过函数式接口与Lambda表达式实现通用逻辑,方法抽象但功能强大,建议扩展分批处理及流式... 目录函数式接口获取分页数据接口数据处理接口通用逻辑工具类使用方法简单查询自定义查询方法总结函数式接口

MySQL深分页进行性能优化的常见方法

《MySQL深分页进行性能优化的常见方法》在Web应用中,分页查询是数据库操作中的常见需求,然而,在面对大型数据集时,深分页(deeppagination)却成为了性能优化的一个挑战,在本文中,我们将... 目录引言:深分页,真的只是“翻页慢”那么简单吗?一、背景介绍二、深分页的性能问题三、业务场景分析四、

JAVA中安装多个JDK的方法

《JAVA中安装多个JDK的方法》文章介绍了在Windows系统上安装多个JDK版本的方法,包括下载、安装路径修改、环境变量配置(JAVA_HOME和Path),并说明如何通过调整JAVA_HOME在... 首先去oracle官网下载好两个版本不同的jdk(需要登录Oracle账号,没有可以免费注册)下载完

MySQL 多列 IN 查询之语法、性能与实战技巧(最新整理)

《MySQL多列IN查询之语法、性能与实战技巧(最新整理)》本文详解MySQL多列IN查询,对比传统OR写法,强调其简洁高效,适合批量匹配复合键,通过联合索引、分批次优化提升性能,兼容多种数据库... 目录一、基础语法:多列 IN 的两种写法1. 直接值列表2. 子查询二、对比传统 OR 的写法三、性能分析