参照有赞TMC框架原理简单实现多级缓存

2023-10-13 03:10

本文主要是介绍参照有赞TMC框架原理简单实现多级缓存,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

大家好,我叫大鸡腿,大家可以关注下我,会持续更新技术文章还有人生感悟,感谢~

在这里插入图片描述

文章目录

  • 项目场景:
  • 解决方案:
  • 个人简单实现相关原理
    • 本地变量
    • 获取本地缓存的数据
      • 数据一致性问题
    • 设置缓存的值
    • 删除缓存
    • 统一获取缓存的方法
    • 重点
      • 优化
  • 所有代码

项目场景:

有位同事因为缓存被后台删除,导致一堆高并发请求直接怼到DB上,导致数据库cpu 100%


解决方案:

  1. 处理缓存击穿问题:像布隆过滤器,或者说提前设置热点key
  2. 就是热点key检测,这里谈到了有赞TMC框架多级缓存以及它的热点key的发现

个人简单实现相关原理

本地变量

像热点key储存,本地缓存以及相关参数设置设置。
在这里插入图片描述

获取本地缓存的数据

在这里插入图片描述
解释:
1.由于是分布式环境,所以先查询下这个key有没有被删除过
2.直接走本地缓存
3.如果是后台数据被修改,redis这个标识被修改到了,我们需要重新加载数据库的数据更新到本地缓存中,以及set到redis中

数据一致性问题

就是redis缓存跟本地缓存一致性问题,我的想法是惰性就行更新,如果有人去读取,先返回本地缓存的旧数据,后面再进行更新,也就是实现最终一致性问题。

存在问题

就是这里的flag在更新之后会变成0,我这里的的优化方案是:采用nacos的版本控制,redis有一份版本,本地也有一份版本,如果说redis上的版本跟本地缓存的版本有所不一样,那么就进行修改本地缓存,以及将最新的版本更新到本地缓存中。

这样的话就不会导致说一台机器把redis设置为0,另一台本地缓存就不会变了。

优化方案

  • 使用nacos版本修改的原理来控制不同机器的本地缓存更新
  • 更新的时候可以加个分布式锁,获得锁才能去查数据库,防止高并发查崩数据库。其次在把这个数据塞到redis还有本地缓存中。

设置缓存的值

加粗样式

删除缓存

在这里插入图片描述

统一获取缓存的方法

/*** 统一获取缓存数据** @param key* @return*/public String getRedisByKey(String key) {//计数stringRedisTemplate.opsForValue().increment(key + ":incr", 1);//5秒过期stringRedisTemplate.expire(key + ":incr", 10, TimeUnit.SECONDS);String count = stringRedisTemplate.opsForValue().get(key + ":incr");if (count != null && Integer.valueOf(count) > 2) {if (map.get(key) != null) {System.out.println("命中热点key....");return getCacheValue(key);}//2写死,表示5秒内get超过2次,定义为热点keymap.put(key, "true");if (stringRedisTemplate.getExpire(key, TimeUnit.SECONDS) < 10) {//自动延期System.out.println("自动延期");stringRedisTemplate.expire(key, 20, TimeUnit.SECONDS);}} else {map.remove(key);String result = stringRedisTemplate.opsForValue().get(key);if (result == null) {String value = a(key);setRedisByKey(key, value, 20L);return value;}System.out.println("直接走redis");return result;}return getCacheValue(key);}

前面是进行简单的计数法来保存这个热点key,如果命中热点key直接读本地缓存,否则读redis,没有的话再去读DB。

重点

如果是热点key的话,那么就会去判断它过期时间,如果不够的话会自动给它进行续期。

优化

  • 比如说热点key的统计方式,这里只是简单的redis+1,如果高级一点就是时间滑窗统计热点key
  • 这里是封装redistemplate查询的方案,比较好的是有一个特有的分布式集群来收集这些redis查询,redis key过期、设置、删除操作等等,会更好。
  • 在删除热点key map那里也是需要再优化的,就是如果说重新这个key在接下来的时间内不那么火热,那么剔除map对应的key。

所有代码

import com.google.common.cache.CacheBuilder;
import com.google.common.cache.CacheLoader;
import com.google.common.cache.LoadingCache;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Component;import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;@Component
public class RedisManagement {@Autowiredprivate StringRedisTemplate stringRedisTemplate;ConcurrentHashMap<String, String> map = new ConcurrentHashMap<>();private LoadingCache<String, String> graphs = CacheBuilder.newBuilder().maximumSize(1000).expireAfterWrite(1, TimeUnit.HOURS).refreshAfterWrite(1, TimeUnit.HOURS).build(new CacheLoader<String, String>() {@Overridepublic String load(String key) {return a(key);}});private String getCacheValue(String key) {String result;String flag = stringRedisTemplate.opsForValue().get(key + ":flag");try {System.out.println("走本地缓存");result = graphs.get(key);} catch (ExecutionException e) {System.out.println("出现报错:" + e);return null;}//不为空还有已经删除状态if (flag != null && "1".equals(flag)) {//更新本地缓存的graphs.refresh(key);//设置删除标识为未删除stringRedisTemplate.opsForValue().set(key + ":flag", "0");}return result;}/*** 统一设置缓存** @param key* @param value* @return*/public void setRedisByKey(String key, String value, long time) {//设置删除标识为未删除stringRedisTemplate.opsForValue().set(key + ":flag", "0");stringRedisTemplate.opsForValue().set(key, value, time, TimeUnit.SECONDS);}/*** 统一删除缓存** @param key* @return*/public Boolean delRedisByKey(String key) {//设置删除标识为删除stringRedisTemplate.opsForValue().set(key + ":flag", "1");return stringRedisTemplate.delete(key);}/*** 统一获取缓存数据** @param key* @return*/public String getRedisByKey(String key) {//计数stringRedisTemplate.opsForValue().increment(key + ":incr", 1);//5秒过期stringRedisTemplate.expire(key + ":incr", 10, TimeUnit.SECONDS);String count = stringRedisTemplate.opsForValue().get(key + ":incr");if (count != null && Integer.valueOf(count) > 2) {if (map.get(key) != null) {System.out.println("命中热点key....");return getCacheValue(key);}//2写死,表示5秒内get超过2次,定义为热点keymap.put(key, "true");if (stringRedisTemplate.getExpire(key, TimeUnit.SECONDS) < 10) {//自动延期System.out.println("自动延期");stringRedisTemplate.expire(key, 20, TimeUnit.SECONDS);}} else {map.remove(key);String result = stringRedisTemplate.opsForValue().get(key);if (result == null) {String value = a(key);setRedisByKey(key, value, 20L);return value;}System.out.println("直接走redis");return result;}return getCacheValue(key);}/*** 初始化本地缓存数据** @param key* @return*/private String a(String key) {System.out.println("查db");//执行不同逻辑if (key.startsWith("activity")) {//查数据库return "activity";} else if (key.startsWith("content")) {//查数据库return "content";} else {return "haha";}}}

这篇关于参照有赞TMC框架原理简单实现多级缓存的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/200355

相关文章

hdu1043(八数码问题,广搜 + hash(实现状态压缩) )

利用康拓展开将一个排列映射成一个自然数,然后就变成了普通的广搜题。 #include<iostream>#include<algorithm>#include<string>#include<stack>#include<queue>#include<map>#include<stdio.h>#include<stdlib.h>#include<ctype.h>#inclu

深入探索协同过滤:从原理到推荐模块案例

文章目录 前言一、协同过滤1. 基于用户的协同过滤(UserCF)2. 基于物品的协同过滤(ItemCF)3. 相似度计算方法 二、相似度计算方法1. 欧氏距离2. 皮尔逊相关系数3. 杰卡德相似系数4. 余弦相似度 三、推荐模块案例1.基于文章的协同过滤推荐功能2.基于用户的协同过滤推荐功能 前言     在信息过载的时代,推荐系统成为连接用户与内容的桥梁。本文聚焦于

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

hdu2289(简单二分)

虽说是简单二分,但是我还是wa死了  题意:已知圆台的体积,求高度 首先要知道圆台体积怎么求:设上下底的半径分别为r1,r2,高为h,V = PI*(r1*r1+r1*r2+r2*r2)*h/3 然后以h进行二分 代码如下: #include<iostream>#include<algorithm>#include<cstring>#include<stack>#includ

【C++】_list常用方法解析及模拟实现

相信自己的力量,只要对自己始终保持信心,尽自己最大努力去完成任何事,就算事情最终结果是失败了,努力了也不留遗憾。💓💓💓 目录   ✨说在前面 🍋知识点一:什么是list? •🌰1.list的定义 •🌰2.list的基本特性 •🌰3.常用接口介绍 🍋知识点二:list常用接口 •🌰1.默认成员函数 🔥构造函数(⭐) 🔥析构函数 •🌰2.list对象

【Prometheus】PromQL向量匹配实现不同标签的向量数据进行运算

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,CSDN全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,前后端开发,小程序开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi

hdu4407(容斥原理)

题意:给一串数字1,2,......n,两个操作:1、修改第k个数字,2、查询区间[l,r]中与n互质的数之和。 解题思路:咱一看,像线段树,但是如果用线段树做,那么每个区间一定要记录所有的素因子,这样会超内存。然后我就做不来了。后来看了题解,原来是用容斥原理来做的。还记得这道题目吗?求区间[1,r]中与p互质的数的个数,如果不会的话就先去做那题吧。现在这题是求区间[l,r]中与n互质的数的和

让树莓派智能语音助手实现定时提醒功能

最初的时候是想直接在rasa 的chatbot上实现,因为rasa本身是带有remindschedule模块的。不过经过一番折腾后,忽然发现,chatbot上实现的定时,语音助手不一定会有响应。因为,我目前语音助手的代码设置了长时间无应答会结束对话,这样一来,chatbot定时提醒的触发就不会被语音助手获悉。那怎么让语音助手也具有定时提醒功能呢? 我最后选择的方法是用threading.Time

Android实现任意版本设置默认的锁屏壁纸和桌面壁纸(两张壁纸可不一致)

客户有些需求需要设置默认壁纸和锁屏壁纸  在默认情况下 这两个壁纸是相同的  如果需要默认的锁屏壁纸和桌面壁纸不一样 需要额外修改 Android13实现 替换默认桌面壁纸: 将图片文件替换frameworks/base/core/res/res/drawable-nodpi/default_wallpaper.*  (注意不能是bmp格式) 替换默认锁屏壁纸: 将图片资源放入vendo

usaco 1.3 Prime Cryptarithm(简单哈希表暴搜剪枝)

思路: 1. 用一个 hash[ ] 数组存放输入的数字,令 hash[ tmp ]=1 。 2. 一个自定义函数 check( ) ,检查各位是否为输入的数字。 3. 暴搜。第一行数从 100到999,第二行数从 10到99。 4. 剪枝。 代码: /*ID: who jayLANG: C++TASK: crypt1*/#include<stdio.h>bool h