Redis 架构和运维必懂的10个知识

2024-06-22 11:38
文章标签 redis 知识 架构 运维必

本文主要是介绍Redis 架构和运维必懂的10个知识,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Redis 是一个开源的使用 ANSI C 语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value 数据库,并提供多种语言的 API。

如今,互联网业务的数据正以更快的速度在增长,数据类型越来越丰富,这对数据处理的速度和能力提出了更高要求。Redis 是一种开源的内存非关系型数据库,给开发人员带来的体验是颠覆性的。在自始至终的设计过程中,都充分考虑高性能,这使得 Redis 成为当今速度最快的 NoSQL 数据库。

考虑高性能的同时,高可用也是很重要的考虑因素。互联网 7x24 无间断服务,在故障期间以最快的速度 Failover,能给企业带来最小的损失。

那么,在实际应用中,都有哪些高可用架构呢?架构之间有何优劣?我们应该怎么取舍?有哪些最佳实践?以下四个方面十个具有典型性和普遍性问题的解答,可以作为了解 Redis 高可用及 Redis 运维的参考。

一、高可用相关

 

1:Redis 常用高可用架构有哪些?

Redis 高可用架构如下:

  • Redis Sentinel 集群 + 内网 DNS + 自定义脚本

  • Redis Sentinel 集群 + VIP + 自定义脚本

  • 封装客户端直连 Redis Sentinel 端口

    • JedisSentinelPool,适合 Java

    • PHP 基于 phpredis 自行封装

  • Redis Sentinel 集群 + Keepalived/Haproxy

  • Redis M/S + Keepalived

  • Redis Cluster

  • Twemproxy

  • Codis

2:Redis 高可用架构优劣对比?

 

—Redis Sentinel 集群 + 内网 DNS + 自定义脚本

优点:

  • 秒级切换

  • 脚本自定义,架构可控

  • 对应用透明

缺点:

  • 维护成本略高

  • 依赖 DNS,存在解析延时

  • Sentinel 模式存在短时间的服务不可用

—Redis Sentinel 集群 + VIP + 自定义脚本

优点:

  • 秒级切换

  • 脚本自定义,架构可控

  • 对应用透明

缺点:

  • 维护成本略高

  • Sentinel 模式存在短时间的服务不可用

—封装客户端直连 Redis Sentinel 端口

优点:

  • 服务探测故障及时

  • DBA 维护成本低

缺点:

  • 依赖客户端支持 Sentinel

  • Sentinel 服务器需要开放访问权限

  • 对应用有侵入性

—Redis Sentinel 集群 + Keepalived/Haproxy

优点:

  • 秒级切换

  • 对应用透明

缺点:

  • 维护成本高

  • 存在脑裂

  • Sentinel 模式存在短时间的服务不可用

—Redis M/S +Keepalived

优点:

  • 秒级切换

  • 对应用透明

  • 部署简单,维护成本低

缺点:

  • 需要脚本实现切换功能

  • 存在脑裂

(Redis Cluster、Twemproxy、Codis 优劣对比见下个问题)

3:常见的 Redis 集群方案有哪些优缺点?

Twemproxy:

 

多个同构 Twemproxy(配置相同)同时工作,接受客户端的请求,根据 hash 算法,转发给对应的 Redis。

优点:

  • 开发简单,对应用几乎透明

  • 历史悠久,方案成熟

缺点:

  • 代理影响性能

  • LVS 和 Twemproxy 会有节点性能瓶颈

  • Redis 扩容非常麻烦

  • Twitter 内部已放弃使用该方案,新使用的架构未开源

Codis:

 

  • ZooKeeper

    • 存放路由表和代理节点元数据

    • 分发Codis-Config的命令

  • Codis-Config 集成管理工具,有web界面

  • Codis-Proxy

    • 无状态代理,兼容Redis协议

    • 对业务透明

  • Codis-Redis

    • 基于2.8版本,二次开发

    • 加入slot支持和迁移命令

优点:

  • 开发简单,对应用几乎透明

  • 性能比 Twemproxy 好

  • 有图形化界面,扩容容易,运维方便

缺点:

  • 代理依旧影响性能

  • 组件过多,需要很多机器资源

  • 修改了 Redis 代码,导致和官方无法同步,新特性跟进缓慢

  • 开发团队准备主推基于 Redis 改造的 reborndb

Redis Cluster:


P2P模式,无中心化。把 key 分成 16384 个 slot,每个实例负责一部分 slot。客户端请求若不在连接的实例,该实例会转发给对应的实例。通过Gossip协议同步节点信息。

优点:

  • 组件 all-in-box,部署简单,节约机器资源

  • 性能比 proxy 模式好

  • 自动故障转移、Slot 迁移中数据可用

  • 官方原生集群方案,更新与支持有保障

缺点:

  • 架构比较新,最佳实践较少

  • 多键操作支持有限(驱动可以曲线救国)

  • 为了性能提升,客户端需要缓存路由表信息

  • 节点发现、reshard 操作不够自动化

二、Redis 通用

 

1:Redis 相对 MySQL、PostgreSQL 这些关系型数据库,有什么优缺点?

观点一:

Redis 主要是用来做缓存,它有持久化,但也只是为了缓存的可靠而已。优点是数据全放内存,速度快。缺点就是,数据大小不能超过内存大小。两个用在不同业务场景,Redis 无法取代传统关系型数据库。

观点二:

Redis 首先它是一种内存数据库,最大的优势在于效率高。尤其在某些特定场合下,例如热点数据量非常大,而数据从内存和磁盘之间的换入换出代价比较高的情况下,Redis 就会体现它的价值。

传统关系型数据库在于它对数据的一致性保障,它的数据模型范式是遵循严格事务规则的结构化数据,由于其数据的高度抽象化,它调度到内存的数据一般场合下不会占用很大的内存空间。

总的来说,两种数据库各有各的优点和缺点。不同的业务场合有特定的追求目标,redis 首要的是效率,适用的是一些单纯二维结构化数据无法表达的数据模型,而关系型数据库处理的是可以用范式模型表达的二维数据,追求的是数据的高度一致性。随着 IT 的发展,每一类型的数据库都会在其特定的场合内发挥出无可比拟的优势,最终的趋势是大家趋于平衡,没有最好,只有最适合。

观点三:

记住一句话:任何数据库都有自己的应用场景,应该关注数据流、数据属性。

个人的经验来说,Redis 不可能取代 MySQL 或者 PG。

 

2:Redis 有哪些应用场景,是否可以举例说明下哪个公司用了?

Redis 是一个高性能的缓存,一般应用在 Session 缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。

更多应用场景,可以参考此处。

可以这样讲,Redis 适用于 数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。

国内的互联网公司,据我了解,基本是都在用,其中新浪对 Redis 在国内普及起了重要的作用。

另外,Redis 官网有「Who's using Redis?」的链接。

 

3:新接手一个复杂的 Redis 集群(Sentinel 模式),如何了解它

刚刚接手一套 Redis 集群,想要了解这套集群的相关配置。应该如何入手。难道只能通过 info 命令去查看各个配置吗?

这是笔者的建议:

  • 通读 Sentinel 官方文档:https://redis.io/topics/sentinel

  • Google 搜索 Redis Sentinel,找几篇中英文的文章看看

  • 进入 Sentinel 集群后,使用 info 查看集群信息

  • 查看 Sentinel 配置文件,配合文档搞清楚每个参数的含义

  • 使用几台虚拟机模拟线上环境,然后做测试,在实践中深入理解

  • 思考当前 Sentinel 集群是否有不合理的地方,如有,提出并改进

三、Redis 故障排查

 

1:Redis 实例中,存在大量的 FIN_WAIT2 连接

客户端 TCP 状态迁移:

CLOSED->SYN_SENT->ESTABLISHED->FIN_WAIT_1->FIN_WAIT_2->TIME_WAIT->CLOSED

服务器 TCP 状态迁移:

CLOSED->LISTEN->SYN 收到 ->ESTABLISHED->CLOSE_WAIT->LAST_ACK->CLOSED

这个状态存在于主动发起断开请求的一端,如果服务器存在大量的这个状态,那么这个服务器就充当客户端的角色,如网络爬虫,出现的原因是由于客户端发起 FIN 请求结束连接之后,收到了服务端的应答之后进入 FIN_WAIT2,之后就没收到服务端发送的 FIN 信号导致。

PS:线上 Web 客户端用的什么语言?

此问题的评论值得一看:http://www.aixchina.net/Question/231035-1406575

 

2:如何知道,当前 Redis 实例是处于阻塞状态?

请问大神们, 通过什么方式,能够知道,当前某个 Redis 实例是处于阻塞状态啊? 能不能通过某个命令查询出来 ? 求解, 谢谢!

解答一:

随便 get 一个 key,然后卡着不动就行,简单粗暴。优雅一点是看 latency 的延迟,blocked_clients 的数量,rejected_connections 的数量等。

解答二:

  • 方法一:登录 Redis,执行 info,查看 blocked_clients

  • 方法二:执行 redis-cli --latency -h -p 查看延时情况

 

3:Redis 运维的故障有哪些?

回答一:

常见的运维故障

  • 使用 keys * 把库堵死,——建议使用别名把这个命令改名

  • 超过内存使用后,部分数据被删除——这个有删除策略的,选择适合自己的即可

  • 没开持久化,却重启了实例,数据全掉——记得非缓存的信息需要打开持久化

  • RDB 的持久化需要 vm.overcommit_memory=1,否则会持久化失败

  • 没有持久化情况下,主从,主重启太快,从还没认为主挂的情况下,从会清空自己的数据——人为重启主节点前,先关闭从节点的同步

回答二:

我简单说下 Redis 故障的排查方法吧。

  • 了解清楚业务数据流是怎么样的

  • 结合 Redis 监控查看 QPS、缓存命中率、内存使用率等信息

  • 确认机器层面的资源是否有异常

  • 故障时及时上机,使用 redis-cli monitor 打印出操作日志,然后分析(事后分析此条失效)

  • 和研发沟通,确认是否有大 Key 在堵塞(大 Key 也可以在日常的巡检中获得)

  • 和组内同事沟通,确实是否有误操作

  • 和运维同事、研发一起排查流量是否正常,是否存在被刷的情况

更多的排查需要对线上系统的分析。

四、Redis 性能优化

 

1:提高 Redis 内存数据库的性能,有哪些措施?

这个问题有点偏题了,还是回答下吧。整理下工作中积累的经验:

  • 根据不同业务选择数据类型,有必要时对数据结构进行审核,减少数据冗余

  • 精简键名和键值,控制键值的大小

  • 使用前缀管理好 key

  • 使用 scan 代替 keys,将遍历 Redis DB 中所有 key 的操作放到客户端来做

  • 避免使用 O(N) 复杂度的命令

  • 配置使用 ziplist 来优化 list

  • 合理配置 maxmemory

  • 数据量大的情况,做好 key 和 value 的压缩

  • 利用管道,批量处理命令

  • 根据不同业务选择短链接或者长链接

  • 定期使用 redis-cli --big-keys 检测大 Key

 

这篇关于Redis 架构和运维必懂的10个知识的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1084187

相关文章

Java架构师知识体认识

源码分析 常用设计模式 Proxy代理模式Factory工厂模式Singleton单例模式Delegate委派模式Strategy策略模式Prototype原型模式Template模板模式 Spring5 beans 接口实例化代理Bean操作 Context Ioc容器设计原理及高级特性Aop设计原理Factorybean与Beanfactory Transaction 声明式事物

mybatis的整体架构

mybatis的整体架构分为三层: 1.基础支持层 该层包括:数据源模块、事务管理模块、缓存模块、Binding模块、反射模块、类型转换模块、日志模块、资源加载模块、解析器模块 2.核心处理层 该层包括:配置解析、参数映射、SQL解析、SQL执行、结果集映射、插件 3.接口层 该层包括:SqlSession 基础支持层 该层保护mybatis的基础模块,它们为核心处理层提供了良好的支撑。

百度/小米/滴滴/京东,中台架构比较

小米中台建设实践 01 小米的三大中台建设:业务+数据+技术 业务中台--从业务说起 在中台建设中,需要规范化的服务接口、一致整合化的数据、容器化的技术组件以及弹性的基础设施。并结合业务情况,判定是否真的需要中台。 小米参考了业界优秀的案例包括移动中台、数据中台、业务中台、技术中台等,再结合其业务发展历程及业务现状,整理了中台架构的核心方法论,一是企业如何共享服务,二是如何为业务提供便利。

sqlite3 相关知识

WAL 模式 VS 回滚模式 特性WAL 模式回滚模式(Rollback Journal)定义使用写前日志来记录变更。使用回滚日志来记录事务的所有修改。特点更高的并发性和性能;支持多读者和单写者。支持安全的事务回滚,但并发性较低。性能写入性能更好,尤其是读多写少的场景。写操作会造成较大的性能开销,尤其是在事务开始时。写入流程数据首先写入 WAL 文件,然后才从 WAL 刷新到主数据库。数据在开始

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

系统架构设计师: 信息安全技术

简简单单 Online zuozuo: 简简单单 Online zuozuo 简简单单 Online zuozuo 简简单单 Online zuozuo 简简单单 Online zuozuo :本心、输入输出、结果 简简单单 Online zuozuo : 文章目录 系统架构设计师: 信息安全技术前言信息安全的基本要素:信息安全的范围:安全措施的目标:访问控制技术要素:访问控制包括:等保

利用命令模式构建高效的手游后端架构

在现代手游开发中,后端架构的设计对于支持高并发、快速迭代和复杂游戏逻辑至关重要。命令模式作为一种行为设计模式,可以有效地解耦请求的发起者与接收者,提升系统的可维护性和扩展性。本文将深入探讨如何利用命令模式构建一个强大且灵活的手游后端架构。 1. 命令模式的概念与优势 命令模式通过将请求封装为对象,使得请求的发起者和接收者之间的耦合度降低。这种模式的主要优势包括: 解耦请求发起者与处理者

Redis中使用布隆过滤器解决缓存穿透问题

一、缓存穿透(失效)问题 缓存穿透是指查询一个一定不存在的数据,由于缓存中没有命中,会去数据库中查询,而数据库中也没有该数据,并且每次查询都不会命中缓存,从而每次请求都直接打到了数据库上,这会给数据库带来巨大压力。 二、布隆过滤器原理 布隆过滤器(Bloom Filter)是一种空间效率很高的随机数据结构,它利用多个不同的哈希函数将一个元素映射到一个位数组中的多个位置,并将这些位置的值置

Lua 脚本在 Redis 中执行时的原子性以及与redis的事务的区别

在 Redis 中,Lua 脚本具有原子性是因为 Redis 保证在执行脚本时,脚本中的所有操作都会被当作一个不可分割的整体。具体来说,Redis 使用单线程的执行模型来处理命令,因此当 Lua 脚本在 Redis 中执行时,不会有其他命令打断脚本的执行过程。脚本中的所有操作都将连续执行,直到脚本执行完成后,Redis 才会继续处理其他客户端的请求。 Lua 脚本在 Redis 中原子性的原因