分布式系统的演化(单机架构/应用符合和存储服务分离架构/应用服务集群架构/主从分离架构/冷热分离架构)

本文主要是介绍分布式系统的演化(单机架构/应用符合和存储服务分离架构/应用服务集群架构/主从分离架构/冷热分离架构),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 单机架构
  • 应用服务和存储服务分离
  • 应用服务集群架构
  • 读写分离/主从分离架构
  • 冷热分离架构--引入缓存
  • 分库分表

单机架构

单机架构只有一台服务器,使用一台服务器负责所有的工作

举个例子:假设有以下电商网站,商品、用户、交易等功能服务以及数据库都在一个服务器上。

在这里插入图片描述

而现在计算机硬件发展也是非常快的,哪怕只有一台主机,这一台主机的性能也是非常高的。可以支持高并发和非常大的数据存储。

但是,如果说业务进一步增长,用户量和数据量都水涨船高,那么,一台主机难以应付的时候,就需要再增加主机了。

为什么硬件资源会不够用呢?

因为,一台主机所包括的硬件资源主要都有(cpu、内存、硬盘等等),而服务器每次收到一个请求,都是需要消耗上述的资源的,如果同一时刻,处理的请求太多的(高并发),此时就可能导致某个硬件资源不够用了,就都会导致服务器处理请求的时间变长,甚至处理出错~~

此时,遇见这种服务器不够用的情况(高并发情况),有效的处理方式可以从两方面考虑:

  1. 开源 ,增加更多的硬件资源。
  2. 节流,针对软件上进行优化,例如sql语句优化等

如果使用开源的方式,就会出现一个问题,一个主机上面能增加的硬件资源也是有限的,所以,一台主机扩展到极限了,但是还是不够,就只能引入多台主机,一旦引入多台主机了,此时系统就可以称为“分布式系统”。

引入分布式是好是坏呢?

答:引入分布式是万不得已的,一旦引入分布式,系统的复杂程度就会大大提高,系统越复杂,出现bug的概率就越高,但是,如果出现一台主机无法处理的情况,还是要使用分布式的,所以,就需要根据具体的业务场景来指定更好的解决方案。

应用服务和存储服务分离

最简单的分布式系统就是将应用服务器和数据库服务器分离,将应用服务器放在另一台主机上,数据库服务器放在另一台主机上。

在这里插入图片描述

但是,随着请求量进一步增加,这时候,一台应用服务器可能就会顶不住了,此时就就可以使用集群架构,引入多个应用服务器,如下图。

应用服务集群架构

引入负载均衡器(也是一个单独的服务器)来管理多个应用服务器,意思就是,所有的用户请求都要先到负载均衡器上,然后再由负载均衡器将请求进行分发,发送到不同的应用服务器上,保证了应用服务器再高并发场景下,不会进行宕机。

在这里插入图片描述

对于负载均衡器来说,也有很多的流量调度(对请求进行分发)的算法,例如:

  1. 轮询算法:非常公平的将请求依次发给不同的应用服务器

相关的负载均衡软件都有:Nginx、HAProxy、LVS等

还有一个问题就是:使用负载均衡器是因为请求量太大了,单个应用服务器无法承受,所以要使用负载均衡器进行分配,但是,如果并发量太高的话,负载均衡器能承受的住吗?

答案是:负载均衡器对于请求量的承担能力,要远超于应用服务器的,因为,负载均衡器它的工作主要是向不同的应用服务器上分发请求,而应用服务器的任务是处理请求,负载均衡器就好像是领导,负责分配任务,应用服务器就好像是组员,负责执行任务。分配任务肯定是要比执行任务更轻松的。

如果请求量大到了负载均衡器也扛不住了,此时,也可以引入更多的负载均衡器(引入多个机房)。

读写分离/主从分离架构

上面使用了负载均衡器来给不同的应用服务器分配请求,但是,现在有一个问题,就是不管扩充多少个应用服务器,这些请求最终都是要到数据库中读写数据,那所有的压力不都给到了数据库服务器吗,所以,针对这样的情况,就可以设置一些数据库为主数据库,一些数据库为 从数据库,从库所有的数据都来自主库,经过同步后,从库中的数据和主库保持一致,而为了分担数据库的压力,可以将写数据请求全部交给主库处理,读数据请求分散到各个从库中,因为,一个程序中读操作要比写操作更多,这样也就缓解了数据库的压力,当然,这个数据同步的过程也是有时间成本的。

在这里插入图片描述

冷热分离架构–引入缓存

上面虽然通过主从架构缓解了数据库的压力,但是,我们知道,数据库中的数据都是在硬盘中存储的,读硬盘就会很慢,为了能够提高获取数据的速度,就可以把数据区分“冷热”,热点数据放到缓存中,缓存的访问速度要比硬盘快很多,因为,缓存中的数据是在内存中保存着的,所以,redis主要的用途就是用来管理缓存服务器中的数据,如下图:

在这里插入图片描述

分库分表

上述都是针对请求量太大时所做的解决策略,但是,引入分布式系统,不光要能够去应对更高的请求量,同时也要能应对更大的数据量,当数据太多时,也可能会存在一台主机存不下的情况,可以使用多台主机存储,针对数据库进行进一步的拆分,本来一个数据库服务器上有多个数据库,现在引入多个数据库服务器,每个数据库服务器存储一个或多个数据库,如果某个表特别大,大到一台主机存不下,也可以针对表进行拆分,拆分成多个表分布在不同的主机上。

,每个数据库服务器存储一个或多个数据库,如果某个表特别大,大到一台主机存不下,也可以针对表进行拆分,拆分成多个表分布在不同的主机上。

这篇关于分布式系统的演化(单机架构/应用符合和存储服务分离架构/应用服务集群架构/主从分离架构/冷热分离架构)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1086953

相关文章

mybatis的整体架构

mybatis的整体架构分为三层: 1.基础支持层 该层包括:数据源模块、事务管理模块、缓存模块、Binding模块、反射模块、类型转换模块、日志模块、资源加载模块、解析器模块 2.核心处理层 该层包括:配置解析、参数映射、SQL解析、SQL执行、结果集映射、插件 3.接口层 该层包括:SqlSession 基础支持层 该层保护mybatis的基础模块,它们为核心处理层提供了良好的支撑。

百度/小米/滴滴/京东,中台架构比较

小米中台建设实践 01 小米的三大中台建设:业务+数据+技术 业务中台--从业务说起 在中台建设中,需要规范化的服务接口、一致整合化的数据、容器化的技术组件以及弹性的基础设施。并结合业务情况,判定是否真的需要中台。 小米参考了业界优秀的案例包括移动中台、数据中台、业务中台、技术中台等,再结合其业务发展历程及业务现状,整理了中台架构的核心方法论,一是企业如何共享服务,二是如何为业务提供便利。

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

水位雨量在线监测系统概述及应用介绍

在当今社会,随着科技的飞速发展,各种智能监测系统已成为保障公共安全、促进资源管理和环境保护的重要工具。其中,水位雨量在线监测系统作为自然灾害预警、水资源管理及水利工程运行的关键技术,其重要性不言而喻。 一、水位雨量在线监测系统的基本原理 水位雨量在线监测系统主要由数据采集单元、数据传输网络、数据处理中心及用户终端四大部分构成,形成了一个完整的闭环系统。 数据采集单元:这是系统的“眼睛”,

异构存储(冷热数据分离)

异构存储主要解决不同的数据,存储在不同类型的硬盘中,达到最佳性能的问题。 异构存储Shell操作 (1)查看当前有哪些存储策略可以用 [lytfly@hadoop102 hadoop-3.1.4]$ hdfs storagepolicies -listPolicies (2)为指定路径(数据存储目录)设置指定的存储策略 hdfs storagepolicies -setStoragePo

HDFS—存储优化(纠删码)

纠删码原理 HDFS 默认情况下,一个文件有3个副本,这样提高了数据的可靠性,但也带来了2倍的冗余开销。 Hadoop3.x 引入了纠删码,采用计算的方式,可以节省约50%左右的存储空间。 此种方式节约了空间,但是会增加 cpu 的计算。 纠删码策略是给具体一个路径设置。所有往此路径下存储的文件,都会执行此策略。 默认只开启对 RS-6-3-1024k

HDFS—集群扩容及缩容

白名单:表示在白名单的主机IP地址可以,用来存储数据。 配置白名单步骤如下: 1)在NameNode节点的/opt/module/hadoop-3.1.4/etc/hadoop目录下分别创建whitelist 和blacklist文件 (1)创建白名单 [lytfly@hadoop102 hadoop]$ vim whitelist 在whitelist中添加如下主机名称,假如集群正常工作的节

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个