“反向代理层”绝不能替代“DNS轮询”!

2023-11-30 14:58

本文主要是介绍“反向代理层”绝不能替代“DNS轮询”!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

有朋友问我,DNS轮询是不是过时的技术了?有了反向代理层(Nginx、LVS、F5等),是不是就不需要DNS轮询了?

然而,反向代理层绝不能替代DNS轮询!

 

反向代理层有什么用?架构实现时要注意什么?

(1) 作为服务端统一入口,屏蔽后端WEB集群细节,代表整个WEB集群;

画外音:这就是为啥它叫反向代理。

(2) 保证WEB集群的扩展性,Nginx后端可随时加WEB实例;

(3) 实施负载均衡,反向代理层会将请求均匀分发给后端WEB集群的每一个实例;

(4) 保证WEB集群的高可用,任何一个WEB实例挂了,服务都不受影响;

(5) 注意自身高可用,防止一台Nginx挂了,服务端统一入口受影响;

反向代理层还存在啥问题?

反向代理层自身的扩展性问题并没有得到很好的解决,例如当Nginx成为系统瓶颈的时候,无法扩容。

 

DNS轮询如何解决反向代理层的扩展性问题?

通过在DNS-server上对一个域名设置多个IP解析,能够增加入口Nginx实例个数,起到水平扩容的作用,解决反向代理层的扩展性问题。

因此,反向代理和DNS轮询并不是互斥的技术,however,这里详细展开讲一下接入层的架构渐进历程。

 

裸奔时代(1)单机架构


裸奔时代的架构图如上:

(1) 浏览器通过DNS-server,域名解析到ip;

(2) 浏览器通过ip访问web-server;

缺点:

(1) 非高可用,web-server挂了整个系统就挂了;

(2) 扩展性差,当吞吐量达到web-server上限时,无法扩容;

画外音:单机不涉及负载均衡问题。

 

简易扩容方案(2)DNS轮询

假设tomcat的吞吐量是1000次每秒,当系统总吞吐量达到3000时,如何扩容是首先要解决的问题,DNS轮询是一个很容易想到的方案。

画外音:DNS轮询解决扩展性问题。


此时的架构图如上:

(1) 多部署几份web-server,1个tomcat抗1000,部署3个tomcat就能抗3000;

(2) 在DNS-server层面,域名每次解析到不同的ip;

优点:

(1) 零成本:在DNS-server上多配几个ip即可,功能也不收费;

(2) 部署简单:多部署几个web-server即可,原系统架构不需要做任何改造;

(3) 负载均衡:变成了多机,负载也是均衡的;

缺点:

(1) 非高可用:DNS-server只负责域名解析ip,这个ip对应的服务是否可用,DNS-server是不保证的,假设有一个web-server挂了,部分服务会受到影响;

(2) 扩容非实时:DNS解析有一个生效周期;

(3) 暴露了太多的外网ip

 

简易扩容方案(3)反向代理Nginx

tomcat的性能较差,但Nginx作为反向代理的性能就强很多,假设线上跑到1w,就比tomcat高了10倍,可以利用这个特性来做扩容。


此时的架构图如上:

(1) 站点层与浏览器层之间加入了一个反向代理层,利用高性能的Nginx来做反向代理;

(2) Nginx将http请求分发给后端多个web-server;

优点:

(1) DNS-server不需要动;

(2) 负载均衡:通过Nginx来保证;

(3) 只暴露一个外网ip,Nginx->tomcat之间使用内网访问;

(4) 扩容实时:Nginx内部可控,随时增加web-server随时实时扩容;

(5) 能够保证站点层的可用性:任何一台tomcat挂了,Nginx可以将流量迁移到其他tomcat;

画外音:反向代理,能够更实时,更方便的扩容了。

缺点:

(1) 时延增加+架构更复杂了:中间多加了一个反向代理层;

(2) 反向代理层成了单点,非高可用:tomcat挂了不影响服务,Nginx挂了怎么办?

 

高可用方案(4)keepalived

为了解决高可用的问题,keepalived出场了。


(1) 做两台Nginx组成一个集群,分别部署上keepalived,设置成相同的虚IP,保证Nginx的高可用;

(2) 当一台Nginx挂了,keepalived能够探测到,并将流量自动迁移到另一台Nginx上,整个过程对调用方透明;


优点:

(1) 解决了高可用的问题;

画外音:反向代理的高可用也解决了。

缺点:

(1) 资源利用率只有50%

(2) Nginx仍然是接入单点,如果接入吞吐量超过的Nginx的性能上限怎么办,例如qps达到了50000咧?

 

scale up扩容方案(5)lvs/f5

Nginx是应用软件,性能比tomcat好,但总有个上限,超出了上限,还是扛不住。

lvs就不一样了,它实施在操作系统层面;f5的性能又更好了,它实施在硬件层面;它们性能比Nginx好很多,例如每秒可以抗10w,这样可以利用他们来扩容,常见的架构图如下:


(1) 如果通过Nginx可以扩展多个tomcat一样,可以通过lvs来扩展多个Nginx;

(2) 通过keepalived+VIP的方案可以保证可用性;

99.9999%的公司到这一步基本就结束了,解决了接入层高可用、扩展性、负载均衡的问题。

画外音:上游再加一层扩充性能。

 

完美了嘛,还有什么潜在问题?

好吧,不管是使用lvs还是f5,这些都是scale up的方案,根本上,lvs/f5还是会有性能上限,假设每秒能处理10w的请求,一天也只能处理80亿的请求(10w秒吞吐量*8w秒),那万一系统的日PV超过80亿怎么办呢?

 

scale out扩容方案(6)DNS轮询

如之前文章所述,水平扩展,才是解决性能问题的根本方案,能够通过加机器扩充性能的方案才具备最好的扩展性。

facebook,google,baidu的PV是不是超过80亿呢,它们的域名只对应一个ip么,终点又是起点,还是得通过DNS轮询来进行扩容。

画外音:DNS轮询解决扩展性问题。


(1) 通过DNS轮询来线性扩展入口lvs层的性能;

(2) 通过keepalived来保证高可用;

(3) 通过lvs来扩展多个Nginx;

(4) 通过Nginx来做负载均衡,业务七层路由;

 

总结

稍微做一个简要的总结:

(1) 接入层架构要考虑的问题域为:高可用、扩展性、反向代理、负载均衡

(2) Nginx、keepalived、lvs、f5可以很好的解决高可用、扩展性、反向代理、负载均衡的问题;

(3) 水平扩展scale out是解决扩展性问题的根本方案,DNS轮询是不能完全被Nginx/lvs/f5所替代的;

希望大家有收获。

架构师之路-分享可落地的技术文章

相关推荐:

《负载均衡,必须要知道的5件事》

《微服务,到底解决什么问题》

《容量设计,是架构师最基本的基本功》

讨论:你家的接入层技术,在哪个时代?

这篇关于“反向代理层”绝不能替代“DNS轮询”!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/437471

相关文章

高效+灵活,万博智云全球发布AWS无代理跨云容灾方案!

摘要 近日,万博智云推出了基于AWS的无代理跨云容灾解决方案,并与拉丁美洲,中东,亚洲的合作伙伴面向全球开展了联合发布。这一方案以AWS应用环境为基础,将HyperBDR平台的高效、灵活和成本效益优势与无代理功能相结合,为全球企业带来实现了更便捷、经济的数据保护。 一、全球联合发布 9月2日,万博智云CEO Michael Wong在线上平台发布AWS无代理跨云容灾解决方案的阐述视频,介绍了

在JS中的设计模式的单例模式、策略模式、代理模式、原型模式浅讲

1. 单例模式(Singleton Pattern) 确保一个类只有一个实例,并提供一个全局访问点。 示例代码: class Singleton {constructor() {if (Singleton.instance) {return Singleton.instance;}Singleton.instance = this;this.data = [];}addData(value)

【即时通讯】轮询方式实现

技术栈 LayUI、jQuery实现前端效果。django4.2、django-ninja实现后端接口。 代码仓 - 后端 代码仓 - 前端 实现功能 首次访问页面并发送消息时需要设置昵称发送内容为空时要提示用户不能发送空消息前端定时获取消息,然后展示在页面上。 效果展示 首次发送需要设置昵称 发送消息与消息展示 提示用户不能发送空消息 后端接口 发送消息 DB = []@ro

proxy代理解决vue中跨域问题

vue.config.js module.exports = {...// webpack-dev-server 相关配置devServer: {host: '0.0.0.0',port: port,open: true,proxy: {'/api': {target: `https://vfadmin.insistence.tech/prod-api`,changeOrigin: true,p

DNS协议基础笔记

1.定义 DNS(Domain Name System,域名系统)是互联网的一项核心服务,它作为将域名和 IP 地址相互映射的一个分布式数据库,能够使人更方便地访问互联网。 2.域名解析过程 当用户在浏览器中输入一个域名,浏览器首先会检查自己的缓存中是否有该域名对应的 IP 地址。本地 DNS 服务器收到查询请求后,首先会检查自己的缓存中是否有该域名对应的 IP 地址。根域名服务器收到查询请

使用http-request 属性替代action绑定上传URL

在 Element UI 的 <el-upload> 组件中,如果你需要为上传的 HTTP 请求添加自定义的请求头(例如,为了通过身份验证或满足服务器端的特定要求),你不能直接在 <el-upload> 组件的属性中设置这些请求头。但是,你可以通过 http-request 属性来自定义上传的行为,包括设置请求头。 http-request 属性允许你完全控制上传的行为,包括如何构建请求、发送请

Linux如何做ssh反向代理

SSH反向代理是一种通过SSH协议实现的安全远程访问方式,它允许客户端通过SSH连接到一台具有公网IP的代理服务器,然后这台代理服务器再将请求转发给内部网络中的目标主机。以下是实现SSH反向代理的步骤: 一、准备工作 确保服务器配置: 内网服务器(目标主机)和外网服务器(代理服务器)都安装了SSH服务,并且能够通过SSH进行互相访问。内网服务器上的服务(如Web服务、数据库服务等)需要在本地

将你的github仓库设置为web代理

将你的github仓库设置为web代理 废话不多说,直接上步骤 废话不多说,直接上步骤 创建一个仓库,上传静态web。 2. 设置仓库的 page 1)点击 “Settings” 如图设置

Nginx反向代理功能及动静分离实现

一:Nginx支持正向代理和反向代理 1.正向代理 正向代理,指的是通过代理服务器 代理浏览器/客户端去重定向请求访问到目标服务器 的一种代理服务。 正向代理服务的特点是代理服务器 代理的对象是浏览器/客户端,也就是对于目标服务器 来说浏览器/客户端是隐藏的。 正向代理是客户端指定让代理去访问哪个服务,代表客户端的利益。 2.反向代理 反向代理,指的是浏览器/客户端并不知道自己要

Anthropic 创始人 Dario Amodei 谈:关于护城河与风险,AI 大很难直接替代人

护城河的迷思   近期,Anthropic创始人Dario Amodei与投资人Erik Torenberg进行了一场引人关注的对话。他们探讨了AI的护城河与潜在风险。话说,护城河就像酒水的保质期,过了时间就得小心别翻车。Amodei提到,AI虽有强大的潜力,但短期内难以完全替代人类的智慧。这可让很多人松了一口气,毕竟机器发热总比人心复杂,听着都觉得不舒服。 聪明与控制的博弈   Dar