【直击DTCC】看美丽说数据库架构变迁之路

2023-11-21 17:59

本文主要是介绍【直击DTCC】看美丽说数据库架构变迁之路,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

2016年5月12日-14日,第七届中国数据库技术大会(DTCC 2016)在北京国际会议中心拉开帷幕。作为国内数据库与大数据领域最大规模的技术盛宴,在为期三天的会议中,大会将围绕MySQL、NoSQL、Oracle、缓存技术、云端数据库、智能数据平台、大数据安全、数据治理、大数据和开源、大数据创业、大数据深度学习等领域的前瞻性热点话题与技术展开深入探讨,并邀请一大批国内顶尖的技术专家来进行分享,以满足广大从业人士和行业用户的迫切需要。

  

本届是大会创办以来,规模最大,参会人次、参展合作伙伴最多的一次盛会,云集了来自五湖四海的5000余名IT精英,相聚在这里,共话数据库技术发展潮流,共赴大数据浪潮之巅。我们来到了“数据库性能优化”专场,前美丽说数据库及中间件负责人冯超进行了题为《美丽说数据库架构变迁及自主研发中间件应用》主题演讲。

嘉宾介绍

冯超,前美丽说数据库及中间件负责人,现美图数据库技术经理,6年数据库架构经验,1年创业经验,30年瞎掰经验。

演讲摘要

美丽说从导购网站转型电商过程中数据库面临前所未有的挑战,主要有两方面:1、应用场景不同,导购网站的数据库量级轻,无账户,支付等系统等,流量稳定,无大促秒杀等;2、流量增加迅速,交易额million /day增长至接近billion/day 过程中犯下了一些错误,积累了一点经验,开发了一个插件,调整了一点架构。

本次分享主要有两方面:

1、人文,转型之路,思维意识转变,计划的制定及实施;

2、技术

a、架构调整与优化,包括数据库拆分,架构调整;

b、中间件开发与应用,连接池,读写分离,流量控制,功能实现等;

c、电商特殊场景主要是大促等容量评估以及应对方案;

据冯超介绍,导购转型电商途经几个时期,那就是导购、转型、爆发,导购时代,貌似没什么可吹的;转型时代,GMV百万级别,峰值订单10;爆发时代,GMV billion,峰值订单3K。

具体来说,各个不同的阶段都有不同的需求。导购时代需要:一主一从、配置文件,读写分离、用途混合、业务混合;转型时代需要:电商业务:账户系统、促销秒杀。系统要求:一致性、可用性。问题:单点容量。关于促销秒杀:需要扩展性,可用性。问题:读写瓶颈,写瓶颈、短链接、用途耦合。写瓶颈需要:升级硬件、升级pcie ssd、扩大内存、升级CPU、成本换时间。

  

短链接:主要针对php语言,短链接,MySQL无保护,秒杀时容易击溃数据库。网络timewait,连接超时。长连接提升相应时间,连接复用等,提升有限。解决方案,中间件:增加资源,增加开发成本。

  

中间件:核心价值:proxy作为程序连接数据库的统一入口,可建立适当规范,源源不断的业务接入过程中,proxy可以保障是符合规范的,那可认为这些业务是可控的,方便未来的扩容和调整优化。和程序端解耦,业务爆发时,要求DBA短时间内进行大量的扩容工作,例如:垂直拆分,水平拆分,机器上下线。

  

功能实现:

1、连接池。

2、带权重的负载均衡,可根据机器性能设定相应权重。

3、大表透明水平切分,散表规则的统一。

4、透明的负载均衡,及故障切换,从库故障自动剔除。

5、SQL黑名单,线上异常sql,一旦发现可立即禁止。

6、防止数据库密码泄露,程序端仅可获得连接代理的密码。

7、主动断开功能,建立规则规范,对于不符合规范的sql可进行审核,发现后自动断开,如,获取结果集超过5m,在电商大促时,这类sql是致命的。

8、ip黑名单,可禁止某些异常机器连接,保护数据库。

9、连接数限制,连接数暴涨时,代理连接数限制,保护数据库不会被瞬间击垮。

10、支持强制读主库。

  

不支持夸库查询和分表后的复杂SQL,如limit,count等

  

爆发时代:单机房限制:容量限制,机架机柜数量有限、机房断电等、各地访问速度。

  

转型时代

爆发时代

关注大会官方公众号,获取更多详情

      ↓↓↓ 

这篇关于【直击DTCC】看美丽说数据库架构变迁之路的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/404057

相关文章

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

mybatis的整体架构

mybatis的整体架构分为三层: 1.基础支持层 该层包括:数据源模块、事务管理模块、缓存模块、Binding模块、反射模块、类型转换模块、日志模块、资源加载模块、解析器模块 2.核心处理层 该层包括:配置解析、参数映射、SQL解析、SQL执行、结果集映射、插件 3.接口层 该层包括:SqlSession 基础支持层 该层保护mybatis的基础模块,它们为核心处理层提供了良好的支撑。

百度/小米/滴滴/京东,中台架构比较

小米中台建设实践 01 小米的三大中台建设:业务+数据+技术 业务中台--从业务说起 在中台建设中,需要规范化的服务接口、一致整合化的数据、容器化的技术组件以及弹性的基础设施。并结合业务情况,判定是否真的需要中台。 小米参考了业界优秀的案例包括移动中台、数据中台、业务中台、技术中台等,再结合其业务发展历程及业务现状,整理了中台架构的核心方法论,一是企业如何共享服务,二是如何为业务提供便利。

MySQL数据库宕机,启动不起来,教你一招搞定!

作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)公众号:老苏畅谈运维欢迎关注本人公众号,更多精彩与您分享。 MySQL数据库宕机,数据页损坏问题,启动不起来,该如何排查和解决,本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志,排查哪个表(表空间

系统架构设计师: 信息安全技术

简简单单 Online zuozuo: 简简单单 Online zuozuo 简简单单 Online zuozuo 简简单单 Online zuozuo 简简单单 Online zuozuo :本心、输入输出、结果 简简单单 Online zuozuo : 文章目录 系统架构设计师: 信息安全技术前言信息安全的基本要素:信息安全的范围:安全措施的目标:访问控制技术要素:访问控制包括:等保

深入理解数据库的 4NF:多值依赖与消除数据异常

在数据库设计中, "范式" 是一个常常被提到的重要概念。许多初学者在学习数据库设计时,经常听到第一范式(1NF)、第二范式(2NF)、第三范式(3NF)以及 BCNF(Boyce-Codd范式)。这些范式都旨在通过消除数据冗余和异常来优化数据库结构。然而,当我们谈到 4NF(第四范式)时,事情变得更加复杂。本文将带你深入了解 多值依赖 和 4NF,帮助你在数据库设计中消除更高级别的异常。 什么是

DM8数据库安装后配置

1 前言 在上篇文章中,我们已经成功将库装好。在安装完成后,为了能够更好地满足应用需求和保障系统的安全稳定运行,通常需要进行一些基本的配置。下面是一些常见的配置项: 数据库服务注册:默认包含14个功能模块,将这些模块注册成服务后,可以更好的启动和管理这些功能;基本的实例参数配置:契合应用场景和发挥系统的最大性能;备份:有备无患;… 2 注册实例服务 注册了实例服务后,可以使用系统服务管理,

速了解MySQL 数据库不同存储引擎

快速了解MySQL 数据库不同存储引擎 MySQL 提供了多种存储引擎,每种存储引擎都有其特定的特性和适用场景。了解这些存储引擎的特性,有助于在设计数据库时做出合理的选择。以下是 MySQL 中几种常用存储引擎的详细介绍。 1. InnoDB 特点: 事务支持:InnoDB 是一个支持 ACID(原子性、一致性、隔离性、持久性)事务的存储引擎。行级锁:使用行级锁来提高并发性,减少锁竞争

利用命令模式构建高效的手游后端架构

在现代手游开发中,后端架构的设计对于支持高并发、快速迭代和复杂游戏逻辑至关重要。命令模式作为一种行为设计模式,可以有效地解耦请求的发起者与接收者,提升系统的可维护性和扩展性。本文将深入探讨如何利用命令模式构建一个强大且灵活的手游后端架构。 1. 命令模式的概念与优势 命令模式通过将请求封装为对象,使得请求的发起者和接收者之间的耦合度降低。这种模式的主要优势包括: 解耦请求发起者与处理者

开源分布式数据库中间件

转自:https://www.csdn.net/article/2015-07-16/2825228 MyCat:开源分布式数据库中间件 为什么需要MyCat? 虽然云计算时代,传统数据库存在着先天性的弊端,但是NoSQL数据库又无法将其替代。如果传统数据易于扩展,可切分,就可以避免单机(单库)的性能缺陷。 MyCat的目标就是:低成本地将现有的单机数据库和应用平滑迁移到“云”端