SQL 人要敢于说不

2024-02-11 04:59
文章标签 sql database 人要 敢于

本文主要是介绍SQL 人要敢于说不,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

“哎,小 C 帮导个数据,很简单,我只要 5 万条”

 

我们组的小姑娘经常会被这种无脑的要求,折腾得哭笑不得。曾几何时我做 SQL 开发的时候也经常遇到这种不定期,无规范的 ad hoc 查询。这是数据应用初期常有的拍脑袋案例。

 

但如果真的开了这种口子,我们来猜猜会怎么样:

 

各个部门都要来开这样的接口,一次导出数据,具体数据量不可控;有时候,多个部门同时开始导出全年或者前 5 年的历史数据;然后,你的系统经常无缘无故被投诉拖卡慢,然后你的年终奖,886.

 

然后我们来说说小 C 面对的这个业务提出的需求,导出 5 万条数据,真的是很困难么?为什么要告诉业务,“你这个需求不简单,难!!!”

 

首先,你司的系统并不是为你一个人/部门服务的。

抛开你的个人烦恼先不说。你先了解下你们公司有多少部门,多少人在用这套系统。假如每个人都想开个独特的流程去导个数万条数据,无疑加大了你们这套系统的负荷。加上原本这套系统可能就服务了上百万名用户(互联网公司用户特别多),那么每个部门都同时拉取数万条数据有可能就直接把内存、硬盘 IO、网络给占爆(再说一遍,你司的系统并不是为你一个人/部门服务的)

接着,说说技术上的不可实现。

基于第一点,假设有很多部门都在同时拉取数万条数据,从技术上来讲,数据都是从硬盘读到内存,经由网络输出到你部门。大批量的数据必定占用高内存,高 IO, 高网络占用率。任何经过严格控制的 OLTP 系统并不会给到这么一个接口,让大家都去无限量的读取数据。有时候为了数据库的稳定,我们还会对数据接口做限流和熔断。

最后,解决你要导出数据的问题。

你做了活动,要做一些数据分析和统计,这是件头等大事。数据运营在 BAT 是常见的手段了,所以这样的需求要培养,要规划。养数据到用数据,是企业信息化的必经之路。但为了系统的稳定,必须采用特殊架构来帮助更好、更健壮、更有效率的完成数据分析的工作。这就涉及到数据架构规划的问题了。业界最佳实践采用的是读写分离架构。写操作放在 MySQL 实时进行,而读数据(也就是满足你数据需求的操作)就放到另一台数据归档(简称数据仓库)服务器上进行。此时,你提出拉数据的需求,可以让服务器的任务管理器帮你调度,而不影响其他任务的执行。

 

640

昨天在曹大的星球中,发现一个好玩的收二手书的小程序。老读者肯定知道我其实还算得上比较爱看书的那种,所以我的读者肯定都是爱读书的,推荐给大家。

如果你有旧书 放到这上面来卖 让原本的书的价值在此流动起来 你还可以低价重新购买别的书

 

 

 

这篇关于SQL 人要敢于说不的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/698891

相关文章

MySQL进阶之路索引失效的11种情况详析

《MySQL进阶之路索引失效的11种情况详析》:本文主要介绍MySQL查询优化中的11种常见情况,包括索引的使用和优化策略,通过这些策略,开发者可以显著提升查询性能,需要的朋友可以参考下... 目录前言图示1. 使用不等式操作符(!=, <, >)2. 使用 OR 连接多个条件3. 对索引字段进行计算操作4

MySQL表锁、页面锁和行锁的作用及其优缺点对比分析

《MySQL表锁、页面锁和行锁的作用及其优缺点对比分析》MySQL中的表锁、页面锁和行锁各有特点,适用于不同的场景,表锁锁定整个表,适用于批量操作和MyISAM存储引擎,页面锁锁定数据页,适用于旧版本... 目录1. 表锁(Table Lock)2. 页面锁(Page Lock)3. 行锁(Row Lock

MySQL zip安装包配置教程

《MySQLzip安装包配置教程》这篇文章详细介绍了如何使用zip安装包在Windows11上安装MySQL8.0,包括下载、解压、配置环境变量、初始化数据库、安装服务以及更改密码等步骤,感兴趣的朋... 目录mysql zip安装包配置教程1、下载zip安装包:2、安装2.1 解压zip包到安装目录2.2

MySQL安装时initializing database失败的问题解决

《MySQL安装时initializingdatabase失败的问题解决》本文主要介绍了MySQL安装时initializingdatabase失败的问题解决,文中通过图文介绍的非常详细,对大家的学... 目录问题页面:解决方法:问题页面:解决方法:1.勾选红框中的选项:2.将下图红框中全部改为英

MySQL 中的服务器配置和状态详解(MySQL Server Configuration and Status)

《MySQL中的服务器配置和状态详解(MySQLServerConfigurationandStatus)》MySQL服务器配置和状态设置包括服务器选项、系统变量和状态变量三个方面,可以通过... 目录mysql 之服务器配置和状态1 MySQL 架构和性能优化1.1 服务器配置和状态1.1.1 服务器选项

MySQL8.0设置redo缓存大小的实现

《MySQL8.0设置redo缓存大小的实现》本文主要在MySQL8.0.30及之后版本中使用innodb_redo_log_capacity参数在线更改redo缓存文件大小,下面就来介绍一下,具有一... mysql 8.0.30及之后版本可以使用innodb_redo_log_capacity参数来更改

Springboot中分析SQL性能的两种方式详解

《Springboot中分析SQL性能的两种方式详解》文章介绍了SQL性能分析的两种方式:MyBatis-Plus性能分析插件和p6spy框架,MyBatis-Plus插件配置简单,适用于开发和测试环... 目录SQL性能分析的两种方式:功能介绍实现方式:实现步骤:SQL性能分析的两种方式:功能介绍记录

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景

oracle DBMS_SQL.PARSE的使用方法和示例

《oracleDBMS_SQL.PARSE的使用方法和示例》DBMS_SQL是Oracle数据库中的一个强大包,用于动态构建和执行SQL语句,DBMS_SQL.PARSE过程解析SQL语句或PL/S... 目录语法示例注意事项DBMS_SQL 是 oracle 数据库中的一个强大包,它允许动态地构建和执行

SQL 中多表查询的常见连接方式详解

《SQL中多表查询的常见连接方式详解》本文介绍SQL中多表查询的常见连接方式,包括内连接(INNERJOIN)、左连接(LEFTJOIN)、右连接(RIGHTJOIN)、全外连接(FULLOUTER... 目录一、连接类型图表(ASCII 形式)二、前置代码(创建示例表)三、连接方式代码示例1. 内连接(I