首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
tidb专题
等保2.0--安全计算环境--TiDB数据库
在使用本博客提供的学习笔记及相关内容时,请注意以下免责声明:信息准确性:本博客的内容是基于作者的个人理解和经验,尽力确保信息的准确性和时效性,但不保证所有信息都完全正确或最新。非专业建议:博客中的内容仅供参考,不能替代专业人士的意见和建议。在做出任何重要决定之前,请咨询相关领域的专业人士。个人责任:使用本博客内容的风险由用户自行承担。作者不对因使用本博客内容而导致的任何直接或间接损失承担责任。版权
阅读更多...
【TiDB原理与实战详解】4、DM 迁移和TiCDC数据同步~学不会? 不存在的!
DM工具数据迁移 1、简介 DM全称TiDB Data Migration , 支持兼容mysql协议的数据库(MySQL、MariaDB、Aurora MySQL),将数据(异步)迁移到TiDB中。支持全量和增量数据传输。可以过滤数据,可以将分库分表的数据合并迁移到TiDB中。 2、DM集群安装配置 生产最低配置(可扩容) 组件数量DM-maste3DM-worker3G
阅读更多...
TiDB-从0到1-TiCDC数据同步工具
TiDB从0到1系列 TiDB-从0到1-体系结构TiDB-从0到1-分布式存储TiDB-从0到1-分布式事务TiDB-从0到1-MVCCTiDB-从0到1-部署篇TiDB-从0到1-配置篇TiDB-从0到1-集群扩缩容TiDB-从0到1-数据导出导入TiDB-从0到1-BR工具 一、TiCDC简介 每每介绍TiDB的组件都不得不感叹一下其强大的整体功能性。当使用MySQL还需要在下游挂
阅读更多...
星辰考古:TiDB v2.x 回忆杀
前情回顾 在上一篇文章 星辰考古:TiDB v1.0 再回首 中,我们“回忆”了 TiDB v1.0 的内容,本文将介绍 TiDB v2.x 的相关内容。 从 TiDB 2.x 开始,正式引入 TiSpark 大数据组件,用于解决用户复杂的 OLAP 需求,或者 OLTP 和 OLAP 混合场景。 TiDB 2.x 整体架构图“升级”如下。 主要时间线 TiDB 2.x 系列在 2 年时间
阅读更多...
爬虫场景,可以使用TiDB替代HBase吗?
爬虫场景是典型的写多读少,咱们先看看HBase和TiDB的架构,再做进一步判断。 一、 HBase主要分为Master Server,region Server的主服务,以及需要HDFS,ZooKeeper的支撑服务。 (1)Master Server用于协调Region Server,而Region Server对外提供自身大量Region单元和wals的读写访问,以及对Region的维护。一
阅读更多...
TiDB-从0到1-部署篇
TiDB从0到1系列 TiDB-从0到1-体系结构TiDB-从0到1-分布式存储TiDB-从0到1-分布式事务TiDB-从0到1-MVCCTiDB-从0到1-部署篇 一、TiUP TiUP是TiDB4.0版本引入的集群运维工具,通过TiUP可以进行TiDB的日常运维工作,包括部署、启动、关闭、销毁、弹性扩缩容和升级TiDB集群,以及管理TiDB集群参数。相较二进制、yum等部署方式,Ti
阅读更多...
TiDB-从0到1-MVCC
TiDB从0到1系列 TiDB-从0到1-体系结构TiDB-从0到1-分布式存储TiDB-从0到1-分布式事务TiDB-从0到1-MVCC 一、MVCC Multi-Version Concurrency Control 多版本并发控制,其主要解决了读并发的问题。 其维持一个数据的多个版本使读写操作没有冲突。也就是说数据元素X上的每一个写操作产生X的一个新版本,为X的每一个读操作选择一个版
阅读更多...
国产数据库TiDB的常用方法
TiDB的常用方法主要涉及安装配置、数据操作、性能调优以及监控和维护等方面。以下是对这些常用方法的归纳和介绍: 1. 安装与配置 安装TiDB:根据官方文档的指引,用户可以按照步骤进行TiDB的安装。配置TiDB:安装完成后,需要对TiDB的相关参数进行配置,包括端口号、数据目录等。这些配置可以在TiDB的配置文件(如tidb.toml)中进行设置。 2. 数据操作 创建数据库和表:使用S
阅读更多...
【TiDB 二】TiDB核心特性
TiDB架构组成 TiDB集群主要包括三个核心组件: TiDB Server:负责接收SQL请求,通过PD中存储的元数据找到数据存在哪个TiKV上,并与TiKV交互将查询结果返回用户PD Server:整个集群的管理者,主要存储元数据(数据库、数据表相关的信息),能够实现负载均衡、分配全局唯一的事务IDTiKV Server:负责真正存储数据,本质上是一个KV(键值型)存储引擎 此外,还有用
阅读更多...
TiDB学习2:TiDB Sever
目录 1. TiDB Server架构 2. sql语句的解析和编译 2.1 Parse 编辑 2.2 compile 3. 行转化为KV对(聚簇表) 编辑4. SQL 读写相关模块 4.1 DistSQL(复杂查询) 4.2 KV(简单查询) 5. 在线DDL相关模块 6. GC机制与相关模块 7. TiDB Server的缓存 8. 热点小表缓存 9. 总结
阅读更多...
万物皆可监控(shell脚本监控TIDB-DM和DSG同步状态)
监控的方式有很多,常用的有zabbix和prometheus平台,理论上都可以做到对有状态服务的监控,因为我个人对这两个监控平台不是很熟悉,所以一般喜欢使用shell脚本来做监控; 纯oracle 数据库的监控推荐使用EMCC,具体见如下博文。EMCC13.5安装配置手册(详细版)_oracle emcc安装-CSDN博客 shell 脚本监控的优势: 简单灵活:使用Shell脚本可以快速实
阅读更多...
TiDB系列之:使用TiUP部署TiDB集群最新版本,同时部署TiCDC的详细步骤
TiDB系列之:使用TiUP部署TiDB集群最新版本,同时部署TiCDC的详细步骤 一、部署TiDB集群二、准备环境三、安装 TiUP四、安装TiUP cluster组件五、初始化包含TiCDC的TiDB集群拓扑文件六、检查和修复集群存在的潜在风险七、查看可以安装的tidb版本八、部署 TiDB 集群:九、查看集群列表十、检查集群状态十一、安全启动十二、再次检查集群状态十三、TiDB集群管理
阅读更多...
TiDB系列之:TiDB数据库账号权限,创建TiDB账号,创建数据库,创建表,插入数据
TiDB系列之:TiDB数据库账号权限,创建TiDB账号,创建数据库,创建表,插入数据 一、TiDB账号权限二、创建TiDB账号三、创建数据库,创建表,插入数据 一、TiDB账号权限 TiDB账号权限可以分为系统级权限和对象级权限两种,具体如下: 系统级权限: ALL PRIVILEGES:拥有所有权限。CREATE USER:创建用户。DROP USER:删除用户。RELOA
阅读更多...
TiDB - 如何在国内编译
0: 由于天朝的特殊,在国内很不好编译(主要是依赖库下载不了)。 所以记录下编译过程 需要的工具: debian 或者其他linux其他版本。 make,git,golang(最好1.11版本以上) 编译过程 export GOPATH=/data/tidb mkdir -p /data/tidb/src/github.com/pingcap cd $GOPATH/src/
阅读更多...
数据库|TiDB-Server API的高效应用指南
一、API介绍 1.Status 显示TiDB 连接数、版本和git_hash 信息 tidb-server_ip:status_port/status {"connections": 0,"version": "5.7.25-TiDB-v6.1.1","git_hash": "5263a0abda61f102122735049fd0dfadc7b7f822"}
阅读更多...
TiDB 利用binlog 恢复-反解析binlog
我们知道TiDB的binlog记录了所有已经执行成功的dml语句,类似mysql binlog row模式 ,TiDB官方也提供了reparo可以进行解析binlog,如下所示: [2024/04/26 20:58:02.136 +08:00] [INFO] [config.go:153] ["Parsed start TSO"] [ts=449217508147200000][2024/0
阅读更多...
tidb离线本地安装及mysql迁移到tidb
一、背景(tidb8.0社区版) 信创背景下不多说好吧,从资料上查tidb和OceanBase“兼容”(这个词有意思)的比较好。 其实对比了很多数据库,有些是提供云服务的,有些“不像”mysql,综合考虑下用tidb 这种环境的特点:需要本地部署在内网环境上 二、安装 安装前说明: mysql大多数都是单机安装,加一个主从,tidb是支持分布式部署的,本篇就说下单机部署,分布式部署不细说(其实也
阅读更多...
TiDB系列之:TiCDC使用Changefeed完成数据同步任务
TiDB系列之:TiCDC使用Changefeed完成数据同步任务 一、Changefeed二、Changefeed 状态流转三、操作Changefeed四、cdc cli管理同步任务1.创建同步任务2.查询同步任务列表3.查询特定同步任务4.停止同步任务5.恢复同步任务6.删除同步任务7.更新同步任务配置8.管理同步子任务处理单元 (processor)9.同步启用了 TiDB 新的 Co
阅读更多...
TiDB系列之:认识TiDB数据库,使用TiUP部署TiDB集群,同时部署TiCDC的详细步骤
TiDB系列之:认识TiDB数据库,使用TiUP部署TiDB集群,同时部署TiCDC的详细步骤 一、认识TiDB二、TiDB五大核心特性三、四大核心应用场景四、认识TiUP五、TiUP 生态介绍六、安装 TiUP七、安装TiUP cluster组件八、初始化集群拓扑文件九、部署包含TiCDC的TiDB集群十、执行部署命令十一、查看 TiUP 管理的集群情况十二、检查部署的 TiDB 集群情况
阅读更多...
TiDB-PCTP考试复习
前言:本文仅作学习交流使用,对应《TiDB 数据库管理(303)》 补充:本文章仅用于个人学习,未经PingCAP书面许可,任何单位或个人不得将文档内容用于商业目的,或对本文章进行转载、编辑、发布、出售。 课堂测试汇总 Lesson 01: TiDB Cluster 部署 1.下列关于TiUP的说法正确的是?(选2项) A. TiUP 是从 TiDB 6.0 引入的包管理器 B
阅读更多...
TiDB 6.x 新特性解读 | Collation 规则
对数据库而言,合适的字符集和 collation 规则能够大大提升使用者运维和分析的效率。TiDB 从 v4.0 开始支持新 collation 规则,并于 TiDB 6.0 版本进行了更新。本文将深入解读 Collation 规则在 TiDB 6.0 中的变更和应用。 引 这里的“引”,有两层含义,这第一层是“ 引言”,从 TiDB v6.0 发版说明 中可以了解到,TiDB 6.0
阅读更多...
【大数据】TiDB: A Raft-based HTAP Database
文章目录 数据库知识介绍数据库系统的ACID特性分布式系统和CAP理论关系型数据库与非关系型数据库关系型数据库非关系型数据库 OldSQL、NoSQL、NewSQLOldSQLNoSQLNewSQL OLTP、OLAP、HTAP 前言:为什么选择TiDB学习?pingCAP介绍TiDB介绍TiDB的影响力TiDB概括创作背景 论文阅读:TiDB: A Raft-based HTAP Dat
阅读更多...
2021年8月国产数据库排行榜:TiDB稳榜首,达梦返前三,Kingbase进十强,各厂商加速布局云生态
8月份的国产数据库流行度排行榜新鲜出炉。本月共有139个数据库参与了排名。 先来看看排行榜前五名。PingCAP的TiDB分数连续第二个月上涨,总分达到630.21,以136.48的分数差拉开了与第二名的差距,榜首地位不易被动摇。7月,PingCAP DevCon 2021盛大召开,同时第二期Hacking Camp也正式开启,这些铺天盖地的资讯和活动对提升TiDB流行度的作用不言而喻。
阅读更多...
TiDB存储引擎TiKV揭秘
目录 一、TiKV 介绍 二、RocksDB 三、TiKV 与 RocksDB 架构 3.1 用户数据保存 3.2 TiKV 中 Region 一、TiKV 介绍 TiKV 是一个分布式事务型的键值数据库,提供了满足 ACID 约束的分布式事务接口,并且通过 Raft 协议保证了多副本数据一致性以及高可用。TiKV 作为 TiD
阅读更多...
TiDB 源码阅读系列文章(十五)Sort Merge Join
什么是 Sort Merge Join 在开始阅读源码之前, 我们来看看什么是 Sort Merge Join (SMJ),定义可以看 wikipedia。简单说来就是将 Join 的两个表,首先根据连接属性进行排序,然后进行一次扫描归并, 进而就可以得出最后的结果。这个算法最大的消耗在于对内外表数据进行排序,而当连接列为索引列时,我们可以利用索引的有序性避免排序带来的消耗, 所以通常在查询优化
阅读更多...
社区 | 如何优雅降落到 TiDB 星球?
提到「开源项目 TiDB」人们总是习惯性反应:它在 GitHub 上 Star 数已经超过 17000,并拥有 260+ 位全球各地的 Contributors 。但数据总归是冷冰冰的,不能生动的展现 TiDB 社区的魅力。所以今天推送一篇 TiDB contributor 杜川同学加入 TiDB 社区前后的「心路历程」,他从亲历者的角度告诉你—— + PingCAPer 够 nice 么?
阅读更多...