Linux块设备缓存Bcache使用

2023-10-19 01:28

本文主要是介绍Linux块设备缓存Bcache使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1 Bcache简介

Bcache是Linux内核块层cache,它使用SSD来作为HDD硬盘的cache,从而起到加速作用。Bcache内核模块仅在Linux 3.10及以上版本支持,因此使用Bcache,需要将内核升级到3.10及以上版本,并在内核配置项中打开Bcache模块

Bcache具有以下特征

  • 一个缓存设备可以作为多个设备的缓存,并且可以在设备运行时动态添加和删除缓存
  • 可以从非正常状态关机中恢复,只有当缓存写入到后端设备才会确认写完成
  • 正确处理写阻塞和刷缓存
  • 支持writethrough、writeback和writearound等写缓存模式
  • 检测并避开顺序IO(可配置阈值,或关闭该选项)
  • 当检测到SSD延迟超过配置边界值,减少到SSD流量(当一个SSD作为多个磁盘缓存时使用)
  • 缓存不命中时预读(默认关闭)
  • 高性能的writeback实现:脏数据通过排序后再刷到磁盘中。如果设置了writeback_percent值,后台的writeback进程利用PD控制器根据脏数据比例平滑地处理脏数据
  • 使用高效率的B+树,硬件设备足够快速的情况下,bcache随机读可以达到1M IOPS
  • 可在生产中稳定的使用

相关名词

  • cache device: 缓存盘(前端), 一般为SSD高速磁盘设备
  • backing device: 数据盘(后端), 一般为HDD低速磁盘设备

2 Bcache的缓存策略

Bcache支持三种缓存策略:writeback(回写策略)writethrough(写通策略)writearound(旁路策略)。默认使用writethrough,缓存策略可动态修改。

  • writeback:此策略模式下,则所有的数据将先写入缓存盘,然后等待系统将数据回写到后端数据盘中,此策略默认关闭。
  • writethrough:此策略模式下,数据同时写入缓存盘和后端数据盘,适用于读多写少的场景,此策略默认打开。
  • writearound:选择此策略,数据将直接写入后端磁盘。

3 编译安装bcache-tools工具

要使用bcache,需要安装相关的工具包bcache-tools。

下载链接:https://git.kernel.org/pub/scm/linux/kernel/git/colyli/bcache-tools.git/snapshot/bcache-tools-1.1.tar.gz

3.1 安装步骤

  1. 将下载的bcache-tools上传到服务器/opt/目录下

  2. 解压缩,切换工作目录

    cd /opt/
    tar -zxvf bcache-tools-1.1.tar.gz
    cd bcache-tools-1.1/
    
  3. 安装依赖

    yum install libblkid-devel -y
    
  4. 安装

    make
    make install
    
  5. 验证

    image-20231017213525225

3.2 依赖处理

pkg-config: not found

# Ubuntu
apt install pkg-config

Package uuid was not found in the pkg-config search path.
Perhaps you should add the directory containing uuid.pc
to the PKG_CONFIG_PATH environment variable
No package ‘uuid’ found

# Ubuntu
apt install uuid-dev

Package blkid was not found in the pkg-config search path.
Perhaps you should add the directory containing blkid.pc
to the PKG_CONFIG_PATH environment variable
No package ‘blkid’ found

# Ubuntu
apt install libblkid-dev
# CentOS
yum install libblkid-devel

Package smartcols was not found in the pkg-config search path.
Perhaps you should add the directory containing `smartcols.pc’
to the PKG_CONFIG_PATH environment variable
No package ‘smartcols’ found

# Ubuntu
apt install libsmartcols-dev
# CentOS
yum install liblibsmartcols-devel

4 Bcache基本操作

/dev/sdl/dev/sdx是SSD设备,我们用/dev/sdl这块SSD加速/dev/sda/dev/sdb两块HDD。

4.1 创建bcache后端和缓存磁盘

make-bcache -B /dev/sda /dev/sdb -C /dev/sdl # 自动关联Bcache设备
或者
make-bcache -B /dev/sda /dev/sdb
make-bcache -C /dev/sdl
bcache attach /dev/sdl /dev/sda # 手动关联
bcache attach /dev/sdl /dev/sdb

4.2 查看Bcache当前的状态

[root@ceph01 ~]# bcache show -m
Name            Uuid                                    Cset_Uuid                               Type    State                    Bname           AttachToDev     AttachToCset
/dev/sdb        12dee1f4-05ab-4e13-9262-dcea08dbfda0    354761ed-4f32-4064-8df3-3c74bbaf389b    1 (data)clean(running)   bcache1         /dev/sdl        354761ed-4f32-4064-8df3-3c74bbaf389b
/dev/sdl        f73a9156-8468-4001-b4ef-1ed508d34a08    354761ed-4f32-4064-8df3-3c74bbaf389b    3 (cacheactive           N/A             N/A             N/A
/dev/sda        e022596f-c813-46db-a48e-e7504065be31    354761ed-4f32-4064-8df3-3c74bbaf389b    1 (data)clean(running)   bcache0         /dev/sdl        354761ed-4f32-4064-8df3-3c74bbaf389b

image-20231018173100094

直接把/dev/bcache0/dev/bcache1当做磁盘分区格式化挂载使用即可。

4.3 删除后端低速数据盘

每一块低速盘(HDD)在经过make-bcache后,都会对应一个Bname,例如,bcache0、bcache1等。删除低速盘就是将对应的Bname设备停掉(删掉)。如果该Bname对应的设备有绑定前端盘(SSD),需要先解除与前端盘的关联。

# 获取后端设备的cset.uuid
[root@ceph01 ~]# bcache-super-show /dev/sda
sb.magic                ok
sb.first_sector         8 [match]
sb.csum                 44D5ED8229F0D21C [match]
sb.version              1 [backing device]dev.label               (empty)
dev.uuid                e022596f-c813-46db-a48e-e7504065be31
dev.sectors_per_block   1
dev.sectors_per_bucket  1024
dev.data.first_sector   16
dev.data.cache_mode     0 [writethrough]
dev.data.cache_state    1 [clean]cset.uuid               354761ed-4f32-4064-8df3-3c74bbaf389b# 通过获取到的cset.uuid移除bcache0的绑定
[root@ceph01 ~]# echo 354761ed-4f32-4064-8df3-3c74bbaf389b > /sys/block/bcache0/bcache/detach
# 删除后端盘
[root@ceph01 ~]# echo 1 > /sys/block/bcache0/bcache/stop

4.4 删除前端高速缓存盘

[root@ceph01 ~]# ls /sys/fs/bcache/
354761ed-4f32-4064-8df3-3c74bbaf389b  register  register_quiet
# 取消前端高速缓存盘的注册
[root@localhost opt]# echo 1 >/sys/fs/bcache/354761ed-4f32-4064-8df3-3c74bbaf389b/unregister

4.5 相关问题

4.5.1 Already a bcache device on /dev/sdX, overwrite with –wipe-bcache

[root@localhost opt]# make-bcache -B /dev/sdc
Already a bcache device on /dev/sdc, overwrite with --wipe-bcache# 这是因为之前这块盘已经make-bcache过了, 可能出现在反复试验的时间, 多次创建、删除
[root@localhost opt]# make-bcache -B /dev/sdc --wipe-bcache
UUID:			3b3c8cd1-864b-4fdb-9283-a2e212d0d290
Set UUID:		92d8465a-0720-4b30-8f7d-988abdf3ee85
version:		1
block_size:		1
data_offset:	16

4.5.2 Can’t open dev /dev/sdX: Device or resource busy

# 一个例子,/dev/sdb是前端缓存盘,/dev/sdc是后端数据盘
# 这个错误出现在我试验过程中, 在重新创建前端高速缓存设备的时间
# 这是因为前端高速缓存设备已经创建过了, 并未删除导致的
# 解决方法:1. 查看ls /sys/fs/bcache/2. 对前端缓存盘进行删除(取消注册)
[root@localhost opt]# lsblk
NAME            MAJ:MIN RM  SIZE RO TYPE MOUNTPOINT
sdb               8:16   0   30G  0 disk 
sdc               8:32   0  100G  0 disk 
sda               8:0    0   20G  0 disk 
├─sda2            8:2    0   19G  0 part 
│ ├─centos-swap 253:1    0    2G  0 lvm  [SWAP]
│ └─centos-root 253:0    0   17G  0 lvm  /
└─sda1            8:1    0    1G  0 part /boot[root@localhost opt]# make-bcache -C /dev/sdb
Can't open dev /dev/sdb: Device or resource busy# 查看前端高速缓存设备注册信息?
[root@localhost opt]# ls /sys/fs/bcache/
0b241b68-c354-461d-9ca1-ea00448057a9  pendings_cleanup  register  register_quiet# 由于当前系统是干净的, 但是/sys/fs/bcache/目录下存在注册信息, 应该是忘记删除导致的
# 对该注册信息进行删除(取消注册)
[root@localhost opt]# echo 1 >/sys/fs/bcache/0b241b68-c354-461d-9ca1-ea00448057a9/unregister[root@localhost opt]# ls /sys/fs/bcache/
pendings_cleanup  register  register_quiet# 重新创建前端高速缓存设备
[root@localhost opt]# make-bcache -C /dev/sdb --wipe-bcache
UUID:			ba550b3f-646b-4740-8192-b9b2bebc3d63
Set UUID:		f8361f22-92c3-421e-8a21-e5a5c6997508
version:		0
nbuckets:		61440
block_size:		1
bucket_size:		1024
nr_in_set:		1
nr_this_dev:		0
first_bucket:		1[root@localhost opt]# ls /sys/fs/bcache/
f8361f22-92c3-421e-8a21-e5a5c6997508  pendings_cleanup  register  register_quiet

参考

  • 鲲鹏BoostKit分布式存储使能套件-基础加速特性-Cache加速-Bcache用户指南-Bcache使用

  • Bcache官方用户文档

  • 更多操作见:SSD加速HDD盘方案之bcache

  • bcache的使用

这篇关于Linux块设备缓存Bcache使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/236372

相关文章

Python使用Pandas对比两列数据取最大值的五种方法

《Python使用Pandas对比两列数据取最大值的五种方法》本文主要介绍使用Pandas对比两列数据取最大值的五种方法,包括使用max方法、apply方法结合lambda函数、函数、clip方法、w... 目录引言一、使用max方法二、使用apply方法结合lambda函数三、使用np.maximum函数

MySQL8.0设置redo缓存大小的实现

《MySQL8.0设置redo缓存大小的实现》本文主要在MySQL8.0.30及之后版本中使用innodb_redo_log_capacity参数在线更改redo缓存文件大小,下面就来介绍一下,具有一... mysql 8.0.30及之后版本可以使用innodb_redo_log_capacity参数来更改

Qt 中集成mqtt协议的使用方法

《Qt中集成mqtt协议的使用方法》文章介绍了如何在工程中引入qmqtt库,并通过声明一个单例类来暴露订阅到的主题数据,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录一,引入qmqtt 库二,使用一,引入qmqtt 库我是将整个头文件/源文件都添加到了工程中进行编译,这样 跨平台

C++使用栈实现括号匹配的代码详解

《C++使用栈实现括号匹配的代码详解》在编程中,括号匹配是一个常见问题,尤其是在处理数学表达式、编译器解析等任务时,栈是一种非常适合处理此类问题的数据结构,能够精确地管理括号的匹配问题,本文将通过C+... 目录引言问题描述代码讲解代码解析栈的状态表示测试总结引言在编程中,括号匹配是一个常见问题,尤其是在

Java中String字符串使用避坑指南

《Java中String字符串使用避坑指南》Java中的String字符串是我们日常编程中用得最多的类之一,看似简单的String使用,却隐藏着不少“坑”,如果不注意,可能会导致性能问题、意外的错误容... 目录8个避坑点如下:1. 字符串的不可变性:每次修改都创建新对象2. 使用 == 比较字符串,陷阱满

Python使用国内镜像加速pip安装的方法讲解

《Python使用国内镜像加速pip安装的方法讲解》在Python开发中,pip是一个非常重要的工具,用于安装和管理Python的第三方库,然而,在国内使用pip安装依赖时,往往会因为网络问题而导致速... 目录一、pip 工具简介1. 什么是 pip?2. 什么是 -i 参数?二、国内镜像源的选择三、如何

使用C++实现链表元素的反转

《使用C++实现链表元素的反转》反转链表是链表操作中一个经典的问题,也是面试中常见的考题,本文将从思路到实现一步步地讲解如何实现链表的反转,帮助初学者理解这一操作,我们将使用C++代码演示具体实现,同... 目录问题定义思路分析代码实现带头节点的链表代码讲解其他实现方式时间和空间复杂度分析总结问题定义给定

Linux使用nload监控网络流量的方法

《Linux使用nload监控网络流量的方法》Linux中的nload命令是一个用于实时监控网络流量的工具,它提供了传入和传出流量的可视化表示,帮助用户一目了然地了解网络活动,本文给大家介绍了Linu... 目录简介安装示例用法基础用法指定网络接口限制显示特定流量类型指定刷新率设置流量速率的显示单位监控多个

ElasticSearch+Kibana通过Docker部署到Linux服务器中操作方法

《ElasticSearch+Kibana通过Docker部署到Linux服务器中操作方法》本文介绍了Elasticsearch的基本概念,包括文档和字段、索引和映射,还详细描述了如何通过Docker... 目录1、ElasticSearch概念2、ElasticSearch、Kibana和IK分词器部署

JavaScript中的reduce方法执行过程、使用场景及进阶用法

《JavaScript中的reduce方法执行过程、使用场景及进阶用法》:本文主要介绍JavaScript中的reduce方法执行过程、使用场景及进阶用法的相关资料,reduce是JavaScri... 目录1. 什么是reduce2. reduce语法2.1 语法2.2 参数说明3. reduce执行过程