首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
ceph专题
2.1ceph集群部署准备-硬件及拓扑
硬件配置及建议 时至今日,ceph可以运行在各种各样的硬件平台上,不管是传统的x86架构平台(intel 至强系列、基于amd的海光系列等),还是基于arm的架构平台(比如华为鲲鹏),都可以完美运行ceph集群,展现了其强大的适应能力。 ceph的不同组件对硬件的需求有些许不同,下面是官方推荐的硬件要求: 组件资源最低配置要求OSD处理器最少1 core每200-500 MB/s最少1 co
阅读更多...
Ceph-deploy搭建ceph集群
Ceph介绍及安装 一、Ceph介绍1.1 ceph说明1.2 Ceph架构1.3 Ceph逻辑组织架构1.3.1 Pool1.3.2 PG1.3.3 PGP 二、部署Ceph集群2.1 部署方式:2.2 服务器准备`monitor、mgr、radosgw`:`MDS`(相对配置更高一个等级)`OSD节点 CPU`:`OSD 节点内存`: 2.3 部署环境**2.3.1、四台服务器作
阅读更多...
ceph-iscsi 手动安装过程中的一些问题记录以及解决办法
ceph-iscsi 手动安装教程 安装教程,建议直接看官方文档,猛戳传送门。官方教程是英文版的(不知道有没有中文版),都是一些基础英语,问题不大,实在不行找个翻译软件帮帮忙,哈哈哈。 多啰嗦一点,官方教程里面全部是通过git 一个一个安装的,比较麻烦。可以使用如下命令,比较省事(以ubuntu系统作为示例): `sudo apt update // 更新apt 数据库 sudo apt -
阅读更多...
Ceph RBD使用
CephRBD使用 一、RBD架构说明二、RBD相关操作1、创建存储池2、创建img镜像2.1 创建镜像2.1.2 查看镜像详细信息2.1.3 镜像其他特性2.1.4 镜像特性的启用和禁用 3、配置客户端使用RBD3.1 客户端配置yum源3.2 客户端使用admin用户挂载并使用RBD3.2.1 同步admin账号认证文件3.2.2 客户端映射 3.3 客户端使用普通用户挂载并使用RBD
阅读更多...
ceph中pg与pool关系
在Ceph中,PG(Placement Group)和Pool是非常重要的概念,它们在Ceph的存储架构中扮演着关键角色。理解这些概念有助于更好地管理和优化Ceph集群。下面详细介绍这两个概念及其相互关系。 Pool(存储池) 定义: Pool(存储池)是Ceph中逻辑上的存储单元,用于组织和管理数据。用户可以通过创建不同的Pool来为不同的应用程序或用途分配存储空间。 类型: Pool可以
阅读更多...
ceph rgw reshard (by quqi99)
作者:张华 发表于:2024-08-31 版权声明:可以任意转载,转载时请务必以超链接形式标明文章原始出处和作者信息及本版权声明(http://blog.csdn.net/quqi99) 问题 今天执班遇到一个ceph问题,一个osd device坏了,导致整个client中断。后来这个就解决了,也顺序学习了一下。 原因 bucket里的object太多了,导致它的metadata oma
阅读更多...
了解ceph scrub deep-scrub
目的 了解 ceph scrub, deep-scrub 作用了解 ceph scrub, deep-scrub 相关配置 参考告警 $ ceph -scluster:id: xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxhealth: HEALTH_WARN434 pgs not deep-scrubbed in time <------
阅读更多...
ceph-rgw zipper的设计理念(1)
0.前言 RGW在ceph存储中的主要作用是提供S3和Swift的协议访问支持。Zipper工作主要是将RGW分为协议部分和后端部分。协议部分还是支持S3和Swift协议,包括身份认证、协议参数解析和op操作解析等等;后端部分主要是对接不同的存储,比如rados(zipper中变换为RadosStore,主要通过RADOS访问ceph集群)、DBstore(可以用 SQL,特别是本地 SQLi
阅读更多...
【ceph学习】S3权限认证部分
认证过程简介 认证的过程是一个对用户信息进行解析并且判断前后得到的秘钥是否一致的过程。 auth_regitry的创建 在rgw_main.cc:main()中进行初始化auth_registry对象 /*rgw_main.cc*//* Initialize the registry of auth strategies which will coordinate* the dynam
阅读更多...
【ceph学习】rados bench性能测试工具介绍
rados bench性能测试工具介绍 radosbench介绍 Ceph 包含 rados bench 命令,用于在 RADOS 存储群集上执行性能基准测试。命令将执行写入测试,以及两种类型的读测试。在测试读取和写入性能时,–no-cleanup 选项非常重要。默认情况下,rados bench 命令会删除它写入存储池的对象。保留这些对象后,可以使用两个读取测试来测量顺序读取和随机读取的性能
阅读更多...
【ceph学习】rgw网关进程如何启动
rgw 网关进程启动 主要在rgw_main.cc的main函数中,主要涉及一些关键线程启动、前端服务器(beast等)启动、后端存储模块启动(rados)、perf和log启动等。 流程图关键节点如下: 1、beast的启动 2、rados的启动
阅读更多...
Openstack 与 Ceph集群搭建(下): Openstack部署
文章目录 文章参考部署节点准备1. 修改Host文件与hostname名称2. 安装NTP软件3. 网卡配置信息4. 开启Docker共享挂载5. 安装python虚拟环境6. 安装kolla-ansible7. 加载Ansible galaxy requirements Openstack 安装前预配置1. 配置密码2. 配置multinode文件3. 修改全局配置文件 Opens
阅读更多...
Openstack 与 Ceph集群搭建(完结): 配置Ceph作为Openstack后端存储
文章目录 参考文章1. 前置任务1.0 修改Openstack配置文件1.1. 完成搭建的Ceph集群1.2. 完成存储pool的创建1.3. 针对OpenStack服务提供的Ceph keyring1.3.1. 生成glance的keyring1.3.2. 生成Cinder的keyring1.3.3. 生成Cinder-backup的Keyring1.3.4. 生成Nova的keyring
阅读更多...
K8S对接Ceph分部署存储
文章目录 一、Ceph理论知识1、Ceph简介2、Ceph分布式存储的优点3、Ceph核心组件 二、部署Ceph高可用集群1、服务器环境信息2、部署前环境准备工作3、部署Ceph监控服务Monitor4、激活Ceph存储服务OSD 三、K8S对接Ceph存储1、K8S对接Ceph RBD实现数据持久化2、基于Ceph RBD生成PV3、基于Storageclass动态生成PV4、K8S对接C
阅读更多...
学习笔记六:ceph介绍以及初始化配置
k8s对接ceph ceph是一种开源的分布式的存储系统,包含以下几种存储类型:块存储(rbd)文件系统cephfs对象存储分布式存储的优点:Ceph核心组件介绍 安装Ceph集群初始化配置Ceph安装源安装基础软件包 安装ceph集群安装ceph-deploy 创建monitor节点修改ceph配置文件配置初始monitor、收集所有的密钥部署osd服务 创建ceph文件系统 c
阅读更多...
centos7.9系统安装cloudpods并使用ceph存储(二)
1.ceph安装 1.1 环境准备 配置hosts: $ vim /etc/hosts10.121.x.x node01 设置ssh无密码登录: # ssh-keygen -t rsa# ssh-copy-id -i /root/.ssh/id_rsa node01 关闭selinux、firewalld # setenforce 0# sed -i "s#SELINUX=
阅读更多...
Ceph入门到精通-shell脚本读取指定文件,并按行使用rclone命令进行复制操作
要使用shell脚本读取指定文件,并按行使用rclone命令进行复制操作,您可以编写一个简单的脚本来实现这一功能。以下是一个示例脚本,它将读取指定文件的每一行,然后使用rclone copy命令将远程存储中的文件复制到本地目录。 首先,创建一个新的shell脚本文件,例如download_files.sh,并在文件中写入以下内容: #!/bin/bash# 指定要读取的文件路径INPUT_F
阅读更多...
第29讲:Ceph集群使用RBD块存储设备与K8S的PV集成
文章目录 1.Ceph集群使用RBD块存储与K8S集成简介2.Ceph集群RBD块存储与K8S PV存储卷集成2.1.创建K8S集群PV使用的块存储2.2.创建K8S集群访问RBD块存储设备的认证用户2.3.将认证用户的Key存储在K8S Secret资源中2.4.在K8S集群的所有节点中安装Ceph命令2.5.创建PV及PVC资源使用RBD作为底层存储2.6.创建Pod资源挂载PV存储卷并
阅读更多...
3. ceph-mimic版本部署
ceph-mimic版本部署 一、ceph-mimic版本部署1、环境规划2、系统基础环境准备2.1 关闭防火墙、SELinux2.2 确保所有主机时间同步2.3 所有主机ssh免密2.4 添加所有主机解析 3、配置ceph软件仓库4、安装ceph-deploy工具5、ceph集群初始化6、所有ceph集群节点安装相关软件7、客户端安装ceph-common软件8、在ceph集群中创建cep
阅读更多...
第26讲:Ceph集群OSD扩缩容中Reblanceing数据重分布
文章目录 1.Reblanceing数据重分布的概念2.验证Reblanceing触发的过程3.Reblanceing细节4.临时关闭Reblanceing机制 1.Reblanceing数据重分布的概念 当集群中OSD进行扩缩容操作后,会触发一个Reblanceing数据重分布的机制,简单的理解就是将扩缩容前后OSD中的PG在每一个OSD中进行均匀分布,如下图所示: 在
阅读更多...
21.配置cinder使用nfs及ceph作为后端存储
使用nfs作为后端存储: 此处使用OSP1(使用packstack安装的openstack环境) 作为NFS服务器来测试使用。 在OSP1上配置NFS: 在OSP3上面测试访问NFS成功,如下: # showmount -e 192.168.179.137 测试挂载成功:
阅读更多...
19.配置glance使用ceph作为后端存储
ceph作为后端存储: ceph提供三种存储: 1.对象存储 2.文件存储 3.块存储 框架图: 元数据服务器 MD/MDS 集群监视器MON 对象存储服务器OSD 实际部署的时候,新建了node1(RHEL7.1)和node2(RHEL7.1),其中node1作为MD/MON/OSD1,node2作为OSD2 更新hosts文件: 配置下yum
阅读更多...
Ceph入门到精通-ceph经典盘符飘逸问题处理步骤
在Ceph存储系统中,"盘符飘逸"通常指的是Ceph OSD(Object Storage Daemon)使用的磁盘在系统重启后没有被正确挂载或识别。这可能是由于多种原因造成的,例如磁盘连接问题、驱动问题或配置错误。以下是解决此问题的步骤: 确认磁盘状态: 使用lsblk或fdisk -l命令来检查磁盘的状态和分区信息。 检查Ceph OSD状态: 使用ceph osd tree命令查看所有
阅读更多...
ceph架构学习1
本次文档详细学习ceph官网架构文档,网址为:http://ceph.com/docs/master/architecture/ 先关注一下ceph的API类型: librados是rados的 library,可以支持C,C++,Java,Python,Rubby和php;radosgw是基于通的REST网关,兼容S3和和Swift接口;rbd 是稳定的全分布式块设备
阅读更多...
ceph基础研究(2)
上篇研究了ceph的基础,今天继续阅读官网,记录基础知识。大家有什么不懂,欢迎留言,共同学习。。。 本次主要分析对象存储的内容,研究点为:http://ceph.com/docs/master/rados/ 可以使用下面命令,禁止osd将数据先写到硬盘缓存,直接写到硬盘。 sudo hdparm -W 0 /dev/hda 0 目前官网推荐的ceph使用的文件
阅读更多...
ceph基础研究
去年9月份团队开始研究ceph,我因为研究hadoop,没有经历投入,现在开始研究ceph替代hdfs可行性问题,不知道业内有这样做的吗?我最担心的就是Yarn和ceph本地计算问题,可能会改Yarn的源代码。本次研究是基于hadoop2.0的,希望我能够坚持下来,完成这个项目吧。接下来记录一些博文,本质是改变一下个人的学习习惯,记录一些关键问题,希望大家多提宝贵意见哦,个人邮箱:49
阅读更多...