DAOS 分布式异步对象存储|分层和服务

2023-10-11 19:20

本文主要是介绍DAOS 分布式异步对象存储|分层和服务,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

架构

        如下图所示,DAOS 堆栈被构造为客户端/服务器架构上的存储服务集合。

        DAOS 服务的例子有 Pool、Container、Object 和 Rebuild。

DAOS Internal Services & Libraries

        DAOS 服务分布在控制和数据平面上,并通过 dRPC 进行内部通信。大多数服务都有客户端和服务器组件,可以通过 gRPC 或 CART 进行同步。跨服务通信是直接通过 API 调用来完成的,这些函数可以被跨服务的客户端或服务器组件调用。

        虽然每个 DAOS 服务都被设计成自治和隔离的,但有些服务的耦合比其他服务更紧密。这通常是 Rebuild 服务的情况,它需要与 Pool、Container 和 Object 服务密切交互,以便在 DAOS 服务器发生故障后恢复数据冗余。

        基于服务的架构提供了灵活性和可扩展性,它与一组基础架构库相结合,这些库提供了可供所有 DAOS 服务访问的丰富软件生态系统(例如,通信、持久存储访问、具有依赖关系图的异步任务执行、加速器支持等)。

源代码结构

        每个基础架构库和服务都在 src/ 下被分配一个专用目录。

        服务的客户端和服务器组件存储在不同的文件中。作为客户端组件的函数的前缀是 dc_(代表 DAOS Client),而服务器端函数的前缀是 ds_(代表 DAOS Server)。客户端和服务器组件之间使用的协议和 RPC 格式通常在名为 rpc.h 的头文件中定义。

        在控制平面上下文中执行的所有 Go 代码都位于 src/control 目录下。管理和安全服务分布在控制平台 (Go) 和数据平台 © 上,通过 dRPC 进行内部通信。

        向最终用户(即 I/O 中间件或应用程序开发人员)公开的官方 DAOS API 的头文件位于 src/include 目录下,并使用 daos_ 前缀。

        每个基础架构库导出一个 API,该 API 头文件位于 src/include/daos 目录下,可以由任何服务使用。给定服务导出的客户端 API(带有 dc_ 前缀)也存储在 src/include/daos 目录下,而服务器端接口(带有 ds_ 前缀)则存储在 src/include/daos_srv 目录下。

基础架构库

        GURT (A common library of Gurt Useful Routines and Types) 和 Common (libdaos_common) 库为 DAOS 服务提供日志记录、调试和公共数据结构(如 hash table、btree 等)。

        本地 NVM 存储由 Versioning Object Store (VOS) 和 Blob I/O (BIO) 库管理。VOS 在 SCM 中实现持久索引,而 BIO 负责根据分配策略将应用程序的数据存储在 NVMe SSD 或 SCM 中。Versioned Block Allocator (VEA) 层集成到 VOS 中,负责管理 NVMe SSD 上的块分配。

        DAOS 对象分布在多个 Target 上,以实现性能(分片)和恢复能力(复制或纠删码)。Placement 库实现不同的算法(例如,基于环的放置、跳转一致性散列…),从 Target 列表和对象标识符生成对象的布局。

        复制服务 (Replicated service framework, RSVC) 库提供了一些支持容错的公共代码。

        Pool、Container 和 Management 服务与 Replicated database (RDB) 库结合使用,RDB 库在 Raft 上实现复制的键值存储。

        有关这些基础架构库的更多信息,请参阅:

  • Common Library
  • Versioning Object Store (VOS)
  • Blob I/O (BIO)
  • Versioned Block Allocator (VEA)
  • Algorithmic object placement
  • Replicated database (RDB)
  • Replicated service framework (RSVC)

DAOS 服务

        下图显示了 DAOS 服务的内部分层以及与上面提到的不同库的交互:

DAOS Internal Layering

        垂直框表示 DAOS 服务,而水平框表示基础架构库。

        对于每个服务的内部结构的进一步阅读:

  • Pool service
  • Container service
  • Key-array object service
  • Self-healing (aka rebuild)
  • Security

相关信息

GitHub: https://github.com/storagezhang

Emai: debugzhang@163.com

DAOS: https://github.com/daos-stack/daos

本文翻译自 https://github.com/daos-stack/daos/blob/master/src/README.md

这篇关于DAOS 分布式异步对象存储|分层和服务的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/190285

相关文章

Spring Boot 中正确地在异步线程中使用 HttpServletRequest的方法

《SpringBoot中正确地在异步线程中使用HttpServletRequest的方法》文章讨论了在SpringBoot中如何在异步线程中正确使用HttpServletRequest的问题,... 目录前言一、问题的来源:为什么异步线程中无法访问 HttpServletRequest?1. 请求上下文与线

在 Spring Boot 中使用异步线程时的 HttpServletRequest 复用问题记录

《在SpringBoot中使用异步线程时的HttpServletRequest复用问题记录》文章讨论了在SpringBoot中使用异步线程时,由于HttpServletRequest复用导致... 目录一、问题描述:异步线程操作导致请求复用时 Cookie 解析失败1. 场景背景2. 问题根源二、问题详细分

Java对象和JSON字符串之间的转换方法(全网最清晰)

《Java对象和JSON字符串之间的转换方法(全网最清晰)》:本文主要介绍如何在Java中使用Jackson库将对象转换为JSON字符串,并提供了一个简单的工具类示例,该工具类支持基本的转换功能,... 目录前言1. 引入 Jackson 依赖2. 创建 jsON 工具类3. 使用示例转换 Java 对象为

Java中将异步调用转为同步的五种实现方法

《Java中将异步调用转为同步的五种实现方法》本文介绍了将异步调用转为同步阻塞模式的五种方法:wait/notify、ReentrantLock+Condition、Future、CountDownL... 目录异步与同步的核心区别方法一:使用wait/notify + synchronized代码示例关键

springboot的调度服务与异步服务使用详解

《springboot的调度服务与异步服务使用详解》本文主要介绍了Java的ScheduledExecutorService接口和SpringBoot中如何使用调度线程池,包括核心参数、创建方式、自定... 目录1.调度服务1.1.JDK之ScheduledExecutorService1.2.spring

Java中对象的创建和销毁过程详析

《Java中对象的创建和销毁过程详析》:本文主要介绍Java中对象的创建和销毁过程,对象的创建过程包括类加载检查、内存分配、初始化零值内存、设置对象头和执行init方法,对象的销毁过程由垃圾回收机... 目录前言对象的创建过程1. 类加载检查2China编程. 分配内存3. 初始化零值4. 设置对象头5. 执行

Android 悬浮窗开发示例((动态权限请求 | 前台服务和通知 | 悬浮窗创建 )

《Android悬浮窗开发示例((动态权限请求|前台服务和通知|悬浮窗创建)》本文介绍了Android悬浮窗的实现效果,包括动态权限请求、前台服务和通知的使用,悬浮窗权限需要动态申请并引导... 目录一、悬浮窗 动态权限请求1、动态请求权限2、悬浮窗权限说明3、检查动态权限4、申请动态权限5、权限设置完毕后

TP-Link PDDNS服将于务6月30日正式停运:用户需转向第三方DDNS服务

《TP-LinkPDDNS服将于务6月30日正式停运:用户需转向第三方DDNS服务》近期,路由器制造巨头普联(TP-Link)在用户群体中引发了一系列重要变动,上个月,公司发出了一则通知,明确要求所... 路由器厂商普联(TP-Link)上个月发布公告要求所有用户必须完成实名认证后才能继续使用普联提供的 D

Redis存储的列表分页和检索的实现方法

《Redis存储的列表分页和检索的实现方法》在Redis中,列表(List)是一种有序的数据结构,通常用于存储一系列元素,由于列表是有序的,可以通过索引来访问元素,因此可以很方便地实现分页和检索功能,... 目录一、Redis 列表的基本操作二、分页实现三、检索实现3.1 方法 1:客户端过滤3.2 方法

异步线程traceId如何实现传递

《异步线程traceId如何实现传递》文章介绍了如何在异步请求中传递traceId,通过重写ThreadPoolTaskExecutor的方法和实现TaskDecorator接口来增强线程池,确保异步... 目录前言重写ThreadPoolTaskExecutor中方法线程池增强总结前言在日常问题排查中,