FusionFS: Fusing I/O Operations using CISCOps in Firmware File Systems——论文泛读

本文主要是介绍FusionFS: Fusing I/O Operations using CISCOps in Firmware File Systems——论文泛读,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

FAST 2022 Paper 元数据论文阅读笔记汇总

问题

现代高带宽和低延迟存储技术,如NVMe SSD[50]和3D Xpoint[6],显著提高了I/O性能,从而提高了应用程序性能。然而,软件和硬件I/O开销,包括系统调用、数据移动、应用程序和操作系统中的通信成本,以及存储硬件延迟(例如PCIe),仍然是充分利用存储硬件功能的致命弱点。

现有方法局限性

一种方法是将文件系统移动到用户空间,避免数据和元数据更新的系统调用和内核陷阱来减少软件间接性[22,60,49,27,35]。但主要的I/O开销,如数据和元数据移动成本、主机和设备通信成本(如PCIe延迟)、以及轮询或中断仍然存在。

另一个方法是近存储处理[46]。供应商提出了嵌入存储处理器的计算存储设备(CSD),这些存储处理器从ARM内核[11]、FPGA[49,52,30,44,47,14]到RISC-V处理器[51]。为了降低I/O成本并将计算卸载到CSD,最近的研究探索了应用程序定制技术[14]、软件运行时[47]、系统软件[49]和数据库[46]。这些技术可以分为以下系统:(1)近存储计算卸载系统,包括用于数据库的ActiveStore[46]、PolarDB[14],通过重写应用程序逻辑来卸载计算,专注于数据处理。但这些系统要么缺乏存储管理,要么将管理委托给主机文件系统[14]。前者导致数据和元数据缺乏完整性、崩溃一致性、持久性或跨租户管理存储资源。后者在基本I/O操作方面产生了高昂的I/O开销,并且未能充分利用CSD的潜力。(2)近存储文件系统和键值存储设计来加速I/O和存储管理。如CrossFS[44]、DevFS[30]、Insider[47],绕过操作系统,在存储固件内卸载文件系统和键值存储[49],用于直接I/O。但这些设计缺乏接近存储的处理能力,导致大量数据移动,并且无法管理存储资源(如设备计算和内存)或处理多租

本文方法

我们提出了FusionFS,一种直接访问固件级别的近存储文件系统,利用近存储的计算能力实现快速I/O和数据处理。

  • 引入了一种新的抽象CISCOps,将多个I/O和数据处理操作合并为一个融合操作,并将它们卸载以进行近存储处理。通过卸载,CISCOps显著降低了主要的I/O开销,如系统调用、数据移动、通信和其他软件开销。

  • 为了增强CISCOps,引入了MicroTx,一种用于I/O和数据处理操作的细粒度崩溃一致性和快速(自动)恢复机制。

  • 提出了一种新的完全公平调度器(CFS),用于跨租户的近存储计算和内存资源,从而保持近存储计算资源的高效和公平使用。

开源代码:GitHub - RutgersCSSystems/FusionFS: FusionFS: Fusing I/O Operations using CISCOps in Firmware File Systems, FAST '22

使用微基准、宏基准和实际应用程序,针对最先进的用户级、内核级和固件级文件系统对FusionFS进行评估,结果显示性能提高了6.12倍、5.09倍和2.07倍,恢复速度提高了2.65倍。

实验

实验环境:模拟

数据集:Filebench,LevelDB,Snappy压缩,Linux文件加密

实验对比:吞吐量、崩溃恢复时间、平均延迟

总结

提出近存储的直接访问固件的文件系统:引入了一种新的抽象CISCOps,将多个I/O和数据处理操作合并为一个融合操作,并将它们卸载以进行近存储处理,从而降低了主要的I/O开销,如系统调用、数据移动、通信和其他软件开销;为了增强CISCOps,引入了MicroTx,进行I/O和数据处理操作的细粒度崩溃一致性和快速(自动)恢复机制;提出了一种新的完全公平调度器(CFS),用于跨租户的近存储计算和内存资源,从而保持近存储计算资源的高效和公平使用。

这篇关于FusionFS: Fusing I/O Operations using CISCOps in Firmware File Systems——论文泛读的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/750463

相关文章

解决JavaWeb-file.isDirectory()遇到的坑问题

《解决JavaWeb-file.isDirectory()遇到的坑问题》JavaWeb开发中,使用`file.isDirectory()`判断路径是否为文件夹时,需要特别注意:该方法只能判断已存在的文... 目录Jahttp://www.chinasem.cnvaWeb-file.isDirectory()遇

VMWare报错“指定的文件不是虚拟磁盘“或“The file specified is not a virtual disk”问题

《VMWare报错“指定的文件不是虚拟磁盘“或“Thefilespecifiedisnotavirtualdisk”问题》文章描述了如何修复VMware虚拟机中出现的“指定的文件不是虚拟... 目录VMWare报错“指定的文件不是虚拟磁盘“或“The file specified is not a virt

提示:Decompiled.class file,bytecode version如何解决

《提示:Decompiled.classfile,bytecodeversion如何解决》在处理Decompiled.classfile和bytecodeversion问题时,通过修改Maven配... 目录问题原因总结问题1、提示:Decompiled .class file,China编程 bytecode

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需