聊聊 Libuv 最近引入的 io_uring

2023-10-19 23:44
文章标签 聊聊 引入 io 最近 uring libuv

本文主要是介绍聊聊 Libuv 最近引入的 io_uring，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

io_uring 是 Linux 下高性能的异步 IO 框架，网上很多相关资料，我之前也初步分析了一下它的实现，有兴趣的可以查看 https://zhuanlan.zhihu.com/p/387620810。

Libuv 中最近加入了对 io_uring 的支持，那么为什么要把它引入 Libuv 呢？因为 epoll 不支持普通文件的 Poll 能力，所以在 Libuv 中，异步文件 IO 操作需要通过线程池来实现，具体来说就是当用户发起一个异步文件 IO 操作时，Libuv 会把这个操作放到线程池中，当子线程处理这个任务时，会执行一个阻塞式的系统调用，这个系统调用会引起线程阻塞，从而导致这个线程被消耗掉了，当 IO 操作完成后，子线程就会被唤醒，子线程再通过主线程去执行用户的回调。在 Libuv 早期的实现中，如果执行比较慢的任务过多就会把线程池中的线程消耗完，从而导致执行比较快的 IO 操作需要等待很长时间，一个例子就是 DNS 解析会阻塞文件 IO 任务。而 io_uring 可以支持普通文件 IO（当然能力不仅于此），不再需要借助线程池的能力，目前 Libuv 中部分异步文件 IO 操作已经替换成 io_uring（需要通过环境变量开启），下面来看看它的实现。

原生 io_uring 的使用比较复杂，通常需要借助 liburing 库，但是 Libuv 中可能为了减少对第三方库的依赖，实现上使用原生的方式。

io_uring 初始化

在 Libuv 初始化时会进行 io_uring 的初始化。

uv__iou_init(loop->backend_fd, &lfields->iou, 64, UV__IORING_SETUP_SQPOLL);

lfields->iou 为 io_uring 核心结构体，UV__IORING_SETUP_SQPOLL 设置内核创建线程轮询是否有任务需要处理（用户层设置），接着看看 uv__iou_init。

static void uv__iou_init(int epollfd,struct uv__iou* iou,uint32_t entries,uint32_t flags) {struct uv__io_uring_params params;struct epoll_event e;size_t cqlen;size_t sqlen;size_t maxlen;size_t sqelen;uint32_t i;char* sq;char* sqe;int ringfd;memset(&params, 0, sizeof(params));params.flags = flags;// UV__IORING_SETUP_SQPOLL 模式下，设置多久没有任务提交则内核线程进入 sleep 状态if (flags & UV__IORING_SETUP_SQPOLL)params.sq_thread_idle = 10;  /* milliseconds */// 调用系统调用初始化 io_uringringfd = uv__io_uring_setup(entries, &params);// 映射到内核发送 / 完成队列的内存，用户层和内核可以共同操作这个队列sq = mmap(0,maxlen,PROT_READ | PROT_WRITE,MAP_SHARED | MAP_POPULATE,ringfd,0);  /* IORING_OFF_SQ_RING */sqe = mmap(0,sqelen,PROT_READ | PROT_WRITE,MAP_SHARED | MAP_POPULATE,ringfd,0x10000000ull);  /* IORING_OFF_SQES */memset(&e, 0, sizeof(e));e.events = POLLIN;e.data.fd = ringfd;// 注册等待可读事件，io_uring 中有任务完成后就会通过 epollepoll_ctl(epollfd, EPOLL_CTL_ADD, ringfd, &e);// 初始化 io_uring 结构体iou->sqhead = (uint32_t*) (sq + params.sq_off.head);iou->sqtail = (uint32_t*) (sq + params.sq_off.tail);iou->sqmask = *(uint32_t*) (sq + params.sq_off.ring_mask);iou->sqarray = (uint32_t*) (sq + params.sq_off.array);iou->sqflags = (uint32_t*) (sq + params.sq_off.flags);iou->cqhead = (uint32_t*) (sq + params.cq_off.head);iou->cqtail = (uint32_t*) (sq + params.cq_off.tail);iou->cqmask = *(uint32_t*) (sq + params.cq_off.ring_mask);iou->sq = sq;iou->cqe = sq + params.cq_off.cqes;iou->sqe = sqe;iou->sqlen = sqlen;iou->cqlen = cqlen;iou->maxlen = maxlen;iou->sqelen = sqelen;iou->ringfd = ringfd;iou->in_flight = 0;iou->flags = 0;
}

uv__iou_init 完成了 io_uring 的初始化，并且把 io_uring 对应的 fd 注册到 epoll，当 io_uring 有任务完成时，就可以通过 epoll 感知到。接着就可以使用 io_uring 了。

提交异步任务

下面看一个异步文件 IO 的操作。

int uv_fs_open(uv_loop_t* loop,uv_fs_t* req,const char* path,int flags,int mode,uv_fs_cb cb) {INIT(OPEN);PATH;req->flags = flags;req->mode = mode;if (cb != NULL)if (uv__iou_fs_open(loop, req))return 0;POST;
}

uv_fs_open 可以以异步的方式打开一个文件，之前时通过线程池实现的，加入 io_uring 后，就会多了一层拦截，来看看 uv__iou_fs_open。

int uv__iou_fs_open(uv_loop_t* loop, uv_fs_t* req) {struct uv__io_uring_sqe* sqe;struct uv__iou* iou;// 获取 io_uring 结构体iou = &uv__get_internal_fields(loop)->iou;// 获取一个任务节点，任务节点会和 req 互相关联，回调时会用到sqe = uv__iou_get_sqe(iou, loop, req);// 设置操作上下文sqe->addr = (uintptr_t) req->path;sqe->fd = AT_FDCWD;sqe->len = req->mode;// 设置操作类型sqe->opcode = UV__IORING_OP_OPENAT;sqe->open_flags = req->flags | O_CLOEXEC;// 提交任务uv__iou_submit(iou);return 1;
}

uv__iou_fs_open 中有两个核心逻辑 uv__iou_get_sqe 和 uv__iou_submit，首先来看 uv__iou_get_sqe。

static struct uv__io_uring_sqe* uv__iou_get_sqe(struct uv__iou* iou,uv_loop_t* loop,uv_fs_t* req) {struct uv__io_uring_sqe* sqe;uint32_t head;uint32_t tail;uint32_t mask;uint32_t slot;if (iou->ringfd == -1)return NULL;head = atomic_load_explicit((_Atomic uint32_t*) iou->sqhead,memory_order_acquire);tail = *iou->sqtail;mask = iou->sqmask;slot = tail & mask;sqe = iou->sqe;// 从请求队列中获取一个节点sqe = &sqe[slot];memset(sqe, 0, sizeof(*sqe));// 任务节点关联到 req，回调时需要使用sqe->user_data = (uintptr_t) req;req->work_req.loop = loop;req->work_req.work = NULL;req->work_req.done = NULL;uv__queue_init(&req->work_req.wq);uv__req_register(loop, req);iou->in_flight++;return sqe;
}

uv__iou_get_sqe 主要是从任务队列中获取一个空闲节点并关联上请求上下文结构体，uv__iou_get_sqe 的调用方需要设置操作上下文，比如操作类型，操作的 fd 等。通过 uv__iou_get_sqe 获取任务节点并设置了操作上下文后，这个任务就会自动被操作系统感知。因为 Libuv 是使用了 UV__IORING_SETUP_SQPOLL 模式，所以还需要判断这时候内核轮训线程是否处于睡眠状态，这就是 uv__iou_submit 的逻辑。

static void uv__iou_submit(struct uv__iou* iou) {uint32_t flags;atomic_store_explicit((_Atomic uint32_t*) iou->sqtail,*iou->sqtail + 1,memory_order_release);flags = atomic_load_explicit((_Atomic uint32_t*) iou->sqflags,memory_order_acquire);// 判断内核线程是否处于睡眠状态if (flags & UV__IORING_SQ_NEED_WAKEUP)// 唤醒内核线程，说明有任务需要处理if (uv__io_uring_enter(iou->ringfd, 0, 0, UV__IORING_ENTER_SQ_WAKEUP))if (errno != EOWNERDEAD)  /* Kernel bug. Harmless, ignore. */perror("libuv: io_uring_enter(wakeup)");  /* Can't happen. */
}

这样就完成了任务的提交。

任务完成

任务完成后，io_uring 对应的 fd 就会变成可读，从而 epoll 就会感知到，来看看 epoll 的处理。下面是 epoll 处理就绪 fd 时的一段逻辑。

if(fd == iou->ringfd) {uv__poll_io_uring(loop, iou);have_iou_events = 1;continue;
}

如果是 io_uring 的 fd 可读，则执行 uv__poll_io_uring。

static void uv__poll_io_uring(uv_loop_t* loop, struct uv__iou* iou) {struct uv__io_uring_cqe* cqe;struct uv__io_uring_cqe* e;uv_fs_t* req;uint32_t head;uint32_t tail;uint32_t mask;uint32_t i;uint32_t flags;int nevents;int rc;// 完成队列头/尾节点head = *iou->cqhead;tail = atomic_load_explicit((_Atomic uint32_t*) iou->cqtail,memory_order_acquire);mask = iou->cqmask;cqe = iou->cqe;nevents = 0;// 遍历完成队列for (i = head; i != tail; i++) {e = &cqe[i & mask];// 拿到操作关联的请求结构体req = (uv_fs_t*) (uintptr_t) e->user_data;uv__req_unregister(loop, req);iou->in_flight--;// 操作返回值，表示操作是否成功req->result = e->res;// 执行回调req->cb(req);}

uv__poll_io_uring 的逻辑很简单，就是遍历完成队列，然后拿到对应的请求上下文结构体，最后执行它的回调。

现代软件中大多数使用的 IO 模型是 epoll，随着 io_uring 的发展和成熟，io_uring 将会出现在更多的软件中，之前我也体验了一下 io_uring，有兴趣的可以体验下 https://github.com/theanarkh/nodejs_io_uring。

这篇关于聊聊 Libuv 最近引入的 io_uring的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/243141。

相关文章

poj1330（LCA最近公共祖先）

poj1330（LCA最近公共祖先）

题意：求最近公共祖先 思路：之前学习了树链剖分，然后我就用树链剖分的一小部分知识就可以解这个题目了，记录每个结点的fa和depth。然后查找时，每次将depth大的结点往上走直到x = y。 代码如下： #include<iostream>#include<algorithm>#include<stdio.h>#include<math.h>#include<cstring>
阅读更多...
Java IO 操作——个人理解

Java IO 操作——个人理解

之前一直Java的IO操作一知半解。今天看到一个便文章觉得很有道理（ 原文章），记录一下。 首先，理解Java的IO操作到底操作的什么内容，过程又是怎么样子。          数据来源的操作： 来源有文件，网络数据。使用File类和Sockets等。这里操作的是数据本身，1,0结构。    File file = new File("path");   字
阅读更多...
springboot体会BIO（阻塞式IO）

springboot体会BIO（阻塞式IO）

使用springboot体会阻塞式IO 大致的思路为： 创建一个socket服务端，监听socket通道，并打印出socket通道中的内容。 创建两个socket客户端，向socket服务端写入消息。 1.创建服务端 public class RedisServer {public static void main(String[] args) throws IOException {
阅读更多...
Java基础回顾系列-第七天-高级编程之IO

Java基础回顾系列-第七天-高级编程之IO

Java基础回顾系列-第七天-高级编程之IO 文件操作字节流与字符流OutputStream字节输出流FileOutputStream InputStream字节输入流FileInputStream Writer字符输出流FileWriter Reader字符输入流字节流与字符流的区别转换流InputStreamReaderOutputStreamWriter 文件复制 字符编码内存操作流(
阅读更多...
android java.io.IOException: open failed: ENOENT (No such file or directory)-api23+权限受权

android java.io.IOException: open failed: ENOENT (No such file or directory)-api23+权限受权

问题描述 在安卓上，清单明明已经受权了读写文件权限，但偏偏就是创建不了目录和文件 调用mkdirs()总是返回false. <uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE"/><uses-permission android:name="android.permission.READ_E
阅读更多...
最近心情有点复杂：论心态

最近心情有点复杂：论心态

一月一次的彷徨又占据了整个身心；彷徨源至不自信；而不自信则是感觉自己的价值没有很好的实现亦或者说是自己不认可自己的目前的生活和状态吧。 我始终相信一句话：任何人的生活形态完全是由自己决定的；外在的总归不能直达一个人的内心深处。所以少年 为了自己想要的生活 多坚持努力吧、不为别人只为自己心中的那一丝执着。 由此我看到了一个故事： 一个心情烦躁的人去拜访禅师。他问禅师：我这辈子就这么注定了吗？您
阅读更多...
JavaEE-文件操作与IO

JavaEE-文件操作与IO

目录 1,两种路径 二,两种文件 三,文件的操作/File类: 1)文件系统操作 File类 2)文件内容操作（读文件，写文件） (1)打开文件 (2)关闭文件 (3)读文件/InputStream (4)写文件/OutputStream (5)读文件/reader (6)写文件/writer (7)Scanner 四,练习: 1,两种路径 1)绝对路径
阅读更多...
SW - 引入第三方dwg图纸后，修改坐标原点

SW - 引入第三方dwg图纸后，修改坐标原点

文章目录 SW - 引入第三方dwg图纸后，修改坐标原点概述笔记设置图纸新原点END SW - 引入第三方dwg图纸后，修改坐标原点 概述 在solidworks中引入第三方的dwg格式图纸后，坐标原点大概率都不合适。 全图自动缩放后，引入的图纸离默认的原点位置差很多。 需要自己重新设置原点位置，才能自动缩放后，在工作区中间显示引入的图纸。 笔记 将dwg图纸拖到SW中
阅读更多...
react笔记 8-17 属性绑定 class绑定 引入图片 循环遍历

react笔记 8-17 属性绑定 class绑定 引入图片 循环遍历

1、绑定属性 constructor(){super()this.state={name:"张三",title:'我是一个title'}}render() {return (<div><div>aaaaaaa{this.state.name}<div title={this.state.title}>我是一个title</div></div></div>)} 绑定属性直接使用花括号{}   注
阅读更多...
YOLOv8改进实战 | 注意力篇 | 引入CVPR2024 PKINet 上下文锚点注意力CAAttention

YOLOv8改进实战 | 注意力篇 | 引入CVPR2024 PKINet 上下文锚点注意力CAAttention

YOLOv8专栏导航：点击此处跳转 前言 YOLOv8 是由 YOLOv5 的发布者 Ultralytics 发布的最新版本的 YOLO。它可用于对象检测、分割、分类任务以及大型数据集的学习，并且可以在包括 CPU 和 GPU 在内的各种硬件上执行。 YOLOv8 是一种尖端的、最先进的 (SOTA) 模型，它建立在以前成功的 YOLO 版本的基础上，并引入了新的功能和改进，以
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2