C++ io_uring 原理与使用指南

完整代码示例

这个例子展示了如何异步读取一个文件的前 1024 个字节。

#include <iostream>
#include <fcntl.h>
#include <unistd.h>
#include <cstring>
#include <liburing.h>
#include <sys/stat.h>

// 定义队列深度，即环形缓冲区的大小
#define QUEUE_DEPTH 8
#define BLOCK_SZ 1024

int main() {
    // 1. 初始化 io_uring 结构
    struct io_uring ring;
    // io_uring_queue_init(深度，实例指针，标志位)
    // 0 表示默认配置
    int ret = io_uring_queue_init(QUEUE_DEPTH, &ring, 0);
    if (ret < 0) {
        std::cerr << "io_uring_queue_init failed: " << -ret << std::endl;
        return 1;
    }
    // 2. 打开文件 (使用 O_DIRECT 通常能发挥 io_uring 最大性能，但这里为了简单使用普通模式)
    // 注意：实际项目中请确保文件存在，或者创建一个测试文件
    int fd = open("test.txt", O_RDONLY);
    if (fd < 0) {
        // 如果文件不存在，创建一个临时的
        fd = open("test.txt", O_RDWR | O_CREAT, 0644);
        const char* msg = "Hello from io_uring! This is a test file content.";
        write(fd, msg, strlen(msg));
        fsync(fd);
        lseek(fd, 0, SEEK_SET); // 重置文件指针
    }
    // 准备缓冲区
    char buffer[BLOCK_SZ];
    memset(buffer, 0, BLOCK_SZ);
    struct iovec iov;
    iov.iov_base = buffer;
    iov.iov_len = BLOCK_SZ;
    // 3. 获取一个提交队列项 (SQE)
    struct io_uring_sqe* sqe = io_uring_get_sqe(&ring);
    if (!sqe) {
        std::cerr << "Could not get SQE" << std::endl;
        return 1;
    }
    // 4. 填充 SQE 请求
    // 这是一个 "Read Vector" 操作
    // 参数：sqe, 文件描述符，iovec 数组，iovec 数量，偏移量
    io_uring_prep_readv(sqe, fd, &iov, 1, 0);
    // 设置用户数据 (user_data)，这是一个 64 位字段，内核会原样传回 CQE。
    // 通常用来存放请求的 ID 或者回调函数的指针。
    io_uring_sqe_set_data(sqe, nullptr);
    // 这里简单设为 null
    // 5. 提交请求给内核
    // io_uring_submit 会调用系统调用 io_uring_enter
    ret = io_uring_submit(&ring);
    if (ret < 0) {
        std::cerr << "io_uring_submit failed: " << -ret << std::endl;
        return 1;
    }
    std::cout << "Request submitted, waiting for completion..." << std::endl;
    // 6. 等待完成队列项 (CQE)
    struct io_uring_cqe* cqe;
    // io_uring_wait_cqe 会阻塞直到至少有一个事件完成
    ret = io_uring_wait_cqe(&ring, &cqe);
    if (ret < 0) {
        std::cerr << "io_uring_wait_cqe failed: " << -ret << std::endl;
        return 1;
    }
    // 7. 处理结果
    if (cqe->res < 0) {
        std::cerr << "Async read failed: " << -cqe->res << std::endl;
    } else {
        std::cout << "Read " << cqe->res << " bytes." << std::endl;
        std::cout << "Content: " << buffer << std::endl;
    }
    // 8. 标记 CQE 已处理 (这一步很重要，否则队列会满)
    io_uring_cqe_seen(&ring, cqe);
    // 9. 清理资源
    close(fd);
    io_uring_queue_exit(&ring);
    return 0;
}

代码编译

g++ -o uring_test uring_test.cpp -luring 

4. io_uring 的高级特性

对于追求极致性能的 C++ 开发者，io_uring 提供了几个杀手级特性：

A. Submission Queue Polling (SQPOLL)

默认情况下，io_uring_submit 仍然需要一次系统调用 (io_uring_enter) 来通知内核有新任务。 如果在初始化时设置 IORING_SETUP_SQPOLL 标志，内核会启动一个专门的内核线程来轮询 SQ。

• 效果： 用户只需把 SQE 放入环形队列，内核线程自动发现并处理。完全消除了系统调用开销。
• 代价： 消耗更多的 CPU 资源（内核线程一直在空转检查）。

B. 注册文件和缓冲区 (Registered Files/Buffers)

在传统的系统调用中，每次操作内核都需要把文件描述符 (fd) 映射到内部的文件结构，并锁定内存页。

• Registered Files: 预先将 fd 数组注册给 io_uring，后续请求直接使用索引，减少内核查找 fd 的开销。
• Registered Buffers: 预先将用户态内存锁定并映射，避免每次 I/O 时内核重复进行 get_user_pages 操作。

C. 链接请求 (IOSQE_IO_LINK)

你可以将多个 SQE 链接起来，强制它们按顺序执行。例如：先 open 文件，成功后再 read，最后 close。这允许在一次系统调用中编排复杂的 I/O 逻辑。

5. C++ 生态中的 io_uring

虽然可以直接使用 liburing，但在现代 C++ 开发中，我们通常使用更高层的封装：

1. Boost.Asio:
   • Boost.Asio 已经支持 io_uring 作为底层的 Reactor 实现（在 Linux 上）。
   • 通过 BOOST_ASIO_HAS_IO_URING 宏启用。这使得你可以在不改变现有 Asio 代码逻辑的情况下，享受到 io_uring 的性能提升。
2. Seastar:
   • 一个高性能的 C++ futures 框架，专为现代硬件设计。它是 io_uring 的早期采用者，非常适合构建高吞吐量的网络服务。
3. Userver:
   • Yandex 开源的 C++ 异步框架，底层也深度集成了 io_uring。

6. io_uring vs Epoll 性能对比

• 小包/高频 I/O: io_uring 优势巨大。因为减少了系统调用次数，上下文切换开销大幅降低。
• 大包/低频 I/O: 差距较小，瓶颈主要在内存拷贝和硬件带宽。
• Spectre/Meltdown 补丁影响: 这些 CPU 漏洞补丁增加了系统调用的开销，因此 io_uring（尤其是 SQPOLL 模式）在受补丁影响的机器上优势更明显。

7. 总结

C++ io_uring 是 Linux 高性能编程的未来。

• 核心优势： 真正的异步 I/O、减少系统调用、减少内存拷贝、统一了网络和磁盘 I/O 接口。
• 适用场景： 高并发网络服务器（HTTP/RPC）、高性能数据库、分布式存储系统。
• 建议： 如果你在编写通用的业务代码，建议使用 Boost.Asio 等封装好的库；如果你在开发底层的存储引擎或极致性能的网关，深入学习并直接使用 liburing 是非常有价值的。