分布式文件系统 HDFS 数据读写过程详解

客户端连续调用 open()、read()、close() 时，HDFS 内部执行流程如下：

1. 建立连接：客户端通过 FileSystem.open() 打开文件，DistributedFileSystem 创建 FSDataInputStream（即 DFSInputStream）。
2. 获取位置：在 DFSInputStream 构造函数中，通过 RPC 远程调用名称节点（NameNode），请求文件开始部分数据块的位置。NameNode 返回保存该数据块的所有 DataNode 地址，并按距离客户端的远近排序。
3. 选择节点：客户端根据排序结果，优先选择距离最近的数据节点建立连接并读取数据。
4. 数据传输：数据从 DataNode 传输到客户端。当一个数据块读取完毕，当前连接关闭。
5. 后续处理：输入流通过 getBlockLocations() 查找下一个数据块（若缓存命中则跳过）。找到最佳节点后继续读取。
6. 异常处理：如果与某个 DataNode 通信出错，客户端会自动尝试连接包含此数据块的下一个节点。
7. 关闭资源：读取完成后，调用 close() 关闭输入流。

二、写数据的过程

写入数据比读取更复杂，涉及管道传输和确认机制。以下是写入数据的 Java 示例：

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class Chapter3 {
    public static void main(String[] args) {
        try {
            Configuration conf = new Configuration();
            conf.set("fs.defaultFS", "hdfs://localhost:9000");
            conf.set("fs.hdfs.impl", "org.apache.hadoop.hdfs.DistributedFileSystem");
            FileSystem fs = FileSystem.get(conf);
            byte[] buff = "Hello world".getBytes();
            String filename = "test";
            FSDataOutputStream out = fs.create(new Path(filename));
            out.write(buff, 0, buff.length);
            System.out.println("Create:" + filename);
            out.close();
            fs.close();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

在不发生异常的情况下，客户端调用 create()、write() 和 close() 的内部执行过程如下：

1. 创建文件：客户端调用 FileSystem.create()，DistributedFileSystem 创建 FSDataOutputStream（即 DFSOutputStream）。同时通过 RPC 通知 NameNode 在命名空间中创建新文件，NameNode 会检查文件是否存在及权限等。
2. 申请节点：NameNode 构造新文件信息后，返回给客户端。客户端随后向 NameNode 申请保存文件和副本所需的数据节点列表，这些节点形成一条数据流管道。
3. 分包写入：客户端调用 write() 将数据分成小包（Packet），放入 DFSOutputStream 的内部队列。数据包被发往管道中的第一个 DataNode。
4. 管道传输：第一个 DataNode 接收后转发给第二个，依次类推，数据包流经管道上的各个节点。
5. 确认机制：由于节点分布在不同机器上，为保证数据准确性，每个接收到数据的节点需向发送者发送确认包（ACK Packet）。确认包沿管道逆流而上，最终回到客户端。收到应答后，客户端从队列移除对应分包。
6. 完成写入：当数据全部写完，客户端调用 close() 关闭输出流。此时若队列中分包均已收到应答，则通过 ClientProtocol.complete() 通知 NameNode 关闭文件，完成写入。

小结

HDFS 读写数据的核心在于对 FileSystem 抽象层的利用。读取时，通过 open() 获取 DFSInputStream，向 NameNode 请求块位置后选择最近 DataNode 传输；写入时，通过 create() 生成 DFSOutputStream，分包进入队列形成管道，经多节点确认（ACK）后通知 NameNode 完成。整个过程依赖 RPC 通信与流式处理机制，确保了高吞吐与可靠性。