我们知道,HDFS中的文件是由数据块Block组成的,并且为了提高容错性,每个数据块Block都会在不同数据节点DataNode上有若干副本Replica。那么,什么是Block?什么又是Replica?
首先,我们看下Block的定义,如下:
[java]
view plain
copy
1. /**************************************************
2. * A Block is a Hadoop FS primitive, identified by a
3. * long.
4. *
5. **************************************************/
6. @InterfaceAudience.Private
7. @InterfaceStability.Evolving
8. public class Block implements Writable, Comparable<Block> {
9. public static final String BLOCK_FILE_PREFIX = "blk_";
10. public static final String METADATA_EXTENSION = ".meta";
11.
12. //....省略部分代码
13.
14. private long blockId;
15. private long numBytes;
16. private long generationStamp;
17.
18. //....省略部分代码
19.
20. }
Block实际上是HDFS文件数据块在HDFS元数据或者文件树中的一种表现形式。它有三个重要字段,均是long类型的,数据块艾迪blockId、数据块字节数numBytes、数据块时间戳generationStamp。另外,BLOCK_FILE_PREFIX表明了数据块数据文件在物理硬盘上为文件名是以blk_为前缀的,而METADATA_EXTENSION则标识了数据块元数据文件在物理硬盘上是以.meta为文件名后缀的。
我们再看下副本Replica的定义,它实际上是一个借口,如下:
[java]
view plain
copy
1. /**
2. * This represents block replicas which are stored in DataNode.
3. */
4. @InterfaceAudience.Private
5. public interface Replica {
6. //....省略部分代码
7. }
Replica实际上代表了存储与数据节点上的数据块副本,是数据块Block在数据节点上的存储形式的抽象。Replica的实现则是ReplicaInfo,它继承自Block,并实现了Replica接口,如下:
[java]
view plain
copy
1. /**
2. * This class is used by datanodes to maintain meta data of its replicas.
3. * It provides a general interface for meta information of a replica.
4. * 这个类被数据节点用于保持它副本的元数据信息。它为副本的元数据信息提供了通用的接口。
5. */
6. @InterfaceAudience.Private
7. abstract public class ReplicaInfo extends Block implements Replica {
8. //....省略部分代码
9. }
到了这里,我们就可以通俗的理解为,Block是名字节点NanmeNode中对文件数据块的抽象描述,它不区分副本,是组成文件的数据块的统一抽象描述,而Replica则是数据节点DataNode对存储在其上的物理数据块副本的统一抽象描述,它继承自Block,很好的反应了Block与Replica的对应关系。
我们简单看下抽象类ReplicaInfo都有哪些成员变量,代码如下:
[java]
view plain
copy
1. /** volume where the replica belongs */
2. // 数据块副本属于的卷FsVolumeSpi实例volume
3. private FsVolumeSpi volume;
4.
5. /** directory where block & meta files belong */
6.
7. /**
8. * Base directory containing numerically-identified sub directories and
9. * possibly blocks.
10. * 数据块副本存储的基础路径,其包含以数字标识的子目录,或者干脆是数据块
11. */
12. private File baseDir;
13.
14. /**
15. * Whether or not this replica's parent directory includes subdirs, in which
16. * case we can generate them based on the replica's block ID
17. * 标志位:数据块副本的父目录是否包含子目录,如果是的话,我们可以根据数据块副本的数据块ID获取它们。
18. */
19. private boolean hasSubdirs;
20.
21. // 内部基础路径
22. private static final Map<String, File> internedBaseDirs = new HashMap<String, File>();
由上面的代码,我们可以知道,它主要包括数据块副本属于的卷FsVolumeSpi实例volume,数据块副本存储的基础路径baseDir,其包含以数字标识的子目录,或者干脆是数据块,还有就是标志位:数据块副本的父目录是否包含子目录,如果是的话,我们可以根据数据块副本的数据块ID获取它们。