hdfs数据块: 

每个磁盘都有默认的数据块大小,这是磁盘进行数据读/写的最小单位。构建于单个磁盘之上的文件系统通过磁盘块来管理该文件系统中的块,该文件系统块的大小可以是磁盘块的整数倍。文件系统块般为几千字节, 而磁盘块一般为512字节。这些信息(文件系统块大小)对于需要读/写文件的文件系统用户来说是透明的。尽管如此,系统仍然提供了一些工具(如df和fsck)来维护文件系统,由它们对文件系统中的块进行操作。
           HDFS同样也有块(block)的概念,但是大得多,默认为128 MB。与单一磁盘上的文件系统相似,HDFS上的文件也被划分为块大小的多个分块(chunk),作为独立的存储单元。但与面向单一磁盘的文件系统不同的是,HDFS中小于一个块大小的文件不会占据整个块的空间(例如,当一个IMB的文件存储在一个128MB的块中时Ho文N可使用1 MB的磁盘空间,而不是128 MB)。如果没有特殊指出,本书中提到的块”特指AHDFS中的块。

HDFS中的块为什么这么大?

HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。  如果块足够大,从磁盘传输数据的时间会明显大于定位这个块开始位置所需的时间。因而,传输一个由多个块组成的大文件的时间取决于磁盘传输速率.

      我们来做一个速算,如果寻址时间约为10 ms,传输速率为100 MB/s,为了使寻址时间仅占传输时间的1%,我们要将块大小设置约为100 MB.默认的块大小实际为128MB,但是很多情况下HDFS安装时使用更大的块。以后随着新古代磁盘驱动器传输速率的提升,块的大小会被设置得更大。  

        但是这个参数也不会设置得过大。MapReduce 中的map任务通常一.次只足这个块中的数据,因此如果任务数太少(少于集群中的节点数量),作业的无主速度就会比较慢。