元数据

浏览: 1622

概述

在本地Linux中,在/dfs/dn下是看不到上传的文件的,我们只能看到block信息,可以用一句话描述HDFS:把客户端的大文件存放在很多节点的数据块中。在这里,出现

了三个关键词:文件、节点、数据块。HDFS 就是围绕着这三个关键词设计的,我们在学习的时候也要紧抓住这三个关键词来学习。

Clipboard Image.png

NameNode的功能

是整个文件系统的管理节点,它维护着整个文件系统的文件目录,文件或目录的元信息都如上图那般存放在列表里,用于接收用户的操作请求。


元数据

metadata(元数据信息)存放在内存中,用于处理读请求。到有“写请求”的时候,namenode会首先写editlog到磁盘,即向edits文件中写日志,成功返回后,才会更新内存并且向客户端返回。

Hadoop会维护一个fsimage文件,也就是namenode中的metadata镜像,但是fsimage不会和内存中的metadata保持一致,而是通过每隔一段时间合并edits文件来更新内容。SecondaryNameNode的作用就是用来合并fsimage和edits文件的。

Clipboard Image.png

推荐 1
本文由 Kenny 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

1 个评论

很好 简明扼要

要回复文章请先登录注册