Quantcast
Channel: HDFS –董的博客
Viewing all articles
Browse latest Browse all 12

HDFS HA和Federation安装部署方法

$
0
0

相比于Hadoop 1.0,Hadoop 2.0中的HDFS增加了两个重大特性,HA和Federaion。HA即为High Availability,用于解决NameNode单点故障问题,该特性通过热备的方式为主NameNode提供一个备用者,一旦主NameNode出现故障,可以迅速切换至备NameNode,从而实现不间断对外提供服务。Federation即为“联邦”,该特性允许一个HDFS集群中存在多个NameNode同时对外提供服务,这些NameNode分管一部分目录(水平切分),彼此之间相互隔离,但共享底层的DataNode存储资源。

在一个典型的HDFSHA场景中,通常由两个NameNode组成,一个处于active状态,另一个处于standby状态。Active NameNode对外提供服务,比如处理来自客户端的RPC请求,而Standby NameNode则不对外提供服务,仅同步active namenode的状态,以便能够在它失败时快速进行切换。

为了能够实时同步Active和Standby两个NameNode的元数据信息(实际上editlog),需提供一个共享存储系统,可以是NFS、QJM(Quorum Journal Manager)或者Bookeeper,Active Namenode将数据写入共享存储系统,而Standby监听该系统,一旦发现有新数据写入,则读取这些数据,并加载到自己内存中,以保证自己内存状态与Active NameNode保持基本一致,如此这般,在紧急情况下standby便可快速切为active namenode。

最近利用业余时间整理了一个HDFS HA和Federation安装部署文档,分享给大家,下载地址是:HDFS HA和Federation安装部署方法 v0.1(提取码:7qiu)。

原创文章,转载请注明: 转载自董的博客

本文链接地址: HDFS HA和Federation安装部署方法

微信公众号:hadoop-123,专注于大数据技术分享,欢迎加入!


Viewing all articles
Browse latest Browse all 12

Latest Images

Trending Articles





Latest Images