标签：自己 swa echo tor 作用 ilo sem 透明 查看
HDFS高可用环境HA的架构
HDFS组件由一个对外提供服务的namenode（存储元数据）和N个datanode组成；Zookeeper有三个作用：1.为了统一配置文件 config 2.多个节点的进程要修改公共变量的话，zookeeper会加一个锁 3.仲裁 （必须是奇数个节点，自己组成一个集群，叫Ensemble） HA：多了一台NameNode（standby），datanode同时向NameNode（Active）和NameNode（standby）发送心跳。当提交一个上传任务put的时候，连接的只能是NameNode（active）。元数据有两个，分别是fsimage和editlog（存放这对元数据信息的更改），通过奇数个（至少3个）进程JPS（JournalNode，超过一半接收到editlog就）推送日志给NameNode（standby）来保证数据的一致性。Zookeeper Failover Controller（简称zkfc，汇报Active standby节点的健康情况给Zookeeper），如果超过二分之一Zookeeper的server接收到了来自同一个zkfc发来的病情恶化的信息，自动进行主备切换，另一边恶化的马上进行隔离，不对外提供服务，以免造成数据不一致。通过SSH登录，直接kill进程或者shutdown，后期再反做HA
一般HA是针对HDFS组件的，当然在Yarn组件里也可以由HA；Yarn组件里Resource Manager最重要（有问题，会导致作业提交不了，数据不会遗失）
HA搭建
一般HA是针对HDFS组件的，当然在Yarn组件里也可以有HA；Yarn组件里Resource Manager最重要（有问题，会导致作业提交不了，数据不会遗失） 可扩展的集群，hdfs和yarn主节点ha都要做。 instances里边有哪些角色，分布在哪些节点。有一项Enable High Availability,首先要配置的是nameservice name 。在做hadoop fs -ls这个命令的时候，要先找到namenode，怎么找到Namenode的，在配置文件里 vim /etc/hadoop/conf/ 若果集群是用CM来管的话，所有的配置文件都存在cloudera Manager的后台数据库里，cat /etc/cloudera-scm-server/db.properties 如果要手动改已经用CM管理的集群的配置，vim /etc/hadoop/conf/hdfs-site.xml，关于服务的配置不起作用，关于客户端的配置起作用。 做了HA时，client不在乎那个namenode节点处理请求，客户端的hdfs-site.xml会写统一的名字，会统一发送到nameservice name，然后nameservice name再映射到两个做HA的主机。类同于Oracle的RAC，对外提供服务的永远是scanname，scanname后台绑3个ip，浮动在任意的多台主机上选三台，轮询的访问。
添加集群节点：
一台新的linux系统主机，配好网络，更新hosts文件，关闭iptables，关闭selinux，setenforce 0，时间需要同步，时区需要改； 在cloudera Manager里 hosts，add new hosts to cluster，输入ip地址；选择CDH的版本，我们选择自定义的源（之前搭建好的安装服务器），Navigator是cloudera 云部署的组件，不用管，选None。Cloudera Manager Agent选之前搭建好的CM源，continue。install jdk 选上，continue，其他用户、密码（跟之前一样），continue，开始安装。可以点detail查看安装过程； swappiness还没改，透明大页也没改。接下来选择角色：可以是hdfs的datanode，yarn组件里的node manager，取个名字newnode。如果手工做，可以查看cloudera manager的日志，看看做了哪些操作。
Zookeeper server的角色三台都选上，一台leader，两台follower。 HA：Enable High Availability 再选择一个NameNode Host；选择journalNode，三个都选上；continue； 在这之前，来看看Zookeeper的配置， cd /usr/lib/zookeeper/bin/ ./zkCli.sh -server monkey:2181 出问题报错 是不是java的环境变量没设，echo $JAVA_HOME，果然。java -version 查看版本 cd /usr/java/ ls 把环境变量写好 vi java.txt 执行一下 bash java.txt java -version cd /usr/lib/zookeeper/bin/ ./zkCli.sh -server monkey:2181 cloudera manager 的 review Changes里，设置好journalNode edit directory。然后就是创建HA的过程，分为这么多步。finish！再到instance里 就能看到HA，在Zookeeper的文件夹里也多了一个hadoop.ha，说明namenode ha的应用在Zookeeper上托管。Zookeeper在这里主要做举手表决，如何切换这个动作都是Zookeeper来决定的。
标签：自己 swa echo tor 作用 ilo sem 透明 查看
原文地址：https://www.cnblogs.com/if-happy/p/10666803.html
