标签：第三方 组织 文件的 验证 rac tac 系统日志 hyperic file
本篇介绍为了保证Hadoop集群平稳地执行。须要深入掌握的知识。以及一些管理监控的手段，日常维护的工作。
对于管理员来说。深入了解namenode，辅助namecode和datanode等HDFS组件怎样在磁盘上组织永久性数据很重要。
洞悉各文件的使用方法有助于进行故障诊断和故障检出。
namenode被格式化后，将在${dfs.namenode.name.dir}/current 文件夹下。产生例如以下的文件夹结构：VERSION、edits、fsimage、fstime。
仅仅有深入学习namenode的工作原理。才干理解这些文件的用途。对于Hadoop集群管理员来说。这是有必要的。
在大型集群中，辅助namenode须要执行在一台专用机器上。保持和namenode基本一致的文件夹结构和数据。在主namenode发生问题时。能够从辅助namenode恢复数据。
datanode不是格式化时创建的，而是启动时自己主动创建的。datanode的重要文件和文件夹例如以下所看到的：
dfs.data.dir 是在hadoop1.X中定义的，在Hadoop2.X中是在hdfs-site.xml中定义的 fs.datanode.data.dir 。
namenode启动时，首先将映像文件(fsimage)加载内存。并运行编辑日志(edits)中的各项操作。
一系列操作之后，假设满足“最小复本条件”，namenode会在30秒内退出安全模式。所谓的最新复本调价指的是在整个文件系统中有99.9%的块满足最小复本条件(默认值时1，由dfs.replication.min属性设置)。
在启动一个刚刚格式化的HDFS集群时。由于系统中还没有不论什么块，所以namenode不会进入安全模式。
安全模式的属性设置例如以下：
安全模式操作命令：
hadoop dfsadmin -safemode get
hadoop dfsadmin -safemode wait
hadoop dfsadmin -safemode leave
hadoop dfsadmin -safemode enter
log4j.logger.org.apache.hadoop.hdfs.server.namenode.FSNamesystem.audit=WARN
调整为INFO或者其它。
Hadoop提供fsck工具来检查HDFS中文件的健康状况。该工具会查找那些全部datanode中均缺失的块以及过少或过多复制的块。
使用命令：
hadoop fsck /
hadoop fsck / -move
hadoop fsck / -delete
各个datanode执行一个快扫描器。定期检測本节点上的全部块。从而在client读到坏块之前及时地检測和修复坏块。能够依靠DataBlockScanner所维护的块列表依次扫描块，查看是否存在校验和错误。
扫描器还使用节流机制，来维持datanode的磁盘带宽(换句话说，块扫描器工作时仅占用一小部分磁盘带宽)。
默认情况下。块扫描器每隔三周（504小时）就会检測块，以应对可能的磁盘故障，这个周期由dfs.datanode.scan.period.hours属性设置。损坏的块被报给namenode，并被即时修复。
訪问网页：http://datanode:50075/blockScannerReport 获取该datanode的块检測报告。
加 ?Listblocks 參数会在报告中列出该datanode上全部的块及其最新验证状态。
均衡器（balancer）程序是一个Hadoop守护进程，它将块从忙碌的datanode移到相对空暇的datanode。从而又一次分配块。同一时候坚持块复本放置策略，将复本分散到不同机架。以减少数据损坏率。
操作一直运行，直到均衡，即每一个datanode的使用率（该节点上已使用的空间和空间容量之间的比率）和集群的使用率（集群中已使用的空间与集群的空间容量之间的比率）很接近，差距不超过给定的阀值。
启动均衡器指令：start-blancer.sh ,-threshold參数指定阀值（百分比格式），默认10%。在不论什么时刻，集群中都仅仅执行一个均衡器。
在不同节点之间复制数据的带宽也是受限的。默认是1MB/s。能够通过hdfs-site.xml中的dfs.balance.bandwidthPerSec属性指定（单位是字节）。
监控是系统管理的重要内容。监控的目标在于检測集群在何时未提供所期望的服务。
主守护进程是最须要监控的，包含主namenode、辅助namenode和jobtracker。
datanode和tasktracker常常出现问题；在大型集群中。故障率尤其高。
因此，集群须要保留额外的容量，如此一来，即使有一小部分节点宕机，也不影响整个系统的运作。
管理员也能够定期执行一些測试作业。以检查集群的健康状况。
全部Hadoop守护进程都会产生日志文件。这些文件很有助于查明系统中发生的事件。
默认情况下。Hadoop生成的系统日志文件存放在$HADOOP_INSTALL/logs文件夹之中，也能够通过hadoop-env.sh文件里的HADOOP_LOG_DIR来进行改动。通常能够把日志文件存放在/var/log/hadoop文件夹中。实现的办法就是在hadoop-env.sh中增加一行：export HADOOP_LOG_DIR=/var/log/hadoop ，假设日志文件夹不存在，则会首先创建该文件夹，假设创建失败。请检查hadoop用户是否有权创建该文件夹。
故障排查过程中，暂时设置日志级别很故意，有两种方法，网页和命令行。比如要对某台机器的JobTracker设置为DEBUG级别，能够例如以下：
a、訪问http://jobtracker-host:50030/logLevel，将org.apache.hadoop.mapred.JobTracker属性设置为DEBUG级别
b、hadoop daemonlog -setlevel jobtracker-host:50030 org.apache.hadoop.mapred.JobTracker DEBUG
Hadoop守护进程提供一个网页，对正在守护进程的JVM中执行着的线程执行线程转储（Thread-dump）。
比如：http://jobtracker-host:50030/stacks获取jobtracker的线程转储。
HDFS和MapReduce守护进程收集的事件和度量相关的信息，这些信息统称为度量（metric）。
比如，各个datanode会收集例如以下度量（还有很多其它）：写入的字节、块的复本数、client发起的读操作请求数。
度量从属于特定的上下文，眼下，Hadoop使用dfs、mapred、rpc、jvm 这4个上下文。
度量在conf/hadoop-metrics.properties文件里配置。默认情况下，全部上下文都被配置成不公布度量。
经常使用的度量类：FileContext、GangliaContext、NullContextWithUpdateThread、CompositeContext。
JMX是一个标准的JAVA API，可监控和管理应用。
Hadop包含多个托管bean（MBean）。能够将Hadoop度量公布给支持JMX的应用。例如以下：
JDK自带的JConsole工具能够浏览JVM中MBean。很多第三方的监控和报警系统（如Nagios和Hyperic）均可查询MBean，因此通过这些系统使用JMX监控一个Hadoop集群就非常寻常，前提是启用远程訪问JMX功能和合理设置集群的安全级别，包含password认证、SSL连接和SSLclient认证等。
比較普遍的方案是，同一时候使用Ganglia和Nagios这种警告系统来监控Hadoop系统。Ganglia擅长高效地收集大量度量，并以图形化界面呈现；Nagios和类似系统擅长在某项度量的关键阀值被突破之后及时报警。
关于这部分。暂时先不深入学习，在工作过程中如有涉猎，再返回此处进一步记录。
标签：第三方 组织 文件的 验证 rac tac 系统日志 hyperic file
原文地址：http://www.cnblogs.com/mfmdaoyou/p/6920381.html
