1.1.1 永久性数据结构 namenode的目录结构如下图 （1） VERSION属性文件 namespaceid文件系统命名空间唯一标识。 clusterID是将HDFS集群作为一个整体赋予的唯一标识符。 blockpoolID是数据块池的唯一标识。 CTime是namenode存储系统创建时间 ...
分类：
其他好文 时间：
2020-03-11 10:58:32
阅读次数：
49
1、首先打开 hive DEBUG日志，执行以下命令，直接将日志输出到控制台 2、我们知道HIVE启动过程中，首先会先连接hive metastore，然后在连接HDFS namenode，我们可以根据日志时间点来判断和排查哪一步执行时间过长导致。 3、如果是hive metastore 连接过慢， ...
分类：
其他好文 时间：
2020-01-29 23:31:34
阅读次数：
285
+ HDFS 写文件 + 网络拓扑 节点距离计算 + HDFS读流程 + NN和2NN工作机制 + Fsimage和Edits解析 + CheckPoint时间设置 + NameNode故障后的数据恢复 HDFS 数据流 HDFS 写文件 1）客户端通过Distributed FileSystem模 ...
分类：
其他好文 时间：
2020-01-08 18:45:59
阅读次数：
95
namenode元数据管理 namenode主要功能模块 Fsimage是一个二进制文件，其大致结构如下图： 1. 首先是一个image head，其中包含： a) imgVersion(int)：当前image的版本信息 b) namespaceID(int)：命名空间ID，唯一的 c) numF ...
分类：
其他好文 时间：
2020-01-01 14:55:43
阅读次数：
72
一、为什么namenode持久化 namenode通过内存存储hdfs集群的元数据（目录结构 文件信息 块对应关系），如果内存出现问题，那么会数据丢失，需要通过持久化，把内存中的数据定期的存储在硬盘中，进而保证namenode的数据安全。 二、持久化的原理 1、FSImage (某一时刻 namen ...
分类：
其他好文 时间：
2019-12-29 18:48:03
阅读次数：
133
[TOC]一、fsimage和edits文件1、基本概念txid：namenode对每个操作事件（增删改操作）都给了一个唯一的id标识，称为txid，一般是从0开始自增，每多一个操作，txid就自增1。fsimage：是namenode在内存中的元数据在本地磁盘的一个镜像文件，但是通常情况fsimage并没有包含自新的操作事件，所以本质上和内存中元数据还是有差距的。这里记录的不是操作日志，其中包含
分类：
其他好文 时间：
2019-10-16 23:06:53
阅读次数：
159
1.root账号先在namenode节点上配置一个定时任务，将fsimage定时传到其他客户机上进行操作 whereis hadoop命令确定安装目录，然后去配置文件找到namenode节点（data-93 emr-header-1） 0 1 * * * sh /root/fsimage.sh 每晚 ...
分类：
其他好文 时间：
2019-09-20 18:51:12
阅读次数：
96
其中的fsimage 称为时点备份，又叫磁盘镜像快照，这个是NameNode的一个 持久化的方式之一：缺点，在内存数据序列化的时候比较慢 具体的过程：因为我们所知道的NameNode一般是存储在内存中的，并没有和磁盘进行交互，这和redis这类的非关系型数据库差不多，但是内存中的数据总是没有持久化的 ...
分类：
其他好文 时间：
2019-09-17 12:27:06
阅读次数：
106
自己的主机上的Hadoop版本是2.7.6，是测试用的伪分布式Hadoop，在前段时间部署了Hive on Spark，但由于没有做好功课，导致了Hive无法正常启动，原因在于Hive 3.x版本不适配Hadoop 2.x版本。之前我在学校服务器上部署的Hadoop版本是3.1.2，现打算将自己的从 ...
分类：
其他好文 时间：
2019-08-09 23:24:41
阅读次数：
140
镜像文件和编辑日志文件 1）概念 namenode被格式化之后，将在/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current目录中产生如下文件 （1）Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件i ...
分类：
其他好文 时间：
2019-07-19 21:01:27
阅读次数：
134
