一、新增节点 语法 #其中-s 为有序节点,-e 临时节点 create [-s] [-e] path data 创建持久化节点并写入数据: # 创建hadoop节点并写入数据123456: create /hadoop "123456" 创建持久化有序节点,此时创建的节点名为指定节点名 + 自增序 ...
分类:
系统相关 时间:
2021-01-22 12:13:51
阅读次数:
0
我的hadoop 节点有两个, 两个cdhslave节点,一个master节点; cdh02,cdh03为slave节点,cdh01为master节点 ntp服务器和两个节点,两个节点的时间从master节点获取时间并进行同步。 在master节点 先检查有没有ntp fuwu安装 rpm -qa ...
分类:
其他好文 时间:
2020-01-26 14:41:22
阅读次数:
85
1、在github上搜索下载winutils.exe相关的一套文件,下载对应hadoop的版本。 2、将所有文件复制到hadoop的bin目录下 3、将hadoop.dll复制到windows\system32目录下 4、添加环境变量HADOOP_HOME指向hadoop目录 5、将%HADOOP_ ...
1概述本文章介绍大数据平台Hadoop的分布式环境搭建、以下为Hadoop节点的部署图,将NameNode部署在master1,SecondaryNameNode部署在master2,slave1、slave2、slave3中分别部署一个DataNode节点NN=NameNode(名称节点)SND=SecondaryNameNode(NameNode的辅助节点)DN=DataNode(数据节点)2
分类:
其他好文 时间:
2018-12-18 13:58:09
阅读次数:
195
面试涉及问题含有: Java JDK8新特性 集合(哈希冲突、HashMap的原理、自动排序的集合TreeSet) 多线程安全问题 String和StringBuffer JVM 原理、运行流程、内部结构 Linux 查询含有某字符串内容的命令grep 查询进程、GC状态、杀死进程 Hadoop五种 ...
分类:
编程语言 时间:
2018-09-09 00:38:47
阅读次数:
213
增删节点 数据迁移 一、所有事情开始之前,先要备份好cloudera manager的数据库,以及hadoop集群中的一些组件带的数据库。这里保存了很多元数据,像hive这种丢了很麻烦的。 二、如果需要换nameNode的存储目录 1、备份nameNode原始数据 cp -r /ddhome/dfs ...
分类:
其他好文 时间:
2018-05-13 19:06:53
阅读次数:
351
vi /etc/hosts添加节点dns信息192.168.209.157 node1192.168.209.158 node2192.168.209.159 node3vi /etc/profile添加运行目录export HADOOP_HOME=/home/hadoop/hadoop-3.1.0exportPATH=$PATH:$HADOOP_HOME/bin复制到各节点过去scp /etc/
分类:
其他好文 时间:
2018-04-13 20:42:02
阅读次数:
264
开篇:在本笔记系列的第一篇中,我们介绍了如何搭建伪分布与分布模式的Hadoop集群。现在,我们来了解一下在一个Hadoop分布式集群中,如何动态(不关机且正在运行的情况下)地添加一个Hadoop节点与下架一个Hadoop节点。 一、实验环境结构 本次试验,我们构建的集群是一个主节点,三个从节点的结构 ...
分类:
其他好文 时间:
2017-11-03 13:07:50
阅读次数:
224
1)启动名称节点Hadoop-daemon.shstartnamenode2)启动数据节点hadoop-daemons.shstartdatanodeslave3)hadoop-daemon.shstartsecondarynamenode4)查看端口50070netstat-anop|grep5005)开启resourcemanageryarn-daemon.shstartresourcemanager6)开启nodemanagerbin/yarn-daem..
分类:
其他好文 时间:
2017-08-02 13:53:47
阅读次数:
116
前言当集群规模在日益变大的时候,往往有的时候出现机器的老化,而这些“老化”的机器又会表现出一些奇怪的特征:“磁盘读写慢”、“网络数据传输慢”等。对于前者,曾经笔者写过一篇Hadoop节点”慢磁盘”监控...
分类:
其他好文 时间:
2017-01-31 21:01:51
阅读次数:
1288