HBase的完全分布式的搭建与部署,以及多master 一:前提准备 1.设置时间同步 2.清空logs,datas 3.格式化集群 bin/hdfs namenode -format 4.重启集群 sbin/start-dfs.sh sbin/start-yarn.sh 5.删除zookeeper ...
分类:
其他好文 时间:
2017-08-22 23:08:14
阅读次数:
228
本次测试环境如下 1. 软件准备 http://www-eu.apache.org/dist/hadoop/common/hadoop-2.7.4/hadoop-2.7.4.tar.gz http://download.oracle.com/otn-pub/java/jdk/8u144-b01/09 ...
分类:
其他好文 时间:
2017-08-21 22:20:56
阅读次数:
329
1.选取三台服务器(CentOS系统64位)114.55.246.88主节点114.55.246.77从节点114.55.246.93从节点之后的操作如果是用普通用户操作的话也必须知道root用户的密码,因为有些操作是得用root用户操作。如果是用root用户操作的话就不存在以上问题。我是用root用户操作的。2.修改host..
分类:
其他好文 时间:
2017-08-17 19:58:17
阅读次数:
197
HBase 默认配置 Centos6.5下Hbase配置 Hbase集群搭建及所有配置调优参数整理及API代码运行 HBase集群安装部署(完全分布式) ...
分类:
其他好文 时间:
2017-08-08 21:44:36
阅读次数:
123
Hadoop 2.x 部署 * Local Mode * Distributed Mode * 伪分布式 一台机器,运行所有的守护进程, 从节点DataNode、NodeManager * 完全分布式 有多个从节点 DataNodes NodeManagers 配置文件 $HADOOP_HOME/e ...
分类:
其他好文 时间:
2017-08-08 09:27:17
阅读次数:
171
情景描述:用户的登录信息以记录的方式被存放在mysql(版本为5.1.73)的表中,现打算使用sqoop将登录记录抽取并存放到hdfs上,并使用mapreduce程序统计每个用户的登录次数。环境描述:采用4台虚拟机部署hadoop2.6.5的完全分布式环境,在其中一台担任namenode节点的主机上安装mysq..
分类:
其他好文 时间:
2017-08-04 16:17:42
阅读次数:
198
脚本分析start-all.sh1)首先进入/soft/Hadoop/sbin目录2)nanostart-all.shsbin/start-all.sh主要做的事情:1)libexec/hadoop-config.sh2)start-dfs.sh3)start-yarn.sh3)catlibexec/hadoop-config.shhadoop_conf_dir=etc/hadoop4)catsbin/start-dfs.shsbin/start-dfs.sh的作用..
分类:
其他好文 时间:
2017-08-01 21:43:17
阅读次数:
140
hbase配置 (前提是zookeeper能正常使用) HBase是主从式结构,HMaster、HRegionServer HBase的伪分布 1.配置环境变量HBASE_HOME 2. 修改文件$HBASE_HOME/conf/hbase-env.sh,修改内容如下 export JAVA_HOM ...
分类:
其他好文 时间:
2017-07-21 13:26:10
阅读次数:
139
Hadoop的环境搭建分为单机模式、伪分布式模式、完全分布式模式。 因为我的本本比较挫,所以就使用伪分布式模式。 安装JDK 一般Linux自带的Java运行环境都是Open JDK,我们到官网下载Oracle JDK(http://www.oracle.com/technetwork/java/j... ...
分类:
其他好文 时间:
2017-07-10 10:32:37
阅读次数:
227
环境是 64bit Ubuntu 14.04 系统, jdk 1.7 以及 Eclipse Mars (4.5) 这里介绍两种调试 Hadoop 源代码的方法: 利用 Eclipse 远程调试工具和打印调试日志. 这两种方法均可以调试伪分布式工作模式和完全分布式工作模式下的 Hadoop. (1) ...
分类:
其他好文 时间:
2017-07-04 12:12:12
阅读次数:
198