在ZooKeeper的官网上有这么一句话:ZooKeeper is a centralized service for maintaining configuration information, naming, providing distributed synchronization, and ...
分类:
其他好文 时间:
2017-09-05 19:04:06
阅读次数:
193
HDFS ,Hadoop Distribute File System,hadoop分布式文件系统。 主从架构,分主节点NameNode,从节点DataNode.当然还有个SecondaryName,但这不是浅析里的点.这里主要讲下namenode和datanode的基本概念, 并描述下读写过程. ...
分类:
其他好文 时间:
2017-08-24 10:24:54
阅读次数:
201
学习完Hadoop权威指南有一段时间了,现在再回顾和总结一下HDFS的知识点。 1、HDFS的设计 HDFS是什么:HDFS即Hadoop分布式文件系统(Hadoop Distributed Filesystem),以流式数据访问模式来存储超大文件,运行于商用硬件集群上,是管理网络中跨多台计算机存储 ...
分类:
其他好文 时间:
2017-08-20 10:23:41
阅读次数:
186
简介 HDFS(Hadoop Distributed File System )Hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS(Google File System)Google 文件系统(中文,英文)。 HDFS有很多特点: ① 保存多个副本,且提供容错机制,副本丢失 ...
分类:
其他好文 时间:
2017-08-10 13:22:28
阅读次数:
185
Hadoop 2.x 部署 * Local Mode * Distributed Mode * 伪分布式 一台机器,运行所有的守护进程, 从节点DataNode、NodeManager * 完全分布式 有多个从节点 DataNodes NodeManagers 配置文件 $HADOOP_HOME/e ...
分类:
其他好文 时间:
2017-08-08 09:27:17
阅读次数:
171
简介 HDFS(Hadoop Distributed File System )hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS(Google File System)Google 文件系统(中文,英文)。 HDFS有很多特点: ① 保存多个副本,且提供容错机制,副本丢失 ...
分类:
其他好文 时间:
2017-08-06 22:57:04
阅读次数:
150
脚本分析start-all.sh1)首先进入/soft/Hadoop/sbin目录2)nanostart-all.shsbin/start-all.sh主要做的事情:1)libexec/hadoop-config.sh2)start-dfs.sh3)start-yarn.sh3)catlibexec/hadoop-config.shhadoop_conf_dir=etc/hadoop4)catsbin/start-dfs.shsbin/start-dfs.sh的作用..
分类:
其他好文 时间:
2017-08-01 21:43:17
阅读次数:
140
Hive 是基于Hadoop 构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在hadoop 分布式文件系统中的数据,可以将结构 化的数据文件映射为一张数据库表,并提供完整的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行,通过自己的SQL 去查询分析需 要的内 ...
分类:
数据库 时间:
2017-07-29 16:28:31
阅读次数:
238
hadoop分布式搭建 一、首先是搞好master 1、创建用户组 groupadd hadoop 添加一个组 useradd hadoop -g hadoop 添加用户 2、jdk的安装 这里安装的版本是jdk-7u9-linux-i586.tar.gz ,使用 tar -zsvf jdk-7u9 ...
分类:
其他好文 时间:
2017-07-10 14:26:52
阅读次数:
231
Hive 是基于Hadoop 构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据,可以将结构化的数据文件映射为一张数据库表,并提供完整的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行,通过自己的SQL 去查询分析需要的内容, ...
分类:
数据库 时间:
2017-07-07 23:39:12
阅读次数:
399