(一)、HDFS shell操作 1.2查看文件系统的根目录 1.3.将刚刚创建的文件拷贝到文件系统的根目录下: 1.4.查看文件内容: 1.5创建目录 1.6递归创建目录 1.7查看递归目录 1.8复制文件 1.9从系统中拿出文件 2.0删除文件 2.1删除目录 以上就是最为常用的一些操作命令了, ...
分类:
其他好文 时间:
2018-04-17 11:31:04
阅读次数:
166
Hadoop单节点模式安装 官方教程:http://hadoop.apache.org/docs/r2.7.3/ 本文基于:Ubuntu 16.04、Hadoop-2.7.3 一、概述 本文参考官方文档介绍Hadoop单节点模式(本地模式及伪分布式模式)安装(Setting up a Single ...
分类:
其他好文 时间:
2018-04-16 16:21:17
阅读次数:
156
Hadoop 可以在单节点上以伪分布式的方式运行,Hadoop 进程以分离的 Java 进程来运行,节点既作为 NameNode 也作为 DataNode,同时,读取的是 HDFS 中的文件。 Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,伪分布式需要 ...
分类:
其他好文 时间:
2018-04-14 15:33:06
阅读次数:
197
Hbase安装模式介绍 单机模式1> Hbase不使用HDFS,仅使用本地文件系统2> ZooKeeper与Hbase运行在同一个JVM中 分布式模式– 伪分布式模式1> 所有进程运行在同一个节点上,不同进程运行在不同的JVM当中2> 比较适合实验测试– 完全分布式模式1> 进程运行在多个服务器集群 ...
分类:
其他好文 时间:
2018-04-13 16:16:50
阅读次数:
180
既然是伪分布式,那就不可避免的设计到重启Hadoop服务或者重启Hadoop服务器的情况,正确的停止和重启是很有必要的。 首先是Hadoop服务的停止,使用 ./sbin/stop-all.sh脚本来停止所有的Hadoop服务,这个脚本包含了两个脚本的内容,一个是./sbin/stop-dfs.sh ...
分类:
其他好文 时间:
2018-04-09 11:21:27
阅读次数:
161
hbase下载:点此链接 (P.S.下载带bin的) 下载文件放入虚拟机文件夹,打开,放在自己指定的文件夹 修改环境配置 修改hbase安装目录下的conf/hbase-env.sh文件(这里两个地方要细心找一下,在一堆的注释里面,找到以后把前面 # 删去以后再修改) 修改hbase安装目录下的co ...
分类:
其他好文 时间:
2018-04-07 22:43:25
阅读次数:
200
一、HDFS伪分布式环境搭建Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodityhardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束,来实
分类:
其他好文 时间:
2018-04-07 12:51:45
阅读次数:
183
操作系统: MAC OS X 一、准备 下载地址:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 下载地址:https://archive.cloudera.com/cdh5/cd ...
分类:
系统相关 时间:
2018-04-05 20:56:11
阅读次数:
302
分布式环境搭建之环境介绍之前我们已经介绍了如何在单机上搭建伪分布式的Hadoop环境,而在实际情况中,肯定都是多机器多节点的分布式集群环境,所以本文将简单介绍一下如何在多台机器上搭建Hadoop的分布式环境。我这里准备了三台机器,IP地址如下:192.168.77.128192.168.77.130192.168.77.134首先在这三台机器上编辑/etc/hosts配置文件,修改主机名以及配置其
分类:
其他好文 时间:
2018-04-02 22:04:25
阅读次数:
244