我的系统是 RHEL5 , 可能环境不一样, 需要安装的第三方依赖不一样啊, 反正大家在安装的过程中缺少什么就去安装什么, 一般都会有提示的。 下载 glusterfs-3.2.0.tar.gz 源码包。 随便解压到一个目录。 glusterfs 需要 fuse 的支持, 在安装开始之前请先安装 f ...
分类:
其他好文 时间:
2016-07-25 07:02:16
阅读次数:
184
我这里的环境都是 RHEL 5 的环境。 MySQL 数据库 和 tracker 都放到一台服务器上, 为 192.168.2.85 storage server两台, 分别为 192.168.2.98 192.168.2.222 第一: 安装 Mysql 数据库 Mysql的安装请大家直接下载 r ...
分类:
其他好文 时间:
2016-07-25 07:01:10
阅读次数:
237
1. 安装 1.1 准备安装环境 首先选择一台比较好的服务器做master,如果可以在选择一台做为master的备份服务器最好。然后其他的服务器当chunkserver。 为了方便说明问题,我这里选择为: Master 服务器 1台 192.168.2.98 Chunkserver 服务器 2台 1 ...
分类:
其他好文 时间:
2016-07-25 07:00:09
阅读次数:
215
Linux文件系统管理:Linux文件系统:ext2,ext3,ext4,xfs,btrfs,reiserfs,jfs,swapswap:交换分区光盘:iso9660Windows:fat32,ntfsUnix:FFS,UFS,JFS2网络文件系统:NFS,CIFS集群文件系统:GFS2,OCFS2分布式文件系统:ceph,moosefs,mogilefs,GlusterFS,Lustre根据其是否支持"journ..
分类:
系统相关 时间:
2016-07-23 21:30:08
阅读次数:
362
一、简介MooseFS(MooseFileSystem,mfs)是一种分布式文件系统,它将数据分布在网络中的不同服务器上,支持FUSE(用户空间文件系统FilesysteminUserspace,简称FUSE),客户端挂载后可以作为一个普通的Unix文件系统使用MooseFS。MooseFS中共有四种角色:主控服务器masterserver、..
分类:
其他好文 时间:
2016-07-21 20:09:58
阅读次数:
280
一、简介 MooseFS(Moose File System,mfs)是一种分布式文件系统,它将数据分布在网络中的不同服务器上,支持FUSE(用户空间文件系统Filesystem in Userspace,简称FUSE),客户端挂载后可以作为一个 普通的Unix 文件系统使用MooseFS。 Moo ...
分类:
其他好文 时间:
2016-07-19 13:27:16
阅读次数:
175
在企业中,有很多种文件系统的部署,在这里我这边记录一下DFS分布式文件系统的部署,试验环境在windowsserver2012系统中部署完成,此次架构如下图在微软的文件系统中,文件系统发展经历了一些历程,下图为文件系统发展的大概历程在企业环境中,比较成熟可靠的还是使用cluter,..
分类:
其他好文 时间:
2016-07-17 02:46:25
阅读次数:
358
文本详细介绍了HDFS中的许多概念,对于理解Hadoop分布式文件系统很有帮助。1. 介绍在现代的企业环境中,单机容量往往无法存储大量数据,需要跨机器存储。统一管理分布在集群上的文件系统称为分布式文件系统。而一旦在系统中,引入网络,就不可避免地引入了所有网络编程的复杂性,例如挑战之一是如果保证在节点不可用的时候数据不丢失。传统的网络文件系统(NFS)虽然也称为分布式文件系统,但是其存在一些限制。由于...
分类:
其他好文 时间:
2016-07-16 16:30:22
阅读次数:
607
1.概述 最近收到一些同学和朋友的邮件,说能不能整理一下 Hadoop 生态圈的相关内容,然后分享一些,我觉得这是一个不错的提议,于是,花了一些业余时间整理了 Hadoop 的生态系统,并将其进行了归纳总结,进而将其以表格的形式进行了罗列。涉及的内容有以下几点: 分布式文件系统 分布式编程模型 No ...
分类:
其他好文 时间:
2016-07-13 19:36:56
阅读次数:
155
第六章的代码及命令的部分本人还未验证,先记录,验证后如有变动再更新。
一、是什么
1.是一个易于扩展的分布式文件系统
2.可以运行在大量普通廉价机器上,提供容错机制
3.可以为大量用户提供性能不错的文件存取服务
二、优点
高容错性:数据自动保存多个副本,副本丢失后,自动恢复
适合批处理:移动计算而非数据,数据位置暴露给计算框架
适合大数据处理:GB、TB、甚至PB级数据;百万规模...
分类:
其他好文 时间:
2016-07-12 12:19:23
阅读次数:
218