1. 搭建hbase集群的前提条件是: (1) 需要有一个可用的hdfs分布式文件系统(2) 需要有一个可用的zookeeper或者集群 (3)搭建机器需要有jdk 的环境 2. 上传 用root用户和其他用户来安装都是可行的。 这个用 root用户,用工具将hbase安装包hbase-0.99.2 ...
分类:
其他好文 时间:
2018-02-06 11:40:25
阅读次数:
224
1、环境规划如下 centos7.4 三个节点一块 sdb 3G大小的测试硬盘 2、Glusterfs 卷的类型比较多,这里我们测试最常用的一种 Distributed Replicated Glusterfs Volume,架构如下 3、安装部署 [root@glusterfs1 ~]# mkdi ...
分类:
其他好文 时间:
2018-02-05 12:47:05
阅读次数:
203
目录 glusterfs简介 glusterfs部署 一、glusterfs简介 Glusterfs是一个开源的分布式文件系统,是Scale存储的核心,能够处理千数量级的客户端。是整合了许多存储块(server)通过Infiniband RDMA或者 Tcp/Ip方式互联的一个并行的网络文件系统。 ...
分类:
其他好文 时间:
2018-02-02 21:50:25
阅读次数:
170
FastDFS分布式文件系统集群安装与配置 原文链接:http://blog.csdn.net/xyang81/article/details/52928230 1.FastDFS简单介绍 FastDFS是由淘宝的余庆先生所开发,是一个轻量级、高性能的开源分布式文件系统,用纯C语言开发,包括文件存储 ...
分类:
其他好文 时间:
2018-02-01 13:16:09
阅读次数:
140
一、概论 1.简介 GlusterFS (Gluster File System) 是一个开源的分布式文件系统,主要由 Z RESEARCH 公司负责开发。 GlusterFS 是 Scale-Out 存储解决方案 Gluster 的核心,具有强大的横向扩展能力,通过扩展能够支持数PB存储容量和处理 ...
分类:
其他好文 时间:
2018-01-31 14:38:12
阅读次数:
197
HDFSHadoop分布式文件系统HDFS角色及概念?是Hadoop体系中数据存储管理的基础。它是一个高度容错的系统,用于在低成本的通用硬件上运行。?角色和概念–Client–Namenode–Secondarynode–Datanode?NameNode–Master节点,管理HDFS的名称空间和数据块映射信息,配置副本策略,处理所有客户端请求。?SecondaryNameNode–定期合并fs
分类:
其他好文 时间:
2018-01-30 12:53:34
阅读次数:
215
1.Linux内存体系结构一个进程执行时,Linux内核给其分配一个部分内存区域。进程使用这个内存区域作为工作区执行必要的操作。1.1.物理内存和虚拟内存系统的内存管理是非常复杂的,一般由内核来完成。高效的内存管理对于提升进程的性能至关重要。现代的计算机系统使用分页(page)技术安全和灵活地管理系统内存。为了提高效率,计算机系统上的内存由固定大小的chunk组成,被称为分页(page)分页的大小
分类:
系统相关 时间:
2018-01-26 12:44:40
阅读次数:
218
当用户量越来越大,则集群中某个group总会到达其极限,这时就得扩展集群的容量了。FastDFS的扩容分为对group纵向扩容和横向扩容 纵向扩容 指在同一个group组中增加服务器,实现数据冗余,数据备份。同一个group中最大容量取决于最小的storage的存储容量。因此如果还想继续使用此group,则需要对此group对应的所有服务器挂载同样容量的磁盘,指定store_path1……,
分类:
其他好文 时间:
2018-01-26 10:55:48
阅读次数:
187
分布式文件系统什么是分布式文件系统?(1)分布式文件系统是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连(2)分布式文件系统的设计基于客户机/服务器模式分布式文件系统的特点(1)将固定于某个地点的某个文件系统,扩展到任意多个地点/多个文件系统(2)每个节点可以分布在不同地点,通过网络进行节点间的通信和数据传输基础架构客户端--------------主控服务器
分类:
其他好文 时间:
2018-01-25 21:46:21
阅读次数:
223
HDFS即Hadoop Distributed File System分布式文件系统,它的设计目标是把超大数据集存储到分布在网络中的多台普通商用计算机上,并且能够提供高可靠性和高吞吐量的服务。分布式文件系统要比普通磁盘文件系统复杂,因为它要引入网络编程,分布式文件系统要容忍节点故障也是一个很大的挑战 ...
分类:
其他好文 时间:
2018-01-24 22:30:04
阅读次数:
355