一、分布式文件系统分布式文件系统(Distributed File
System)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连,也就是集群文件系统,可以支持大数量的节点以及PB级的数量存储。相对地,在一个分享的磁盘文件系统中,所有节点对数据存储区块都有相同的...
分类:
其他好文 时间:
2014-05-11 15:16:30
阅读次数:
470
Hadoop Streaming 是一个工具, 代替编写Java的实现类,而利用可执行程序来完成map-reduce过程
工作流程 :
InputFile --> mappers --> [Partitioner] --> reducers -->
outputFiles
理解 :
1 输入文件,可以是指定远程文件系统内的文件夹下的 *
2 通过集群自己分解到各个PC...
分类:
编程语言 时间:
2014-05-11 14:46:35
阅读次数:
519
目的
此文档描述了 FairScheduler,
Hadoop 的一个可插入式的调度器,允许 YARN 应用在一个大集群中公平地共享资源。
简介
公平调度是一种分配资源给应用的方法,以致到最后,平均上所有应用获得相等的资源。 Hadoop NextGen 能够调度多种类型的资源。默认的, Fair Scheduler 仅以内存为基础作公平调度决策。可以用Ghodsi 等开发的 ...
分类:
其他好文 时间:
2014-05-11 13:05:57
阅读次数:
393
HAProxy提供高可用性、负载均衡以及基于TCP和HTTP应用的代理,支持虚拟主机,它是免费、快速并且可靠的一种解决方案。
HAProxy特别适用于那些负载特大的web站点,这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上,完全可以支持数以万计的并发连接。并且它的运行模式.....
分类:
Web程序 时间:
2014-05-11 01:09:20
阅读次数:
677
mysql集群架构方式很多,根据不同的需求做不一样的架构,简单一点的就是mysql的replication,也就是Mysql的复制功能,模式有:master-slaves,master-slaves-slaves,master-master-slaves等可以有多个分层,那么现在我所要说的是mast...
分类:
数据库 时间:
2014-05-10 23:30:36
阅读次数:
553
----本文大纲分布式文件系统MogileFS环境安装及配置代理测试-------------一、分布式文件系统分布式文件系统(DistributedFileSystem)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连,也就是集群文件系统,可以支持大数量的节点以..
分类:
其他好文 时间:
2014-05-10 09:05:12
阅读次数:
568
一、haproxy和keepalived的解释:1、haproxy:haproxy是免费、极速且可靠的用于为TCP和基于HTTP应用程序提供负载均衡和代理服务的解决方案,尤其适用于高负载且需要持久连接或7层处理机制的web站点。2、haproxy的特性:客户端侧的长连接(client-sidekeep-alive);TCP加速(TCPsp..
分类:
其他好文 时间:
2014-05-10 09:03:23
阅读次数:
553
本Hadoop与HBase集群有1台NameNode, 7台DataNode
1. /etc/hostname文件
NameNode:
node1
DataNode 1:
node2
DataNode 2:
node3
.......
DataNode 7:
node8
2. /etc/hosts文件
N...
分类:
其他好文 时间:
2014-05-10 04:55:08
阅读次数:
386
AIX5.3下Oracle10gRAC启动故障--CRS启动失败系统环境:操作系统:AIX5300-09集群软件:CRS10.2.0.1数据库:Oracle10.2.0.1系统架构图故障现象:系统重启后,在节点上CRS启动失败或CRS服务启动成功,CRSResource无法ONLINE。[root@aix213racg]cat/etc/hosts127.0.0.1loopbackloc..
分类:
数据库 时间:
2014-05-10 03:57:53
阅读次数:
1163
1、环境描述
一台10.0.0.201SQL节点、管理节点
一台10.0.0.202做一个数据节点
一台10.0.0.203做一个数据节点
2、安装Mysql_custter
在MGM管理节点、SQL节点、NDB节点执行同一操作
#:groupaddmysql
#:useraddmysql-gmysql-s/sbin/nologin
#:tar–xvfmysql-cluster-gpl-7.1.15-l..
分类:
数据库 时间:
2014-05-10 03:57:21
阅读次数:
473