3 分布式系统3.5 容错故障检测:心跳协议;当机器发生故障时,需要将上面的服务迁移到其他服务器上,为了保证强一致性,需要确保故障机器不再提供服务;主要问题:正常机器和故障机器之间需要对“故障机器是否应该被认为发生故障而停止服务”达成一致。异步网络中多态机器无法达成一致。租约:带有超时时间的一种授权...
分类:
其他好文 时间:
2014-11-19 10:44:56
阅读次数:
180
Sheepdog,是由NTT的3名日本研究员开发的开源项目,主要用来为虚拟机提供块设备。其架构例如以下:以下,我们将从架构、模块等几个方面来介绍下:一、架构图如上图:採用无中心节点的全对称架构,无单点故障,存储容量和性能可线性扩展;新增节点通过简单配置可自己主动增加(IP:PORT),数据自己主动实...
分类:
其他好文 时间:
2014-11-03 22:27:22
阅读次数:
254
hadoop的核心分为两块,一是分布式存储系统-hdfs,这个我已经在上一章节大致讲了一下,另一个就是hadoop的计算框架-mapreduce。mapreduce其实就是一个移动式的基于key-value形式的分布式计算框架。其计算分为两个阶段,map阶段和reduce阶段,都是对数据的处理,由于其入门非常简单,但是若想理解其中各个环节及实现细节还是有一定程度的困难,因此我计划在本文中只是挑几个...
分类:
其他好文 时间:
2014-11-03 11:33:05
阅读次数:
265
浅谈大型网站动态应用系统架构动态应用,是相对于网站静态内容而言,是指以c/c++、php、Java、perl、.net等服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通常与数据库系统、缓存系统、分布式存储系统等密不可分。大型动态应用系统平台主要是针对于大流...
分类:
Web程序 时间:
2014-11-02 20:50:49
阅读次数:
169
Sheepdog,是由NTT的3名日本研究员开发的开源项目,主要用来为虚拟机提供块设备。其架构例如以下:以下,我们将从架构、模块等几个方面来介绍下:一、架构图如上图:採用无中心节点的全对称架构,无单点故障,存储容量和性能可线性扩展;新增节点通过简单配置可自己主动添?(IP:PORT),数据自己主动实...
分类:
其他好文 时间:
2014-10-22 21:37:03
阅读次数:
190
概述 ceph是一个Linux PB级别的分布式存储系统,ceph的目标简单地定义为: ????可轻松扩展到PB容量 ????对多种工作负载的高性能(每秒输入/输出操作[IOPS]和带宽) ????高可靠性 与常见的集中式存储不...
分类:
其他好文 时间:
2014-10-15 16:04:42
阅读次数:
310
Sheepdog,是由NTT的3名日本研究员开发的开源项目,主要用来为虚拟机提供块设备。其架构例如以下:以下,我们将从架构、模块等几个方面来介绍下:一、架构图如上图:採用无中心节点的全对称架构,无单点故障,存储容量和性能可线性扩展;新增节点通过简单配置可自己主动增加(IP:PORT),数据自己主动实...
分类:
其他好文 时间:
2014-09-29 23:29:31
阅读次数:
284
这篇依然是学习《大规模分布式存储系统:原理解析与架构实战》一书之外的一个话题。通过学习本书,知道了分布式键值系统,通常使用SSTable(一个无序的键值对集合容器)作为其磁盘上的布局。这不禁让人产生联想,传统数据库使用的是什么存储布局来存储数据呢?这就是今天要探讨的主题----HeapFile....
分类:
数据库 时间:
2014-09-16 10:47:40
阅读次数:
417
HBase技术介绍 莫问 HBase简介HBase – Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase是Google Bigtable的开源实现,类似Google Bigt....
分类:
其他好文 时间:
2014-09-04 16:39:09
阅读次数:
224
HBaseHbase是一个分布式的、面向列的开源数据库,该技术来源于Changetal所写的Google论文“Bigtable:一个结构化数据的分布式存储系统”。就像Bigtable利用了Google文件系统(FileSystem)所提供的分布式数据存储一样,HBase在Hadoop之上提供了类似于Bittable的能力。HBase是Apa..
分类:
其他好文 时间:
2014-09-04 02:58:08
阅读次数:
325