1.Hadoop与HDFS的关系 Hadoop实现了一个分布式文件系统,即Hadoop Distributed File System,简称HDFS。对外部客户机而言,HDFS就像一个传统的分级文件系统,所以,很多时候,我们也叫它DFS(Distributed File System)。可以理解为H ...
分类:
其他好文 时间:
2018-01-24 22:17:06
阅读次数:
370
FastDFS服务器的搭建进行Nginx模块添加测试
分类:
其他好文 时间:
2018-01-22 21:17:15
阅读次数:
164
原文:http://blog.mayongfa.cn/193.html 一、安装 Nginx 和 fastdfs-nginx-module 安装 Nginx 请看:从零开始学 Java - CentOS 下安装 Nginx,其实我只想放这一句话。但想想我还是一步一步写详细吧。 1.下载 Nginx ... ...
分类:
其他好文 时间:
2018-01-22 19:18:08
阅读次数:
204
Python系列之入门篇——HDFS 简介 HDFS (Hadoop Distributed File System) Hadoop分布式文件系统,具有高容错性,适合部署在廉价的机器上。Python 提供了两种接口方式,分别是hdfscli(Restful Api Call),pyhdfs(RPC ...
分类:
编程语言 时间:
2018-01-22 14:10:46
阅读次数:
198
概念:Ceph是一个支持大量小文件和随机读写的分布式文件系统,在维护 POSIX 兼容性的同时加入了复制和容错功能。 生产环境主要的两种应用: 对象系统,类似Swift, 这里是RADOS, Reliable Autonomic Distributed Object Store, 可靠的自主分布式对 ...
分类:
其他好文 时间:
2018-01-21 00:04:44
阅读次数:
623
hadoop的核心组件:hdfs(分布式文件系统)、mapreduce(分布式计算框架)、Hive(基于hadoop的数据仓库)、HBase(分布式列存数据库)、Zookeeper(分布式协作服务)、Sqoop(数据同步工具)和Flume(日志手机工具) hdfs(分布式文件系统): 由client ...
分类:
其他好文 时间:
2018-01-20 00:24:52
阅读次数:
604
在上一篇分布式文件系统FastDFS如何做到高可用中已经介绍了FastDFS的原理和怎么搭建一个简单的高可用的分布式文件系统及怎么访问。高可用是实现了,但由于我们只设置了一个group,如果现在有5台服务器那将会出现5台只有一个group,每台服务器内的文件内容都相同(互备份)如下图,会造成资源浪费。因此下面就5台服务器进行优化改造,进一步添加keepalived+nginx多tracker架构,
分类:
其他好文 时间:
2018-01-18 10:17:53
阅读次数:
216
搭建部署FastDFS 分布式文件系统什么是分布式文件系统分布式文件系统 ( Distributed File System ) 是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连分布是文件系统的设计基于客户机/服务器模式一个典型的网络可能包括多个供多用户访问的服务器对等特性允许一些系统扮演客户机和服务的双重角色衡量分布式文件系统的优劣??&
分类:
其他好文 时间:
2018-01-17 00:34:45
阅读次数:
210
FastDFS是用C语言编写的一款开源的轻量级分布式文件系统。它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。 FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服
分类:
其他好文 时间:
2018-01-15 11:12:23
阅读次数:
166
一、DFS、FSRM简介Microsoft Windows Server 2003 R2 分布式文件系统解决方案概述此处为微软technet上讲述的DFS(分布式文件系统的优势及特点),请午饭们耐心、细心的去参阅一下,对你去构建企业级的文件服务器会很有帮助的,还有需要提醒的是DFS是在windows 2003 R2时代就已经出现