FastDFS介绍

标签：pair   磁盘   问题   blog   str   title   pac   平台   入门   

1、背景

FastDFS是一款开源的、分布式文件系统（Distributed File System），由淘宝开发平台部资深架构师余庆开发。该开源项目的主页是 http://code.google.com/p/fastdfs 。可以通过fastdfs.sourceforge.NET 下载。FastDFS论坛是 http://www.csource.org ，目前是指向 ChinaUnix 开源项目孵化平台的一个板块 FastDFS，网址为 bbs.chinaunix.Net/forum-240-1.html 。

2、FastDFS概述

FastDFS是一款开源的轻量级分布式文件系统
–纯C实现，支持Linux、FreeBSD等UNIX系统
–类google FS，不是通用的文件系统，只能通过专有API访问，目前提供了C、Java和PHP API
–为互联网应用量身定做，解决大容量文件存储问题，追求高性能和高扩展性
–FastDFS可以看做是基于文件的key value pair存储系统，称作分布式文件存储服务更为合适

3、FastDFS提供的功能

• .upload：上传普通文件，包括主文件
• .upload_appender：上传appender文件，后续可以对其进行append操作
• .upload_slave：上传从文件
• .download：下载文件
• .delete：删除文件
• .append：从已有文件中追加内容
• .set_metadata：设置文件附加属性
• .get_metadata：获取文件附加属性

3、FastDFS的特点

• 分组存储，灵活简洁
• 对等结构，不存在单点
• 文件ID由FastDFS生成，作为文件访问凭证。FastDFS不需要传统的name server
• 和流行的web server无缝衔接，FastDFS已提供apache和nginx扩展模块
• 大、中、小文件均可以很好支持，支持海量小文件存储
• 支持多块磁盘，支持单盘数据恢复
• 支持相同文件内容只保存一份，节省存储空间
• 存储服务器上可以保存文件附加属性
• 下载文件支持多线程方式，支持断点续传

4、FastDFS架构

首先客户端 client 发起对 FastDFS 的文件传输动作，是通过连接到某一台 Tracker Server 的指定端口来实现的，Tracker Server 根据目前已掌握的信息，来决定选择哪一台 Storage Server ，然后将这个Storage Server 的地址等信息返回给 client，然后 client 再通过这些信息连接到这台 Storage Server，将要上传的文件传送到给 Storage Server上。

3、架构简析

以上这段粗糙简单的描述，基本理清了 FastDFS 的上传过程。我们可以知道，FastDFS 是包括一组 Tracker Server 和 Storage Server 的。Tracker Server 与 Storage Server 之间不直接通信，其基本的信息由配置文件在系统启动加载时获知。多台 Tracker Server 之间保证了 Tracker 的分布式，Tracker Server 之间是对等的，防止了单点故障。 Storage Server 是分成多个 Group，每个 Group 中的Storage 都是互相备份的，也就是说，如果 Group1 有 Storage1、Storage2、Storage3，其容量分别是100GB、100GB、100GB，那么 Group1 的存储能力是 100GB，而不是 300GB，这就是互相备份的意思。进一步说，整个 Group 的存储能力由该组中该储能力最小的 Storage 决定。多个 Group 之间的存储方式，可以采用 round robin（轮训）、load balanced（负载均衡）或指定 Group 的方式。另一点相对于MS（Master-Slave）模式的优势，就是 Tracker Server 与 Master 是决然不同的，不仅 master 有上面可能提到的单点故障问题，而且 client 与 master 之间可能会出现瓶颈。但 FastDFS 架构中，Tracker Server 不会称为系统瓶颈，数据最终是与一个 available 的 Storage Server 进行传输的。

4、总结

简单总结一下，FastDFS的特点包括（1）高可靠性：无单点故障；（2）高吞吐量：只要 Group 足够多，数据流量是足够分散的。

5、三篇入门博文

FastDFS 还有一个特点，就是适用于小文件存储，因为 FastDFS 不回对文件进行分块。因为文件比较小（比如普通级别的图片类应用，文件最大就在几个MB的量级），一来没有必要分块，二来分块会加重服务器的工作量。但是，如果把 FastDFS 应用于大文件存储的场景，可能这一特点就会变成缺点。

FastDFS介绍

标签：pair   磁盘   问题   blog   str   title   pac   平台   入门   

原文地址：http://www.cnblogs.com/zyan1988/p/6903086.html