码迷,mamicode.com
首页 >  
搜索关键字:分布式文件系    ( 1397个结果
Hadoop(七)HDFS容错机制详解
前言 HDFS(Hadoop Distributed File System)是一个分布式文件系统。它具有高容错性并提供了高吞吐量的数据访问,非常适合大规模数据集上的应用,它提供了一个高度容错性和高吞吐量的海量数据存储解决方案。 优点是: 高吞吐量访问:HDFS的每个Block分布在不同的Rack上 ...
分类:其他好文   时间:2017-10-18 01:54:49    阅读次数:193
Hadoop(六)之HDFS的存储原理(运行原理)
前言 其实说到HDFS的存储原理,无非就是读操作和写操作,那接下来我们详细的看一下HDFS是怎么实现读写操作的! 一、HDFS读取过程 1)客户端通过调用FileSystem对象的open()来读取希望打开的文件。对于HDFS来说,这个对象是分布式文件系统的一个实例。 2)DistributedFi ...
分类:其他好文   时间:2017-10-17 15:30:45    阅读次数:108
如何优化读写频繁的数据库
大部分数据库都支持多读,一般是使用行锁。 写=插入(批量操作,id独立生成,不实用自增)、更新、删除 读写分离之外,还有降级,还有缓存读写,延迟处理等。 处理策略主要看用户场景,秒杀场景和普通场景又不一样。 CAP原则一只能满足两样,所以要根据实际场景选择合适的处理策略 读在数据能力下是基本满足不了 ...
分类:数据库   时间:2017-10-17 12:38:22    阅读次数:241
分布式系统
常见的分布式文件系统有,GFS、HDFS、Lustre、Ceph、GridFS、mogileFS、TFS、FastDFS等。各自适用于不同的领域。它们都不是系统级的分布式文件系统,而是应用级的分布式文件存储服务。
分类:其他好文   时间:2017-10-16 12:17:37    阅读次数:165
TFS分布式文件系统应用
TFS是淘宝开源的一套高性能文件存储系统,在阿里广泛应用,除了自建文件系统,在应用上云的大趋势下,还可以使用阿里云的对象存储OSS服务:阿里云对象存储OSS首页 一、关于TFS TFS(Taobao File System)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,主要针对海量 ...
分类:Web程序   时间:2017-10-13 19:15:09    阅读次数:318
一脸懵逼学习基于CentOs的Hadoop集群安装与配置
1:Hadoop分布式计算平台是由Apache软件基金会开发的一个开源分布式计算平台。以Hadoop分布式文件系统(HDFS)和MapReduce(Google MapReduce的开源实现)为核心的Hadoop为用户提供了系统底层细节透明的分布式基础架构。 Hadoop 中的分布式文件系统 HDF ...
分类:其他好文   时间:2017-10-09 19:42:54    阅读次数:154
搭建hadoop单机模式
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。 [1] Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高 ...
分类:其他好文   时间:2017-10-08 12:09:02    阅读次数:241
Hadoop框架之HDFS的shell操作
既然HDFS是存取数据的分布式文件系统,那么对HDFS的操作,就是文件系统的基本操作,比如文件的创建、修改、删除、修改权限等,文件夹的创建、删除、重命名等。对HDFS的操作命令类似于Linux的shell对文件的操作,如ls、mkdir、rm等。 我们执行以下操作的时候,一定要确定hadoop是正常 ...
分类:系统相关   时间:2017-10-04 20:23:59    阅读次数:317
HIVE---基于Hadoop的数据仓库工具讲解
Hadoop: Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用来开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。 Hadoop框架最核心的设计就是:HDFS ...
分类:其他好文   时间:2017-10-04 14:19:20    阅读次数:269
TFS分布式文件系统
简介 TFS(Taobao !FileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,主要针对海量的非结构化数据,它构筑在普通的Linux机器集群上,可为外部提供高可靠和高并发的存储访问。TFS为淘宝提供海量小文件存储,通常文件大小不超过1M,满足了淘宝对小文件存储的需 ...
分类:Web程序   时间:2017-10-03 23:20:57    阅读次数:317
1397条   上一页 1 ... 57 58 59 60 61 ... 140 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!