(1)nfs简介 作用:通过网络的不同的主机之间共享资源,支持多节点挂载并发写入 特点:单台,适合小型网络集群架构,非常稳定;大型公司使用(mfs,glusterfs,fastdfs) nfs优点:部署和维护简单;数据是在文件系统之上,是能看见真实的数据,大型分布式文件系统都是看不到数据的;可靠稳定 ...
分类:
其他好文 时间:
2018-05-15 21:12:06
阅读次数:
175
hadoop是一堆开源软件的集合,下面把这些开源软件做个简单介绍ApacheHadoop:是Apache开源组织的一个分布式计算开源框架,是提供了一个分布式文件系统(HDFS)和支持MapReduce分布式计算的软件架构。ApacheHive:是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapR
分类:
其他好文 时间:
2018-05-14 15:42:46
阅读次数:
165
存储层(Hadoop分布式文件系统) HDFS一、分布式文件系统 多台计算机联网协同工作(有时也称为一个集群)就像单台系统一样解决某种问题,这样的系统我们称之为分布式系统。 分布式文件系统是分布式系统的一个子集,它们解决的问题就是数据存储。换句话说,它们是横跨在多台计算机上的存储系统。存储在分布式文 ...
分类:
其他好文 时间:
2018-05-13 18:01:59
阅读次数:
186
主要摘自 http://dblab.xmu.edu.cn/blog/290 2/ 简介 本指南介绍Hadoop分布式文件系统HDFS,并详细指引读者对HDFS文件系统的操作实践。Hadoop分布式文件系统(Hadoop Distributed File System,HDFS)是Hadoop核心组件 ...
分类:
编程语言 时间:
2018-05-10 23:25:40
阅读次数:
312
0.案例概述 本案例利用Spark+Kafka实时分析男女生每秒购物人数,利用Spark Streaming实时处理用户购物日志,然后利用websocket将数据实时推送给浏览器,最后浏览器将接收到的数据实时展现,案例的整体框架图如下: ![此处输入图片的描述][1] 下面分析详细分析下上述步骤: ...
分类:
其他好文 时间:
2018-05-10 23:23:20
阅读次数:
315
prometheus它是一个主动拉取的数据库,在K8S中应该展示图形的grafana数据实例化要保存下来,使用分布式文件系统加动态PV,但是在本测试环境中使用本地磁盘,安装采集数据的agent使用DaemonSet来部署,DaemonSet的特性就是在每个node上部署一个服务进程,这一切都是自动的 ...
分类:
Web程序 时间:
2018-05-10 17:25:35
阅读次数:
574
分布式文件系统是指文件系统管理的物理存储资源通过计算机网络与各节点相连。简单将,就是把一些分散的共享文件夹,集合到一个文件夹内。对于用户来说,只需要打开该虚拟文件夹,就可以使用这些分散的文件夹进行数据读写。分布式文件系统的好处在于集中访问、简化操作、冗余防灾、读写迅速。MFS:是一个具有容错性的网络分布式文件系统,由元数据服务器master、元数据日志服务器metalogger、数据存储服务器ch
分类:
其他好文 时间:
2018-05-10 15:45:19
阅读次数:
149
【科普Isilon的存储结构】 Isilon内部使用的是分布式文件系统OneFS。在Isilon存储集群里面每个节点均为单一OneFS文件系统,所以Isilon在支持横向扩展的同时并不会影响数据正常使用。在存储集群工作时,所有节点提供相同的功能,节点与节点之前没有主备之分。当用户往存储集群中存储文件 ...
分类:
其他好文 时间:
2018-05-07 16:09:02
阅读次数:
153
【科普Isilon的存储结构】Isilon内部使用的是分布式文件系统OneFS。在Isilon存储集群里面每个节点均为单一OneFS文件系统,所以Isilon在支持横向扩展的同时并不会影响数据正常使用。在存储集群工作时,所有节点提供相同的功能,节点与节点之前没有主备之分。当用户往存储集群中存储文件时,OneFS层会将文件分成128K的片段分别存到不同的节点中,而在节点层又会将128K的片段分成8K
分类:
其他好文 时间:
2018-05-07 15:27:15
阅读次数:
149
第一章: 大型网站的演化 1.1 大型网站软件系统的特点 高并发, 大流量 高可用:7*24小时不间断服务 海量数据 用户分布广泛, 网络情况复杂 安全环境恶劣:大型网站几乎每天都被攻击 需求快速变更, 发布频繁:大型网站每周都有新版本上线 渐进式发展:大型网站都从小网站发展而来 1.2 大型网站架 ...
分类:
Web程序 时间:
2018-05-06 22:55:50
阅读次数:
232