Spark计算速度远胜于Hadoop的原因之一就在于中间结果是缓存在内存而不是直接写入到disk,本文尝试分析Spark中存储子系统的构成,并以数据写入和数据读取为例,讲述清楚存储子系统中各部件的交互关系。
分类:
其他好文 时间:
2014-05-09 05:14:32
阅读次数:
405
memcached的内存分配没有用到c语言中自带的malloc函数,因为这个函数分配内存的时候效率很低,对于这种要求快速响应,对效率要求非常高的缓存软件来说非常不合适。memcached用的是自己的一套内存分配方法,叫做slab
allocation。Memcache单进程最大可开的内存是2GB,如...
分类:
其他好文 时间:
2014-05-09 04:34:29
阅读次数:
338
memcache不会释放内存,而是重新利用。在缓存的清除方面,memcache是不释放已分配内存。当已分配的内存所在的记录失效后,这段以往的内存空间,memcache只会重复利用。memcached的内存回收机制不是说你设置的key到了生命周期就自动从内存中清除的,这个时候必须有一个新的对象入驻请求...
分类:
其他好文 时间:
2014-05-09 04:00:31
阅读次数:
375
mangle表:可以对数据包进行修改,此表中的链与其它表中的关系如下:数据包从网卡接口进来后,最先经过的就是mangle表中的prerouting链。此表中有五条链:iptables-tmangle-L-n
ChainPREROUTING(policyACCEPT)
targetprotoptsourcedestination
ChainINPUT(policyACCEPT)
target..
分类:
其他好文 时间:
2014-05-08 16:52:26
阅读次数:
467
说明: 开机启动使用的命令式chkconfig 、防火墙相关的命令式iptables
1、chkconfig 2、iptables 1、chkconfig 参数: --add 新增所指定的系统服务 --del 删除所指定的系统服务 --level
指定该系统服务要在哪个执行等级中开启或关闭 ...
分类:
其他好文 时间:
2014-05-08 10:16:04
阅读次数:
368
跟Ruiy哥一起玩转吧;1,关闭SElinux(Ruiy哥根据经验知红帽的SElinux架设就是个错误,还记得不管啥结构首先要关闭的就是它);2,设置iptables放行Port=27017;3,下载软件介质wget
https://fastdl.mongodb.org/linux/mongodb-...
分类:
数据库 时间:
2014-05-08 09:28:02
阅读次数:
478
简介Varnish 是一款高性能且开源的反向代理服务器和 HTTP
加速器,其采用全新的软件体系机构,和现在的硬件体系紧密配合,与传统的 squid 相比,varnish
具有性能更高、速度更快、管理更加方便等诸多优点;目前最新版本是4.0.0,而3.x的版本也是可以生产环境下使用的稳定版本,但yu...
分类:
其他好文 时间:
2014-05-08 06:53:08
阅读次数:
779
平时可以感觉到的几个事实: 1 音乐、视频数据都是放在文件系统中、2 大图片文件是放到文件系统中的、3 小的配置文件,文件系统会比数据库的效率高出很多
假定在程序效率和关键过程相当且不计入缓存等措施的条件下,读写任何类型的数据都没有直接操作文件来的快,不论MSYQL过程如何,最后都要到磁盘上去读这个“文件”(记录存储区等效),所以当然这一切的前提是只读 内容,无关任何排序或查找操...
分类:
微信 时间:
2014-05-08 06:00:49
阅读次数:
672
一、实验环境服务器IP地址系统版本varnish服务器172.16.8.1Centos6.5web1服务器172.16.8.5:81Centos6.5web2服务器172.16.8.5:82Centos6.5img1服务器172.16.8.5:83Centos6.5img2服务器172.16.8.5:84Centos6.5php1服务器172.16.8.5:85Centos6.5php2服务器172.16.8.5:86Centos6.5..
分类:
其他好文 时间:
2014-05-08 02:59:08
阅读次数:
531
varnish简介varnish是一款强大的http加速器,其设计初衷因为计算机越来越复杂,不像那个只有内存与硬盘的存储媒介的年代,如今的计算机系统除了内存外还有cpu的L1、L2、L3快取,因此当初的Squidcache自行处理物件替换的架构不可能得知这些情况而做到最佳,但操作系统可以得知该..
分类:
其他好文 时间:
2014-05-08 02:43:38
阅读次数:
587