是针对单个作业,针对本job再怎么优化也不会影响到其他job;Hadoop的负载主要有两部分:CPU负载和IO负载;问题:机器io开销很大,但是机器的cpu开销较小,另外map输出文件也较大,怎么办?解决办法:通过设置map的中间输出进行压缩就可以了,这个不会影响最终reduce的输出。集群中的机器...
分类:
其他好文 时间:
2014-07-18 20:29:09
阅读次数:
384
PS:这篇是目前最完整的Nginx配置参数中文说明。更详细的模块参数请参考:http://wiki.nginx.org/Main #定义Nginx运行的用户和用户组 user www www; #nginx进程数,建议设置为等于CPU总核心数。 worker_processes ...
分类:
其他好文 时间:
2014-07-18 20:14:01
阅读次数:
240
工厂模式分三种:简单工厂、工厂方法、抽象工厂。其中抽象工厂是用于多个产品族的情况。所谓产品族就是不同产品组成的有机整体,各不同产品之间相互依赖。打个比方,一台电脑有CPU、主板、内存和硬盘等,这些不同产品组成了一个产品族。就好比Dell和HP要把这些产品进行不同的组装,这时就需要用到抽象工厂。以下是...
分类:
编程语言 时间:
2014-07-18 09:07:22
阅读次数:
279
1.理论知识 在1.4GHz~3GHz的CPU、1GB内存的JMeter客户端上,可以处理线程100~300。但是,如果所有负载由一台机器产生,网卡和交换机端口都可能产生瓶颈,所以一个JMeter客户端线程数不应超过100。 采用JMeter远程模式并不会比独立运行相同数目的非GUI测试更耗费资源。...
分类:
其他好文 时间:
2014-07-18 08:00:58
阅读次数:
256
cluster集群要实现vmotion、DRS、HA等功能,EXSI主机必须是两台或以上的数量。那怎么判断vmotion等漂移功能在哪些主机执行的呢?这就引出了集群cluster的概念。所有基于vmotion的功能都是在集群内的EXSI主机实现的,VM只会在集群内做漂移。所有EXSI主机加入集群后,CPU、内存等..
分类:
其他好文 时间:
2014-07-17 20:31:28
阅读次数:
278
cluster集群要实现vmotion、DRS、HA等功能,EXSI主机必须是两台或以上的数量。那怎么判断vmotion等漂移功能在哪些主机执行的呢?这就引出了集群cluster的概念。所有基于vmotion的功能都是在集群内的EXSI主机实现的,VM只会在集群内做漂移。所有EXSI主机加入集群后,CPU、内存等..
分类:
其他好文 时间:
2014-07-17 20:20:52
阅读次数:
194
当看到I/O等待时间所占CPU时间的比重很高的时候,首先要检查的就是机器是否正在大量使用交换空间,因为硬盘操作的速度远远低于RAM,所以当系统内存耗尽,开始使用交换空间的时候,系统的性能会受到严重影响。任何想要访问硬盘的操作都要完成与硬盘的I/O交换。所以,故障排除的第一步是看内存是否耗尽,如果是,先解决这个问题。如果还有大量可用的RAM,你需要明确那个进程占用了大部分I/O操作。
在你很难弄明...
分类:
移动开发 时间:
2014-07-17 19:36:55
阅读次数:
306
psutil - A cross-platform process and system utilities module for Python1. 安装pip 安装即可。windows 下需要安装 vs2008,否则报错:Unable to find vcvarsall.bat如果已经安装 vs2...
TOP是一个动态显示过程,即可以通过用户按键来不断刷新当前状态.如果在前台执行该命令,它将独占前台,直到用户终止该程序为止.比较准确的说,top
命令提供了实时的对系统处理器的状态监视.它将显示系统中CPU最“敏感”的任务列表.该命令可以按CPU使用.内存使用和执行时间对任务进..
分类:
其他好文 时间:
2014-07-17 17:09:19
阅读次数:
200
TCMalloc是什么?TCMalloc(Thread-CachingMalloc)与标准glibc库的malloc实现一样的功能,但是TCMalloc在效率和速度效率都比标准malloc高很多。TCMalloc是google-perftools工具中的一个(gperftools四个工具分别是:TCMalloc、heap-checker、heap-profiler和cpu-profiler),这..
分类:
数据库 时间:
2014-07-17 15:34:03
阅读次数:
421