Apache2.X支持插入式并行处理模块,称为多路处理模块(MPM)。在编译apache时必须选择也只能选择一个MPM,对类UNIX系统,有几个不同的MPM可供选择,它们会影响到apache的速度和可伸缩性。 PreforkMPM:这个多路处理模块(MPM)实现了一个非线程型的、预派生的web...
分类:
Web程序 时间:
2014-12-22 00:50:52
阅读次数:
221
从系统架构来看,目前的商用服务器大体可以分为三类,即对称多处理器结构(SMP:Symmetric Multi-Processor),非一致存储访问结构(NUMA:Non-Uniform Memory Access),以及海量并行处理结构(MPP:Massive Parallel Processi.....
分类:
其他好文 时间:
2014-12-20 18:08:10
阅读次数:
187
异步网络能极大地提高程序的并行处理能力,所以写了一个专题来总结python中的异步通信。
一、同步client与同步server的通信
1.1. 《python的socket通信实例》中的例子
1. TCP server端代码
#!/usr/bin/env python
#
# -*- coding:utf-8 -*-
# File: sync_socket_server...
分类:
编程语言 时间:
2014-12-09 19:46:02
阅读次数:
409
输入数据概要 输入数据通常驻留在较大的文件中,通常几十或者数百GB,甚至更大。MapReduce处理的基本原则之一是将输入数据分割成块。这些块可以在多台计算机上并行处理,在Hadoop的术语中这些块被称为输入分片(In...
分类:
其他好文 时间:
2014-12-08 19:52:51
阅读次数:
230
HDFS文件操作 你可以把一个大数据集(100TB)在HDFS中存储为单个文件,而大多数其他的文件系统无力实现这一点。虽然该文件存在多个副本分布在多台机器上来支持并行处理,你也不必考虑这些细节。 ? HDFS (Hadoo...
分类:
其他好文 时间:
2014-12-08 14:03:18
阅读次数:
226
1.在.net4.0中,有了一个新的类库:任务并行库。它极大地简化了并行编程且内容丰富。这里仅介绍其中最简单的
Parallel.For循环和Parallel.ForEach循环。它们位于System.Threading.Tasks命名空间。它们是两个方法,这两个方法将迭代分别放在不同的处理器上并行处理,如果机器是多处理器或多核处理器,这样就会使性能大大提升。
2.例子用Parallel....
分类:
编程语言 时间:
2014-12-05 14:21:56
阅读次数:
272
性能与伸缩性使用线程的一种说法是为了提高性能。多线程可以使程序充分利用闲置的资源,提高资源的利用率,同时能够并行处理任务,提高系统的响应性。 但是很显然,引入线程的同时也引入了系统的复杂性。另外系统的性能并不是总是随着线程数的增加而总是提高。性能与伸缩性性能的提升通常意味着可以用更少的资源做更多的事...
分类:
编程语言 时间:
2014-12-03 00:20:20
阅读次数:
192
在一个复制系统中,为了保持一致性,各个replicated server是串行执行,这样性能上就会比只有一台server的系统慢,因为只有一台server可以进行并行处理。如果在复制系统中各个server也能进行并行处理的话, 这将是很大的进步。
但是如果各个线程之间没有共享变量的话,在复制系统的每个server上进行并行处理也是可行的,实际上以前很多复制系统并行处理都是基于这一点去做的。
...
分类:
系统相关 时间:
2014-11-20 00:11:24
阅读次数:
335
参考http://blog.csdn.net/zhongguomao/article/details/8963815参考程序 ZFC_MM030C实际项目实施过程中,我们会遇到程序性能优化的问题,这里介绍一种方法:通过RFC接口进行远程函数的异步调用实现程序的并行处理。同步/异步调用函数语法同步调用...
分类:
编程语言 时间:
2014-11-19 18:15:00
阅读次数:
469
一、Storm中运行的组件
我们知道,Storm的强大之处就是可以很容易地在集群中横向拓展它的计算能力,它会把整个运算过程分割成多个独立的tasks在集群中进行并行计算。在Storm中,一个task就是运行在集群中的一个Spout或Bolt实例。
为了方便理解Storm如何并行处理我们分给它的任务,这里我先介绍一下在集群中涉及到Topology的四种组件:
...
分类:
其他好文 时间:
2014-11-13 16:35:06
阅读次数:
266