1.4.3 编写有效的并行程序
函数式编程可以更方便编写并行程序，这可能是你打算阅读这本书的原因。在本节，我们将用几个示例来演示函数式程序如何使并行更容易。在前两个示例中，我们将使用 Parallel Extensions to .NET（.NET 的并行扩展），这是微软的一项新技术，用于编写并行化的应用程序，是 .NET 4.0 的一部分。如你所料，ParallelExtensions...
分类：
其他好文 时间：
2014-07-28 16:14:54
阅读次数：
202
最近半年一直研究用.net进行并行程序的开发与设计，再研究的过程中颇有收获，所以画了一个图总结了一下并行编程的基础知识点，这些知识点是并行编程的基础，有助于我们编程高性能的程序，里面的某些结构实现机制也蕴含着丰富的软件设计思想,在后续的文章中我会对图里面提到某些数据结构或同步机制的源码进行分析。 注...
分类：
Web程序 时间：
2014-07-11 09:24:29
阅读次数：
239
debug一个并行程序（parallel
program）向来是件很麻烦的事情（Erlang等functional programming language另当别论），对于像MPI这种非shared
memory的inter-process model来说尤其如此。与调试并行程序相关的工具非开源工具...
分类：
其他好文 时间：
2014-06-29 14:20:46
阅读次数：
367
第三章MPI编程3.1
MPI简单介绍多线程是一种便捷的模型，当中每一个线程都能够訪问其他线程的存储空间。因此，这样的模型仅仅能在共享存储系统之间移植。一般来讲，并行机不一定在各处理器之间共享存储，当面向非共享存储系统开发并行程序时，程序的各部分之间通过来回传递消息的方式通信。要使得消息传递方式可移...
分类：
其他好文 时间：
2014-06-10 16:37:42
阅读次数：
255
多核下如何写出高性能的并行程序，让你的程序飞起来...
分类：
其他好文 时间：
2014-06-10 11:03:44
阅读次数：
156
消息传递（Message Passing）
通常可用把并行程序理解为一组相互独立的、能够发关和接收消息的组件，这也称为角色模型（ActorModel），在维基百科上可找到更正式的解释
http://en.wikipedia.org/wiki/Actor_model。虽然使用消息传递的场景往往相当复杂，但是其背后的思想却相对简单，正像下面将要看到的示例一样：
消息传递背后的基本思想是这...
分类：
其他好文 时间：
2014-05-18 08:16:28
阅读次数：
373
visual profiler 调试cuda并行程序是，如果不能够通过出错的行号，定位出错行，会很麻烦。通过在编译cuda程序的时候，设置适当的编译参数，可以实现根据行号定位出错行，为调试程序提供了很大的方便。...
分类：
其他好文 时间：
2014-05-15 06:40:35
阅读次数：
295
近几年，业内对并行和并发积累了丰富的经验，有了较深刻的理解。但之前积累的大量教材，在当今的软硬件体系下，反而都成了负面教材。所以，有必要加强宣传，翻新大家的认知。
首先，天地倒悬，结论先行：当你需要并行时，优先考虑不需要线程间共享数据的设计，其次考虑共享Immutable的数据，最糟情况是共享Mutable数据。这个最糟选择，意味着最差的性能，最复杂啰嗦的代码逻辑，最容易出现难于重现的bug...
分类：
其他好文 时间：
2014-05-10 09:00:09
阅读次数：
334
用MPI编写并行程序时，任务分解是很重要的一部分，如何把T个任务（T块数据，T行矩阵等）分给P个进程，实现负载均衡，是需要好好考量的问题。分解任务时需要解决两个问题：
1.给出一个进程p，如何得知要处理的任务是哪些
2.给出一个任务t，如何得知它是由哪个进程处理的
（这里的p和t都是从0开始计数。）
一个好的任务分配，应该能够保证这两种计算都能高效完成。下面讨论三种分配方式。这里只讨论T>...
分类：
其他好文 时间：
2014-05-01 21:52:30
阅读次数：
434
