命令式数据并行 Visual C# 2010和.NETFramework4.0提供了很多令人激动的新特性，这些特性是为应对多核处理器和多处理器的复杂性设计的。然而，因为他们包括了完整的新的特性，开发人员和架构师必须学习一种新的编程模型。这一章是一些新的类、结构体和枚举类型，你可以使用这里来处理数据....
原文:C#并行编程-PLINQ:声明式数据并行背景
通过LINQ可以方便的查询并处理不同的数据源，使用Parallel LINQ (PLINQ)来充分获得并行化所带来的优势。
PLINQ不仅实现了完整的LINQ操作符，而且还添加了一些用于执行并行的操作符，与对应的LINQ相比，通过PLINQ可以获得...
分类：
其他好文 时间：
2014-09-06 12:23:43
阅读次数：
203
原文:C#并行编程-并发集合菜鸟学习并行编程，参考《C#并行编程高级教程.PDF》，如有错误，欢迎指正。
背景
基于任务的程序设计、命令式数据并行和任务并行都要求能够支持并发更新的数组、列表和集合。
在.NET Framework 4 以前，为了让共享的数组、列表和集合能够被多个线程更新，需要添加复...
分类：
其他好文 时间：
2014-09-06 12:11:23
阅读次数：
293
背景通过LINQ可以方便的查询并处理不同的数据源，使用Parallel LINQ (PLINQ)来充分获得并行化所带来的优势。PLINQ不仅实现了完整的LINQ操作符，而且还添加了一些用于执行并行的操作符，与对应的LINQ相比，通过PLINQ可以获得明显的加速，但是具体的加速效果还要取决于具体的场景...
分类：
其他好文 时间：
2014-09-03 12:42:26
阅读次数：
411
菜鸟学习并行编程，参考《C#并行编程高级教程.PDF》，如有错误，欢迎指正。背景基于任务的程序设计、命令式数据并行和任务并行都要求能够支持并发更新的数组、列表和集合。在.NET Framework 4 以前，为了让共享的数组、列表和集合能够被多个线程更新，需要添加复杂的代码来同步这些更新操作。如您需...
分类：
其他好文 时间：
2014-08-27 16:01:08
阅读次数：
416
Martin A. Zinkevich 等人（Yahoo！Lab）合作的论文 Parallelized Stochastic Gradient Descent 中给出了一种适合于 MapReduce 的并行随机梯度下降法，并给出了相应的收敛性分析。这里忽略理论部分，根据自己的理解给出文中所提并行随机梯度下降法的描述。...
分类：
其他好文 时间：
2014-06-24 22:53:45
阅读次数：
261
本文是读完 Jeffrey Dean, Greg S. Corrado 等人的文章 Large Scale Distributed Deep Networks (2012) 后的一则读书笔记，重点介绍在 Google 的软件框架 DistBelief 下设计的一种用来训练大规模深度神经网络的随机梯度下降法 — Downpour SGD，该方法通过分布式地部署多个模型副本和一个“参数服务器”，同时实现了模型并行和数据并行，且对机器失效问题具有很好的容错性。结合 Adagrad 自适应学习率使用，对非凸优化问题...
分类：
其他好文 时间：
2014-06-18 00:55:39
阅读次数：
433
阵列处理机：
通过重复设置大量相同的处理单元PE（Processing Element），将它们按一定方式互连成阵列，在单一控制部件CU（Control Unit）控制下，对各自所分配的不同数据并行执行同一组指令规定的操作。是操作级并行的SIMD计算机（SIMD指的是单指令流多数据流，是一种实现数据级并行的技术）。
阵列处理机的构形：
分布式存储器的阵列处理机构形集中式共...
分类：
其他好文 时间：
2014-06-14 15:05:57
阅读次数：
308
数据并行（Data Parallelism）
数据并行，不同的数据输入以并行方式运行同一个函数，它把一个任务分解成不连续的单元，因此，可以在单独的线程上并行处理，保证这个任务可以在可用的处理之间进行分配。
通常是处理数据集合，这种方法利用了集合中的项目自然提供了任务分配。最简单的情况，是一个并行的映射函数，对集合的中每一项应用一个转换，结果形成一个新的集合。这种简单的情况通常是可以工作的...
分类：
其他好文 时间：
2014-05-14 19:46:59
阅读次数：
275
