小子本文分为四部分，一是大数据时代现状，其二是面对挑战的方法，然后是用python写并行程序，最后是multiprocessing实战。 ...
分类：
编程语言 时间：
2018-11-03 12:29:15
阅读次数：
180
由于并行程序与串行程序的不同特点，适用于串行程序的一些数据结构可能无法直接在并发环境下正常工作，这是因为这些数据结构不是线程安全的。本节将着重介绍一些可以用于多线程环境的数据结构，如并发List、并发Set、并发Map等。 1.并发List Vector 或者 CopyOnWriteArrayLis ...
分类：
编程语言 时间：
2018-09-24 19:32:04
阅读次数：
171
一 简介 并行设计模式属于设计优化的一部分，它是对一些常用的多线程结构的总结和抽象。与串行程序相比，并行程序的结构通常更为复杂，因此合理的使用并行模式在多线程开发中更具有意义，在这里主要介绍==Future==、==Master Worker==和==生产者 消费者==模型 二 Future模式 F ...
分类：
编程语言 时间：
2018-07-30 14:53:59
阅读次数：
199
建议比对『MXNet』第七弹_多GPU并行程序设计 models/tutorials/image/cifar10/cifer10_multi_gpu-train.py ...
分类：
其他好文 时间：
2018-06-18 00:29:46
阅读次数：
463
1.并发编程的优点: 面对复杂业务模型,并行程序比串行程序更适应业务需求,而并发编程更吻合这种业务拆分,正是因为这些优点,使得多线程技术能够得到重视,也是一名CS学习者应该啊掌握的; 充分利用多喝CPU的计算能力 方便进行业务拆分,提升应用性能 2.并发编程的缺点: 多线程技术有这么多的好处,难道就 ...
分类：
其他好文 时间：
2018-06-15 15:47:48
阅读次数：
339
我们在进行系统优化完成后，怎么评估优化的效果呢？最简单的方式是测量系统优化后耗时和优化前耗时的比例，这也叫加速比(SpeedUp)。阿姆达尔定律在理解性能优化具有重要指导意义。优化前系统总耗时To(old)，优化后系统总耗时Tn(new),加速比S=To/Tn。通过下面这张图理解：（α为待提速部分原来耗时比例）S=To/Tn=1/(1-α)+α/k当待优化部分提速无穷倍(k接近无穷大,不耗时间)时
分类：
其他好文 时间：
2018-06-03 14:34:17
阅读次数：
156
资料原文 一、概述思路 假设一台机器上有k个GPU。给定需要训练的模型，每个GPU将分别独立维护一份完整的模型参数。 在模型训练的任意一次迭代中，给定一个小批量，我们将该批量中的样本划分成k份并分给每个GPU一份。 然后，每个GPU将分别根据自己分到的训练数据样本和自己维护的模型参数计算模型参数的梯 ...
分类：
Web程序 时间：
2018-05-26 01:16:44
阅读次数：
324
前言 17年底，买了清华大学出版社出版的《Hadoop权威指南》（第四版）学习，没想到这本书质量之差，超越我的想象，然后上网一看，也是骂声一片。从那个时候其就对出版社综合实力很感兴趣，想通过具体数据分析各个出版社的出版质量，另外借此也可以熟悉大数据生态和相关操作。 豆瓣上的书籍数据刚好可以满足需求， ...
分类：
其他好文 时间：
2018-05-20 18:08:49
阅读次数：
1029
课题需要用到GPU加速。目前使用的台式电脑只有核心显卡，而实验室有一台服务器装有NVIDIA GTX980独显。因此，想搭建一个CUDA的开发环境，来实现在台式机上面开发cuda程序，程序在服务器而不必每次都跑去服务器上面。 目前找到的远程调试方案有三个: 1. Windows平台下，通过Nsigh ...
分类：
其他好文 时间：
2018-05-18 18:09:37
阅读次数：
340
