基于任务的程序设计、命令式数据并行和任务并行都要求能够支持并发更新的数组、列表和集合。在.NET Framework 4 以前，为了让共享的数组、列表和集合能够被多个线程更新，需要添加复杂的代码来同步这些更新操作。如您需要编写一个并行循环，这个循环以无序的方式向一个共享集合中添加元素，那么必须加入一...
搞大数据必须要正视的一个问题就是并行计算。就像执行一件任务一样，大伙一起同时干，才有效率，才会很快出成果。正所谓“众人拾柴火焰高”~
对于并行计算，有很多高大上的概念，我也不全懂。这里就单单罗列一下我对于多进程和多线程计算的理解和总结。
在计算机中，处理一个任务，可以在一个进程中，也可以在一个线程中，确切的说，执行的话都得靠一个个线程来。在我们做某件事的时候，往往需要同时干多个...
分类：
编程语言 时间：
2015-07-28 18:51:06
阅读次数：
203
深度神经网络（Deep Neural Networks, 简称DNN）是近年来机器学习领域中的研究热点，产生了广泛的应用。DNN具有深层结构、数千万参数需要学习，导致训练非常耗时。GPU有强大的计算能力，适合于加速深度神经网络训练。DNN的单机多GPU数据并行框架是腾讯深度学习平台的一部分，腾讯深度...
分类：
其他好文 时间：
2015-07-27 22:35:15
阅读次数：
236
第二章 命令式数据并行几种并行类型：数据并行任务并行流水线在System.threading.tasks.parallel下parallel.forparallel.foreach（可以自定义parytitioner）parallel.invoke1. Parallel.Invoke没有特定执行顺序...
第二章 命令式数据并行几种并行类型：数据并行任务并行流水线在System.threading.tasks.parallel下parallel.forparallel.foreach（可以自定义parytitioner）parallel.invoke1. Parallel.Invoke没有特定执行顺序...
【深度学习系列2】Mariana DNN多GPU数据并行框架本文是腾讯深度学习系列文章的第二篇，聚焦于腾讯深度学习平台Mariana中深度神经网络DNN的多GPU数据并行框架。深度神经网络（Deep Neural Networks, 简称DNN）是近年来机器学习领域中的研究热点[1][2]，产生了广...
分类：
其他好文 时间：
2015-06-18 13:21:42
阅读次数：
208
【深度学习系列3】 Mariana CNN并行框架与图像识别本文是腾讯深度学习系列文章的第三篇，聚焦于腾讯深度学习平台Mariana中深度卷积神经网络Deep CNNs的多GPU模型并行和数据并行框架。将深度卷积神经网络（Convolutional Neural Networks, 简称CNNs）用...
分类：
其他好文 时间：
2015-06-18 13:00:13
阅读次数：
211
（1）并行和串行：传输1Byte的数据，并行传输则需要8根线，每根线传输1bit串行传输则在一根线依次传输8位（2）异步和同步（这个我也理解的不好）：反正说就是异步是1个开始位，数据，应答位依次传输，然后同步就是1次封装成一个数据帧来传输；（3）单工/半双工/全双工：半双工就是1条通路发的时候不能收...
分类：
其他好文 时间：
2015-06-17 11:21:48
阅读次数：
219
Topic Model在考虑语义的情景中被广泛使用，实践证明效果也不错。本文总结了一些Topic Model实战技巧。利用优质“少量”数据学习模型，缓解单机速度和内存问题，对剩余/新文档做推导（可以数据并行）。比如用微博数据训练LDA时，先把长度短的微博过滤掉（有工作得出长度为7的文本已经适合LDA...
分类：
其他好文 时间：
2015-06-09 15:40:47
阅读次数：
741
数据采集和DataFlow对于数据采集主要分为三类，即结构化数据库采集，日志和文件采集，网页采集。对于结构化数据库，采用Sqoop是合适的，可以实现结构化数据库中数据并行批量入库到hdfs存储。对于网页采集，前端可以采用Nutch，全文检索采用lucense，而实际数据存储最好是入库到Hbase数据...
分类：
其他好文 时间：
2015-05-30 07:01:49
阅读次数：
205
