Martin A. Zinkevich 等人(Yahoo!Lab)合作的论文 Parallelized Stochastic Gradient Descent 中给出了一种适合于 MapReduce 的并行随机梯度下降法,并给出了相应的收敛性分析。这里忽略理论部分,根据自己的理解给出文中所提并行随机...
分类:
其他好文 时间:
2014-06-25 22:06:05
阅读次数:
417
Martin A. Zinkevich 等人(Yahoo!Lab)合作的论文 Parallelized Stochastic Gradient Descent 中给出了一种适合于 MapReduce 的并行随机梯度下降法,并给出了相应的收敛性分析。这里忽略理论部分,根据自己的理解给出文中所提并行随机梯度下降法的描述。...
分类:
其他好文 时间:
2014-06-24 22:53:45
阅读次数:
261
难得想写个mapreduce程序,发现已经不记得需要添加那些jar包了,网上找了一会也没发现准确的答案。幸好对hadoop体系结构略知一二,迅速试出了写mapreduce程序需要的三个jar包。
不多不少,3个包足矣……贴出来免得其朋友再走弯路
(请忽视包的版本不一致问题,是我从其他项目中东拼西凑过来的)...
分类:
其他好文 时间:
2014-06-24 21:44:15
阅读次数:
321
那位帮忙提供一个java mongodb多个collection进行mapreduce的操作。代码下载地址:http://www.zuidaima.com/share/1550463227890688.htm...
分类:
数据库 时间:
2014-06-24 19:51:56
阅读次数:
262
0、参考自http://tech.uc.cn/?p=2116 http://www.csdn.net/article/2013-07-08/2816149 1、Spark是一个高效的分布式计算系统。它基于MapReduce(MR)算法实现分布式计算,但Job的中间输出和结果可以保存在内存,从...
分类:
其他好文 时间:
2014-06-24 11:32:46
阅读次数:
268
Hive 是基于Hadoop 构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop 分布式文件系统中的数据,可以将结构
化的数据文件映射为一张数据库表,并提供完整的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行,通过自己的SQL 去查询分析需
要的内容,这套SQL 简称Hive SQL,使不熟悉mapreduce 的用户很方便的利用SQL 语言...
分类:
数据库 时间:
2014-06-22 22:41:52
阅读次数:
342
MapReduce Application与文件数、分块大小、用户指定的Mapper数有关,但具体的对应关系是什么?本文将进行分析...
分类:
其他好文 时间:
2014-06-22 17:54:40
阅读次数:
138
摘要:MapReduce程序处理专利数据集。
关键词:MapReduce程序 专利数据集...
分类:
其他好文 时间:
2014-06-22 17:03:44
阅读次数:
188
Hama学习笔记
1. Hama定义
Hama是基于HDFS上的BSP模型实现,其运行不需要MapReduce。例证如下: 在单点调试的Hama系统上,只运行NameNode、DataNode、BSPMasterRunner、GroomServerRunner和 ZooKeeperRunner进程,即可运行PageRank程序。
2. MapReduce与BSP区别
执行机制:MapR...
分类:
其他好文 时间:
2014-06-21 23:12:18
阅读次数:
268
从数据爆炸开始。。。
1.1 第三次工业革命
第一次:18世纪60年代,手工工厂向机器大生产过渡,以蒸汽机的发明和使用为标志。
第二次:19世纪70年代,各种新技术新发明不断被应用于工业生产,以电力的发明使用为标志。
第三次:20世界四五十年代末,以高新技术为代表的新科学技术革命,以原子能、航天技术和电子计算机
1.2 信息技术发展...
分类:
其他好文 时间:
2014-06-21 21:12:22
阅读次数:
399