MongDB的MapReduce相当于MySQL中的“group by”,所以在MongoDB上使用Map/Reduce进行并行“统计”很容易。 使用MapReduce要实现两个函数Map函数和Reduce函数,Map函数调用emit(key,value),遍历collection中的所有记录,.....
分类:
数据库 时间:
2015-01-24 11:32:46
阅读次数:
170
视图函数map函数Map方法的参数只有一个,就是当前的文档对象。Map方法的实现需要根据文档对象的内容,确定是否要输出结果。 如果需要输出的话,可以通过emit来完成。 emit方法有两个参数,分别是key和value,分别表示输出结果的键和值。 使用什么样的键和值应该根据视图的实际需要来确定。 e...
分类:
数据库 时间:
2015-01-19 18:53:00
阅读次数:
639
函数式编程:函数式编程的一个特点就是,允许把函数本身作为参数传入另一个函数,还允许返回一个函数!Python内建了map()和reduce()函数。map():函数接收两个参数,一个是函数,一个是序列,map将传入的函数依次作用到序列的每个元素,并把结果作为新的list返回。举例:有一个函数f(x)...
分类:
编程语言 时间:
2015-01-17 20:46:57
阅读次数:
252
map函数执行结束后,map输出的<k, v>一共有4个,分别是<hello, 1><you, 1>,<hello, 1>,<me, 1> 分区,默认只有一个分区 排序?<hello, 1>,<hello, 1>,<me, 1><you, 1> 分组?把相同key的value放到一个集合中?<he...
分类:
其他好文 时间:
2015-01-05 22:05:31
阅读次数:
138
今天在调用一个函数时,想让其一个参数自增,直接用了fun(a+=1)编译器果断报错,后来才知道函数调用参数时不能使用表达式,所以只能写为a+=1fun(a) 注:这样一来不够简洁,据说要想简洁可以用map函数和list comprehension实现,学习后来这补充感谢Alex Wei回答我的问题
分类:
其他好文 时间:
2014-12-19 23:15:08
阅读次数:
218
第一个参数iter是一个迭代器,涉及被map函数产生的键和值,它们是reduce实例。在本例中,单词随机被委托给不同的reduce实例,然后,要单词相同,处理它的reduce也相同,可确保最终合计是正确的。第二个参数params与map函数中一致,在此,仅简单使用disco.util.kvgroup()来提取每个单词统计计数,累计计数,yield(产生)结果。运行作业下面开始运行作业,可使用大量参...
分类:
其他好文 时间:
2014-12-19 00:41:47
阅读次数:
274
函数式编程语言
http://program-think.blogspot.com/2012/02/why-choose-python-4-fp.html
纯函数:输出完全依赖输入的函数,不能读写外部变量、没有IO
Python中的相关内置函数:
1. map(函数,迭代器)
将迭代器中的所有内容依次传递给函数,并返回一个迭代器
可以是list...
...
分类:
编程语言 时间:
2014-12-18 12:03:36
阅读次数:
191
map()函数接收两个参数,一个是函数,一个是序列,map将传入的函数依次作用到序列的每个元素,并把结果作为新的list返回。 def num(x): ? ?return x*x print map(num,[1,2,3,4,5,6,7,8,9]) # [1, 4, 9, 16, 25,...
分类:
编程语言 时间:
2014-12-08 12:39:36
阅读次数:
236
刚开始阅读《Mongodb入门手册》时候看到mapreduce,当时感觉好难,就直接忽略了。现在重新看到这部分知识的时候,痛下决心学习这块知识。
一、概念说明
MongoDB的MapReduce相当于Mysql中“group by”,在mongodb上使用mapreduce执行并行数据统计很容易;使用MapReduce要实现两个函数: map 和 reduce.
map函数调用emit(k...
分类:
数据库 时间:
2014-12-06 01:28:11
阅读次数:
224
一、Map任务的执行过程读取文件的内容,解析成key、value对,对输入文件的每一行,解析成key、value对。每一个键值对调用一次map函数写自己的逻辑,对输入的key、value处理,转换成新的key、value输出对输出的key,value进行分区对不同分区的数据,按照key进行排序分组,...
分类:
其他好文 时间:
2014-12-01 00:47:58
阅读次数:
180