lambda创建匿名函数:lambda x:x**2 lambda函数方便创建,不用命名 lambda函数经常配合其他函数使用,如map、filter、reduce map函数:map(函数,输入序列),list(map(函数,输入序列)) 即可获得列表化序列结果,map将输入序列每个元素做相同的变 ...
分类:
其他好文 时间:
2018-09-27 22:02:41
阅读次数:
133
这一篇,我们来学习如何处理和操作数据:1.Map Map方法适用于序列数据,所以在我们的栗子中将用它来转变数据框的某列,当我们觉得类别的名字太长了,我们想要将它替换,这个时候我们便可以使用Map函数: 我们在Class的这一列运行了Map函数对原来的字符串进行了替换。 2.Apply 我们继续用ir ...
分类:
编程语言 时间:
2018-09-21 00:38:45
阅读次数:
175
repr方法终端模式下直接查看变量,调用变量对象的repr方法s=repr([1,2,3])s‘[1,2,3]‘eval(s)[1,2,3]s=repr((1,2,3))eval(s)(1,2,3)map()函数map()会根据提供的函数对指定序列做映射。第一个参数function以参数序列中的每一个元素调用function函数,返回包含每次function函数返回值的新列表。ma
分类:
编程语言 时间:
2018-09-19 11:37:43
阅读次数:
109
MapReduce MapReduce原理非常重要,hive与spark都是基于MR原理 MapReduce采用多进程,方便对每个任务资源控制和调配,但是进程消耗更多的启动时间,因此MR时效性不高。适合批量,高吞吐的数据处理。Spark采用的是多线程模型。 MapReduce执行流程 Map过程 m ...
分类:
其他好文 时间:
2018-09-14 01:14:05
阅读次数:
1227
1 def f(x): 2 return x * x 3 4 5 """将一个全是数字的list变成平方形式""" 6 7 8 def f2(): 9 ls = [1, 2, 3, 4, 5] 10 r2 = map(f, ls) 11 print(list(r2)) 12 13 14 """将li... ...
分类:
编程语言 时间:
2018-09-11 21:19:40
阅读次数:
170
map()函数 对可迭代函数’iterable’中的每一个元素应用‘function’方法,将结果作为list返回。 来个例子: >>> def abc(a, b, c): ... return a*10000 + b*100 + c ... >>> list1 = [11,22,33] >>> l ...
分类:
编程语言 时间:
2018-09-06 16:21:00
阅读次数:
202
Hadoop排序,从大的范围来说有两种排序,一种是按照key排序,一种是按照value排序。如果按照value排序,只需在map函数中将key和value对调,然后在reduce函数中在对调回去。从小范围来说排序又分成部分排序,全局排序,辅助排序,二次排序等。本文介绍如何在Hadoop中实现全局排序 ...
分类:
编程语言 时间:
2018-09-06 02:34:47
阅读次数:
166
map函数格式为:map(function, iterable, ...) function:函数,含有两参数 iterable:一个或多个序列 function函数可以自己创建,之前使用的是将csv文件内的内容替换,例如将‘是’替换成‘yes’,将一些中文替换成数字表示等。 iterable:一般 ...
分类:
编程语言 时间:
2018-09-03 19:28:38
阅读次数:
186
方便数组操作,返回处理后的数组 三个参数:当前元素,当前元素下标,当前map的数组 ...
分类:
Web程序 时间:
2018-09-03 17:46:31
阅读次数:
336
map()是 Python 内置的高阶函数,它接收一个函数 func 和一个 list(*iterables),并通过把函数 func 依次作用在 list 的每个元素上,得到一个新的 list 并返回。 例如,对于list [1, 2, 3, 4, 5, 6, 7, 8, 9] 如果希望把list ...
分类:
编程语言 时间:
2018-08-29 20:05:28
阅读次数:
165