map/reduce类简单介绍

时间：2016-04-18 11:46:01 阅读：117 评论：0 收藏：0 [点我收藏+]

标签：

在Hadoop的mapper类中，有4个主要的函数，分别是：setup，clearup，map，run。代码如下：

protected void setup(Context context) throws IOException, InterruptedException {
// NOTHING
}
protected void map(KEYIN key, VALUEIN value,
Context context) throws IOException, InterruptedException {
context.write((KEYOUT) key, (VALUEOUT) value);
}
protected void cleanup(Context context) throws IOException, InterruptedException {
// NOTHING
}
public void run(Context context) throws IOException, InterruptedException {
setup(context);
while (context.nextKeyValue()) {
map(context.getCurrentKey(), context.getCurrentValue(), context);
}
cleanup(context);
}
}

由上面的代码，我们可以了解到，当调用到map时，通常会先执行一个setup函数，最后会执行一个cleanup函数。而默认情况下，这两个函数的内容都是nothing。因此，当map方法不符合应用要求时，可以试着通过增加setup和cleanup的内容来满足应用的需求。

在Hadoop的reducer类中，有3个主要的函数，分别是：setup，clearup，reduce。代码如下：

在用户的应用程序中调用到reducer时，会直接调用reducer里面的run函数，其代码如下：

由上面的代码，我们可以了解到，当调用到reduce时，通常会先执行一个setup函数，最后会执行一个cleanup函数。而默认情况下，这两个函数的内容都是nothing。因此，当reduce不符合应用要求时，可以试着通过增加setup和cleanup的内容来满足应用的需求。

标签：

原文地址：http://www.cnblogs.com/snowbook/p/5403650.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

周排行