码迷,mamicode.com
首页 > 其他好文 > 详细

[MapReduce_8] MapReduce 中的自定义分区实现

时间:2018-11-06 13:32:24      阅读:155      评论:0      收藏:0      [点我收藏+]

标签:mapred   图片   结果   style   word   tostring   text   nbsp   writable   


 

0. 说明

  设置分区数量 && 编写自定义分区代码

 

 


 

1. 设置分区数量

  分区(Partition)

  分区决定了指定的 Key 进入到哪个 Reduce 中


  默认 hash 分区,算法

// 返回的分区号
(key.hashCode() & Integer.MAX_VALUE) % numReduceTasks

 

  设置分区数

job.setNumReduceTasks(3);

 


 2. 代码编写

  在 [MapReduce_1] 运行 Word Count 示例程序 代码基础之上进行以下操作

  实现将文本中的数字存放在分区0,数字之外的内容放置到分区1

  【2.1 编写 MyPartition.java】

package hadoop.mr.partition;

import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Partitioner;


/**
 * MapReduce 自定义分区
 */
public class MyPartition extends Partitioner<Text, IntWritable> {
    /**
     * 自定义分区将数字放在0号分区,其余放在1号分区
     */
    @Override
    public int getPartition(Text key, IntWritable value, int numPartitions) {
        try {
            Integer.parseInt(key.toString());
            return 0;
        } catch (Exception e) {
            return 1;
        }
    }
}

 

  【2.2 修改 WCApp.java】

   技术分享图片

 

  【2.3 最终结果】

  技术分享图片    技术分享图片

 

 

 

 


 

[MapReduce_8] MapReduce 中的自定义分区实现

标签:mapred   图片   结果   style   word   tostring   text   nbsp   writable   

原文地址:https://www.cnblogs.com/share23/p/9779593.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!