码迷,mamicode.com
首页 > 其他好文 > 详细

Hadoop中的辅助类ToolRunner和Configured的用法详解

时间:2014-10-01 23:20:21      阅读:269      评论:0      收藏:0      [点我收藏+]

标签:style   blog   http   color   io   os   使用   ar   sp   

在开始学习hadoop时,最痛苦的一件事就是难以理解所写程序的执行过程,让我们先来看这个实例,这个测试类ToolRunnerTest继承Configured的基础上实现了Tool接口,下面对其用到的基类源码进行分析,就可以理解其执行过程是如此简单。。。。。。

 1 package xml;
 2 
 3 import org.apache.hadoop.conf.Configuration;
 4 import org.apache.hadoop.conf.Configured;
 5 import org.apache.hadoop.util.Tool;
 6 import org.apache.hadoop.util.ToolRunner;
 7 
 8 public class ToolRunnerTest extends Configured implements Tool {
 9 
10     @Override
11     public int run(String[] arg0) throws Exception {
12         //调用基类Configured的getConf获取环境变量实例
13         Configuration conf=getConf();
14         //获取属性值
15         System.out.println("flower is " + conf.get("flower"));
16         System.out.println("color id "+ conf.get("color"));
17         System.out.println("blossom ? "+conf.get("blossom"));
18         System.out.println("this is the host default name ="+conf.get("fs.default.name"));    
19         return 0;
20     }
21 
22     /**
23      * @param args
24      * @throws Exception 
25      */
26     public static void main(String[] args) throws Exception {
27         // TODO Auto-generated method stub
28         //获取当前环境变量
29         Configuration conf=new Configuration();
30         //使用ToolRunner的run方法对自定义的类型进行处理
31         ToolRunner.run(conf, new ToolRunnerTest(), args);
32         
33     }
34 
35 }

基类Configured实现了Configurable接口,而Configurable接口源码如下

1 Public interface Configurable{
2     Void setConf(Configuration conf);
3     Configuration getConf();
4 }

Configured则必须实现Configurable类的两个方法,源码如下

 1 Public class Configured implements  Configurable{
 2 Private Configuration conf;
 3 Public Configured(Configuration conf){setConf(conf);}//构造方法
 4 Public void setConf(Configuration conf)
 5 {
 6 This.conf=conf;
 7 }
 8 Public getConf()
 9 {
10 Return conf;
11 }
12 }

Tool的源码如下所示:

public interface Tool extends Configurable {

int run(String [] args) throws Exception;

}

就这么一点点

ToolRunner类的源码如下

 1 public class ToolRunner {
 2 public static int run(Configuration conf, Tool tool, String[] args) 
 3     throws Exception{
 4     if(conf == null) {
 5       conf = new Configuration();
 6     }
 7     GenericOptionsParser parser = new GenericOptionsParser(conf, args);
 8     //set the configuration back, so that Tool can configure itself
 9     tool.setConf(conf)
10     String[] toolArgs = parser.getRemainingArgs();
11     return tool.run(toolArgs);
12   }
13    public static int run(Tool tool, String[] args) 
14     throws Exception{
15     return run(tool.getConf(), tool, args);
16   }
17   
18   public static void printGenericCommandUsage(PrintStream out) {
19     GenericOptionsParser.printGenericCommandUsage(out);
20   }
21   
22 }

解析:当程序执行ToolRunner.run(conf, new ToolRunnerTest(), args);时,会转到ToolRunner类的run方法部分,因为Configuration已经实例,所以直至执行到tool.run(toolArgs);又因为Tool是一个只含有一个run方法框架的接口,所以将执行实现这个接口的类ToolRunnerTestrun方法。完成其输出。其实在看完这几个类的源码后,其执行过程是很简单的

该实例的运行结果如下:

bubuko.com,布布扣

 

Hadoop中的辅助类ToolRunner和Configured的用法详解

标签:style   blog   http   color   io   os   使用   ar   sp   

原文地址:http://www.cnblogs.com/ylgl/p/4003560.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!