从Physical plan到Map-Reduce Plan
注：因为我们重点关注的是Pig On Spark针对RDD的执行计划，所以Pig物理执行计划之后的后端参考意义不大，这些部分主要分析流程，忽略实现细节。
入口类MRCompiler，MRCompilier按照拓扑顺序遍历物理执行计划中的节点，将其转换为MROperator，每个MROperator都代表一个map-reduce
j...
分类：
其他好文 时间：
2014-05-10 08:46:07
阅读次数：
366
Spring 注释 @Autowired 和@Resource
的区别一、@Autowired和@Resource都可以用来装配bean，都可以写在字段上，或者方法上。二、@Autowired属于Spring的；@Resource为JSR-250标准的注释，属于J2EE的。三、@Autowired默...
分类：
编程语言 时间：
2014-05-08 14:37:24
阅读次数：
378
转自:http://www.ibm.com/developerworks/cn/java/j-lo-spring2-portal/Spring
除了支持传统的基于 Servlet 的 Web 开发之外，也支持 JSR 168 Portlet 的开发。Spring Portlet MVC
框架尽可能多...
分类：
编程语言 时间：
2014-05-08 14:21:24
阅读次数：
377
本文通过跟代码的方式，分析从输入一批Pig-latin到输出物理执行计划（与launcher引擎有关，一般是MR执行计划，也可以是Spark RDD的执行算子）的整体流程。
不会具体涉及AST如何解析、如何使用了Anltr、逻辑执行计划如何映射、逻辑执行计划如何优化、MR执行计划如何切分为MR Job，而是从输入一批Pig DSL到待执行的真正执行计划的关键变化步骤（方法和类）。...
分类：
其他好文 时间：
2014-05-08 04:00:42
阅读次数：
407
之前在写MR
job的时候，由于要在云梯，或者一淘的开发集群上运行；所以处理方法是，在本地打成jar包，然后scp到客户端网关机上，然后在提交job运行。这样的问题时，有时候如果遇到一些逻辑上的问题，job跑挂了。必须在本地修改程序，然后重新打包，scp，再运行，这样比较麻烦；询问了一圈，觉得采用M...
分类：
其他好文 时间：
2014-05-04 10:54:29
阅读次数：
427
之前已经实现了spring
mvc的入门例子及如何处理带参数的请求Controller编写。本文主要记录：1)重定向请求2)处理路径中含有变量的请求3)使用JSR-303进行校验①
首先，编写一个方法实现一个表单的展现：//展示表单//params可限制该方法只对包含特定参数的请求进行处理@Req....
分类：
编程语言 时间：
2014-05-03 23:13:06
阅读次数：
440
本文主要介绍了MapReduce中的自定义计数器的相关内容。在上次的单词统计例子中，我们可以看到MapReduce在执行过程中会有很多的控制台输出信息，其中有一个很关键的内容：计数器。如下图：可以看到最上方的关键字：Counters，这就表示计数器。在这里，只有一个制表符缩进的表示..
分类：
其他好文 时间：
2014-05-03 14:56:19
阅读次数：
336
本文将介绍Hadoop中的重点MapReduce的入门知识。(1)MapReduce概述MapReduce是一种分布式计算模型，由Google提出，主要用于搜索领域，解决海量数据的计算问题。MR由两个阶段组成：Map和Reduce，在Hadoop中用户只需要实现map()和reduce()两个函数，即可实现分布式计算，非常简单..
分类：
其他好文 时间：
2014-05-03 01:53:48
阅读次数：
519
本文在上一节的基础上通过一个简单的MR示例对MapReduce的运行流程进行分析。假设有两行数据，分别是helloyou，hellome,我们要统计其中出现的单词以及每个单词出现的次数。所得的结果为hello2you1me1(1)大致运行流畅1.解析成2个<k,v>，分别是<0,helloyou><10,hel..
分类：
其他好文 时间：
2014-05-03 01:51:40
阅读次数：
382
More is better
Time Limit: 5000/1000 MS (Java/Others) Memory Limit: 327680/102400 K (Java/Others)
Total Submission(s): 13119 Accepted Submission(s): 4800
Problem Description
Mr Wang ...
分类：
其他好文 时间：
2014-04-30 22:24:39
阅读次数：
285
