介绍
Spork是Pig on Spark的highly experimental版本，依赖的版本也比较久，如之前文章里所说，目前我把Spork维护在自己的github上：flare-spork。
本文分析的是Spork的实现方式和具体内容。
Spark Launcher
在hadoop executionengine包路径下，写了一个Spark启动器，同MapReduceLauncher类似，会在launchPig的时候，把传入的物理执行计划进行翻译。
MR启动器翻译的是MR的操作，以及进一步的MR...
分类：
其他好文 时间：
2014-05-09 02:08:17
阅读次数：
358
hadoop 启动的时候datanode报错 Problem connecting to server 解决方案...
分类：
其他好文 时间：
2014-05-09 02:07:46
阅读次数：
313
很久不写 BO-KE 了,来一篇吧,记住这个成功的一刻,把几个主要文件贴出来:
core-site.xml:
fs.defaultFS
hdfs://fc20:9000
hadoop.tmp.dir
/home/ljq/hadoop/tm...
分类：
其他好文 时间：
2014-05-09 00:35:27
阅读次数：
342
版本：cdh5.0.0+hadoop2.3.0+hbase0.96.1.1+Spoon5.0.1一、HBase数据导入HBase数据导入使用org.apache.hadoop.hbase.mapreduce.ImportTsv 的两种方式，一种是直接导入，一种是转换为HFile，然后再次导入。1. HDFS数据为（部分）：[root@node33 data]# hadoop fs -ls /inp...
分类：
其他好文 时间：
2014-05-09 00:25:48
阅读次数：
515
http://blog.csdn.net/wangloveall/article/details/20195813摘要：本文介绍Hadoop伪分布模式操作，适合于Hadoop学习、开发和调试。关键词：Hadoop
伪分布式 文件配置启动Hadoop支持三种模式操作，分别是单机模式操作、伪分布模式.....
分类：
其他好文 时间：
2014-05-08 23:37:12
阅读次数：
419
1、架构准备： namenode 10.0.0.2 secondnamenode 10.0.0.3
datanode1 10.0.0.4 datanode2 10.0.0.6 datanode3
10.0.0.112、安装用户：cloud-user3、[namenode]namenod...
分类：
其他好文 时间：
2014-05-08 23:27:27
阅读次数：
693
摘要：介绍Hadoop生态系统，从Hadoop生态系统有什么成员，成员能做什么和Hadoop生态系统能够提供大数据问题解决方案两方面来认识。关键词：Hadoop
HDFS MapReduce HBase Hive PigHadoop生态图，通俗地说，就是Hadoop核心模块和衍生的子项目。一幅Ha....
分类：
其他好文 时间：
2014-05-08 23:16:24
阅读次数：
387
http://blog.csdn.net/wangloveall/article/details/21407531摘要：MapReduce是Hadoop的又一核心模块，从MapReduce是什么，MapReduce能做什么以及MapReduce的工作机制三方面认识MapReduce。关键词：Hado...
分类：
其他好文 时间：
2014-05-08 23:03:55
阅读次数：
270
org.apache.hadoop.mapred.JobTracker类是个独立的进程，有自己的main函数。JobTracker是在网络环境中提交及运行MR任务的核心位置。
main方法主要代码有两句：1 //创建jobTracker对象2 JobTracker t...
分类：
其他好文 时间：
2014-05-08 22:51:48
阅读次数：
368
