ShuffleMapTask的计算结果保存在哪,随后Stage中的task又是如何知道从哪里去读取的呢,reduceByKey(_ + _)中的combine计算发生在什么地方,本文将为你一一揭晓。
分类:
其他好文 时间:
2014-07-24 14:41:35
阅读次数:
308
* Flex开发中可用两种语言1.MXML2.ActionScript* Flex中使用两个组件集1.MX (mx.*) 早期的Flex版本用到的组件集2.Spark (spark.*) Flex4及以后的版本用到的组件集。Spark比MX组件有更多皮肤外观及其它方面的优点。它们有相同的组件(如按钮...
分类:
其他好文 时间:
2014-07-24 14:40:35
阅读次数:
209
本文编译方法所支持的hadoop环境是Hadoop-2.2.0,YARN是2.2.0,JAVA版本为1.8.0_11,操作系统Ubuntu14.04Spark1.0.0 源码下载地址:http://mirror.bit.edu.cn/apache/spark/spark-1.0.0/spark-1....
分类:
其他好文 时间:
2014-07-24 09:59:23
阅读次数:
448
Are you a hacker?How to build another QQ/Wechat/whatsapp/skype/imessage?Let's go through this!!!!Materials:A linux/unix/windows/mac computer/server, a...
分类:
数据库 时间:
2014-07-23 20:44:35
阅读次数:
568
王家林:Android架构师、高级工程师、咨询顾问、培训专家;通晓Android、HTML5、Hadoop,迷恋英语播音和健美;致力于Android、HTML5、Hadoop的软、硬、云整合的一站式解决方案;国内最早(2007年)从事于Android系统移植、软硬整合、框架修改、应用程序软件开发以及...
分类:
其他好文 时间:
2014-07-23 20:37:25
阅读次数:
377
使用的ide是eclipsepackage com.luogankun.spark.baseimport org.apache.spark.SparkConfimport org.apache.spark.SparkContextimport org.apache.spark.SparkContex...
分类:
其他好文 时间:
2014-07-23 18:01:14
阅读次数:
177
apache 网站上面已经有了已经构建好了的版本,我这里还是自己利用午休时间重新构建一下(jdk,python,scala的安装就省略了,自己可以去安装) http://www.apache.org/dist/spark/spark-1.0.1/ 具体官网的下载链接可...
分类:
其他好文 时间:
2014-07-23 17:40:11
阅读次数:
273
今天准备将mysql的数据倒腾到RDD,很早以前就知道有一个JdbcRDD,就想着使用一下,结果发现却是鸡肋一个。
首先,看看JdbcRDD的定义:
* An RDD that executes an SQL query on a JDBC connection and reads results.
* For usage example, see test case ...
分类:
数据库 时间:
2014-07-23 16:36:21
阅读次数:
408