码迷,mamicode.com
首页 >  
搜索关键字:spark job    ( 11541个结果
Java Timer
package job;import java.util.Timer;import java.util.TimerTask;public class TimerTest { public static void main(String[] args) { Timer timer ...
分类:编程语言   时间:2014-06-29 14:51:23    阅读次数:266
Ubuntu 安装 spark
环境: Unbunt 12.04 Hadoop 2.2.x Sprak 0.9 Scala scala-2.9.0.final.tgz 步骤 1. 下载 scala 2. 解压scala,然后修改/etc/profile,添加如下 export SCALA_HOME=/home/software/scala-2.9.0.final export PATH=$P...
分类:其他好文   时间:2014-06-05 11:52:46    阅读次数:484
AME_Thoy_Oracle自带AME审批链详解AME Standard Handler
Oracle 自带了3大类,13个子类的审批链Action Type, 对应了13个标准的AME Standard Handler1. 按主管层次审批absolute job level / chains of authority based on absolute job levelfinal a...
分类:数据库   时间:2014-06-04 18:17:28    阅读次数:811
RDD的依赖关系
RDD的依赖关系Rdd之间的依赖关系通过rdd中的getDependencies来进行表示,在提交job后,会通过在DAGShuduler.submitStage-->getMissingParentStagesprivatedefgetMissingParentStages(stage: Stag...
分类:其他好文   时间:2014-05-31 05:09:58    阅读次数:331
Apache Spark源码走读之12 -- Hive on Spark运行环境搭建
Hive是基于Hadoop的开源数据仓库工具,提供了类似于SQL的HiveQL语言,使得上层的数据分析人员不用知道太多MapReduce的知识就能对存储于Hdfs中的海量数据进行分析。由于这一特性而收到广泛的欢迎。Hive的整体框架中有一个重要的模块是执行模块,这一部分是用Hadoop中MapRed...
分类:其他好文   时间:2014-05-30 14:23:07    阅读次数:409
Apache Storm源码阅读笔记
自从建了Spark交流的QQ群之后,热情加入的同学不少,大家不仅对Spark很热衷对于Storm也是充满好奇。大家都提到一个问题就是有关storm内部实现机理的资料比较少,理解起来非常费劲。尽管自己也陆续对storm的源码走读发表了一些博文,当时写的时候比较匆忙,有时候衔接的不是太好,此番做了一些整...
分类:其他好文   时间:2014-05-30 07:25:09    阅读次数:286
jekins job configure找不到remote trigger(script)
今天想测试一下,remote的方式启动一个job,但是在“构建触发器”一栏根本找不到remote trigger,很惊讶的是在网上所有的doc或者demo里都是有这个选项的。最后,终于找到了原因: 要启动安全,系统管理-》Configure global security-》启用安全。再回来到jo....
分类:其他好文   时间:2014-05-30 05:47:40    阅读次数:270
【spark系列3】spark开发简单指南
分布式数据集创建之textFile 文本文件的RDDs能够通过SparkContext的textFile方法创建,该方法接受文件的URI地址(或者机器上的文件本地路径,或者一个hdfs://, sdn://,kfs://,其他URI).这里是一个调用样例:scala> val distFile...
分类:其他好文   时间:2014-05-29 18:58:27    阅读次数:429
Hadoop中两表JOIN的处理方法
http://dongxicheng.org/mapreduce/hadoop-join-two-tables/http://dongxicheng.org/mapreduce/run-hadoop-job-problems/http://dongxicheng.org/mapreduce/hdfs...
分类:其他好文   时间:2014-05-29 12:27:09    阅读次数:260
git使用大全
1.切换到需要版本控件的目录下面cd /Job/github2.创建一个空的代码仓库git init3.用xcode创建一个新的项目到/Job/github下,比如我建个iChat的项目4.将当前文件夹及子文件夹所有文件添加到代码库git add .5.提交到本地仓库,然后会填写更新日志( -m “...
分类:其他好文   时间:2014-05-28 18:36:01    阅读次数:313
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!