码迷,mamicode.com
首页 >  
搜索关键字:spark job    ( 11541个结果
微软职位内部推荐-Sr SDE-MOD-Beijing
微软近期Open的职位:JOB TITLE: Senior Software Design EngineerDEPARTMENT: Microsoft Office Division ChinaIMMEDIATE SUPERVISOR: Development Lead/ManagerLocatio...
分类:其他好文   时间:2014-06-25 17:58:44    阅读次数:293
Spring与Quartz使用说明 job不同步执行(第一个job完成后才开始第二个job)
转自:http://blog.sina.com.cn/s/blog_675e9aeb0100qghp.html最 近因为项目后台需要使用一个线程去定时跑一些任务,所以看了一下Spring和Quartz的使用与集成。例如发短信、邮件。根据实际使用,此集成使用比 自己去写线程方便和灵活,可以不用代码实现...
分类:编程语言   时间:2014-06-25 16:37:46    阅读次数:310
spark开发环境配置
以后spark,mapreduce,mpi可能三者集于同一平台,各自的侧重点有所不用,相当于云计算与高性能计算的集合,互补,把spark的基础看了看,现在把开发环境看看,主要是看源码,最近Apache Spark源码走读系列挺好的,看了些。具体环境配置不是太复杂,具体可以看https://githu...
分类:其他好文   时间:2014-06-25 11:44:47    阅读次数:185
Spark源码系列(四)图解作业生命周期
这一章我们探索了Spark作业的运行过程,但是没把整个过程描绘出来,好,跟着我走吧,let you know!我们先回顾一下这个图,Driver Program是我们写的那个程序,它的核心是SparkContext,回想一下,从api的使用角度,RDD都必须通过它来获得。下面讲一讲它所不为认知的一面...
分类:其他好文   时间:2014-06-25 11:13:39    阅读次数:288
Spark技术内幕:Master基于ZooKeeper的High Availability(HA)源码实现
本文详细讲解了Spark在Standalone模式下的Master的HA的源码分析。 为了解决Standalone模式下的Master的SPOF,Spark采用了ZooKeeper提供的选举功能。Spark并没有采用ZooKeeper原生的Java API,而是采用了Curator,一个对ZooKeeper进行了封装的框架。采用了Curator后,Spark不用管理与ZooKeeper的连接,这些对于Spark来说都是透明的。Spark仅仅使用了100行代码,就实现了Master的HA。当然了,Spark是...
分类:其他好文   时间:2014-06-25 07:59:09    阅读次数:183
hadoop 多个maper处理
packagecom.smilezl.learn.CalWord;importjava.io.IOException;importjava.util.StringTokenizer;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.Text;importorg.apache.hadoop.mapreduce.Job;importorg.apache.hado..
分类:其他好文   时间:2014-06-25 06:28:59    阅读次数:242
Spark MLlib之线性回归源码分析
线性回归(Linear Regression)问题属于监督学习(Supervised Learning)范畴,又称分类(Classification)或归纳学习(Inductive Learning);这类分析中训练数据集中给出的数据类标是确定的;机器学习的目标是,对于给定的一个训练数据集,通过不断的分析和学习产生一个联系属性集合和类标集合的分类函数(Classification Function)或预测函数(Prediction Function),这个函数称为分类模型(Classification Mo...
分类:其他好文   时间:2014-06-24 22:58:23    阅读次数:585
CDH5上安装Hive,HBase,Impala,Spark等服务
Apache Hadoop的服务的部署比较繁琐,需要手工处理配置文件、下载依赖包等。Cloudera Manager以GUI的方式的管理CDH集群,提供向导式的安装步骤。由于需要对Hive,HBase,Impala,Spark进行功能测试,就采用了Cloudera Manager方式进行安装。本文讲解的是parcel安装方式。...
分类:其他好文   时间:2014-06-24 22:44:17    阅读次数:501
AME_Oracle自带AME审批链详解AME Standard Handler(概念)
2014-05-30 BaoXinJian Oracle 自带了3大类,13个子类的审批链Action Type, 对应了13个标准的AME Standard Handler1. 按主管层次审批absolute job level / chains of authority based on abs...
分类:数据库   时间:2014-06-24 15:12:23    阅读次数:472
Quartz
Quartz OverviewQuartz is a richly featured, open source job scheduling library that can be integrated within virtually any Java application - from the...
分类:其他好文   时间:2014-06-24 14:42:39    阅读次数:223
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!