码迷,mamicode.com
首页 > 其他好文 > 详细

2.spark基本概念

时间:2018-08-26 01:13:42      阅读:140      评论:0      收藏:0      [点我收藏+]

标签:编写   tor   ati   one   stage   park   资源   程序   man   

技术分享图片

Application

用户编写的Spark应用程序。Application的main方法为应用程序的入口,用户通过Spark的API,定义了RDD和对RDD的操作。

Job

?提供给Spark运行的作业,一个Application中以Action为划分边界往往会产生多个Job。Spark采用惰性机制,对RDD的创建和转换并不会立即执行,只有在遇到Action时才会生成一个Job,然后统一调度执行。

Stage

每个Job以Shuffle为边界划分出的不同阶段, 其名称为Stage。Stage有非最终的Stage(Shuffle Map Stage)和最终的Stage(Result Stage)两种。

在对Job中的所有操作划分Stage时,一般会按照倒序进行:即从Action开始,遇到窄依赖操作,则划分到同一个执行阶段;遇到宽依赖操作,则划分一个新的执行阶段,且新的阶段为之前阶段的parent,然后依次类推递归执行。child Stage需要等待所有的parent Stage执行完之后才可以执行,这时Stage之间根据依赖关系构成了一个大粒度的DAG。在一个Stage内,所有的操作以串行的Pipeline的方式,由一组Task完成计算。

Task

真正执行的工作单元,对一个Stage之内的RDD进行串行操作的计算任务。多个Task组成一个Stage。

Task分为ShuffleMapTask和ResultTask两种,位于最后一个Stage的Task为ResultTask,其他阶段的属于ShuffleMapTask。

技术分享图片

Cluster Manager

在集群上获取资源的外部服务。Cluster Manager可以为自带的Standalone、或第三方的Yarn和Mesos。

Cluster Manager一般采用Master-Slave结构。以Yarn为例,部署ResourceManager服务的节点为Master,负责集群中所有计算资源的统一管理和分配;部署NodeManager服务的节点为Slave,负责在当前节点创建一个或多个具备独立计算能力的JVM实例,在Spark中,这些节点也叫做Worker。

Executor

某个Application运行在worker节点上的一个进程,? 该进程负责运行某些Task,并将结果返回给Driver,同时为需要缓存的RDD提供存储功能。

Driver

准备Spark应用程序的运行环境,负责执行用户Application中的main方法,提交Job,并将Job转化为Task,在各个Executor进程间协调Task的调度。

Spark有Client和Cluster两种部署模式。Application以Client模式部署时,Driver运行于Client节点;而以Cluster模式部署时,Driver运行于Worker节点,与Executor一样由Cluster Manager启动。

技术分享图片

DAGScheduler

根据Job构建DAG图,将Job拆分成多个Stage并提交给TaskScheduler。

TaskScheduler

将Stage拆分成多个Task并提交给worker运行,Executor运行什么Task就是在此处分配的。

2.spark基本概念

标签:编写   tor   ati   one   stage   park   资源   程序   man   

原文地址:http://blog.51cto.com/12967015/2164425

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!