码迷,mamicode.com
首页 > 其他好文 > 详细

《深入理解Spark-核心思想与源码分析》(二)第二章Spark设计理念和基本架构

时间:2018-12-24 16:15:58      阅读:168      评论:0      收藏:0      [点我收藏+]

标签:驱动   image   的区别   进程   资源管理器   任务   man   spark   cut   

若夫乘天地之正,而御六气之辩解,以游无穷者,彼且恶乎待哉?

                                                                                                         ——《庄子.逍遥游》

 

     翻译:至于遵循宇宙万物的规律,把握“六气”的变化,遨游于无穷无尽的境域,他还仰赖什么呢!

2.1 初始Spark

    第一点是关于MRv1与MRv2的区别对比。

技术分享图片

2.2 Spark基础知识

主要解释Spark的各个版本,介绍Spark的主要概念,介绍scala与java之间的语言差异。

2.3 Spark基本设计思想

 技术分享图片

技术分享图片

技术分享图片

2.4 Spark基本架构

Cluster Manager:Spark集群资源管理器,主要负责资源的分配和管理。

Worker:Spark的工作节点。

Executor:执行计算任务的一线进程。

Driver App:客户端驱动程序。

技术分享图片

 

《深入理解Spark-核心思想与源码分析》(二)第二章Spark设计理念和基本架构

标签:驱动   image   的区别   进程   资源管理器   任务   man   spark   cut   

原文地址:https://www.cnblogs.com/sunrunzhi/p/10168518.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!