码迷,mamicode.com
首页 > 其他好文 > 详细

Spark运行原理及RDD解密

时间:2016-09-19 14:34:45      阅读:154      评论:0      收藏:0      [点我收藏+]

标签:rdd spark hive hadoop

Spark是分布式内存计算框架,而不是分布式内容存储框架,搭配tachyon分布式内存文件系统,会更加有效果。

在文件模式下,spark比hadoop快10倍,在内存计算模式下,快100倍!

下面是一些

1 spark是分布式 基于内存 特别适合于迭代计算的计算框架

2 mapReduce就两个阶段map和reduce,而spark是不断地迭代计算,更加灵活更加强大,容易构造复杂算法。

3 spark不能取代hive,hive做数据仓库存储,spark sql只是取代hive的计算引擎,成为分析平台,hadoop作为存储平台

4 spark中间数据可以在内存也可以在磁盘

5 partition是一个数据集合

6 注意:初学者执行多个步骤要注意分步检验,不然不知哪里错了

7 var data = sc.textFile("/user") 不必写hdfs:// ,根据上下文判断

8 读文件得到HadoopRDD,去掉文件中索引,得到MapPartitionsRDD,这样一系列分片的数据分布在 不同的机器。

9 移动计算而不是移动数据

移动计算表示分布到各个机器上,分别计算自身负责的那部分数据,而不是把数据从各个机器上移动来进行计算。

计算完后进行数据汇总。

Spark运行原理及RDD解密

标签:rdd spark hive hadoop

原文地址:http://36006798.blog.51cto.com/988282/1854033

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!