码迷,mamicode.com
首页 > 其他好文 > 详细

Scala学习之路 (一)Spark初识

时间:2018-04-20 00:19:09      阅读:195      评论:0      收藏:0      [点我收藏+]

标签:height   tac   ade   http   文件   实验室   net   Kubernete   实现   

一、官网介绍

官网地址:http://spark.apache.org/

技术分享图片

Apache Spark™是用于大规模数据处理的统一分析引擎。

从右侧最后一条新闻看,Spark也用于AI人工智能

spark是一个实现快速通用的集群计算平台。它是由加州大学伯克利分校AMP实验室 开发的通用内存并行计算框架,用来构建大型的、低延迟的数据分析应用程序。它扩展了广泛使用的MapReduce计算
模型。高效的支撑更多计算模式,包括交互式查询和流处理。spark的一个主要特点是能够在内存中进行计算,及时依赖磁盘进行复杂的运算,Spark依然比MapReduce更加高效。

二、Spark的四大特性

1、高效性

运行速度提高100倍。

Apache Spark使用最先进的DAG调度程序,查询优化程序和物理执行引擎,实现批量和流式数据的高性能。

技术分享图片

2、易用性

用Java,Scala,Python,R和SQL快速编写应用程序。

Spark提供超过80个高级操作,可轻松构建并行应用程序。你可以 从Scala,Python,R和SQL shell 交互使用它

技术分享图片

3、通用性

技术分享图片

4、随处运行

技术分享图片

 

Mesos:Spark可以运行在Mesos里面(Mesos 类似于yarn的一个资源调度框架)

standaloneSpark自己可以给自己分配资源(master,worker)

YARN:Spark可以运行在yarn上面

 KubernetesSpark接收 Kubernetes的资源调度

三、Spark的组成

Spark组成(BDAS):全称伯克利数据分析栈,通过大规模集成算法、机器、人之间展现大数据应用的一个平台。也是处理大数据、云计算、通信的技术解决方案。

它的主要组件有:

SparkCore:将分布式数据抽象为弹性分布式数据集(RDD),实现了应用任务调度、RPC、序列化和压缩,并为运行在其上的上层组件提供API。

SparkSQL:Spark Sql 是Spark来操作结构化数据的程序包,可以让我使用SQL语句的方式来查询数据,Spark支持 多种数据源,包含Hive表,parquest以及JSON等内容。

SparkStreaming: 是Spark提供的实时数据进行流式计算的组件。

MLlib:提供常用机器学习算法的实现库。

GraphX:提供一个分布式图计算框架,能高效进行图计算。

BlinkDB:用于在海量数据上进行交互式SQL的近似查询引擎。

Tachyon:以内存为中心高容错的的分布式文件系统。

四、应用场景

Yahoo将Spark用在Audience Expansion中的应用,进行点击预测和即席查询等
淘宝技术团队使用了Spark来解决多次迭代的机器学习算法、高计算复杂度的算法等。应用于内容推荐、社区发现等
腾讯大数据精准推荐借助Spark快速迭代的优势,实现了在“数据实时采集、算法实时训练、系统实时预测”的全流程实时并行高维算法,最终成功应用于广点通pCTR投放系统上。
优酷土豆将Spark应用于视频推荐(图计算)、广告业务,主要实现机器学习、图计算等迭代计算。


 

Scala学习之路 (一)Spark初识

标签:height   tac   ade   http   文件   实验室   net   Kubernete   实现   

原文地址:https://www.cnblogs.com/qingyunzong/p/8886338.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!