码迷,mamicode.com
首页 > 其他好文 > 详细

2020寒假生活学习日记(二)

时间:2020-02-02 13:35:21      阅读:101      评论:0      收藏:0      [点我收藏+]

标签:spark   技术   file   shell   使用   编写   http   with   代码   

使用 Spark Shell 编写代码

启动Spark Shell:

技术图片

 

加载txt文件:

技术图片

 

 

 简单的RDD操作:

//获取RDD文件textFile的第一行内容
textFile.first()

技术图片

//获取RDD文件textFile所有项的计数
textFile.count()

技术图片

//抽取含有“Spark”的行,返回一个新的RDD
val lineWithSpark = textFile.filter(line => line.contains("Spark"))

技术图片

//统计新的RDD的行数
lineWithSpark.count()

技术图片

2020寒假生活学习日记(二)

标签:spark   技术   file   shell   使用   编写   http   with   代码   

原文地址:https://www.cnblogs.com/jccjcc/p/12251599.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!