码迷,mamicode.com
首页 > Windows程序 > 详细

Spark API编程动手实战-07-join操作深入实战

时间:2015-02-05 14:59:53      阅读:348      评论:0      收藏:0      [点我收藏+]

标签:join   take   case class   map   textfile   

我们在hdfs的/data/join创建两个文件:

技术分享

上传第一个文件名称为1.txt

内容第一列是日期,第二列uid(普通用户id)

技术分享

上传第二个文件名称为2.txt

内容第一列是日期,第二列uid(普通用户id)

技术分享

执行上传到hdfs:

技术分享

hdfs命令行查询:

技术分享

web控制台管理查询:

技术分享

首先在命令行中设置日期格式:

技术分享

然后声明两个case class:Register、Login

技术分享

读取第一个文件(1.txt)并进行操作:

技术分享


take操作:

技术分享

该操作是首先读取文件的内容,然后以Tab键进行分词,然后以第二列为key,每一行的所有内容为Value构建起的Register作为Value的值;


读取第二个文件(2.txt)并进行操作:

技术分享

take操作:

技术分享


下面对文件执行join操作:

技术分享

取出join操作的结果:

技术分享

take结果:

技术分享


或者把执行结果保存到HDFS:

技术分享

到Web控制台上查看执行结果:

技术分享

技术分享


在hdfs查看一下其执行结果:

技术分享


Spark API编程动手实战-07-join操作深入实战

标签:join   take   case class   map   textfile   

原文地址:http://blog.csdn.net/stark_summer/article/details/43057391

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!