一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 二、groupByKey练习 6.练习一的生成单词键值对 7.对单词进行分组 8.查看分组结果 学生科目成绩 ...
分类：
其他好文 时间：
2021-03-31 12:33:25
阅读次数：
0
一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6.练习一的生成单词键值对 ...
分类：
其他好文 时间：
2021-03-31 12:22:01
阅读次数：
0
一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6.练习一的生成单词键值对 最后相关文件已经保存。 ...
分类：
其他好文 时间：
2021-03-31 11:54:45
阅读次数：
0
1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words（map,flatmap） 3.全部转换为小写（lower（）） 4.去掉长度小于3的单词（filter） 6.练习一的生成单词键值对（map) ...
分类：
其他好文 时间：
2021-03-31 11:48:28
阅读次数：
0
一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6.练习一的生成单词键值对 ...
分类：
其他好文 时间：
2021-03-31 11:44:46
阅读次数：
0
准备文本文件从文件创建RDD lines=sc.textFile() 筛选出含某个单词的行 lines.filter()lambda 参数：条件表达式 2. 生成单词的列表从列表创建RDD words=sc.parallelize()筛选出长度大于2 的单词 words.filter() ...
分类：
其他好文 时间：
2021-03-30 13:26:11
阅读次数：
0
1. 准备文本文件从文件创建RDD lines=sc.textFile()筛选出含某个单词的行 lines.filter()lambda 参数：条件表达式 2. 生成单词的列表从列表创建RDD words=sc.parallelize()筛选出长度大于2 的单词 words.filter() ...
分类：
其他好文 时间：
2021-03-30 13:18:46
阅读次数：
0
概述 本文演示环境： win10 + vs2017 日志，我用的很少，通常是用作动态库调试使用。 日志记录下来，基本就没看过，除非模块出现了问题。 使用cmake管理的项目 使用C++封装了C语言读写文件实现了的记录日志， 避免使用c++流，因为效率低。 默认是写文本文件，其他格式？ 以后再开放接口 ...
分类：
编程语言 时间：
2021-03-30 13:09:45
阅读次数：
0
1. 准备文本文件从文件创建RDD lines=sc.textFile()筛选出含某个单词的行 lines.filter() 2. 生成单词的列表从列表创建RDD words=sc.parallelize()筛选出长度大于2 的单词 words.filter() ...
分类：
其他好文 时间：
2021-03-30 13:05:37
阅读次数：
0
1. 准备文本文件从文件创建RDD lines=sc.textFile()筛选出含某个单词的行 lines.filter()lambda 参数：条件表达式 2. 生成单词的列表从列表创建RDD words=sc.parallelize()筛选出长度大于2 的单词 words.filter() ...
分类：
其他好文 时间：
2021-03-30 12:53:37
阅读次数：
0
