1. 用idea的maven项目 package 打包, 去 Linux 执行 spark-submit --class com.Spark_HDFS --master local ./SXC-1.0-SNAPSHOT.jar 遇到 找不到主类 , 这时候需要更加稳定的打包方式 去打包 scala ...
分类：
其他好文 时间：
2020-06-14 12:57:57
阅读次数：
127
首先，先安装jdk.我安装的是jdk14.下载界面如下所示： 接下来配置path,java_home两个环境变量即可。 接下来安装scala 我安装的scala是2.13.2版本。 接下来安装hadoop ...
分类：
其他好文 时间：
2020-06-13 23:05:23
阅读次数：
66
<!doctype html> <html lang="en"> <head> <meta charset="UTF-8"> <meta name="viewport" content="width=device-width, user-scalable=no, initial-scale=1.0, ...
分类：
移动开发 时间：
2020-06-13 14:33:10
阅读次数：
74
类和对象 在类定义中，有字段filed和方法method，统称为成员member，通过val和var定义字段指定对象的变量。通过def定义方法。（和Python一样）实例一个类后，会指派一些内存来保存对象的状态图。个人理解对通过地址间映射，有一块内存保存值。 对字段声明私有。在var、val前加。不 ...
分类：
其他好文 时间：
2020-06-13 13:22:18
阅读次数：
51
第一步 在pom.xml中添加 <dependencies> <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-core_2.11</artifactId> <version>2.3.3</version> </de ...
分类：
其他好文 时间：
2020-06-13 12:39:49
阅读次数：
172
本地scala version为2.11.8，spark为2.4.0版本 于是修改dr-elephant/build.sbt scalaVersion := "2.11.8" 修改dr-elephant/compile.conf hadoop_version=2.8.4 spark_version= ...
分类：
其他好文 时间：
2020-06-11 13:42:28
阅读次数：
100
第0章-课程介绍 第1章-大数据技术概述 第2章-Scala语言基础 第3章-Spark的设计与运行原理 第4章-Spark环境搭建和使用方法 第5章-RDD编程 第6章-Spark-SQL 第7章-Spark-Streaming 第8章-Spark-MLlib ...
分类：
其他好文 时间：
2020-06-10 23:09:12
阅读次数：
145
RichFunction 主要有3个方法 open，close，getRuntimeContext public interface RichFunction extends Function { void open(Configuration parameters) throws Exceptio ...
分类：
其他好文 时间：
2020-06-07 19:15:41
阅读次数：
158
例如在scala中的oject写个方法返回一个字符串. 该方法在java代码中使用. 好处: scala支持多行字符, 以及字符串插值 Scala和Java方法的相互调用https://blog.csdn.net/u010398771/article/details/78885009 ...
分类：
编程语言 时间：
2020-06-06 13:16:42
阅读次数：
119
原因 混合java 和scala 无法编译 解决 右键项目 > properties > scala Compiler >勾选Use Project Setting > Scala Installation > Fixed Scala Installation(对应版本)(built-in) > B ...
分类：
系统相关 时间：
2020-06-06 09:27:26
阅读次数：
114
