一、前提条件 1.1创建3台虚拟机,且配置好网络,建立好互信。 1.2 Java1.8环境已经配置好 1.3 Hadoop2.7.7集群已经完成搭建,具体参见我的博客https://www.cnblogs.com/theyang/p/12363276.html 1.4 Scala软件包和Spark软 ...
分类:
其他好文 时间:
2020-04-17 00:23:32
阅读次数:
85
这里以将Apache的日志写入到ElasticSearch为例,来演示一下如何使用Python将Spark数据导入到ES中。 实际工作中,由于数据与使用框架或技术的复杂性,数据的写入变得比较复杂,在这里我们简单演示一下。 如果使用Scala或Java的话,Spark提供自带了支持写入ES的支持库,但 ...
分类:
编程语言 时间:
2020-04-17 00:06:51
阅读次数:
83
1.前提条件 1.1创建3台虚拟机,且配置好网络,建立好互信(ssh免密)。 1.2 Java1.8环境已经配置好 1.3 Hadoop集群已经完成搭建 1.4 Scala软件包和Spark软件包的下载 https://www.scala-lang.org/download/ http://spar ...
分类:
其他好文 时间:
2020-04-17 00:05:12
阅读次数:
66
ylbtech-Code-Helper:OracleHelper.cs 1.返回顶部 1、 using System; using System.Configuration; using System.Data; using System.Data.OracleClient; using Syste ...
分类:
数据库 时间:
2020-04-12 18:37:17
阅读次数:
68
http://songkun.me/2018/07/12/2018-07-12-adt-in-haskell-and-scala/ 函数式编程接触久了以后,我们会发现很多 FP 语言(这里指静态 FP 语言)具有不少类似的语言特性,这非常自然,因为语言特性就那么多,好用、实用的特性更少,这一方面造成 ...
分类:
其他好文 时间:
2020-04-12 16:54:27
阅读次数:
96
模式匹配,类似于java中的switch case 语法,即对一个值进行条件判断,然后针对某种条件,针对不同的处理 但是scala的模式匹配的功能比java的switch case语法的功能要强大很多,java的switch case语法只能对值进行匹配,但是scala的模式匹配除了可以对值进行匹配 ...
分类:
其他好文 时间:
2020-04-12 07:41:07
阅读次数:
72
简介ApacheMaven是一个项目管理及构建工具,主要用于Java项目的构建,Maven还可以用于构建和管理以C#,Ruby,Scala和其他语言编写的项目。Maven解决了构建软件那几方面问题:编译构建传统的项目没有使用Maven大部分情况是由IDE对编写代码进行自动编译,将JAVA文件编译成CLASS之后,由研发对bin目录下的CLASS进行打包部署。而Maven通过插件进行构建,并自动打包
分类:
其他好文 时间:
2020-04-10 00:46:49
阅读次数:
81
本文参考 出自LeetCode上的题库 —— 字符串转整数,本篇文章也主要是参考LeetCode上的官方题解 官方题解采用了编译原理中有限自动机的概念,没想到编译原理中的知识可以应用到算法中,所以在这篇文章里记录下scala版本的解法,但是不对具体题解作介绍,想看具体解释还请移步力扣官网 https ...
分类:
编程语言 时间:
2020-04-07 22:44:50
阅读次数:
96
1.kafka是什么? Apache Kafka是一个开源消息系统,由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。 Kafka最初是由LinkedIn开发,并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一 ...
分类:
其他好文 时间:
2020-04-07 22:14:54
阅读次数:
93