1. 阐述Hadoop生态系统中，HDFS, MapReduce, Yarn, Hbase及Spark的相互关系，为什么要引入Yarn和Spark。 HDFS是Hadoop体系中数据存储管理的基础，它是一个高度容错的系统，能检测和应对硬件故障，在低成本的通用硬件上运行。 HBase构建在HDFS之上 ...
分类：
其他好文 时间：
2021-06-07 20:05:58
阅读次数：
0
1. 准备文本文件： 从文件创建RDD lines=sc.textFile()： 筛选出含某个单词的行 lines.filter()，lambda 参数：条件表达式： 2. 生成单词的列表： 从列表创建RDD words=sc.parallelize()： 筛选出长度大于2 的单词 words.fi ...
分类：
其他好文 时间：
2021-06-07 20:04:33
阅读次数：
0
读学生课程分数文件chapter4-data01.txt，创建DataFrame。 一、用DataFrame的操作完成以下数据分析要求 每个分数+5分。 总共有多少学生？ 总共开设了哪些课程？ 每个学生选修了多少门课？ 每门课程有多少个学生选？ 每门课程大于95分的学生人数？ Tom选修了几门课？每 ...
分类：
数据库 时间：
2021-06-07 19:58:41
阅读次数：
0
1.安装启动检查Mysql服务。netstat -tunlp (3306) 2.spark 连接mysql驱动程序。–cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spark/jars 3.启动 Mysql ...
分类：
数据库 时间：
2021-06-06 19:08:48
阅读次数：
0
1.pandas df 与 spark df的相互转换 df_s=spark.createDataFrame(df_p) df_p=df_s.toPandas() 2. Spark与Pandas中DataFrame对比 http://www.lining0806.com/spark%E4%B8%8E ...
分类：
其他好文 时间：
2021-06-06 19:08:07
阅读次数：
0
1.Spark SQL出现的 原因是什么? Spark SQL是Spark用来处理结构化数据的一个模块，它提供了一个叫作Data Frame的编程抽象结构数据模型(即带有Schema信息的RDD)，Spark SQL作为分布式SQL查询引擎，让用户可以通过SQL、DataFrame API和Data ...
分类：
数据库 时间：
2021-06-06 19:05:46
阅读次数：
0
AI智能量化交易机器人系统主要是针对量化交易的，那么什么是量化交易？ 量化交易是指利用计算机通过数据分析出来的决策，来代替人们主观臆想的决策，人是一种带有情绪的动物，当我们看到一件事物或场景时，我们总是会对这个事物或场景进行联想，会结合我们的实际情况进行分析，但这个分析会受当时的情绪造成波动。众所周 ...
分类：
其他好文 时间：
2021-06-06 18:44:19
阅读次数：
0
随着数据汇报的增多，数据狗们花费大量的精力去制作汇报总结，结果却越来越千篇一律，以至于越来越得不到老板的的赏识……为了重新得到老板的赏识，做一张报表开始考虑到功能还有美观度，但又觉得好心累。奈何Excel太繁琐，这时就在想有什么快速进阶的技巧和工具可以拯救自己呢？ 简单直接的告诉各位，使用Smart ...
分类：
其他好文 时间：
2021-06-04 19:39:03
阅读次数：
0
八爪鱼 ——自动抓取进行数据采集 如何进行数据可视化呢？ 有两种方法。 第一种就是使用 Python。在 Python 对数据进行清洗、挖掘的过程中，我们可以使用 Matplotlib、Seaborn 等第三方库进行呈现。 第二种就是使用第三方工具。如果你已经生成了 csv 格式文件，想要采用所见即 ...
分类：
其他好文 时间：
2021-06-04 18:52:21
阅读次数：
0
vip视频教程 IT自学视频教程 编程教程Flink+ClickHouse 玩转企业级实时大数据开发 vip视频教程 IT自学视频教程 编程教程Flink+ClickHouse 玩转企业级实时大数据开发（8章）已经在做大数据，Flink让你轻松提薪；尚未入行大数据，Flink让你弯道超车 Flink ...
分类：
其他好文 时间：
2021-06-03 17:40:23
阅读次数：
0
