码迷,mamicode.com
首页 >  
搜索关键字:大数据 Spark 大数据开发    ( 18881个结果
06 Spark SQL 及其DataFrame的基本操作
1.Spark SQL出现的 原因是什么? 随着Spark的发展,对于野心勃勃的Spark团队来说,Shark对于Hive的太多依赖(如采用Hive的语法解析器、查询优化器等等),制约了Spark的One Stack Rule Them All的既定方针,制约了Spark各个组件的相互集成,所以提出 ...
分类:数据库   时间:2021-05-24 04:27:44    阅读次数:0
06 Spark SQL 及其DataFrame的基本操作
1.Spark SQL出现的 原因是什么? Spark SQL的前身是 Shark,Shark最初是美国加州大学伯克利分校的实验室开发的Spark生态系统的组件之一,它运行在Spark系统之上,Shark重用了Hive的工作机制,并直接继承了Hive的各个组件, Shark将SQL语句的转换从Map ...
分类:数据库   时间:2021-05-24 04:16:49    阅读次数:0
06 Spark SQL 及其DataFrame的基本操作
1.Spark SQL出现的 原因是什么? 随着Spark的发展,对于野心勃勃的Spark团队来说,Shark对于Hive的太多依赖(如采用Hive的语法解析器、查询优化器等等),制约了Spark的One Stack Rule Them All的既定方针,制约了Spark各个组件的相互集成,所以提出 ...
分类:数据库   时间:2021-05-24 03:53:49    阅读次数:0
完美避坑!记一次Elasticsearch集群迁移架构实战
前言 Elastic自身设计了集群分片的负载平衡机制,当有新数据节点加入集群或者离开集群,集群会自动平衡分片的负载分布。 需求背景 公司原有大数据平台基于公有云构建,由于种种原因,现在需要迁移到自建机房,Elasticsearch集群承担了大数据平台主要的对外查询需求,也有部分实时计算需求基于Ela ...
分类:其他好文   时间:2021-05-24 03:46:38    阅读次数:0
在AWS Glue中使用Apache Hudi
1. Glue与Hudi简介 AWS Glue AWS Glue是Amazon Web Services(AWS)云平台推出的一款无服务器(Serverless)的大数据分析服务。对于不了解该产品的读者来说,可以用一句话概括其实质:Glue是一个无服务器的全托管的Spark运行环境,只需提供Spar ...
分类:Web程序   时间:2021-05-24 03:46:26    阅读次数:0
Spark SQL 及其DataFrame的基本操作
Spark SQL出现的 原因是什么? Spark SQL是Spark用来处理结构化数据的一个模块,它提供了一个叫作Data Frame的编程抽象结构数据模型(即带有Schema信息的RDD),Spark SQL的前身是 Shark,由于 Shark过于依赖Hive,因此在版本迭代时很难添加新的优化 ...
分类:数据库   时间:2021-05-24 03:08:56    阅读次数:0
数栈人:从青铜到星耀,10年大数据人的奋战晋级之路
? 今天,大家就请跟着数栈君一起,和申杭聊聊他从青铜到星耀的大数据之路。 数栈君:申杭,你是07年从华中科技大学软件工程专业毕业的,能说说你当时为什么选择这个专业吗? 申杭:当时会计、师范、机械制造、土木类专业比较热门,一般家人都会让报这些专业,出来好就业。而电子、计算机、软件工程类的专业刚刚兴起, ...
分类:其他好文   时间:2021-05-24 00:46:57    阅读次数:0
RuntimeError: you must first build vocabulary before training the model
解决RuntimeError: you must first build vocabulary before training the model错误 查找解决方案,意思就是说你的数据集中的数量过少,解决方案有两种,扩大数据集的数量、另一个就是更改min_count的值例如:如果太少的话可以更改为 ...
分类:其他好文   时间:2021-05-23 23:49:16    阅读次数:0
DolphinScheduler之最美好的遇见
DolphinScheduler之最美好的遇见 主人翁介绍 hello,大家好,我是郭强,目前是Apache DolphinScheduler的Commiter。擅长大数据olap、大数据调度、RPC开发等。目前专注于大数据领域核心技术研发。 我也是一名开源爱好者,我要讲的是我从起始给 Dolphi ...
分类:其他好文   时间:2021-05-04 16:34:22    阅读次数:0
0基础如何快速进入Java编程领域?5天挑战入门,你确定不来看看?
今日分享开始啦,请大家多多指教~ 今天分享这种常识型的东西,觉得自己太菜了,所以决定还是回到Java基础学习里,花几天时间快速过一遍,我想应该有很多是我遗漏的点,毕竟学习的目标是大数据开发,基础不牢,地动山摇! 01 概述 计算机包括硬件和软件两部分。硬件包括计算机中可以看得见的物理部分。而软件提供 ...
分类:编程语言   时间:2021-05-04 16:11:36    阅读次数:0
18881条   上一页 1 ... 9 10 11 12 13 ... 1889 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!