python是大家比较熟悉的一门编程语言,在很多人眼中python是转行IT的选择,但是很多人没有从事IT的想法所以觉得没有必要去学习python。其实不做程序员也可以学习python,从事其他的工作岗位。
分类:
编程语言 时间:
2020-07-13 20:05:50
阅读次数:
121
一,执行流程 由图我们可以看到, MapReduce存在以下4个独立的实体。 JobClient:运行于client node,负责将MapReduce程序打成Jar包存储到HDFS,并把Jar包的路径提交到Jobtracker,由Jobtracker进行任务的分配和监控。 JobTracker:运 ...
分类:
其他好文 时间:
2020-07-12 22:18:50
阅读次数:
82
[Toc] 一、初识大数据 大数据(BIG DATA),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产 1MB = 1024KB、1GB = 1024MB 1TB = 1024GB、 ...
分类:
其他好文 时间:
2020-04-07 14:19:05
阅读次数:
132
WordCount是大数据学习最好的入门demo,今天就一起开发java版本的WordCount,然后提交到Spark3.0.0环境运行; 版本信息 OS: Window7 JAVA:1.8.0_181 Hadoop:3.2.1 Spark: 3.0.0-preview2-bin-hadoop3.2 ...
scala 下载网站 https://www.scala-lang.org/download/ 安装scala要先安装java,并且配置java环境,官网也有说明 不过国内的网站下载不下来可以访问: http://downloads.typesafe.com/scala/2.13.0/scala-2 ...
分类:
其他好文 时间:
2020-03-15 19:16:15
阅读次数:
74
今天试这次练习的第二天,对昨天的做了一些完善浪费了一些时间,然后计划的今天的第二部分差了一点没有完成。明天尽量补上,但是明天一天课,估计又得加班了。 今天主要做了第二部分的完善行业分类和行业代码信息,在网上搜了好久没有找到可以像百度地图API这样的接口,也没有找到可以直接识别是什么行业的网站,没办法 ...
分类:
其他好文 时间:
2020-03-14 01:00:51
阅读次数:
72
距离上次博客时间已经9天,简单记录下这几天的学习过程 2020-02-15 10:38:47 一、Linux学习 关于Linux命令,我在之前就已经学过一部分了,所以这段时间的linux学习更多的是去学习Linux系统的安装以及相关配置多一些,命令会一些比较常用的就够了,下面记录下安装配置Linux ...
分类:
系统相关 时间:
2020-02-15 13:41:12
阅读次数:
94
一、大数据spark 跟着csdn的scala教程搭建了spark所用语言scala的环境 https://edu.csdn.net/course/play/20364/292538 跟着b站的尚硅谷大数据学习了8个知识点,视频号:av62992342 初步了解了spark的各方面知识,并且使用其做 ...
分类:
其他好文 时间:
2020-02-02 23:55:34
阅读次数:
122
一、过渡模块的基本使用 1.*:hover;这个伪类选择器除了可以用在a标签上,还可以用在其他任何标签上。 2.过渡三要素: (1)必须要有属性发生变化;(2)必须告诉系统哪个属性需要执行过渡效果;(3)必须告诉系统过渡效果持续的时长。 3.注意点: 当多个属性需要同时执行过渡效果的时候,可以使用英 ...
分类:
Web程序 时间:
2020-01-29 17:39:49
阅读次数:
98
Hadoop Hadoop里面包括几个组件HDFS、MapReduce和YARN,HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面,MapReduce是对数据进行处理计算的,它有个特点就是不管多大的数据只要给它时间它就能把数据跑完,但是时间可能不是很快所以它叫数据的批处理。 YAR ...
分类:
其他好文 时间:
2020-01-03 23:16:37
阅读次数:
82