一、Airflow简介 airflow是Airbnb开源的一个用python编写的调度工具，项目于2014年启动，2015年春季开源，2016年加入Apache软件基金会的孵化计划，使用Python编写实现的任务管理、调度、监控工作流平台。 Airflow 是基于DAG(有向无环图)的任务管理系统， ...
分类：
其他好文 时间：
2021-06-28 20:39:57
阅读次数：
0
第二章.HDFS 1.大数据的两个核心技术 2.HDFS设计目标 3.HDFS自身的局限性 4.HDFS采用块设计以及采用块设计的好处 5.HDFS组成架构 6.元数据信息被持久化到磁盘分为哪两个文件 7.第二名称节点的作用 8.名称节点，数据节点的功能 待补充 9.副本机制、数据容错机制、心跳机制 ...
分类：
其他好文 时间：
2021-06-28 20:29:20
阅读次数：
0
镇楼图 Pixiv:Csyady 〇、数据处理基本问题 任何的数据都存在两个基本问题~~(这应该是在数据结构里学的)~~ ①如何存储数据 ②数据有多大 一、数据定义 我们之前使用dw来定义数据，dw其实就是define word定义一个字 还有其他的定义方式，这是基于不同尺寸来定义的 db（defi ...
分类：
其他好文 时间：
2021-06-28 19:24:07
阅读次数：
0
20201324 2020-2021-2 《Python程序设计》实验四报告 课程：《Python程序设计》 班级： 2013 姓名： 徐源 学号：20201324 实验教师：王志强 实验日期：2021年6月23日 必修/选修： 公选课 （一）实验内容 涉及知识：利用Python进行爬虫和数据处理 ...
分类：
编程语言 时间：
2021-06-28 18:52:37
阅读次数：
0
一、大数据的基本特征（4V,存储单位） 二、大数据对思维方式的影响 三、Google 三辆马车是什么？ Google的文件系统GFS（Google File System）、分布式计算框架MapReduce、Bigtable 四、Hadoop 是什么，基本特征 基本特征： 五、Hadoop 生态系统 ...
分类：
其他好文 时间：
2021-06-28 18:27:13
阅读次数：
0
自动化运维平台架构图 微服务部署和监控运维框架图 云原生下的DevOps自动化运维 多环境#交易系统#DevOps架构 基于大数据智能化的自助终端远程运维服务架构 自动化运维全流程 ...
分类：
其他好文 时间：
2021-06-28 18:10:44
阅读次数：
0
1.Mongo与Mysql简单对比 关系型数据库-MySQL 1.在不同的引擎上有不同的存储方式。 2.查询语句是使用传统的sql语句，拥有较为成熟的体系，成熟度很高。 3.开源数据库的份额在不断增加，mysql的份额页在持续增长。 4.缺点就是在海量数据处理的时候效率会显著变慢。 非关系型数据库- ...
分类：
数据库 时间：
2021-06-28 17:50:51
阅读次数：
0
基本知识：Sqoop导出的基本用法：https://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_syntax_4 的10. sqoop-export 内容摘要：本文主要是对--update-mode参数的用法进行了验证。结论如下： --updat ...
分类：
数据库 时间：
2021-06-25 17:26:06
阅读次数：
0
无锡、佛山、合肥、大连、福州、厦门、哈尔滨、济南、温州、南宁、长春、泉州、石家庄、贵阳、常州、南通、嘉兴、太原、徐州、南昌、金华、惠州、珠海、中山、台州、烟台、兰州、绍兴、海口、扬州 工业X-RAY检测设备可用于锂电池检测等电池行业，电路板行业，半导体封装，汽车行业，电路板组装（PCBA）行业等，以 ...
分类：
Web程序 时间：
2021-06-25 17:04:16
阅读次数：
0
什么是任务调度 大数据平台技术框架支持的开发语言多种多样，开发人员的背景差异也很大，这就产生出很多不同类型的程序（任务）运行在大数据平台之上，如：MapReduce、Hive、Pig、Spark、Java、Shell、Python 等。 这些任务需要不同的运行环境，并且除了定时运行，各种类型之间的任 ...
分类：
其他好文 时间：
2021-06-23 17:16:53
阅读次数：
0
