zookeeper集群的选举机制,监听原理,写数据流程 和 节点类型,
分类:
其他好文 时间:
2019-11-28 15:13:31
阅读次数:
87
聚类算法 概述 无监督问题 手中无标签 聚类 将相似的东西分到一组 难点 如何 评估, 如何 调参 基本概念 要得到的簇的个数 - 需要指定 K 值 质心 - 均值, 即向量各维度取平均 距离的度量 - 常用 欧几里得距离 和 余弦线相似度 ( 先标准化 ) 优化目标 - 需求每个簇中的点, 到质心 ...
分类:
编程语言 时间:
2019-11-25 09:42:34
阅读次数:
54
HA工作机制 (配置HA高可用传送门:https://www.cnblogs.com/zhqin/p/11904317.html) HA:高可用(7 24小时不中断服务) 主要的HA是针对集群的master节点的,即namenode和resourcemanager,毕竟DataNode挂掉之后影响 ...
分类:
其他好文 时间:
2019-11-21 16:59:14
阅读次数:
122
前言MySQL的主从复制是实现应用的高性能,高可用的基础。对于数据库读操作较密集的应用,通过使数据库请求负载均衡分配到不同MySQL服务器,可有效减轻数据库压力。当遇到MySQL单点故障中,也能在短时间内实现故障切换。本文就MySQL的内建的复制功能进行阐述。版本MySQl:5.7.17CentOS:7.4.1708Docker:1.13.1概述MySQL复制数据流程:主库在数据更新提交事务之前,
分类:
数据库 时间:
2019-11-08 16:20:15
阅读次数:
102
1、 数据字典是结构化分析的一个重要输出。数据字典的条目不包括(外部实体)。 解析: 数据字典是指对数据的数据项、数据结构、数据流、数据存储、处理逻辑、外部实体等进行定义和描述,其目的是对数据流程图中的各个元素做出详细的说明,使用数据字典为简单的建模项目。其条目有数据流、数据项、数据存储、基本加工等 ...
分类:
其他好文 时间:
2019-09-15 19:37:39
阅读次数:
192
爬虫串讲 requests 一定要掌握 爬取数据流程: 1. 指定url 2. 发起请求 3. 获取响应数据 4. 数据解析 5. 持久化存储 get,post参数: url data/params headers proxies 处理ajax动态加载的数据: 动态加载的数据: 通过另一个请求请求到 ...
分类:
其他好文 时间:
2019-09-05 18:20:09
阅读次数:
89
1、大数据流程图 2、大数据各个环节主要技术 2.1、数据处理主要技术 Sqoop:(发音:skup)作为一款开源的离线数据传输工具,主要用于Hadoop(Hive) 与传统数据库(MySql,PostgreSQL)间的数据传递。它可以将一个关系数据库中数据导入Hadoop的HDFS中, 也可以将H ...
分类:
其他好文 时间:
2019-09-02 09:22:58
阅读次数:
144
流程图的绘制除了手动对其框架进行搭建之后对内容进行填充使用之外,还可以选择套用模板对其进行编辑使用,这样节省了对框架进行搭建的时间,对于新手宝宝来说绘制流程图也将变的更加便利。选中喜欢的模板直接点击进行编辑即可,那流程图模板怎样寻找呢?下面为大家分享几款简单漂亮的流程图模板,希望可以帮助到大家。流程图模板:1.冻结数据流程图这是一个简洁的冻结数据流程图,主要是针对电表中的电量消耗所产生数据进行分析
分类:
其他好文 时间:
2019-08-15 20:59:18
阅读次数:
251
1 HDFS写数据流程 1.1 剖析文件写入 HDFS写数据流程,如图所示 1)客户端通过Distributed FileSystem模块向NameNode请求上传文件,NameNode检查目标文件是否已存在,父目录是否存在。 2)NameNode返回是否可以上传。 3)客户端请求第一个 Block ...
分类:
其他好文 时间:
2019-08-15 06:04:26
阅读次数:
126
剖析HDFS文件写入 假设文件ss.avi共200m,其写入HDFS指定路径/user/atguigu/ss.avi流程如下: 1)客户端向namenode请求上传文件到指定路径,namenode通过元数据检查目标文件是否已存在,父目录是否存在。 2)namenode返回是否可以上传。 3)客户端请 ...
分类:
其他好文 时间:
2019-07-19 17:01:35
阅读次数:
131