HA简介 1.所谓HA,即高可用(high available) 2.消除单点故障,避免集群瘫痪,hdfs中namenode保存了整个集群的元数据,如果namenode所在机器宕机,则整个集群瘫痪,HA 能够即使将备用的namenode替代宕机节点的namenode 3.当机器出现故障,或需要升级等 ...
分类:
其他好文 时间:
2018-12-18 15:59:16
阅读次数:
215
一. HA概述 1. 所谓HA(High Available),即高可用(7*24小时不中断服务)。 2. 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制:HDFS的HA和YARN的HA。 3. Hadoop2.0之前,在HDFS集群中NameNode存在单点故障(SP ...
分类:
其他好文 时间:
2018-12-16 14:33:19
阅读次数:
158
这里是大数据小白系列,这是本系列的第二篇,介绍HDFS中SecondaryNameNode、单点失败(SPOF)、以及高可用(HA)等概念。 ...
分类:
其他好文 时间:
2018-12-15 21:02:40
阅读次数:
185
集群方案: 发行版:CentOS 7 版本: Kubernetes:1.9.1 master高可用方案:keepalived LVS 网络方案:Flannel Master HA 四步骤: 1. 安装etcd集群 2. 安装 Master 3. 安装 Keepalived + IPVS 4. Nod ...
分类:
Web程序 时间:
2018-12-15 00:55:44
阅读次数:
187
1.sentine介绍 Redis-Sentinel是Redis官方推荐的高可用性(HA)解决方案,当用Redis做Master-slave的高可用方案时,假如master宕机了,Redis本身(包括它的很多客户端)都没有实现自动进行主备切换,而Redis-sentinel本身也是一个独立运行的进程 ...
分类:
其他好文 时间:
2018-12-14 21:11:51
阅读次数:
123
双十二的时候我们的一个重要业务崩盘了。原因其实很简单,就一句话,流程太大导致某个中间件接入层的HA proxy满载,中间件不可用,整个业务基本瘫痪。从测试的角度去总结一下,大概以后可以有如下的改进。技术方案评审时就考虑高并发问题我们这次的事故是因为比较乐观,可能技术方案评审的时候就开始盲目乐观了。其... ...
分类:
其他好文 时间:
2018-12-14 17:32:04
阅读次数:
139
Hadoop与Google一样,都是小孩命名的,是一个虚构的名字,没有特别的含义。从计算机专业的角度看,Hadoop是一个分布式系统基础架构,由Apache基金会开发。Hadoop的主要目标是对分布式环境下的“大数据”以一种可靠、高效、可伸缩的方式处理。设想一个场景,假如您需要grep一个100TB的大数据文件,按照传统的方式,会花费很长时间,而这正是Hadoop所需要考虑的效率问题。 关于Ha
分类:
其他好文 时间:
2018-12-14 14:54:34
阅读次数:
161
若HDFS集群中只配置了一个NameNode,那么当该NameNode所在的节点宕机,则整个HDFS就不能进行文件的上传和下载。若YARN集群中只配置了一个ResourceManager,那么当该ResourceManager所在的节点宕机,则整个YARN就不能进行任务的计算。*Hadoop依赖Zookeeper进行各个模块的HA配置,其中状态为Active的节点对外提供服务,而状态为StandB
分类:
其他好文 时间:
2018-12-13 16:30:24
阅读次数:
221
1.关闭防火墙 1.1 查看防火墙状态 service iptables status 1.2 关闭防火墙 service iptables off 1.3 关闭防火墙开机启动 chkconfig iptables off 2.关闭selinux vi /etc/selinux/config 将 S ...
分类:
其他好文 时间:
2018-12-12 00:20:48
阅读次数:
174
1、Eureka服务端集群配置文件 打包mima-cloud-eureka-ha.jar可执行文件,点击此处。 2、Eureka客户端集群配置文件 ...
分类:
其他好文 时间:
2018-12-09 21:28:51
阅读次数:
293