是什么 : 也就是我们所说的主从复制,主机数据更新后根据配置和策略,自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主 能干嘛: 读写分离,容灾恢复 怎么玩: 1.配从(库)不配主(库) 2.从库配置:slaveof 主库IP 主库端口 每次与master断开之 ...
分类:
其他好文 时间:
2016-12-02 02:38:59
阅读次数:
219
背景: 公司的音视频 盗版检测业务,使用redis-cluster作为 key-value 数据库, 使用张图片的 特征hash值作key。因为数据量太大,机器有限,集群内没有slaver 问题描述 线上服务报错 (SCARD 4288594168) of pipeline caused error ...
分类:
其他好文 时间:
2016-12-02 02:22:20
阅读次数:
472
官网介绍看这里 http://redis.io/topics/replication 主从复制:就是主机数据更新后根据配置和策略,自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主 Redis replication is a very simple to us ...
分类:
其他好文 时间:
2016-11-03 02:15:50
阅读次数:
375
前面,我们已经在单机上把Hadoop运行起来了,但我们知道Hadoop支持分布式的,而它的优点就是在分布上突出的,所以我们得搭个环境模拟一下。 在这里,我们采用这样的策略来模拟环境,我们使用3台ubuntu机器,1台为作主机(master),另外2台作为从机(slaver)。同时,这台主机,我们就用 ...
分类:
其他好文 时间:
2016-08-08 17:25:45
阅读次数:
158
1、分布式环境搭建 采用4台安装Linux环境的机器来构建一个小规模的分布式集群。 图1 集群的架构 其中有一台机器是Master节点,即名称节点,另外三台是Slaver节点,即数据节点。这四台机器彼此间通过路由器相连,从而实验相互通信以及数据传输。它们都可以通过路由器访问Internet,实验网页 ...
分类:
其他好文 时间:
2016-06-24 19:02:22
阅读次数:
196
scrapy-redis使用的爬虫策略: Slaver端从Master端拿任务进行数据抓取,在抓取数据的同时也生成新任务,并将任务抛给Master。Master端负责对Slaver提交的任务进行去重、加入待爬队列。 scrapy-redis在处理分布式时,会在redis中创建两个key,一个是(sp ...
分类:
其他好文 时间:
2016-05-19 16:27:49
阅读次数:
362
1、分布式环境搭建采用4 台安装Linux 环境的机器来构建一个小规模的分布式集群。 其中有一台机器是Master 节点,即名称节点,另外三台是Slaver 节点,即数据节点。这四台机器彼此间通过路由器相连,从而实验相互通信以及数据传输。它们都可以通过路由器访问Internet,实验网页文档的采集。 ...
分类:
其他好文 时间:
2016-05-08 14:58:55
阅读次数:
146
1. 概述
本文是对spark1.6.0分布式集群的安装的一个详细说明,旨在帮助相关人员按照本说明能够快速搭建并使用spark集群。
2. 安装环境
本安装说明的示例环境部署如下:
IP
外网IP
hostname
备注
10.47.110.38
120.27.153.137
iZ237654q6qZ
Master、Slaver
...
分类:
其他好文 时间:
2016-04-01 18:46:32
阅读次数:
247
Nginx核心功能:Web服务器,代理服务器以及邮件服务器; Nginx的基本架构 Nginx的工作模式:一主(Master process)N从(Work Process),即Master-Slaver模式Nginx和Apache都是进程处理请求,IIS是线程处理,可以获得比较好的性能,还是还是需...
分类:
其他好文 时间:
2016-02-29 23:00:45
阅读次数:
227
1、基本概念>>zookeeper handler (zk句柄)有点类似文件句柄,打开一个文件就保持了一个文件句柄!同样的道理: 建立一个到zk server的session就会有一个zk handler(可以用任何编程语言)。>> move session:client 可以 connect到 任...
分类:
其他好文 时间:
2015-10-14 14:02:05
阅读次数:
139