一、Redis 介绍
Redis 是一个开源内存的数据存储系统,行业中用作高效数据库缓存较多。它支持多种类型的数据结构:strings:hashes,lists,sets,sorted sets, bitmaps,hyperloglogs ,geospatial。并且支持对这些类型执行 原子操作 , 列如: int的增减,strings 的append,hashes hincrby,lists lpush,sets的交集sinter,并集union和差集sdiff命令。
redis局限:在cluster未问世前,redis只有主从方式的高可用架构。redis server 侧的可扩展性(容量及性能)严重受到影响。一旦内存达到上限,只能从client侧去优化(client 去做hash),或者升级server的硬件来解决容量和性能问题。
二、Redis cluster的介绍
Redis 集群是 Redis 的一个分布式实现,主要是为了实现以下这些目标(按在设计中的重要性排序):
在1000个节点的时候仍能表现得很好并且可扩展性(scalability)是线性的。
没有合并操作,这样在 Redis 的数据模型中最典型的大数据值中也能有很好的表现。
写入安全(Write safety):那些与大多数节点相连的客户端所做的写入操作,系统尝试全部都保存下来。不过公认的,还是会有小部分(small windows?)写入会丢失。
可用性(Availability):在绝大多数的主节点(master node)是可达的,并且对于每一个不可达的主节点都至少有一个它的从节点(slave)可达的情况下,Redis 集群仍能进行分区(partitions)操作。
三、本文目标:
python 3使用cluster操作(需要远程连接,非回环地址),设置密码
四、cluster的搭建:
略,详见:
https://redis.io/topics/cluster-tutorial
http://www.redis.cn/topics/cluster-spec.html
注意本文使用redis-4.0.1:http://download.redis.io/releases/redis-4.0.1.tar.gz
五、注意事项
搭建中的坑(在一台机器上搭建6个redis 节点):
1、redis.conf
1)需要bind到非回环的ip(非127.0.0.1)或者0.0.0.0
2)需要关闭 protected-mode,否则
内容如下
bind 0.0.0.0
port 7000
cluster-enabled yes
cluster-config-file "nodes.conf"
cluster-node-timeout 5000
appendonly yes
protected-mode no
#使用redis-trib.rb构建集群,集群构建完成前不要配置密码,集群构建完毕再通过命令逐个机器设置密码。注意,此时,以上配置文件内容中没有pass和auth相关配置
2、创建集群的时候,不能使用127.0.0.1,否则远端的client在set的时候,被Redirected至127.0.0.1就导致连接异常。
例子如下,我本地的ip为:172.16.199.1
./redis-trib.rb create --replicas 1 172.16.199.1:7000 172.16.199.1:7001 172.16.199.1:7002 172.16.199.1:7003 172.16.199.1:7004 172.16.199.1:7005
3、设置密码
1)redis cluster的requirepass和masterauth都要配置,否则发生主从切换时,就会遇到授权问题
2)各个节点的密码都必须一致(从7000到7005端口都需要依次设置),否则Redirected就会失败
redis-cli -c -p 7000 -h 172.16.199.1
redis 172.16.199.1:7000>config set masterauth CATAPI
redis 172.16.199.1:7000>config set requirepass CATAPI
redis 172.16.199.1:7000>auth CATAPI
redis 172.16.199.1:7000>config rewrite
4、client命令测试:
六:python redis cluster的测试:
环境:python3.6.2
centos:6.7
python连接cluster,有redis-py-cluster
python -m pip install redis-py-cluster
1、config.py
# encoding=utf-8
__author__ = ‘river‘
#redis cluster的nodes
REDIS_NODES=[
{‘host‘:‘172.16.199.1‘,‘port‘:7000},
{‘host‘:‘172.16.199.1‘,‘port‘:7001},
{‘host‘:‘172.16.199.1‘,‘port‘:7002},
{‘host‘:‘172.16.199.1‘,‘port‘:7003},
{‘host‘:‘172.16.199.1‘,‘port‘:7004},
{‘host‘:‘172.16.199.1‘,‘port‘:7005}
]
#redis的key的过期时间,单位s
REDIS_EXPIRETIME=1200
REDIS_MAX_CONNECTIONS=50
REDIS_PASSWD=‘CATAPI‘
2、redis-test.py
# encoding=utf-8
__author__ = ‘river‘
from rediscluster import StrictRedisCluster
from app import app
def conredis(app):
redis_nodes = app.config["REDIS_NODES"]
# redis_expiretime=app.config["REDIS_EXPIRETIME"]
maxconnections=app.config["REDIS_MAX_CONNECTIONS"]
redis_password=app.config["REDIS_PASSWD"]
redisClient=None
try:
redisClient = StrictRedisCluster(startup_nodes = redis_nodes,max_connections=maxconnections,password=redis_password)
except Exception as e:
app.logger.error("redis cluster connect error,redis_nodes:"+str(redis_nodes))
redisClient=None
return redisClient
if __name__==‘__main__‘:
redis_expiretime=app.config["REDIS_EXPIRETIME"]
redisClient=conredis(app)
redis_expiretime=app.config["REDIS_EXPIRETIME"]
redisClient.set(‘testkey‘,12,redis_expiretime)
redisClient.incr(‘testkey‘,13)
print(redisClient.get(‘testkey‘))
3、执行结果
本文出自 “H2O's运维&开发路” 博客,转载请与作者联系!
原文地址:http://h2ofly.blog.51cto.com/6834926/1954063