标签:add 脚本 其他 while data keep roo object als
本文讲述基于zookeeper选主与故障切换的方法。我们的例子使用的是python。
使用的库是kazoo,安装方式
pip install kazoo
应用场景:
1、注册调度器
我们只给出伪代码,简单的打印调度器注册结果。
# -*- coding:utf-8 -*- # 调度器注册和关闭 # 模拟主节点的职责 class MyScheduler(object): # 注册调度器 def init_scheduler(self): print ‘########## 开启调度器成功 ############‘ # 关闭调度器 def stop_scheduler(self): print ‘########## 关闭调度器成功 ############‘
2、选主与故障切换代码
1)使用add_listener注册监听器,监听zookeeper会话超时,Session Expired,否则在会话超时的场景中会出现锁不一致的问题,可以参看这篇文章。
2)向zookeeper注册自己,使用参数makepath=True级联创建节点;使用参数ephemeral=True, sequence=True参数,也就是创建临时有序节点:
3)注册Watcher,观察/dmonitor/master的子节点,当发生以下事件时:
进行重新选主。
# -*- coding:utf-8 -*- import socket import traceback from kazoo.client import KazooClient from kazoo.client import KazooState from MyScheduler import MyScheduler class HAMaster(object): def __init__(self): self.path = ‘/dmonitor/master‘ self.scheduler = MyScheduler() self.zk = KazooClient(‘10.93.21.21:2181,10.93.18.34:2181,10.93.18.35:2181‘, timeout=10) self.zk.start() self.zk.add_listener(self.my_listener) self.is_leader = False def create_instance(self): instance = self.path + ‘/‘ + socket.gethostbyname(socket.gethostname()) + ‘-‘ self.zk.create(path=instance, value="", ephemeral=True, sequence=True, makepath=True) # 选主逻辑: master节点下, 所有ephemeral+sequence类型的节点中, 编号最大的获得领导权. def choose_master(self): print "########## 选主开始 ############" instance_list = self.zk.get_children(path=self.path, watch=self.my_watcher) instance = max(instance_list).split(‘-‘)[0] # 本实例获得领导权 if instance == socket.gethostbyname(socket.gethostname()): if not self.is_leader: self.scheduler.init_scheduler() self.is_leader = True print "######### 我被选为master, 我以前不是master, 注册调度 ##########" else: print "######### 我被选为master, 我以前是master, 不再注册调度 ##########" # 本实例没有获得领导权 else: if self.is_leader: self.scheduler.stop_scheduler() self.is_leader = False print "######### 我被选为slave, 我以前不是slave, 关闭调度 ##########" else: print "######### 我被选为slave, 我以前是slave, 不再关闭调度 ##########" print "########## 选主完成 ############" def my_listener(self, state): if state == KazooState.LOST: print "########## 会话超时:KazooState.LOST ############" while True: try: self.create_instance() self.zk.get_children(path=self.path, watch=self.my_watcher) print "########## 会话超时:重建会话完成! ############" break except Exception, _: traceback.print_exc() elif state == KazooState.SUSPENDED: print "########## 会话超时:KazooState.SUSPENDED ############" elif state == KazooState.CONNECTED: print "########## 会话超时:KazooState.CONNECTED ############" else: print "########## 会话超时:非法状态 ############" def my_watcher(self, event): if event.state == "CONNECTED" and event.type == "CREATED" or event.type == "DELETED" or event.type == "CHANGED" or event.type == "CHILD": print "########## 监听到子节点变化事件 ############" self.choose_master() else: print "########## 监听到未识别的事件 ############"
3、测试一下
测试代码如下
# -*- coding:utf-8 -*- import time from HAMaster import HAMaster ha = HAMaster() # 向zk注册自己 ha.create_instance() # 进行选主 ha.choose_master() while 1: time.sleep(10)
运行这个脚本,模拟如下几个场景:
1)初始选主
顺序在两台机器上启动测试脚本。
client10
[data_monitor@bigdata-arch-client10 zookeeper]$ python run.py
client11
[data_monitor@bigdata-arch-client11 zookeeper]$ python run.py
client10输出
[data_monitor@bigdata-arch-client10 zookeeper]$ python run.py ########## 选主开始 ############ ########## 开启调度器成功 ############ ######### 我被选为master, 我以前不是master, 注册调度 ########## ########## 选主完成 ############ ########## 监听到子节点变化事件 ############ ########## 选主开始 ############ ######### 我被选为master, 我以前是master, 不再注册调度 ########## ########## 选主完成 ############
client11输出
[data_monitor@bigdata-arch-client11 zookeeper]$ python run.py ########## 选主开始 ############ ######### 我被选为slave, 我以前是slave, 不再关闭调度 ########## ########## 选主完成 ############
可以看到,client10倍选为主节点并注册调度器,client11作为slave节点。
2)主实例挂掉
我们把client10上的实例kill掉。
client10上不再输出
client11上总体输出如下
[data_monitor@bigdata-arch-client11 zookeeper]$ python run.py ########## 选主开始 ############ ######### 我被选为slave, 我以前是slave, 不再关闭调度 ########## ########## 选主完成 ############ ########## 监听到子节点变化事件 ############ ########## 选主开始 ############ ########## 开启调度器成功 ############ ######### 我被选为master, 我以前不是master, 注册调度 ########## ########## 选主完成 ############
可以看到监听到节点的变化,并进行了重新选主,client11被选为主节点(只剩他了)并注册了调度器。
tips:观察到节点变化的实效性是通过timeout=10参数控制的,也就是超过10s session不能维持就会认为实例挂了,zookeeper会删除节点。
标签:add 脚本 其他 while data keep roo object als
原文地址:http://www.cnblogs.com/kangoroo/p/7667293.html