LVS+Keepalived负载均衡高可用如此简单？

标签：负载   nginx   keepalived   

     今天简单写下lvs+keepalive实现负载均衡和高可用的功能，仅供参考！关于它们的详细介绍这里就不描述了，大家可以自行搜索下！

     lvs+keepalived网络拓扑图：

一、准备一个vip和4台虚拟机：

二、安装准备工作

lsmod|grep ip_vs
cat /etc/redhat-release
uname –rm
ln –s /usr/src/kernels/内核版本  /usr/src/linux
ln -s /usr/src/kernels/2.6.32-504.12.2.el6.x86_64/ /usr/src/linux
#若tab没有内核版本号出来，安装kernel-devel
yum install kernel-devel  libnl* popt* –y

#ipvsadm下载地址(注意版本)

http://www.linuxvirtualserver.org/software/ipvs.html

#安装LVS命令

tar zxvf ipvsadm-1.26.tar.gz
cd ipvsadm-1.26
make && make install
#将ipvsadm加入内核模块的方法有以下两种
modprobe ip_vs
/sbin/ipvsadm
#查看下是否加载成功，若有以下内容表示安装成功
[root@php ipvsadm-1.26]# lsmod |grep ip_vs
ip_vs                 125694  0 
libcrc32c               1246  1 ip_vs
ipv6                  334932  25 ip_vs

三、LB添加LVS转发

1.如果有域名的话，将域名解析到公网IP

2.配置LVS虚拟IP，就是我们所谓的VIP

ifconfig eth0:0 192.168.1.100/24 up
route add -host 192.168.1.100 dev eth0

3.检查结果

ifconfig
eth0:0    Link encap:Ethernet  HWaddr 08:00:27:03:F9:0D  
inet addr:192.168.1.100  Bcast:192.168.1.255  Mask:255.255.255.0
UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1

4.配置添加LVS服务并添加RS

  在这里，有必要介绍下添加集群服务的规则：

  格式： ipvsadm -A|E -t|u|f service-address [-s scheduler]

  参数：

[-p [timeout]] [-M netmask]

-A：                  表示添加一个新的集群服务(add)

-E：                  编辑一个集群服务(edit)

-t：                  表示tcp协议(tcp)

-u：                  表示udp协议(udp)

-f：                  表示firewall-Mark,防火墙标记(firewall)

service-address：     集群服务的IP地址，即VIP

-s                    指定调度算法

-p                    持久连接时长，如#ipvsadm -Lcn ，查看持久连接状态

-M                    定义掩码(netmask)

ipvsadm -D -t|u|f service-address      删除一个集群服务(delete)

ipvsadm -C                             清空所有的规则(clean)

ipvsadm -R                             重新载入规则(reload)

ipvsadm -S [-n]                        保存规则(save)

向集群服务添加RealServer规则：

  添加RealServer规则

  格式：ipvsadm -a|e -t|u|f service-address -r server-address

  参数：

  [-g|i|m] [-w weight]

-a                 添加一个新的realserver规则

-e                 编辑realserver规则

-t                 tcp协议

-u                 udp协议

-f                 firewall-Mark，防火墙标记

service-address    realserver的IP地址(真实服务器的IP)

-g                表示定义为LVS-DR模型

-i                 表示定义为LVS-TUN模型

-m               表示定义为LVS-NAT模型

-w                定义权重，后面跟具体的权值

ipvsadm -d -t|u|f service-address -r server-address          --删除一个realserver

#设置超时(可选)
ipvsadm --set 30 5 60
#添加一个实例(类似虚拟主机)用-A
ipvsadm -A -t 192.168.1.100:80 -s wrr –p 20
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.11 -g -w 1
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.12 -g -w 1

5.检查结果

ipvsadm -L

四、LB删除LVS方法

#删除virtual server用ipvsadm –D
ipvsadm –D –t 192.168.1.10 –s wrr
#删除节点用ipvsadm -d
ipvsadm -d -t 192.168.1.100:80 -r 192.168.1.12:80

五、RS配置lo,并且绑定vip

ifconfig lo:0 192.168.1.100/32 up
route add –host 192.168.1.100 dev lo

 1.RS端抑制arp广播

echo "1" > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" > /proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" > /proc/sys/net/ipv4/conf/all/arp_announce

六、KeepAlived服务高可用

安装方法一：
yum install openssl* -y
yum install kernel-devel  libnl* popt* –y
ln -s /usr/src/kernels/2.6.32-504.8.1.el6.x86_64/ /usr/src/linux
tar zxvf keepalived-1.1.19.tar.gz
cd keepalived-1.1.19
./configure
make && make install

安装方法二：
tar zxvf keepalived-1.1.19.tar.gz
cd keepalived-1.1.19
./configure --mandir=/usr/loacl/share/man --with-kernel-dir=/usr/src/kernels/2.6.32-504.8.1.el6.x86_64/
make && make install

操作命令：

/bin/cp /usr/local/etc/rc.d/init.d/keepalived /etc/init.d/
/bin/cp /usr/local/etc/sysconfig/keepalived /etc/sysconfig/
mkdir /etc/keepalived –p
/bin/cp /usr/local/etc/keepalived/keepalived.conf /etc/keepalived/
/bin/cp /usr/local/sbin/keepalived /usr/sbin/
/etc/init.d/keepalived start
[root@apache ~]# /etc/init.d/keepalived start
Starting keepalived:                                       [  OK  ]
[root@apache ~]#ps -ef|grep keep
root      2864     1  0 07:58 ?        00:00:00 keepalived -D
root      2866  2864  0 07:58 ?        00:00:00 keepalived -D
root      2867  2864  0 07:58 ?        00:00:00 keepalived -D
root      2871  1101  0 07:58 pts/0    00:00:00 grep keep
[root@apache ~]# /etc/init.d/keepalived stop  =è成功后停止keepalived服务
Stopping keepalived:                                       [  OK  ]

七、在主(master)keepalived配置keepalived.conf配置文件

! Configuration File for keepalived
 
global_defs {
   notification_email {
   291406980@qq.com
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1
   smtp_connect_timeout 30
   router_id LVS_7
}
 
vrrp_instance VI_1 {
    state MASTER  #因为这里是主，所以选用MASTER                    
    interface eth0
    virtual_router_id 55
    priority 150  #这个值一定要比从(slave)的大
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress { 
        192.168.1.100/24  #vip
    }
}

八、在从（slave）的keepalived配置keepalived.conf文件

! Configuration File for keepalived
global_defs {
   notification_email {
   291406980@qq.com
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 10.0.0.1
   smtp_connect_timeout 30
   router_id LVS_2
}
vrrp_instance VI_1 {
    state BACKUP     #这里是从(slave)，选用BACKUP
    interface eth0
    virtual_router_id 55
    priority 100     #这个值小于主(master)的150
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    virtual_ipaddress {
        192.168.1.100/24  #vip
    }
}

 九、最后主从都需重启keepalived

/etc/init.d/keepalived start

    我这里分别是两个站点：apache和nginx！在输入192.168.1.100这个vip的时候，会调度到不同的站点上面！以下是截图：

十、LVS集群分发请求RS负载不均的问题

主要有以下几点：

  1.会话保持的原因，尽量不要在负载均衡器上做会话保持

  2.LVS自身的会话保持参数设置问题，要优化，尽量用cookies或者session替代

  3.LVS调度算法设置问题，例如rr wrr wlc lc 算法

  4.后端RS节点的会话保持参数，例如apache的keealive参数

  5.访问量少的情况，不均衡的现象比较明显

  6.用户发送的请求时间长短，和请求资源多少有关

本文出自 “梁恩宇-9527” 博客，请务必保留此出处http://liangey.blog.51cto.com/9097868/1631056

LVS+Keepalived负载均衡高可用如此简单？

标签：负载   nginx   keepalived   

原文地址：http://liangey.blog.51cto.com/9097868/1631056