码迷,mamicode.com
首页 > 数据库 > 详细

Mysql主从复制、读写分离工作原理+配置

时间:2014-08-20 14:29:02      阅读:367      评论:0      收藏:0      [点我收藏+]

标签:mysql   同步   主从复制   读写分离   

Mysql Replication 是一个异步的复制过程,从一个 Mysql instace(我们称之为 Master)复制到另一个 Mysqlinstance(我们称之 Slave)。在 Master Slave 之间的实现整个复制过程主要由三个线程来完成,其中两个线程(Sql线程和IO线程) Slave 端,另外一个线程(IO线程) Master 端。

          MySQL 复制的基本过程如下:

1. Slave 上面的IO线程连接上 Master,并请求从指定日志文件的指定位置(或者从最开始的日志)之后的日志内容;

2. Master 接收到来自 Slave IO 线程的请求后,通过负责复制的 IO 线程根据请求信息读取指定日志指定位置之后的日志信息,返回给 Slave 端的 IO 线程。返回信息中除了日志所包含的信息之外,还包括本次返回的信息在 Master 端的 BinaryLog 文件的名称以及在 Binary Log 中的位置;

3. Slave IO 线程接收到信息后,将接收到的日志内容依次写入到 Slave 端的Relay Log文件(mysql-relay-bin.xxxxxx)的最末端,并将读取到的Master端的bin-log的文件名和位置记录到master- info文件中,以便在下一次读取的时候能够清楚的高速Master“我需要从某个bin-log的哪个位置开始往后的日志内容,请发给我

4. Slave SQL 线程检测到 Relay Log 中新增加了内容后,会马上解析该 Log 文件中的内容成为在 Master 端真实执行时候的那些可执行的 Query 语句,并在自身执行这些 Query。这样,实际上就是在 Master 端和 Slave 端执行了同样的 Query,所以两端的数据是完全一样的。


bubuko.com,布布扣


  • Mysql主从复制类型(Binlog二进制日志的格式)

Binlog_format = statement

根据sql语句进行复制,在slave端执行相同的sql语句(如在语句中有时间类型的函数或者有随机函数的时候,slave(从)服务器执行相同语句的时候就会产生问题,因为在进行主从复制的时候,会有延迟,有时候延迟时间长短不一,这个时候在从服务器执行相同的语句,可能会得到不同的值,从而导致主从服务器数据不同步的情况)

Binlog format = row

日志中记录每一行数据被修改的形式,然后在slave端执行相同的数据修改(row格式只是根据结果来进行更新,这样就避免了出现时间类函数或随机函数的情况,缺点:在进行大部分数据更新的时候,数据的每一次改变都会记录到日志里面,所以日志会变得非常大,导致日志过大的情况)

Binlog format = mixed (默认)

根据具体的sql语句来选择日志的记录形式(这种格式的特点:如果没有时间类型的函数和随机函数的时候,一般会选择statement,如果有随机函数和日期类函数的时候,就会选择row格式,所以大部分情况下都会选择灵活的mixed格式)


  • mysql主从复制实验拓扑图

bubuko.com,布布扣


  • 配置步骤

1、       安装mysql服务器软件

2、       Mysql基本配置

3、       配置mysql主从服务器

1主(master)


Vim  /etc/my.cnf

 [mysql]

socket          = /tmp/mysql.sock

 

[mysqld]

User         = mysql

port            = 3306

socket          = /tmp/mysql.sock

server-id       = 1     //主从服务器中服务器id不能相同

log-bin=mysql-bin  //日志名字

binlog_format=mixed

datadir= /usr/local/mysql/var

basedir= /usr/local/mysql

slave_skip_errors = off    //主从复制的时候是否开启错误跳过的功能,这一项不建议开启,如开启的话,在复制数据的过程中就会忽略错误,可能会造成数据不同步的情况,数据丢失等等

binlog_do_db= sxjy         //  复制的数据库

binlog_do_db= test        //  复制的数据库

binlog_ignore_db = mysql  //忽略的数据库(不进行复制的数据库)这样有种缺陷,进入mysql数据库往数据库(sxjy的t1表)里插入数据 insert into sxjy.t1 values(4,‘blue‘);  将不会更新到日志里(show masterlogs; show binlog events in ‘mysql- bin.000031‘;),所以也不会更新到从服务器,导致数据不同步

log_error= /var/log/mysql/mysql-error.log


 

注:socket          = /tmp/mysql.sock

      datadir = /usr/local/mysql/var

       log_error =/var/log/mysql/mysql-error.log

这三个目录需要有进行写操作,所以都要执行chown –R  mysql:mysql  $dir

service mysqld start(启动数据库)

登录数据库

Showdatabases


2主/从(master/slave)


Vim  /etc/my.cnf

 [mysql]

socket          =/tmp/mysql.sock

[mysqld]

User                        =mysql

port            = 3306

socket          =/tmp/mysql.sock

server-id       = 2      //主从服务器中服务器id不能相同

log-bin=mysql-bin  //日志名字

binlog_format=mixed

datadir = /usr/local/mysql/var

basedir = /usr/local/mysql

slave_skip_errors = off   //主从复制的时候是否开启错误跳过的功能,这一项不建议开启,如开启的话,在复制数据的过程中就会忽略错误,可能会造成数据不同步的情况,数据丢失等等

binlog_do_db = sxjy        //  复制的数据库

binlog_do_db = test       //  复制的数据库

binlog_ignore_db = mysql //忽略的数据库(不进行复制的数据库)这样有种缺陷,进入mysql数据库往数据库(sxjy的t1表)里插入数据 insert into sxjy.t1 values(4,‘blue‘);  将不会更新到日志里(show masterlogs; show binlog events in ‘mysql- bin.000031‘;),所以也不会更新到从服务器,导致数据不同步

replicate_do_db = sxjy

replicate_do_db = test

replicate_ignore_db = mysql

log_slave_updates = on   //当设置log_slave_updates时,你可以让slave扮演其它slave的master。此时,slave把SQL线程执行的事件写进行自己的二进制日志(binary log),然后,它的slave可以获取这些事件并执行它)。    

read_only = yes

log_error = /var/log/mysql/mysql-error.log



servicemysqld start(启动数据库)


3、从(slave)

Vim  /etc/my.cnf

[mysql]

socket          =/tmp/mysql.sock

[mysqld]
port            = 3306
socket          = /tmp/mysql.sock
server-id       = 3
log-bin=mysql-bin  //日志名字
binlog_format=mixed
datadir = /usr/local/mysql/var
basedir = /usr/local/mysql
slave_skip_errors = off
replicate_do_db = sxjy
replicate_do_db = test
replicate_ignore_db = mysql
read_only = on
log_error = /var/log/mysql/mysql-error.log


servicemysqld start(启动数据库)



4、服务器授权及定义主从服务器操作

主(master)

登录mysql服务

①mysql>grant replication slave on *.* to ‘test‘@‘172.16.0.242‘ identified by ‘password‘;   //在master上为slave添加一个同步账号,授权从服务器test帐号密码复制主服务器数据

mysql> flush privileges; //刷新权限

mysql>show master status\G   //查看主服务器状态




bubuko.com,布布扣


主/从(master/slave)

①mysql>grant replication slave on *.* to ‘test‘@‘172.16.0.242‘ identified by ‘password‘;   //在master上为slave添加一个同步账号,授权从服务器test帐号密码复制主服务器数据

mysql> flush privileges; //刷新权限

mysql>change master to  master_host=’172.16.0.241’,master_user=’test’,master_password=’123456’,master_log_file=’sxjy-bin.000003’,master_log_pos=120,master_port=3306;                 //对于从              服务器来说需要设置主服务器的信息

mysql> flush privileges; //刷新权限

mysql>Start slave;       //启动从服务

mysql>Show slave satus\G


Slave_IO_Running:YES

Slave_SQL_Running:YES    //表示从服务器slave的I/O和SQL线程都已经开始运行


bubuko.com,布布扣


从(slave)

mysql>change master tomaster_host=’172.16.0.242’,master_user=’test’,master_password=’123456’,master_log_file=’sxjy-bin.000001’,master_log_pos=120,master_port=3306;

mysql>Start slave;       //启动从服务

mysql>Show slave satus\G


前面配置有种缺陷,进入mysql数据库往数据库(sxjy的t1表)里插入数据 insert into sxjy.t1 values(4,‘blue‘);  将不会更新到日志里(show masterlogs; show binlog events in ‘mysql- bin.000031‘;),所以也不会更新到从服务器,导致数据不同步,方案二会解决这个问题


方案二
主(master)
[mysqld]
port            = 3306
socket          = /tmp/mysql.sock
server-id       = 1
log-bin=mysql-bin  //日志名字
binlog_format=mixed
datadir = /usr/local/mysql/var
basedir = /usr/local/mysql
slave_skip_errors = off
#binlog_do_db = sxjy    //注释掉
#binlog_do_db = test    //  注释
#binlog_ignore_db = mysql    //  注释
log_error = /var/log/mysql/mysql-error.log
[mysql]
socket          =/tmp/mysql.sock
[mysqld]
User                 =mysql
port            = 3306
socket          =/tmp/mysql.sock
server-id       = 2      //主从服务器中服务器id不能相同
log-bin=mysql-bin  //日志名字
binlog_format=mixed
datadir = /usr/local/mysql/var
basedir = /usr/local/mysql
slave_skip_errors = off   
#binlog_do_db = sxjy        //  注释
#binlog_do_db = test       //  注释
#binlog_ignore_db = mysql //  注释
#replicate_do_db = sxjy    //  注释
#replicate_do_db = test    //  注释
#replicate_ignore_db = mysql  //  注释
replicate_wild_do_table =sxjy.%
replicate_wild_do_table =test.% 
replicate_wild_ignore_table =mysql.%
log_slave_updates = on    
read_only = yes
log_error = /var/log/mysql/mysql-error.log

从(slave)
[mysqld]
port            = 3306
socket          = /tmp/mysql.sock
server-id       = 2
log-bin=mysql-bin  //日志名字
binlog_format=mixed
server-id       = 3
datadir = /usr/local/mysql/var
basedir = /usr/local/mysql
slave_skip_errors = off
#replicate_do_db = sxjy         //注释掉
#replicate_do_db = test    //注释掉
#replicate_ignore_db = mysql    //注释掉
replicate_wild_do_table = sxjy.%
replicate_wild_do_table = test.%
replicate_wild_ignore_table = mysql.%
log_slave_updates = on
read_only = on
log_error = /var/log/mysql/mysql-error.log


   测试mysql主从架构

主服务器上创建数据库sxjy

Mysql>Create database sxjy default character set utf8

Mysql>Use sxjyn;

Mysql>create table t1(id int primary key auto_increment,name varchar(20)) auto_incremennt=1;

Mysql>insert into t1 values(1,‘black‘);

Mysql>select *  from  t1;

从服务器上查看数据库是否创建并同步



     已有数据主从复制

导入导出数据方式:
①flush tables with read lock;    //主服务器上进行所标操作,由于导入导出数据时有时间差,防止主服务器写入新的数据,导致主从服务器数据不一致的情况; 这个锁表语句进行锁表只在当前会话下生效,退出则失效,所以需要另外开启连接一个终端进行数据库导出工作

mysqldump u root databaseses sxjy test > /mydata.sql    //将sxjy和test两个数据库导入到mydata.sql文件中

scp /mydata.sql root@172.16.0.243:/             //将导出的数据传输到从服务器的/目录下,如果更改了ssh的默认端口则需要-P  ,如scp P35612  /mydata.sql root@172.16.0.243:/  

需要主从服务器都要有scp命令 ,如从服务器没有则报错bash: scp: command notfound ,需要在从服务器yum installopenssh-clients  安装

mysql u root p </mydata.sql     //从服务器上执行数据库导入操作,查看从服务器数据表信息与主服务器是否一致

(主/从)服务器上重新设置一下主服务器的相关信息 mysql> change master tomaster_host=172.16.0.241,master_user=test,master_password=123456,master_log_file=sxjy-bin.000004,master_log_pos=1484,master_port=3306;

授权:Mysql>grant replication slave on *.* to test@172.16.0.243identifiedby 123456;

         Mysql>flush privileges;          //只做从服务器不需要授权其它主机

设置完成后再重新验证主从数据是否会同步



日志文件方式导入数据:在主服务器记录了二进制日志的情况下,可直接在从服务器上设置下就行,优点:不需要锁表,缺点:效率没有导入数据高,特别是数据量非常大的时候,

从服务器上将mysql服务停掉,删除mysql的数据文件/usr/local/mysql/var/*   ;

/usr/local/mysql/bin/mysql_install_db  --user=mysql     //重新创建授权表(数据库)

启动mysql 服务器

Mysql>stop slave;

Mysql> change master to master_host=172.16.0.242,master_user=test,master_password=123456,master_log_file=sxjy-bin.000001,master_log_pos=1,master_port=3306;   //从第一个日志开始写,位置为1或120 都行

Mysql>start slave;

Mysql> show slave status\G


二进制日志进行数据恢复:

mysqlbinlog--start-position=120 --stop-position=600 sxjy-bin.000001   //可查看二进制文件内容 , --start-position表示开始位置,--stop-position=600表示结束位置

Mysql>show master logs;    //二进制文件信息

Mysql>show binlog events in sxjy-bin.000001  //文件具体内容,这样查看相对mysqlbinlog查看更加明了

mysqlbinlog start-datetime 2014-03-1415:50:00”—stop-datetime 2014-03-14 16:00:00sxjy-bin.000001 | mysql u root p         //进行二进制日志数据恢复,前提是导入的数据库和表都要存在



   配置mysql读写分离服务器

利用mysql-proxy实现读写分离,已经编译好了的二进制包,不需要进行编译

官网下载:http://dev.mysql.com/downloads/mysql-proxy/

[root@localhost src]# tar -zxvf mysql-proxy-0.8.4-linux-el6-x86-64bit.tar.gz

[root@localhost src]#mv mysql-proxy-0.8.4-linux-el6-x86-64bit.tar.gz/usr/local/mysql-proxy

[root@localhost bin]# cd /usr/local/mysql-proxy/bin

bubuko.com,布布扣


创建一个mysql-proxy的配置文件

[root@localhost bin]# vim /etc/myproxy.cnf

[mysql-proxy]                                              //必须要以这个开头

plugin-dir= /usr/local/mysql-proxy/lib/mysql-proxy/plugins         //指定插件的目录

plugins =proxy,admin                                                      //插件的名称

proxy-address= 172.16.0.244:3306                   //代理服务器的地址和端口号

proxy-backend-addresses=172.16.0.241:3306           //主服务器地址和端口号

proxy-read-only-backend-addresses= 172.16.0.242:3306  //从服务器地址和端口号

proxy-read-only-backend-addresses= 172.16.0.243:3306 

proxy-lua-script =/usr/local/mysql-proxy/share/doc/mysql-proxy/rw-splitting.lua      //读写分离时的脚本程序的目录

daemon =true                                   //使用守护进程的方式运行mysql-proxy

keepalive = true                                       //mysql-proxy因某些原因停止的时候,可以重新启动

user = mysql                                      //启动mysql-proxy的用户名称

pid-file = /var/run/myproxy/myproxy.pid            //进程文件路径及名称

log-level= warning                              //指定日志的记录位置

log-file = /var/log/myproxy/mysql-proxy.log            

max-open-files= 2048                               //可以打开的最大文件数量

event-threads= 16                              //mysql打开的线程数量

proxy-connect-timeout= 3                         //单位s

proxy-read-timeout= 120                           //单位s

proxy-write-timeout= 120                          //单位s

admin-username= admin                           //设置mysql-proxy的管理的用户名

admin-password= lvlan

admin-lua-script= /usr/local/mysql-proxy/lib/mysql-proxy/lua/admin.lua   //mysql-proxy的管理的脚本


注:log-filepid-file设定的目录要存在,而且所有者设置为mysql


启动mysql-proxy服务

[root@localhostbin]# ./mysql-proxy --defaults-file=/etc/myproxy.cnf

查看端口是否监听

bubuko.com,布布扣


主从服务器授权(172.16.0.241172.16.0.242172.16.0.243都要授权)

mysql>grant all on *.* to ‘root‘@‘%‘ identified by ‘123456‘

mysql>flush privileges



测试mysql读写分离

 

测试读:

主从服务器数据设置为不一致

客户端登录代理服务器:[root@station ~]#/usr/local/mysql/bin/mysql -u root -p –h 172.16.0.244

查看数据,开启四个终端查询数据,根据数据显示得知都是从主服务器上获得的,并没有在从服务器上查询,原因如下:

[root@localhost mysql-proxy]#cd /usr/local/mysql-proxy/share/doc/mysql-proxy

[root@localhost mysql-proxy]# vim rw-splitting.lua

bubuko.com,布布扣

min_idle_connections = 4,    //最小连接数超过4个的时候才进行读写分离

max_idle_connections = 8,    //最大连接数为8


为了试验测试方便,将设置min_idle_connections = 1max_idle_connections = 1

[root@localhost mysql-proxy]# killall -9 mysql-proxy            //杀掉mysql-proxy所有进程

[root@localhost bin]# ./mysql-proxy --defaults-file=/etc/myproxy.cnf    // 重新启动

[root@localhost bin]# lsof –i:3306                      //查看监听状态

[root@localhost bin]#lsof –i:4041


测试写:

客户端登录代理服务器插入数据:[root@station ~]# /usr/local/mysql/bin/mysql -u root -p –h172.16.0.244  -e “insert into sxjy .t1values(11,’beautiful’)”

主从服务器将都会有这个数据


登录读写分离服务器的管理账号

[root@localhostbin]# /usr/local/mysql/bin/mysql -u admin -p -h 172.16.0.244 --port=4041 //管理账号及密码都在/etc/myproxy.cnf 里面设置好的

mysql> select *from backends;                           //查询


bubuko.com,布布扣


之前我在master(linux)机上写insert语句,发现同步是没问题的,后来我在window上用一个mysql客户端插入数据,上面的问题就开始出现了。通过mysqlbinlog查看slave日志发现

       [Warning] Slave: Character set ‘#28‘ is not a compiled character set andis not specified in the ‘/usr/local/mysql/share/mysql/charsets/Index.xml‘ fileError_code: 22

 

应该是mysql字符集的问题,但是在网上查找资料还木有解决  ~~~~(>_<)~~~~ 


本文出自 “啦啦” 博客,请务必保留此出处http://lvlan.blog.51cto.com/4864115/1542367

Mysql主从复制、读写分离工作原理+配置,布布扣,bubuko.com

Mysql主从复制、读写分离工作原理+配置

标签:mysql   同步   主从复制   读写分离   

原文地址:http://lvlan.blog.51cto.com/4864115/1542367

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!