标签:实时 3.1 打开 syn 本地磁盘 make 文件 设备 接口
Rsync 概述Rsync 是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,保持链接和权限,且采用优化的同步算法,在传输钱执行压缩,因此非常适用于异地备份、镜像服务器等应用。
Rsync 的官方网站是 http://rsync.samba.org/ ,由 Wayne Davison 进行维护。作为一种最常见的文件备份工具, Rsync 往往是 Linux 和 UNIX 系统默认安装的基本组件之一。
Rsync与传统的cp、tar备份方式相比,具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了!
inotify是一种强大的、细粒度的、异步的文件系统事件监控机制,Linux内核从2.6.13起,加入了inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。
Rsync可以实现触发式的文件同步,但是通过Crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而Inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发Rsync同步,这样刚好解决了同步数据的实时性问题。
主机 | 操作系统 | IP地址 | 用于同步的目录 | 主要软件包 |
---|---|---|---|---|
Server1 | CentOS 7.4 x86_64 | 192.168.125.117 | /test | rsync-3.0.9-18.el7.x86_64、inotify-tools-v3.14-8.le7.x86_64 |
Server2 | CentOS 7.4 x86_64 | 192.168.125.118 | /test | rsync-3.0.9-18.el7.x86_64、inotify-tools-v3.14-8.le7.x86_64 |
在此我们部署服务使主机 Server1 的数据推向主机 Server2 ,而双向同步即在此基础上在主机 Server2 上部署服务使数据推向主机 Server1 。至此,我们只要在两台服务器的任意一台更改数据都会同步到另外一台,从而实现双机同步。
安装Rsync软件包
tar zxvf rsync-3.1.3.tar.gz -C /opt
cd /opt/rsync_3.1.3
./configure
make && make install
修改rsync配置文件
# vim /etc/rsyncd.conf
……省略部分信息……
uid = nobody
gid = nobody
use chroot = yes //禁锢在源目录
address = 192.168.125.117 //监听地址
port 873 //监听端口
log file = /var/log/rsyncd.log //日志文件路径
pid file = /var/run/rsyncd.pid //进程ID文件路径
hosts allow = 192.168.125.0/24 //允许访问的客户机地址
[wwwroot] //共享模块名称
path = /web1/wwwroot //源目录的实际地址
comment = www.wzn.cn
read only = no //是否为只读
dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2 //同步时 不再压缩的文件类型
auth users = web1user //授权账户
secrets file = /etc/rsyncd_users.db //存放账户信息的数据文件
# vim /etc/rsyncd_users.db
backuper:abc123
# chmod 600 /etc/rsyncd_users.db
# mkdir -p /web1/wwwroot
# chmod 777 /web1/wwwroot
# chown -R nobody:nobody /web1/wwwroot
启动rsync,并加入系统自启动文件
# rsync --daemon #运行参数为--daemon
# ps -ef | grep rsync
# echo "/usr/local/bin/rsync --daemon" >> /etc/rc.local
Rsync命令的基本用法
- -a 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD。
- -z 对备份的文件在传输时进行压缩处理。
- -H 保留硬链结。
- -D 保持设备文件信息。
- -A 保留ACL属性信息
- --delete 删除那些目标位置有而原始位置没有的文件。
- --checksum 打开校验开关,强制对文件传输进行校验。
安装inotify-tools(需要gcc、gcc-c++软件包支持)
# tar zxvf inotify-tools-3.14.tar.gz -C /opt
# cd /opt/inotify-tools-3.14
# ./configure
# make && make install
Inotify命令的基本用法
- -m 表示持续监控
- -r 表示递归整个目录
- -q 简化输出信息
- inotifywait 可监控: modify 修改、 create 创建、move 移动、delete 删除
编写shell脚本配置内容发布节点
# vim /web/inotifyrsync.sh
#!/bin/bash
host1=192.168.125.117
src=/web/wwwroot/
dst1=web1
user1=web1user
/usr/local/bin/inotifywait -mrq --timefmt ‘%d/%m/%y %H:%M‘ --format ‘%T %w%f%e‘ -e close_write,delete,create,attrib $src | while read files
do
/usr/bin/rsync -vzrtopg --delete --progress --password-file= /etc/rsyncd_users.db $src $user1@$host1::$dst1 > /dev/null 2>&1
echo "${files} was rsynced." >> /tmp/rsync.log 2>&1
done
chmod 755 /web/inotifyrsync.sh
/web/inotifyrsync.sh &
echo "/web/inotifyrsync.sh &" >> /etc/rc.local
调整inotify内核参数
# vim /etc/sysctl.conf
fs.inotify.max_queued_events = 16384 监控事件队列(16384)
fs.inotify.max_user_instances = 1024 最多监控实例数(1024)
fs.inotify.max_user_watches = 1048576 每个实例最多监控文件数(1048576)
配置 Rsync + inotify 实现文件服务器数据实时双向同步
标签:实时 3.1 打开 syn 本地磁盘 make 文件 设备 接口
原文地址:http://blog.51cto.com/13625676/2288073