Linux 下 inotify+rsync 文件实时同步

2024-04-07 19:18

本文主要是介绍Linux 下 inotify+rsync 文件实时同步,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、使用背景
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了! 二、相关介绍
Inotify 是一个 Linux 内核特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等(必须有不低于2.6.13的内核版本) rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步 三、环境描述
配置环境:centos 6.5 Rsync版本:rsync-3.0.6
Inotify版本:inotify-tools-3.13 服务器端:192.168.1.3 客户端:192.168.1.4 四、安装与配置rsync
1、安装rsync服务端 yum install rsync xinetd
2、编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、创建rsyncd.conf配置文件 vi /etc/rsyncd.conf 
use chroot=no #默认为true,修改为no,增加对目录文件软连接的备份 max connections=4 #最大连接数位4
pid file=/var/run/rsyncd.pid #pid文件的存放位置 log file=/var/log/rsyncd.log #日志文件的位置
lock file=/var/run/rsync.lock #支持max connections参数的锁文件 [roothome] #自定义名称
uid=root #设置rsync运行权限为root gid=root #设置rsync运行权限为root path=/var/roothome  #rsync服务端数据目录路径 comment=roothome #模块名称与自定义名称相同 ignore errors=yes ·# rsyncd在判断是否运行传输时的删除操作时忽略server上的IO错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题
read only=no #设定是否允许客户上载文件。如果为yes那么任何上载请求都会失败,如果为no并且服务器目录读写权限允许那么上载是允许的。默认值为yes
list=no #用户请求列出可使用的模块列表时,该模块是否被列出 auth users=root #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)
secrets file=/etc/roothome.pass #指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个(例如:/etc/rsyncd.passwd)。注意:该文件的权限一定要是600,否则客户端将不能连接服务器  4、创建用户认证文件  vi /etc/rsync.pass   root:1.q1.q  5、设置文件权限
 
chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限 chmod 600 /etc/roothome.pass  #设置文件所有者读取、写入权限 6、启动rsync
/etc/init.d/xinetd start  #启动 service xinetd stop   #停止 service xinetd restart #重新启动
 
1、 安装rsync客户端
yum install rsync xinetd 
2、 编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、 创建密码认证文件(客户端只需要存在密码)
Vi /etc/roothome.txt 1.q1.q 

测试客户端是否可以向服务器上传数据

五、安装inotify-tools工具,实现rsync实时同步
uname –a #最小2.6.13内核
1、 安装inotify-toolsinotify-tools-3.13.tar.gz
 
yum install make  gcc gcc-c++  #安装编译工具 2、 tar zxvf inotify-tools-3.13.tar.gz  #解压
cd inotify-tools-3.13#进入解压目录
./configure --prefix=/usr/local/inotify  #配置 make  #编译
make install  #安装
3、 设置系统环境变量,添加软连接
echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh source /etc/profile.d/inotify.sh  #使设置立即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf ln -s /usr/local/inotify/include  /usr/include/inotify
4、 修改inotify默认参数(inotify默认内核参数值太小)
修改参数:
sysctl -w fs.inotify.max_queued_events="99999999" sysctl -w fs.inotify.max_user_watches="99999999" sysctl -w fs.inotify.max_user_instances="65535" vi /etc/sysctl.conf #添加以下代码
fs.inotify.max_queued_events=99999999 #inotify队列最大长度 fs.inotify.max_user_watches=99999999  #要同步的文件包含多少目录 fs.inotify.max_user_instances=65535  #每个用户创建inotify实例最大值
5、 创建脚本,实时触发rsync进行同步
rsync.sh
 
 
六、因为在之前的rsync认证过程中使用的是Challenge/Response认证,密码是以明文形式
存储在本地的,因此我们课考虑使用ssh加密认证
在本地使用ssh-keygen命令创建公钥,并使用scp命令上传到服务器(openssh-clients中有scp命令)
但是使用ssh命令的用户必须是服务器端真实存在的用户,减少了灵活性,却增加了安全性



这篇关于Linux 下 inotify+rsync 文件实时同步的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/883438

相关文章

Linux线程之线程的创建、属性、回收、退出、取消方式

《Linux线程之线程的创建、属性、回收、退出、取消方式》文章总结了线程管理核心知识:线程号唯一、创建方式、属性设置(如分离状态与栈大小)、回收机制(join/detach)、退出方法(返回/pthr... 目录1. 线程号2. 线程的创建3. 线程属性4. 线程的回收5. 线程的退出6. 线程的取消7.

Linux下进程的CPU配置与线程绑定过程

《Linux下进程的CPU配置与线程绑定过程》本文介绍Linux系统中基于进程和线程的CPU配置方法,通过taskset命令和pthread库调整亲和力,将进程/线程绑定到特定CPU核心以优化资源分配... 目录1 基于进程的CPU配置1.1 对CPU亲和力的配置1.2 绑定进程到指定CPU核上运行2 基于

golang程序打包成脚本部署到Linux系统方式

《golang程序打包成脚本部署到Linux系统方式》Golang程序通过本地编译(设置GOOS为linux生成无后缀二进制文件),上传至Linux服务器后赋权执行,使用nohup命令实现后台运行,完... 目录本地编译golang程序上传Golang二进制文件到linux服务器总结本地编译Golang程序

Linux下删除乱码文件和目录的实现方式

《Linux下删除乱码文件和目录的实现方式》:本文主要介绍Linux下删除乱码文件和目录的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux下删除乱码文件和目录方法1方法2总结Linux下删除乱码文件和目录方法1使用ls -i命令找到文件或目录

Linux在线解压jar包的实现方式

《Linux在线解压jar包的实现方式》:本文主要介绍Linux在线解压jar包的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux在线解压jar包解压 jar包的步骤总结Linux在线解压jar包在 Centos 中解压 jar 包可以使用 u

linux解压缩 xxx.jar文件进行内部操作过程

《linux解压缩xxx.jar文件进行内部操作过程》:本文主要介绍linux解压缩xxx.jar文件进行内部操作,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、解压文件二、压缩文件总结一、解压文件1、把 xxx.jar 文件放在服务器上,并进入当前目录#

Linux系统性能检测命令详解

《Linux系统性能检测命令详解》本文介绍了Linux系统常用的监控命令(如top、vmstat、iostat、htop等)及其参数功能,涵盖进程状态、内存使用、磁盘I/O、系统负载等多维度资源监控,... 目录toppsuptimevmstatIOStatiotopslabtophtopdstatnmon

在Linux中改变echo输出颜色的实现方法

《在Linux中改变echo输出颜色的实现方法》在Linux系统的命令行环境下,为了使输出信息更加清晰、突出,便于用户快速识别和区分不同类型的信息,常常需要改变echo命令的输出颜色,所以本文给大家介... 目python录在linux中改变echo输出颜色的方法技术背景实现步骤使用ANSI转义码使用tpu

linux hostname设置全过程

《linuxhostname设置全过程》:本文主要介绍linuxhostname设置全过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录查询hostname设置步骤其它相关点hostid/etc/hostsEDChina编程A工具license破解注意事项总结以RHE

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.