Linux 下 inotify+rsync 文件实时同步

2024-04-07 19:18

本文主要是介绍Linux 下 inotify+rsync 文件实时同步,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、使用背景
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了! 二、相关介绍
Inotify 是一个 Linux 内核特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等(必须有不低于2.6.13的内核版本) rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步 三、环境描述
配置环境:centos 6.5 Rsync版本:rsync-3.0.6
Inotify版本:inotify-tools-3.13 服务器端:192.168.1.3 客户端:192.168.1.4 四、安装与配置rsync
1、安装rsync服务端 yum install rsync xinetd
2、编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、创建rsyncd.conf配置文件 vi /etc/rsyncd.conf 
use chroot=no #默认为true,修改为no,增加对目录文件软连接的备份 max connections=4 #最大连接数位4
pid file=/var/run/rsyncd.pid #pid文件的存放位置 log file=/var/log/rsyncd.log #日志文件的位置
lock file=/var/run/rsync.lock #支持max connections参数的锁文件 [roothome] #自定义名称
uid=root #设置rsync运行权限为root gid=root #设置rsync运行权限为root path=/var/roothome  #rsync服务端数据目录路径 comment=roothome #模块名称与自定义名称相同 ignore errors=yes ·# rsyncd在判断是否运行传输时的删除操作时忽略server上的IO错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题
read only=no #设定是否允许客户上载文件。如果为yes那么任何上载请求都会失败,如果为no并且服务器目录读写权限允许那么上载是允许的。默认值为yes
list=no #用户请求列出可使用的模块列表时,该模块是否被列出 auth users=root #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)
secrets file=/etc/roothome.pass #指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个(例如:/etc/rsyncd.passwd)。注意:该文件的权限一定要是600,否则客户端将不能连接服务器  4、创建用户认证文件  vi /etc/rsync.pass   root:1.q1.q  5、设置文件权限
 
chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限 chmod 600 /etc/roothome.pass  #设置文件所有者读取、写入权限 6、启动rsync
/etc/init.d/xinetd start  #启动 service xinetd stop   #停止 service xinetd restart #重新启动
 
1、 安装rsync客户端
yum install rsync xinetd 
2、 编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、 创建密码认证文件(客户端只需要存在密码)
Vi /etc/roothome.txt 1.q1.q 

测试客户端是否可以向服务器上传数据

五、安装inotify-tools工具,实现rsync实时同步
uname –a #最小2.6.13内核
1、 安装inotify-toolsinotify-tools-3.13.tar.gz
 
yum install make  gcc gcc-c++  #安装编译工具 2、 tar zxvf inotify-tools-3.13.tar.gz  #解压
cd inotify-tools-3.13#进入解压目录
./configure --prefix=/usr/local/inotify  #配置 make  #编译
make install  #安装
3、 设置系统环境变量,添加软连接
echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh source /etc/profile.d/inotify.sh  #使设置立即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf ln -s /usr/local/inotify/include  /usr/include/inotify
4、 修改inotify默认参数(inotify默认内核参数值太小)
修改参数:
sysctl -w fs.inotify.max_queued_events="99999999" sysctl -w fs.inotify.max_user_watches="99999999" sysctl -w fs.inotify.max_user_instances="65535" vi /etc/sysctl.conf #添加以下代码
fs.inotify.max_queued_events=99999999 #inotify队列最大长度 fs.inotify.max_user_watches=99999999  #要同步的文件包含多少目录 fs.inotify.max_user_instances=65535  #每个用户创建inotify实例最大值
5、 创建脚本,实时触发rsync进行同步
rsync.sh
 
 
六、因为在之前的rsync认证过程中使用的是Challenge/Response认证,密码是以明文形式
存储在本地的,因此我们课考虑使用ssh加密认证
在本地使用ssh-keygen命令创建公钥,并使用scp命令上传到服务器(openssh-clients中有scp命令)
但是使用ssh命令的用户必须是服务器端真实存在的用户,减少了灵活性,却增加了安全性



这篇关于Linux 下 inotify+rsync 文件实时同步的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/883438

相关文章

Linux内核之内核裁剪详解

《Linux内核之内核裁剪详解》Linux内核裁剪是通过移除不必要的功能和模块,调整配置参数来优化内核,以满足特定需求,裁剪的方法包括使用配置选项、模块化设计和优化配置参数,图形裁剪工具如makeme... 目录简介一、 裁剪的原因二、裁剪的方法三、图形裁剪工具四、操作说明五、make menuconfig

Linux使用nohup命令在后台运行脚本

《Linux使用nohup命令在后台运行脚本》在Linux或类Unix系统中,后台运行脚本是一项非常实用的技能,尤其适用于需要长时间运行的任务或服务,本文我们来看看如何使用nohup命令在后台... 目录nohup 命令简介基本用法输出重定向& 符号的作用后台进程的特点注意事项实际应用场景长时间运行的任务服

什么是cron? Linux系统下Cron定时任务使用指南

《什么是cron?Linux系统下Cron定时任务使用指南》在日常的Linux系统管理和维护中,定时执行任务是非常常见的需求,你可能需要每天执行备份任务、清理系统日志或运行特定的脚本,而不想每天... 在管理 linux 服务器的过程中,总有一些任务需要我们定期或重复执行。就比如备份任务,通常会选在服务器资

Linux限制ip访问的解决方案

《Linux限制ip访问的解决方案》为了修复安全扫描中发现的漏洞,我们需要对某些服务设置访问限制,具体来说,就是要确保只有指定的内部IP地址能够访问这些服务,所以本文给大家介绍了Linux限制ip访问... 目录背景:解决方案:使用Firewalld防火墙规则验证方法深度了解防火墙逻辑应用场景与扩展背景:

Linux下MySQL8.0.26安装教程

《Linux下MySQL8.0.26安装教程》文章详细介绍了如何在Linux系统上安装和配置MySQL,包括下载、解压、安装依赖、启动服务、获取默认密码、设置密码、支持远程登录以及创建表,感兴趣的朋友... 目录1.找到官网下载位置1.访问mysql存档2.下载社区版3.百度网盘中2.linux安装配置1.

Linux使用粘滞位 (t-bit)共享文件的方法教程

《Linux使用粘滞位(t-bit)共享文件的方法教程》在Linux系统中,共享文件是日常管理和协作中的常见任务,而粘滞位(StickyBit或t-bit)是实现共享目录安全性的重要工具之一,本文将... 目录文件共享的常见场景基础概念linux 文件权限粘滞位 (Sticky Bit)设置共享目录并配置粘

Nacos集群数据同步方式

《Nacos集群数据同步方式》文章主要介绍了Nacos集群中服务注册信息的同步机制,涉及到负责节点和非负责节点之间的数据同步过程,以及DistroProtocol协议在同步中的应用... 目录引言负责节点(发起同步)DistroProtocolDistroSyncChangeTask获取同步数据getDis

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r