Linux 下 inotify+rsync 文件实时同步

2024-04-07 19:18

本文主要是介绍Linux 下 inotify+rsync 文件实时同步,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、使用背景
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
 随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify组合出现了! 二、相关介绍
Inotify 是一个 Linux 内核特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等(必须有不低于2.6.13的内核版本) rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步 三、环境描述
配置环境:centos 6.5 Rsync版本:rsync-3.0.6
Inotify版本:inotify-tools-3.13 服务器端:192.168.1.3 客户端:192.168.1.4 四、安装与配置rsync
1、安装rsync服务端 yum install rsync xinetd
2、编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、创建rsyncd.conf配置文件 vi /etc/rsyncd.conf 
use chroot=no #默认为true,修改为no,增加对目录文件软连接的备份 max connections=4 #最大连接数位4
pid file=/var/run/rsyncd.pid #pid文件的存放位置 log file=/var/log/rsyncd.log #日志文件的位置
lock file=/var/run/rsync.lock #支持max connections参数的锁文件 [roothome] #自定义名称
uid=root #设置rsync运行权限为root gid=root #设置rsync运行权限为root path=/var/roothome  #rsync服务端数据目录路径 comment=roothome #模块名称与自定义名称相同 ignore errors=yes ·# rsyncd在判断是否运行传输时的删除操作时忽略server上的IO错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题
read only=no #设定是否允许客户上载文件。如果为yes那么任何上载请求都会失败,如果为no并且服务器目录读写权限允许那么上载是允许的。默认值为yes
list=no #用户请求列出可使用的模块列表时,该模块是否被列出 auth users=root #指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)
secrets file=/etc/roothome.pass #指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个(例如:/etc/rsyncd.passwd)。注意:该文件的权限一定要是600,否则客户端将不能连接服务器  4、创建用户认证文件  vi /etc/rsync.pass   root:1.q1.q  5、设置文件权限
 
chmod 600 /etc/rsyncd.conf  #设置文件所有者读取、写入权限 chmod 600 /etc/roothome.pass  #设置文件所有者读取、写入权限 6、启动rsync
/etc/init.d/xinetd start  #启动 service xinetd stop   #停止 service xinetd restart #重新启动
 
1、 安装rsync客户端
yum install rsync xinetd 
2、 编辑配置文件,设置开机启动rsync
vi /etc/xinetd.d/rsync    #将disable后的参数改为no 3、 创建密码认证文件(客户端只需要存在密码)
Vi /etc/roothome.txt 1.q1.q 

测试客户端是否可以向服务器上传数据

五、安装inotify-tools工具,实现rsync实时同步
uname –a #最小2.6.13内核
1、 安装inotify-toolsinotify-tools-3.13.tar.gz
 
yum install make  gcc gcc-c++  #安装编译工具 2、 tar zxvf inotify-tools-3.13.tar.gz  #解压
cd inotify-tools-3.13#进入解压目录
./configure --prefix=/usr/local/inotify  #配置 make  #编译
make install  #安装
3、 设置系统环境变量,添加软连接
echo "PATH=/usr/local/inotify/bin:$PATH" >>/etc/profile.d/inotify.sh source /etc/profile.d/inotify.sh  #使设置立即生效
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf ln -s /usr/local/inotify/include  /usr/include/inotify
4、 修改inotify默认参数(inotify默认内核参数值太小)
修改参数:
sysctl -w fs.inotify.max_queued_events="99999999" sysctl -w fs.inotify.max_user_watches="99999999" sysctl -w fs.inotify.max_user_instances="65535" vi /etc/sysctl.conf #添加以下代码
fs.inotify.max_queued_events=99999999 #inotify队列最大长度 fs.inotify.max_user_watches=99999999  #要同步的文件包含多少目录 fs.inotify.max_user_instances=65535  #每个用户创建inotify实例最大值
5、 创建脚本,实时触发rsync进行同步
rsync.sh
 
 
六、因为在之前的rsync认证过程中使用的是Challenge/Response认证,密码是以明文形式
存储在本地的,因此我们课考虑使用ssh加密认证
在本地使用ssh-keygen命令创建公钥,并使用scp命令上传到服务器(openssh-clients中有scp命令)
但是使用ssh命令的用户必须是服务器端真实存在的用户,减少了灵活性,却增加了安全性



这篇关于Linux 下 inotify+rsync 文件实时同步的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/883438

相关文章

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r

linux-基础知识3

打包和压缩 zip 安装zip软件包 yum -y install zip unzip 压缩打包命令: zip -q -r -d -u 压缩包文件名 目录和文件名列表 -q:不显示命令执行过程-r:递归处理,打包各级子目录和文件-u:把文件增加/替换到压缩包中-d:从压缩包中删除指定的文件 解压:unzip 压缩包名 打包文件 把压缩包从服务器下载到本地 把压缩包上传到服务器(zip

Linux 网络编程 --- 应用层

一、自定义协议和序列化反序列化 代码: 序列化反序列化实现网络版本计算器 二、HTTP协议 1、谈两个简单的预备知识 https://www.baidu.com/ --- 域名 --- 域名解析 --- IP地址 http的端口号为80端口,https的端口号为443 url为统一资源定位符。CSDNhttps://mp.csdn.net/mp_blog/creation/editor

【Python编程】Linux创建虚拟环境并配置与notebook相连接

1.创建 使用 venv 创建虚拟环境。例如,在当前目录下创建一个名为 myenv 的虚拟环境: python3 -m venv myenv 2.激活 激活虚拟环境使其成为当前终端会话的活动环境。运行: source myenv/bin/activate 3.与notebook连接 在虚拟环境中,使用 pip 安装 Jupyter 和 ipykernel: pip instal

C#实战|大乐透选号器[6]:实现实时显示已选择的红蓝球数量

哈喽,你好啊,我是雷工。 关于大乐透选号器在前面已经记录了5篇笔记,这是第6篇; 接下来实现实时显示当前选中红球数量,蓝球数量; 以下为练习笔记。 01 效果演示 当选择和取消选择红球或蓝球时,在对应的位置显示实时已选择的红球、蓝球的数量; 02 标签名称 分别设置Label标签名称为:lblRedCount、lblBlueCount

Linux_kernel驱动开发11

一、改回nfs方式挂载根文件系统         在产品将要上线之前,需要制作不同类型格式的根文件系统         在产品研发阶段,我们还是需要使用nfs的方式挂载根文件系统         优点:可以直接在上位机中修改文件系统内容,延长EMMC的寿命         【1】重启上位机nfs服务         sudo service nfs-kernel-server resta

【Linux 从基础到进阶】Ansible自动化运维工具使用

Ansible自动化运维工具使用 Ansible 是一款开源的自动化运维工具,采用无代理架构(agentless),基于 SSH 连接进行管理,具有简单易用、灵活强大、可扩展性高等特点。它广泛用于服务器管理、应用部署、配置管理等任务。本文将介绍 Ansible 的安装、基本使用方法及一些实际运维场景中的应用,旨在帮助运维人员快速上手并熟练运用 Ansible。 1. Ansible的核心概念

Linux服务器Java启动脚本

Linux服务器Java启动脚本 1、初版2、优化版本3、常用脚本仓库 本文章介绍了如何在Linux服务器上执行Java并启动jar包, 通常我们会使用nohup直接启动,但是还是需要手动停止然后再次启动, 那如何更优雅的在服务器上启动jar包呢,让我们一起探讨一下吧。 1、初版 第一个版本是常用的做法,直接使用nohup后台启动jar包, 并将日志输出到当前文件夹n