bash命令: logrotate的使用

2023-12-13 22:44
文章标签 使用 命令 bash logrotate

本文主要是介绍bash命令: logrotate的使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. 概述

Linux服务器上运行的程序都会通过日志来告知外部自己的运行过程、结果以及遇到的问题,随着日志的不断累计,它会变的越来越大,所以常见的方案是根据时间或者日志文件的大小,对日志文件进行轮转,比如Java程序里使用Log4j按天创建日志文件,不过很多Linux程序并没有提供这样的能力,logrotate就是问了解决这个问题而诞生的。

logrotate通过crontab驱动,主要配置文件为/etc/logrotate.conf及它引用的/etg/logrotate.d,自动新增新的日志文件,重命名老的日志文件。

程序已经打开日志文件,文件句柄不变的情况下,即使文件被重命名,程序还是往就的日志文件里写。

有两种方式让程序切换文件:

  • 通过kill -HUP给程序发信号重新打开文件
  • 通过logrotate设置copytruncate,不重命名文件,是通过拷贝当前文件并存档,然后清空当前文件来实现
2. 安装和配置
1. 安装
yum search logrotate
yum install -y logrotate.x86_64
2. 配置文件说明
# cat /etc/logrotate.conf# 以下是默认设置,用户设置值会覆盖默认值weekly                     # 默认,一周执行一次rotate
rotate 4                   # 保留多少个日志文件,默认4个.
create                     # 自动创建新的日志文件
dateext                    # 切割后文件名以当前日期结尾,如xxx.log-20190520这样;默认以数字结尾,如xxx.log-1
compress                   # 是否通过gzip压缩,如xxx.log-20190520.gz,默认不压缩include /etc/logrotate.d   # 将 /etc/logrotate.d/ 目录中的所有文件都加载进来/var/log/wtmp {            # 仅针对 /var/log/wtmp 所设定的参数
monthly                    # 每月一次切割,取代默认的一周
minsize 1M                 # 文件大小超过 1M 后才会切割
create 0664 root utmp      # 指定新建的日志文件权限以及所属用户和组
rotate 1                   # 只保留一个日志
}/var/log/httpd/*log {missingoknotifemptysharedscriptsdelaycompresspostrotate/bin/systemctl reload httpd.service > /dev/null 2>/dev/null || trueendscript
}
配置项说明
compress通过gzip 压缩转储以后的日志
nocompress不做gzip压缩处理
copytruncate用于还在打开中的日志文件,把当前日志备份并截断;是先拷贝再清空的方式,拷贝和清空之间有一个时间差,可能会丢失部分日志数据。
nocopytruncate备份日志文件不过不截断
create mode owner group轮转时指定创建新文件的属性,如create 0777 nobody nobody
nocreate不建立新的日志文件
delaycompress和compress 一起使用时,转储的日志文件到下一次转储时才压缩
nodelaycompress覆盖 delaycompress 选项,转储同时压缩。
missingok如果日志丢失,不报错继续滚动下一个日志
errors address专储时的错误信息发送到指定的Email 地址
ifempty即使日志文件为空文件也做轮转,这个是logrotate的缺省选项。
notifempty当日志文件为空时,不进行轮转
mail address把转储的日志文件发送到指定的E-mail 地址
nomail转储时不发送日志文件
olddir directory转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统
noolddir转储后的日志文件和当前日志文件放在同一个目录下
sharedscripts运行postrotate脚本,作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个,那么每个日志轮转后都会执行一次脚本
prerotate在logrotate转储之前需要执行的指令,例如修改文件的属性等动作;必须独立成行
postrotate在logrotate转储之后需要执行的指令,例如重新启动 (kill -HUP) 某个服务!必须独立成行
daily指定转储周期为每天
weekly指定转储周期为每周
monthly指定转储周期为每月
rotate count指定日志文件删除之前转储的次数,0 指没有备份,5 指保留5 个备份
dateext使用当期日期作为命名格式
dateformat .%s配合dateext使用,紧跟在下一行出现,定义文件切割后的文件名,必须配合dateext使用,只支持 %Y %m %d %s 这四个参数
size log-size当日志文件到达指定的大小时才转储,log-size 能指定 bytes(缺省)及 KB (sizek) 或MB(sizem).当日志文件 >= log-size 的时候就转储。
以下为合法格式:(其他格式的单位大小写没有试过)
size = 5 或 size 5 (>= 5 个字节就转储)
size = 100k 或 size 100k
size = 100M 或 size 100M
minsize log-size和size相同的作用
3. 命令行选项
logrotate [OPTION...] <configfile>
-d, --debug :debug模式,测试配置文件是否有错误。
-f, --force :强制转储文件。
-m, --mail=command :压缩日志后,发送日志到指定邮箱。
-s, --state=statefile :使用指定的状态文件。
-v, --verbose :显示转储过程。
3. 实际使用
1. 通过cron驱动

vim /etc/cron.daily/logrotate

[root@esserver2 ~]# cat /etc/cron.daily/logrotate 
#!/bin/sh/usr/sbin/logrotate /etc/logrotate.conf
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
2. 配置文件

如果日志文件的owner是tomcat,这个时候要配置su tomcat tomcat,否则执行会报错

 /opt/tomcat/qy-weixin-crm/*.log {dailynocompressmissingoknotifemptyrotate 7su tomcat tomcatdateextcopytruncate}
3. 手工强制轮转日志
logrotate -v -f /etc/logrotate.d/kafka_connect
4. 问题
4.1 使用copytruncate轮转后,文件大小没变
[hadoop@logserver4 qy-weixin-crm]$ ll
total 35568
-rw-rw-r-- 1 tomcat tomcat  4627357 Jul 16 14:55 application.log
-rw-rw-r-- 1 tomcat tomcat  4354403 Jul 16 14:47 application.log-20200716

如上所示,application.log本来大小是4.3M(4354403 Byte),运行logrotate后生成了一个application.log-20200716,拷贝了现有内容。 但是通ll查看文件大小并没有变,依然是从4.3M开始往后增长。

通过od查看文件的二进制内容:

[hadoop@logserver4 qy-weixin-crm]$ od -c application.log | head -10
0000000  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0  \0
*
20470540  \0  \0  \0   2   0   2   0   -   0   7   -   1   6       1   4
20470560   :   4   9   :   1   0   .   7   5   0           I   N   F   O
20470600       1   3   2   8   9       -   -   -       [   i   o   -   1
20470620   8   0   8   9   -   e   x   e   c   -   4   ]       c   .   h
20470640   .   b   i   .   w   e   i   x   i   n   .   c   o   n   t   r
20470660   o   l   l   e   r   .   Q   Y   C   o   n   t   r   o   l   l
20470700   e   r                   :     350 257 267 346 261 202 345 217
20470720 202 346 225 260   M   a   p   :       o   r   g   .   a   p   a

可以看到知道20470542(八进制)为止的字节都是\0,转换为十进制刚好是4354402(和application.log-20200716)大小一致。

这个问题产生的原因是在我们truncate时,程序进程依然在写,而且使用了相应的offset,导致文件大小依然那么大的假象。

ext的文件系统支持稀疏文件,seek时,之前不存在的字节并不需要实际的写入,所以不会导致applicaiton.log真实占用那么多磁盘。

通过ls -s查看实际的文件大小

[hadoop@logserver4 qy-weixin-crm]$ ls -shl *
1.1M -rw-rw-r-- 1 tomcat tomcat 5.0M Jul 16 15:10 application.log
4.2M -rw-rw-r-- 1 tomcat tomcat 4.2M Jul 16 14:47 application.log-20200716
4.0K -rw-rw-r-- 1 hadoop hadoop  631 Jul 16 11:53 deploy.sh30M -rw-rw-r-- 1 hadoop hadoop  30M Jul 16 12:12 QYWeixinCRM_20200716121209.jar[hadoop@logserver4 qy-weixin-crm]$ ls -l
total 36080
-rw-rw-r-- 1 tomcat tomcat  5182317 Jul 16 15:10 application.log
-rw-rw-r-- 1 tomcat tomcat  4354403 Jul 16 14:47 application.log-20200716
-rw-rw-r-- 1 hadoop hadoop      631 Jul 16 11:53 deploy.sh
-rw-rw-r-- 1 hadoop hadoop 31430261 Jul 16 12:12 QYWeixinCRM_20200716121209.jar

这个问题目前在logrotate上找到解决方法,尝试rotatelogs不能结合nohup使用

rotatelogs ./stdout.log-%Y%m%d%H%M%S 86400

这里的86400是一条的秒数,生成的文件名%H%M%S一直都是0,好在rotatelogs的逻辑的往文件后面追加的

最后的结论是, nohup > application.log有问题,需要使用>>,明天查看结果

5. 手工配置crontab

除了前面提到的直接将logrotate配置到/etc/cron.daily/logrotate外,也可以手工配置crontab命令

1. crontab选项说明
-u user  : 以指定用户的身份运行,默认当前用户file    : 用file里指定的配置替换指定用户的cron任务, cron任务实际存储在/var/spool/cron/${user_name}的文件种
-e       : 实际是编辑/var/spool/cron/${user_name}
-l       : 读取/var/spool/cron/${user_name}
-r       : 删除/var/spool/cron/${user_name}
2. 注意事项
  1. 文件使用全局路径
/usr/bin/flock -xn /tmp/rsync\_event\_type.lock -c '/bin/bash /home/rsync\_event\_type.sh >> /home/scribe/rsync\_event\_type.log 2>&1'
  1. 使用环境变量时,先用source命令引入环境变量

  2. crontab任务的标准输出会当作mail发送给用户,需要重定向输入到具体的日志文件,或者到/dev/null丢弃

  3. /etc/crontab文件是系统级任务,可以通过crontab -uroot -e来编辑,一般不建议将任务放到系统级,放到不同的用户下

  4. 查看crontab日志

sudo tail -f /var/log/cron
3. cron表达式示例

cron总共有5个配置,分别代表分、时、日、月、星期。下面以一些实例来说明:

  1. 每月每天每小时的第0分钟
0 * * * *
  1. 12月每天6点到12点, 每隔3个小时0分钟
0 6-12/3 * 12 *
  1. 周1到周5每天17:00
0 17 * * 1-5
  1. 每隔两个小时
0 */2 * * *
  1. 每月的1和15号
0 0 1,15 * *
  1. 每隔5分钟运行一次
*/5 * * * *
4. 将logrotate配置到crontab

每天
2点运行logrotate,可以将如下命令放到.bashrc内

0 2 * * * /usr/sbin/logrotate /etc/logrotate.conf

这篇关于bash命令: logrotate的使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/490217

相关文章

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据,将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

30常用 Maven 命令

Maven 是一个强大的项目管理和构建工具,它广泛用于 Java 项目的依赖管理、构建流程和插件集成。Maven 的命令行工具提供了大量的命令来帮助开发人员管理项目的生命周期、依赖和插件。以下是 常用 Maven 命令的使用场景及其详细解释。 1. mvn clean 使用场景:清理项目的生成目录,通常用于删除项目中自动生成的文件(如 target/ 目录)。共性规律:清理操作

git使用的说明总结

Git使用说明 下载安装(下载地址) macOS: Git - Downloading macOS Windows: Git - Downloading Windows Linux/Unix: Git (git-scm.com) 创建新仓库 本地创建新仓库:创建新文件夹,进入文件夹目录,执行指令 git init ,用以创建新的git 克隆仓库 执行指令用以创建一个本地仓库的

【北交大信息所AI-Max2】使用方法

BJTU信息所集群AI_MAX2使用方法 使用的前提是预约到相应的算力卡,拥有登录权限的账号密码,一般为导师组共用一个。 有浏览器、ssh工具就可以。 1.新建集群Terminal 浏览器登陆10.126.62.75 (如果是1集群把75改成66) 交互式开发 执行器选Terminal 密码随便设一个(需记住) 工作空间:私有数据、全部文件 加速器选GeForce_RTX_2080_Ti