微服务轮子项目（13） - 统一日志中心详解（docker安装部署）

2024-03-05 12:20
文章标签 部署 服务 安装 日志 项目 详解 docker 统一 13 中心 轮子

本文主要是介绍微服务轮子项目（13） - 统一日志中心详解（docker安装部署），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

文章目录

    • 1. 概述
      • 1.1 相关地址
      • 1.2 组件分工
    • 2. docker安装部署

1. 概述

1.1 相关地址

  • 官网
  • elk镜像仓库

1.2 组件分工

  • filebeat：部署在每台应用服务器、数据库、中间件中，负责日志抓取与日志聚合
  • 日志聚合：把多行日志合并成一条，例如exception的堆栈信息等
  • logstash：通过各种filter结构化日志信息，并把字段transform成对应的类型
  • elasticsearch：负责存储和查询日志信息
  • kibana：通过ui展示日志信息、还能生成饼图、柱状图等

2. docker安装部署

step1：修改mmap计数大于等于262144的限制

#在/etc/sysctl.conf文件最后添加一行
vm.max_map_count=655360
#并执行命令
sysctl -p

step2：下载并运行镜像

docker run -p 5601:5601 -p 9200:9200 -p 9300:9300 -p 5044:5044 --name elk -d sebp/elk:651

step3：准备elasticsearch的配置文件

mkdir /opt/elk/elasticsearch/conf
#复制elasticsearch的配置出来
docker cp elk:/etc/elasticsearch/elasticsearch.yml /opt/elk/elasticsearch/conf

step4：修改elasticsearch.yml配置

修改cluster.name参数

 cluster.name: my-es

在最后新增以下三个参数：

thread_pool.bulk.queue_size: 1000
http.cors.enabled: true
http.cors.allow-origin: "*"

step5：准备logstash的配置文件

mkdir /opt/elk/logstash/conf#复制logstash的配置出来
docker cp elk:/etc/logstash/conf.d/. /opt/elk/logstash/conf/

step6：准备logstash的patterns文件

新建一个java的patterns文件

mkdir /opt/elk/logstash/patterns

vim java 内容如下:

# user-center
MYAPPNAME ([0-9a-zA-Z_-]*)
# RMI TCP Connection(2)-127.0.0.1
MYTHREADNAME ([0-9a-zA-Z._-]|\(|\)|\s)*

就是一个名字叫做java的文件，不需要文件后缀

step7：删除02-beats-input.conf的最后三句，去掉强制认证

vim /opt/elk/logstash/conf/02-beats-input.conf
#ssl => true 
#ssl_certificate => "/pki/tls/certs/logstash.crt"
#ssl_key => "/pki/tls/private/logstash.key"

step8：修改10-syslog.conf配置，改为以下内容

  • 注意，下面的logstash结构化配置样例都是以本工程的日志格式配置，并不是通用的
filter {if [type] == "syslog" {grok {match => { "message" => "%{SYSLOGTIMESTAMP:syslog_timestamp} %{SYSLOGHOST:syslog_hostname} %{DATA:syslog_program}(?:\[%{POSINT:syslog_pid}\])?: %{GREEDYDATA:syslog_message}" }add_field => [ "received_at", "%{@timestamp}" ]add_field => [ "received_from", "%{host}" ]}syslog_pri { }date {match => [ "syslog_timestamp", "MMM  d HH:mm:ss", "MMM dd HH:mm:ss" ]}}if [fields][docType] == "sys-log" {grok {patterns_dir => ["/opt/elk/logstash/patterns"]match => { "message" => "\[%{NOTSPACE:appName}:%{NOTSPACE:serverIp}:%{NOTSPACE:serverPort}\] %{TIMESTAMP_ISO8601:logTime} %{LOGLEVEL:logLevel} %{WORD:pid} \[%{MYAPPNAME:traceId}\] \[%{MYTHREADNAME:threadName}\] %{NOTSPACE:classname} %{GREEDYDATA:message}" }overwrite => ["message"]}date {match => ["logTime","yyyy-MM-dd HH:mm:ss.SSS Z"]}date {match => ["logTime","yyyy-MM-dd HH:mm:ss.SSS"]target => "timestamp"locale => "en"timezone => "+08:00"}mutate {  remove_field => "logTime"remove_field => "@version"remove_field => "host"remove_field => "offset"}}if [fields][docType] == "point-log" {grok {patterns_dir => ["/opt/elk/logstash/patterns"]match => { "message" => "%{TIMESTAMP_ISO8601:logTime}\|%{MYAPPNAME:appName}\|%{WORD:resouceid}\|%{MYAPPNAME:type}\|%{GREEDYDATA:object}"}}kv {source => "object"field_split => "&"value_split => "="}date {match => ["logTime","yyyy-MM-dd HH:mm:ss.SSS Z"]}date {match => ["logTime","yyyy-MM-dd HH:mm:ss.SSS"]target => "timestamp"locale => "en"timezone => "+08:00"}mutate {remove_field => "logTime"remove_field => "@version"remove_field => "host"remove_field => "offset"}}
}

step9：修改30-output.conf配置，改为以下内容

output {if [fields][docType] == "sys-log" {elasticsearch {hosts => ["localhost"]manage_template => falseindex => "sys-log-%{+YYYY.MM.dd}"document_type => "%{[@metadata][type]}"}}if [fields][docType] == "point-log" {elasticsearch {hosts => ["localhost"]manage_template => falseindex => "point-log-%{+YYYY.MM.dd}"document_type => "%{[@metadata][type]}"routing => "%{type}"}}
}

step10：创建运行脚本

vim /opt/elk/start.sh

docker stop elk
docker rm elkdocker run -p 5601:5601 -p 9200:9200 -p 9300:9300 -p 5044:5044 \-e LS_HEAP_SIZE="1g" -e ES_JAVA_OPTS="-Xms2g -Xmx2g" \-v $PWD/elasticsearch/data:/var/lib/elasticsearch \-v $PWD/elasticsearch/plugins:/opt/elasticsearch/plugins \-v $PWD/logstash/conf:/etc/logstash/conf.d \-v $PWD/logstash/patterns:/opt/logstash/patterns \-v $PWD/elasticsearch/conf/elasticsearch.yml:/etc/elasticsearch/elasticsearch.yml \-v $PWD/elasticsearch/log:/var/log/elasticsearch \-v $PWD/logstash/log:/var/log/logstash \--name elk \-d sebp/elk:651

step11：运行镜像

sh start.sh

step12：添加索引模板(非必需)

如果是单节点的es需要去掉索引的副本配置，不然会出现unassigned_shards
在这里插入图片描述
1.更新已有索引

curl -X PUT "http://192.168.28.130:9200/sys-log-*/_settings" -H 'Content-Type: application/json' -d'
{"index" : {"number_of_replicas" : 0}
}
'
curl -X PUT "http://192.168.28.130:9200/mysql-slowlog-*/_settings" -H 'Content-Type: application/json' -d'
{"index" : {"number_of_replicas" : 0}
}'

2.设置索引模板

系统日志

curl -XPUT http://192.168.28.130:9200/_template/template_sys_log -H 'Content-Type: application/json' -d '
{"index_patterns" : ["sys-log-*"],"order" : 0,"settings" : {"number_of_replicas" : 0},"mappings": {"doc": {"properties": {"message": {"type": "text","fields": {"keyword": {"type": "keyword","ignore_above": 256}},"analyzer": "ik_max_word"},"pid": {"type": "text"},"serverPort": {"type": "text"},"logLevel": {"type": "text"},"traceId": {"type": "text"}}}  }   
}'

慢sql日志

curl -XPUT http://192.168.28.130:9200/_template/template_sql_slowlog -H 'Content-Type: application/json' -d '
{"index_patterns" : ["mysql-slowlog-*"],"order" : 0,"settings" : {"number_of_replicas" : 0},"mappings": {"doc": {"properties": {"query_str": {"type": "text","fields": {"keyword": {"type": "keyword","ignore_above": 256}},"analyzer": "ik_max_word"}}}}
}'

埋点日志

curl -XPUT http://192.168.28.130:9200/_template/template_point_log -H 'Content-Type: application/json' -d '
{"index_patterns" : ["point-log-*"],"order" : 0,"settings" : {"number_of_shards" : 2,"number_of_replicas" : 0}
}'

step13：安装IK分词器

查询数据，都是使用的默认的分词器，分词效果不太理想，会把text的字段分成一个一个汉字，然后搜索的时候也会把搜索的句子进行分词，所以这里就需要更加智能的分词器IK分词器了

1.下载

  • 下载地址：https://github.com/medcl/elasticsearch-analysis-ik/releases
  • 这里你需要根据你的Es的版本来下载对应版本的IK在这里插入图片描述
    2.解压
    将文件复制到 es的安装目录/plugin/ik下面即可，完成之后效果如下：
    在这里插入图片描述

3.重启容器并检查插件是否安装成功

http://192.168.28.130:9200/_cat/plugins
在这里插入图片描述

step14：配置样例
链接: https://pan.baidu.com/s/1Qq3ywAbXMMRYyYxBAViMag
提取码: aubp

这篇关于微服务轮子项目（13） - 统一日志中心详解（docker安装部署）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/776484。

相关文章

详解C#如何提取PDF文档中的图片

详解C#如何提取PDF文档中的图片

《详解C#如何提取PDF文档中的图片》提取图片可以将这些图像资源进行单独保存,方便后续在不同的项目中使用,下面我们就来看看如何使用C#通过代码从PDF文档中提取图片吧... 当 PDF 文件中包含有价值的图片，如艺术画作、设计素材、报告图表等，提取图片可以将这些图像资源进行单独保存，方便后续在不同的项目中使
阅读更多...
Linux系统中卸载与安装JDK的详细教程

Linux系统中卸载与安装JDK的详细教程

《Linux系统中卸载与安装JDK的详细教程》本文详细介绍了如何在Linux系统中通过Xshell和Xftp工具连接与传输文件,然后进行JDK的安装与卸载,安装步骤包括连接Linux、传输JDK安装包... 目录1、卸载1.1 linux删除自带的JDK1.2 Linux上卸载自己安装的JDK2、安装2.1
阅读更多...
Android中Dialog的使用详解

Android中Dialog的使用详解

《Android中Dialog的使用详解》Dialog（对话框）是Android中常用的UI组件,用于临时显示重要信息或获取用户输入,本文给大家介绍Android中Dialog的使用,感兴趣的朋友一起... 目录android中Dialog的使用详解1. 基本Dialog类型1.1 AlertDialog（
阅读更多...
C#数据结构之字符串(string)详解

C#数据结构之字符串(string)详解

《C#数据结构之字符串(string)详解》：本文主要介绍C#数据结构之字符串(string),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录转义字符序列字符串的创建字符串的声明null字符串与空字符串重复单字符字符串的构造字符串的属性和常用方法属性常用方法总结摘
阅读更多...
Linux卸载自带jdk并安装新jdk版本的图文教程

Linux卸载自带jdk并安装新jdk版本的图文教程

《Linux卸载自带jdk并安装新jdk版本的图文教程》在Linux系统中,有时需要卸载预装的OpenJDK并安装特定版本的JDK,例如JDK1.8,所以本文给大家详细介绍了Linux卸载自带jdk并... 目录Ⅰ、卸载自带jdkⅡ、安装新版jdkⅠ、卸载自带jdk1、输入命令查看旧jdkrpm -qa
阅读更多...
Java中StopWatch的使用示例详解

Java中StopWatch的使用示例详解

《Java中StopWatch的使用示例详解》stopWatch是org.springframework.util包下的一个工具类,使用它可直观的输出代码执行耗时,以及执行时间百分比,这篇文章主要介绍... 目录stopWatch 是org.springframework.util 包下的一个工具类，使用它
阅读更多...
Java进行文件格式校验的方案详解

Java进行文件格式校验的方案详解

《Java进行文件格式校验的方案详解》这篇文章主要为大家详细介绍了Java中进行文件格式校验的相关方案,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、背景异常现象原因排查用户的无心之过二、解决方案Magandroidic Number判断主流检测库对比Tika的使用区分zip
阅读更多...
Java实现时间与字符串互相转换详解

Java实现时间与字符串互相转换详解

《Java实现时间与字符串互相转换详解》这篇文章主要为大家详细介绍了Java中实现时间与字符串互相转换的相关方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、日期格式化为字符串（一）使用预定义格式（二）自定义格式二、字符串解析为日期（一）解析ISO格式字符串（二）解析自定义
阅读更多...
SpringBoot日志配置SLF4J和Logback的方法实现

SpringBoot日志配置SLF4J和Logback的方法实现

《SpringBoot日志配置SLF4J和Logback的方法实现》日志记录是不可或缺的一部分,本文主要介绍了SpringBoot日志配置SLF4J和Logback的方法实现,文中通过示例代码介绍的非... 目录一、前言二、案例一：初识日志三、案例二：使用Lombok输出日志四、案例三：配置Logback一
阅读更多...
springboot security快速使用示例详解

springboot security快速使用示例详解

《springbootsecurity快速使用示例详解》：本文主要介绍springbootsecurity快速使用示例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝... 目录创www.chinasem.cn建spring boot项目生成脚手架配置依赖接口示例代码项目结构启用s
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2