Debezium日常分享系列之:Debezium2.5稳定版本之Monitoring

本文主要是介绍Debezium日常分享系列之:Debezium2.5稳定版本之Monitoring,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Debezium日常分享系列之:Debezium2.5稳定版本之Monitoring

  • 一、Snapshot metrics
  • 二、Streaming metrics
  • 三、Schema history metrics

Debezium系列之:安装jmx导出器监控debezium指标

除了 Zookeeper、Kafka 和 Kafka Connect 提供的对 JMX 指标的内置支持之外,Debezium MySQL 连接器还提供三种类型的指标。

  • 快照指标提供有关执行快照时连接器操作的信息。
  • 当连接器读取二进制日志时,流指标提供有关连接器操作的信息。
  • 架构历史记录指标提供有关连接器架构历史记录状态的信息。

一、Snapshot metrics

MBean 为 debezium.mysql:type=connector-metrics,context=snapshot,server=<topic.prefix>。

除非快照操作处于活动状态,或者自上次连接器启动以来已发生快照,否则不会公开快照指标。

下表列出了可用的快照指标。

属性类型描述
LastEventstring连接器读取的最后一个快照事件。
MilliSecondsSinceLastEventlong自连接器读取并处理最近事件以来的毫秒数。
TotalNumberOfEventsSeenlong自上次启动或重置以来此连接器发生的事件总数。
NumberOfEventsFilteredlong已按连接器上配置的包含/排除列表过滤规则过滤的事件数。
CapturedTablesstring[]连接器捕获的表的列表。
QueueTotalCapacityint用于在快照器和主 Kafka Connect 循环之间传递事件的队列长度。
QueueRemainingCapacityint用于在快照器和主 Kafka Connect 循环之间传递事件的队列的可用容量。
TotalTableCountint快照中包含的表总数。
RemainingTableCountint快照尚未复制的表的数量。
SnapshotRunningboolean快照是否已启动。
SnapshotPausedboolean快照是否暂停。
SnapshotAbortedboolean快照是否被中止。
SnapshotCompletedboolean快照是否完成。
SnapshotDurationInSecondslong到目前为止快照所用的总秒数(即使尚未完成)。还包括快照暂停的时间。
SnapshotPausedDurationInSecondslong快照暂停的总秒数。如果快照暂停多次,则暂停时间会累加。
RowsScannedMap<String, Long>包含快照中每个表扫描的行数的映射。表在处理过程中逐渐添加到映射中。每扫描 10,000 行并完成表格后更新一次。
MaxQueueSizeInByteslong队列的最大缓冲区(以字节为单位)。如果 max.queue.size.in.bytes 设置为正 long 值,则此指标可用。
CurrentQueueSizeInByteslong队列中的当前记录量(以字节为单位)。

执行增量快照时,连接器还提供以下附加快照指标:

属性类型描述
ChunkIdstring当前快照块的标识符。
ChunkFromstring定义当前块的主键集的下界。
ChunkTostring定义当前块的主键集的上限。
TableFromstring当前快照表的主键集的下界。
TableTostring当前快照表的主键集的上限。

Debezium MySQL 连接器还提供 HoldingGlobalLock 自定义快照指标。该指标设置为一个布尔值,指示连接器当前是否持有全局或表写入锁定。

二、Streaming metrics

仅当启用 binlog 事件缓冲时,事务相关属性才可用。有关更多详细信息,请参阅高级连接器配置属性中的 binlog.buffer.size。 :水平偏移:+1

MBean 为 debezium.mysql:type=connector-metrics,context=streaming,server=<topic.prefix>。

下表列出了可用的流指标。

属性类型描述
LastEventstring连接器读取的最后一个流事件。
MilliSecondsSinceLastEventlong自连接器读取并处理最近事件以来的毫秒数。
TotalNumberOfEventsSeenlong自上次启动或指标重置以来,该连接器已经看到的事件总数。
TotalNumberOfCreateEventsSeenlong自上次启动或指标重置以来此连接器已看到的创建事件总数。
TotalNumberOfUpdateEventsSeenlong自上次启动或指标重置以来此连接器看到的更新事件总数。
TotalNumberOfDeleteEventsSeenlong自上次启动或指标重置以来此连接器看到的删除事件总数。
NumberOfEventsFilteredlong已按连接器上配置的包含/排除列表过滤规则过滤的事件数。
CapturedTablesstring[]连接器捕获的表的列表。
QueueTotalCapacityint用于在流送器和主 Kafka Connect 循环之间传递事件的队列长度。
QueueRemainingCapacityint用于在流处理器和主 Kafka Connect 循环之间传递事件的队列的可用容量。
Connectedboolean指示连接器当前是否连接到数据库服务器的标志。
MilliSecondsBehindSourcelong最后更改事件的时间戳与连接器处理该事件之间的毫秒数。这些值将包含运行数据库服务器和连接器的计算机上时钟之间的任何差异。
NumberOfCommittedTransactionslong已提交的已处理事务数。
SourceEventPositionMap<String, String>最后接收到的事件的坐标。
LastTransactionIdstring最后处理交易的交易标识符。
MaxQueueSizeInByteslong队列的最大缓冲区(以字节为单位)。如果 max.queue.size.in.bytes 设置为正 long 值,则此指标可用。
CurrentQueueSizeInByteslong队列中的当前记录量(以字节为单位)。

Debezium MySQL 连接器还提供以下附加流指标:

表 28. 其他流媒体指标的描述

属性类型描述
BinlogFilenamestring连接器最近读取的二进制日志文件的名称。
BinlogPositionlong连接器读取的二进制日志中的最新位置(以字节为单位)。
IsGtidModeEnabledboolean指示连接器当前是否正在跟踪来自 MySQL 服务器的 GTID 的标志。
GtidSetstring连接器在读取 binlog 时处理的最新 GTID 集的字符串表示形式。
NumberOfSkippedEventslongMySQL 连接器已跳过的事件数。通常,由于 MySQL binlog 中的事件格式错误或无法解析,事件会被跳过。
NumberOfDisconnectslongMySQL 连接器断开连接的次数。
NumberOfRolledBackTransactionslong已回滚且未流式传输的已处理事务的数量。
NumberOfNotWellFormedTransactionslong不符合 BEGIN + COMMIT/ROLLBACK 预期协议的事务数量。正常情况下该值应为 0。
NumberOfLargeTransactionslong未装入前瞻缓冲区的事务数。为了获得最佳性能,该值应明显小于 NumberOfCommitedTransactions 和 NumberOfRolledBackTransactions。

三、Schema history metrics

MBean 为 debezium.mysql:type=connector-metrics,context=schema-history,server=<topic.prefix>。

下表列出了可用的架构历史记录指标。

属性类型描述
StatusstringSTOPPED、RECOVERING(从存储中恢复历史记录)、RUNNING 之一描述数据库模式历史记录的状态。
RecoveryStartTimelong恢复开始的时间(以纪元秒为单位)。
ChangesRecoveredlong在恢复阶段读取的更改数。
ChangesAppliedlong恢复和运行时应用的架构更改总数。
MilliSecondsSinceLast​RecoveredChangelong从历史存储中恢复上次更改以来经过的毫秒数。
MilliSecondsSinceLast​AppliedChangelong自上次应用更改以来经过的毫秒数。
LastRecoveredChangestring从历史存储中恢复的最后更改的字符串表示形式。
LastAppliedChangestring最后应用的更改的字符串表示形式。

这篇关于Debezium日常分享系列之:Debezium2.5稳定版本之Monitoring的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/841510

相关文章

浅谈配置MMCV环境,解决报错,版本不匹配问题

《浅谈配置MMCV环境,解决报错,版本不匹配问题》:本文主要介绍浅谈配置MMCV环境,解决报错,版本不匹配问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录配置MMCV环境,解决报错,版本不匹配错误示例正确示例总结配置MMCV环境,解决报错,版本不匹配在col

Python通过模块化开发优化代码的技巧分享

《Python通过模块化开发优化代码的技巧分享》模块化开发就是把代码拆成一个个“零件”,该封装封装,该拆分拆分,下面小编就来和大家简单聊聊python如何用模块化开发进行代码优化吧... 目录什么是模块化开发如何拆分代码改进版:拆分成模块让模块更强大:使用 __init__.py你一定会遇到的问题模www.

Linux卸载自带jdk并安装新jdk版本的图文教程

《Linux卸载自带jdk并安装新jdk版本的图文教程》在Linux系统中,有时需要卸载预装的OpenJDK并安装特定版本的JDK,例如JDK1.8,所以本文给大家详细介绍了Linux卸载自带jdk并... 目录Ⅰ、卸载自带jdkⅡ、安装新版jdkⅠ、卸载自带jdk1、输入命令查看旧jdkrpm -qa

Tomcat版本与Java版本的关系及说明

《Tomcat版本与Java版本的关系及说明》:本文主要介绍Tomcat版本与Java版本的关系及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Tomcat版本与Java版本的关系Tomcat历史版本对应的Java版本Tomcat支持哪些版本的pythonJ

IDEA中Git版本回退的两种实现方案

《IDEA中Git版本回退的两种实现方案》作为开发者,代码版本回退是日常高频操作,IntelliJIDEA集成了强大的Git工具链,但面对reset和revert两种核心回退方案,许多开发者仍存在选择... 目录一、版本回退前置知识二、Reset方案:整体改写历史1、IDEA图形化操作(推荐)1.1、查看提

JDK多版本共存并自由切换的操作指南(本文为JDK8和JDK17)

《JDK多版本共存并自由切换的操作指南(本文为JDK8和JDK17)》本文介绍了如何在Windows系统上配置多版本JDK(以JDK8和JDK17为例),并通过图文结合的方式给大家讲解了详细步骤,具有... 目录第一步 下载安装JDK第二步 配置环境变量第三步 切换JDK版本并验证可能遇到的问题前提:公司常

nvm如何切换与管理node版本

《nvm如何切换与管理node版本》:本文主要介绍nvm如何切换与管理node版本问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录nvm切换与管理node版本nvm安装nvm常用命令总结nvm切换与管理node版本nvm适用于多项目同时开发,然后项目适配no

Python解析器安装指南分享(Mac/Windows/Linux)

《Python解析器安装指南分享(Mac/Windows/Linux)》:本文主要介绍Python解析器安装指南(Mac/Windows/Linux),具有很好的参考价值,希望对大家有所帮助,如有... 目NMNkN录1js. 安装包下载1.1 python 下载官网2.核心安装方式3. MACOS 系统安

Mybatis从3.4.0版本到3.5.7版本的迭代方法实现

《Mybatis从3.4.0版本到3.5.7版本的迭代方法实现》本文主要介绍了Mybatis从3.4.0版本到3.5.7版本的迭代方法实现,包括主要的功能增强、不兼容的更改和修复的错误,具有一定的参考... 目录一、3.4.01、主要的功能增强2、selectCursor example3、不兼容的更改二、

pytorch+torchvision+python版本对应及环境安装

《pytorch+torchvision+python版本对应及环境安装》本文主要介绍了pytorch+torchvision+python版本对应及环境安装,安装过程中需要注意Numpy版本的降级,... 目录一、版本对应二、安装命令(pip)1. 版本2. 安装全过程3. 命令相关解释参考文章一、版本对