AutoMQ 社区双周精选第七期(2024.01.29~2024.02.09)

2024-02-19 23:36

本文主要是介绍AutoMQ 社区双周精选第七期(2024.01.29~2024.02.09),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本期概要

过去的两周里,社区贡献者@lifepuzzlefun 为 AutoMQ 的 RocketMQ 项目优化了 LogCache 的二分查找性能,消除了不必要的List拷贝。

同时,AutoMQ 的主干动态展示了持续的性能优化和功能增强。在 Kafka 项目中,团队设计了新型文件缓存机制,以支持小数据、反复读和二分查找跳读场景,同时优化了 WAL 恢复速度,使 1GiB 数据恢复时间大幅缩短。此外,Kafka 还新增了 Grafana 用户视图和开发者视图的大盘,以提供更全面的集群监控能力。

这些努力将共同推动 AutoMQ 向更高效、可靠和易用的消息队列服务迈进。

社区贡献者名单

本周新增社区贡献者 :@lifepuzzlefun https://github.com/AutoMQ/automq-for-rocketmq/pull/903 该 PR 优化了 LogCache 二分查找时额外的 List 拷贝

AutoMQ 主干动态

事务索引和时间戳索引文件缓存

https://github.com/AutoMQ/automq-for-kafka/pull/740 https://github.com/AutoMQ/automq-for-kafka/pull/743 https://github.com/AutoMQ/automq-for-kafka/pull/745

根据事务索引和时间戳索引的查询特征,设计了更加适合小数据、反复读和二分查找跳读的文件缓存:

  • 缓存空间限制在 200MB,不随着分区数量线性扩展;
  • 索引持久化的同时写入缓存,缓存的空间可以支撑到 S3Stream 的小 Object 合并成大 Object,使得 AutoMQ Kafka 维持高效索引查询效率;

    WAL 恢复加速

    https://github.com/AutoMQ/automq-for-rocketmq/pull/910

通过 Buffer 读取机制,加速 WAL 的恢复,1GiB 的数据恢复时间从 92.7s 优化到 15.3s

Grafana 用户 & 开发者大盘

https://github.com/AutoMQ/automq-for-kafka/pull/778

新增了 Grafana 用户视图和开发者视图的大盘:

  • 在用户视图,用户可以概览整个集群的运行情况,然后根据需求下钻到 Broker 单机大盘、Topic 大盘和 Group 大盘;
  • 在开发者视图,开发者可以一览 Broker 的 CPU、JVM、请求吞吐 & 耗时和 S3Stream 内部的详细运行情况;

END

关于我们

AutoMQ 是一家专业的消息队列和流存储软件服务供应商。AutoMQ 开源的 AutoMQ Kafka 和 AutoMQ RocketMQ 基于云对 Apache Kafka、Apache RocketMQ 消息引擎进行重新设计与实现,在充分利用云上的竞价实例、对象存储等服务的基础上,兑现了云设施的规模化红利,带来了下一代更稳定、高效的消息引擎。此外,AutoMQ 推出的 RocketMQ Copilot 专家系统也重新定义了 RocketMQ 消息运维的新范式,赋能消息运维人员更好的管理消息集群。 

🌟 GitHub 地址:https://github.com/AutoMQ/automq-for-kafka

💻 官网:https://www.automq.com

👀 B站:AutoMQ官方账号

🔍 视频号:AutoMQ 

👉 扫二维码加入我们的社区群

关注我们,一起学习更多云原生干货

这篇关于AutoMQ 社区双周精选第七期(2024.01.29~2024.02.09)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/726346

相关文章

高效录音转文字:2024年四大工具精选!

在快节奏的工作生活中,能够快速将录音转换成文字是一项非常实用的能力。特别是在需要记录会议纪要、讲座内容或者是采访素材的时候,一款优秀的在线录音转文字工具能派上大用场。以下推荐几个好用的录音转文字工具! 365在线转文字 直达链接:https://www.pdf365.cn/ 365在线转文字是一款提供在线录音转文字服务的工具,它以其高效、便捷的特点受到用户的青睐。用户无需下载安装任何软件,只

Java第二阶段---09类和对象---第三节 构造方法

第三节 构造方法 1.概念 构造方法是一种特殊的方法,主要用于创建对象以及完成对象的属性初始化操作。构造方法不能被对象调用。 2.语法 //[]中内容可有可无 访问修饰符 类名([参数列表]){ } 3.示例 public class Car {     //车特征(属性)     public String name;//车名   可以直接拿来用 说明它有初始值     pu

Science|癌症中三级淋巴结构的免疫调节作用与治疗潜力|顶刊精析·24-09-08

小罗碎碎念 Science文献精析 今天精析的这一篇综述,于2022-01-07发表于Science,主要讨论了癌症中的三级淋巴结构(Tertiary Lymphoid Structures, TLS)及其在肿瘤免疫反应中的作用。 作者类型作者姓名单位名称(中文)通讯作者介绍第一作者Ton N. Schumacher荷兰癌症研究所通讯作者之一通讯作者Daniela S. Thomm

09 生命周期

生命周期 beforeCreatecreatedbeforeMountmountedbeforeUpdateupdatedbeforeDestorydestoryed 辣子鸡:香辣入口,犹如吃了炫迈一样 - - - 根本停不下来 <!DOCTYPE html><html lang="en"><head><meta charset="UTF-8"><meta name="viewport"

Learn ComputeShader 09 Night version lenses

这次将要制作一个类似夜视仪的效果 第一步就是要降低图像的分辨率, 这只需要将id.xy除上一个数字然后再乘上这个数字 可以根据下图理解,很明显通过这个操作在多个像素显示了相同的颜色,并且很多像素颜色被丢失了,自然就会有降低分辨率的效果 效果: 但是这样图像太锐利了,我们加入噪声去解决这个问题 [numthreads(8, 8, 1)]void CSMain(uint3 id

【笔记】数据结构刷题09

快速排序 215. 数组中的第K个最大元素 class Solution {public:int findKthLargest(vector<int>& nums, int k) {return divide(nums,0,nums.size()-1,nums.size()-k);}int divide(vector<int>& nums,int left,int right,int k)

【SpringMVC学习09】SpringMVC中的拦截器

Springmvc的处理器拦截器类似于Servlet 开发中的过滤器Filter,用于对处理器进行预处理和后处理。本文主要总结一下springmvc中拦截器是如何定义的,以及测试拦截器的执行情况和使用方法。 1. springmvc拦截器的定义和配置 1.1 springmvc拦截器的定义 在springmvc中,定义拦截器要实现HandlerInterceptor接口,并实现该接口中提供的

周末总结(2024/09/07)

工作 人际关系核心实践: `要学会随时回应别人的善意,执行时间控制在5分钟以内 坚持每天早会打招呼 遇到接不住的话题时拉低自己,抬高别人(无阴阳气息) 朋友圈点赞控制在5min以内,职场社交不要放在5min以外 职场的人际关系在面对利益冲突是直接质疑,要快准狠,不要内耗、 回复消息要控制在30mins之内,一定要及时回复`` 工作上的要点 现状(已经提了离职,last day在9月20号)

【视频教程】手把手AppWizard轻松制作一个emWin滑动主界面控制框架,任意跳转控制(2024-09-06)

现在的新版AppWizard已经比较好用,用户可以轻松的创建各种项目常规界面。 比如早期创建一个支持滑动的主界面框架,并且可以跳转各种子界面,仅仅界面布局和各种图片格式转换都要花不少时间,而现在使用AppWizard,可以说轻轻松松,毫不费力。 用户唯一要做的就是根据自己的芯片性能做一定的速度优化。 视频: https://www.bilibili.com/video/BV17Rp3eLE