首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
消息中间件专题
5000字阐述云原生消息中间件Apache Pulsar的核心特性和设计概览
点击上方蓝色字体,选择“设为星标” 回复”面试“获取更多惊喜 Apache Pulsar 是 Apache 软件基金会顶级项目,自称是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性。 Pulsar 是一个用于服务器到服务器的消息系统,具有多租户
阅读更多...
消息中间件都有哪些
RabbitMQ:这可是一个开源的消息代理软件,也叫消息中间件。它支持多种消息传递协议,可以轻松地在分布式系统中进行可靠的消息传递。 Kafka:Apache Kafka是一个分布式流处理平台,它主要用于处理实时数据流。Kafka的设计初衷是为了处理高吞吐量的日志数据,但它也被广泛用于其他类型的消息传递和流处理任务。 ActiveMQ:Apache ActiveMQ
阅读更多...
消息中间件:深入理解 Kafka的消息顺序和一致性、可靠性和高可用性 第1版
消息中间件:深入理解 Kafka的消息顺序和一致性、可靠性和高可用性 第1版 Kafka 是一种分布式消息中间件,它能够处理大规模的实时数据流,是现代分布式系统中的关键组件。作为高吞吐量、低延迟、强扩展性和高容错的消息系统,Kafka在各种场景中都表现出了卓越的性能。本文将深入探讨 Kafka 的适用场景、消息顺序与一致性保证、高可用性机制等关键知识点。 文章目录 消息中间件:深入
阅读更多...
RocketMQ:高速消息中间件的秘密武器
人不走空 🌈个人主页:人不走空 💖系列专栏:算法专题 ⏰诗词歌赋:斯是陋室,惟吾德馨 关于RocketMQ的详细图表,包含了Producer、Consumer、Broker和NameSe
阅读更多...
Kafka分布式集群部署实战:跨越理论,直击生产环境部署难题与解决方案,性能调优、监控与管理策略大揭秘,轻松上手分布式消息中间件
本文介绍kafka的集群如何部署和安装,1-4章理论知识,第5章详解集群的部署,部署Kafka之前需要先部署好分布式的Zookeeper,不喜欢理论的可以直接看第5章,欢迎大家一起探讨技术! Zookeeper集群部署参考文章:精通Zookeeper:详解分布式集群部署全程,掌握数据一致性、选举机制与集群容错能力-CSDN博客 关于Kafka的资料: 大数据技术之Kafka(最新版)资
阅读更多...
常用MQ消息中间件Kafka、ZeroMQ和RabbitMQ对比及RabbitMQ详解
1、概述 在现代的分布式系统和实时数据处理领域,消息中间件扮演着关键的角色,用于解决应用程序之间的通信和数据传递的挑战。在众多的消息中间件解决方案中,Kafka、ZeroMQ和RabbitMQ 是备受关注和广泛应用的代表性系统。它们各自具有独特的特点和优势,适用于不同的应用场景和需求。 Kafka 是一个高性能、可扩展的分布式消息队列系统,被设计用于处理大规模的数据流和实时数据传输。它
阅读更多...
消息中间件 Kafka
假设一种case,一个任务耗时高达数十秒,使用同步方式调用,一言不合便是超时,这可如何是好呢? 首相想到的,当然是异步化。耗时巨大的任务,使用同步调用方式,比如HTTP或者RPC,超时是很难避免的了。一个更好的做法便是将任务放入一个队列,同时给这个任务赋予一个唯一标识符,根据这个唯一标识符去获取任务的结果。队列有许多种,比如著名的Kafka,Nsq,RabbitMq等等。不同的队列有着不一样的适
阅读更多...
# 消息中间件 RocketMQ 高级功能和源码分析(八)
消息中间件 RocketMQ 高级功能和源码分析(八) 一、消息中间件 RocketMQ 源码分析:实时更新消息消费队列与索引文件流程说明 1、实时更新消息消费队列与索引文件 消息消费队文件、消息属性索引文件都是基于 CommitLog 文件构建的,当消息生产者提交的消息存储在 CommitLog 文件中,ConsumerQueue、IndexFile 需要及时更新,否则消息无法及时被消费,
阅读更多...
【Rust投稿】从零实现消息中间件(4)-SERVER.CLIENT
这部分主要说的是服务器端对于来自client连接的数据的处理. 主要功能包括 接收消息收到sub消息,就记录到全局列表中收到pub消息,就发送给相关订阅的client出错,删除订阅,关闭连接 数据结构定义 Client中除了cid以外,其他两项都使用了Mutex进行保护,上一篇讲到过,凡是多线程读写的都需要Arc<Mutex>保护. srv: 主要还是pub sub的时候都需要访问全局的subl
阅读更多...
淘宝notify-消息中间件(2)
核心原理 Notify在设计思路上与传统的MQ有一定的不同,他的核心设计理念是 为了消息堆积而设计系统 无单点,可自由扩展的设计 下面就请随我一起,进入到我们的消息系统内部来看看他设计的核心原理 为了消息堆积而设计系统在市面上的大部分MQ产品,大部分的核心场景就是点对点的消息传输通道,然后非常激进的使用内存来提升整体的系统性能,这样做虽然标称的tps都能达到很高,但这种设计的
阅读更多...
淘宝notify-消息中间件(1)
淘宝的notify是一个非常有特色的消息中间件。它用创新地方式解决了分布式事务的问题,用相对较低的成本,实现了跨micro service的最终一致性。这种把最终一致性用application queue而不是database replication queue的方式来实现,把IT技术层面的跨业务的事务变成一个业务层面的单据传递的概念,非常值得推广。 消息中间件——分布式消息的广播员 综
阅读更多...
# 消息中间件 RocketMQ 高级功能和源码分析(五)
消息中间件 RocketMQ 高级功能和源码分析(五) 一、 消息中间件 RocketMQ 源码分析:NameServer 路由元数据 1、消息中间件 RocketMQ 中,NameServer 路由管理 NameServer 的主要作用是为消息的生产者和消息消费者提供关于主题 Topic 的路由信息,那么 NameServer 需要存储路由的基础信息,还要管理 Broker 节点,包括路由
阅读更多...
主流消息中间件优缺点
主流消息中间件 架构模式 Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache顶级项目。Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。 架构模式 依赖zookeeper
阅读更多...
zeromq的安装,部署(号称最快的消息队列,消息中间件)
zeromq的安装,部署(号称最快的消息队列,消息中间件) 1:Storm作为一个实时处理的框架,产生的消息需要快速的进行处理,比如存在消息队列ZeroMQ里面。 由于消息队列ZeroMQ是C++写的,而我们的程序是运行在JVM虚拟机里面的。所以需要jzmq这个桥梁来黏合C++程序接口和Java程序接口。 ZeroMQ的官方网址:http://zeromq.org/ 1:MetaQ(
阅读更多...
SpringBoot整合RabbitMQ消息中间件,实现延迟队列和死信队列
在现代的分布式系统中,消息队列作为一种重要的中间件,广泛应用于系统解耦、流量削峰、异步处理等场景。而RabbitMQ作为其中一款流行的消息队列中间件,因其高性能和丰富的功能受到众多开发者的青睐。本文将详细介绍如何在SpringBoot项目中整合RabbitMQ,实现延迟队列和死信队列,以满足复杂业务需求。 一、RabbitMQ简介 RabbitMQ是基于AMQP(Advanced Messag
阅读更多...
【SpringBoot】SpringBoot整合RabbitMQ消息中间件,实现延迟队列和死信队列
📝个人主页:哈__ 期待您的关注 目录 一、🔥死信队列 RabbitMQ的工作模式 死信队列的工作模式 二、🍉RabbitMQ相关的安装 三、🍎SpringBoot引入RabbitMQ 1.引入依赖 2.创建队列和交换器 2.1 变量声明 2.2 创建延迟交换器 2.3 创建延迟队列 2.4 延迟队列绑定延迟交换器 2.5 死信队列配
阅读更多...
ZBus消息中间件和WebSocket的联合使用
1、ZBusconfig.java, zbus的启动、生产、回调处理消息的方法。 package com.accenture.icc.zbus.config;import java.io.IOException;import java.util.HashMap;import java.util.List;import java.util.Map;import org.slf4j.Log
阅读更多...
深入解析RocketMQ:高性能、低延迟的分布式消息中间件
在分布式系统中,消息中间件扮演着至关重要的角色,它能够有效地解决系统间的耦合、提高系统的异步通信能力和扩展性。Apache RocketMQ是一款高性能、低延迟的分布式消息中间件,广泛应用于多种场景,如异步通信、应用解耦、流量削峰、消息广播等。本文将深入解析RocketMQ的核心特性和技术细节,帮助读者更好地理解和使用RocketMQ。 一、RocketMQ的核心特性 高性能:RocketM
阅读更多...
消息中间件中的有序消息,其实是排队但是不能插队
阅读更多...
FolkMQ v1.5.1 发布(“新式”国产消息中间件)
FolkMQ 是个“新式”的消息中间件。强调:“小而巧”、“简而强”。 功能简表 角色功能生产者(客户端)发布普通消息、Qos0消息、定时消息、顺序消息、可过期消息、事务消息、广播消息消费者(客户端)订阅、取消订阅。消费-ACK(自动、手动)服务端发布-Confirm、订阅-Confirm、取消订阅-Confirm、派发-Retry、派发-Delayed 客户端语言支持 Java、Pyth
阅读更多...
从0开始带你成为Kafka消息中间件高手---第二讲
从0开始带你成为Kafka消息中间件高手—第二讲 那么在消费数据的时候,需要从磁盘文件里读取数据后通过网络发送出去,这个时候怎么提升性能呢? 首先就是利用了page cache技术,之前说过,kafka写入数据到磁盘文件的时候,实际上是写入page cache的,没有直接发生磁盘IO,所以写入的数据大部分都是停留在os层的page cache里的 这个本质其实跟elasticsearch的实
阅读更多...
从0开始带你成为Kafka消息中间件高手---第一讲
从0开始带你成为Kafka消息中间件高手—第一讲 网站的用户行为日志,假设电商网站,我现在需要买一个阅读架,看书的架子 京东,我平时比较喜欢用的是京东,送货很快,自营商品,都是放在自己的仓库里,送货很快,用的比较多的是,直男,买东西都是开门见山的,女孩儿不一样,女同志,喜欢逛网站,她喜欢在网站里上下浏览,看网站推荐的一些东西 用户行为,就是说在一个网站,或者是APP,用户会做很多的行为和操作
阅读更多...
RabbitMQ消息中间件技术精讲-深入RabbitMQ高级特性-100%投递成功-幂等性概念-TTL队列/消息
RabbitMQ的高级特性和实际场景应用,包括消息如何保障 100% 的投递成功 ?幂等性概念详解,在海量订单产生的业务高峰期,如何避免消息的重复消费问题?Confirm确认消息、Return返回消息,自定义消费者,消息的ACK与重回队列,消息的限流,TTL消息,死信队列等 ... 消息如何保障100?投递成功? 幂等性概念详解 在海量订单产生的业务高峰期,如何避免消息的重复消费
阅读更多...
基于消息中间件的异步通信机制在系统解耦中的优化与实现
✨✨谢谢大家捧场,祝屏幕前的小伙伴们每天都有好运相伴左右,一定要天天开心哦!✨✨ 🎈🎈作者主页: 喔的嘛呀🎈🎈 ✨✨ 帅哥美女们,我们共同加油!一起进步!✨✨ 目录 引言 一. 选择合适的消息中间件 二. 定义消息格式和通信协议 1. 定义消息格式 消息头 消息体 2. 定义通信协议 发送消息 接收消息 消息处理 3. 示例代码 定义消息
阅读更多...
消息中间件Kafka(PHP版本)
小编最近需要用到消息中间件,有需要要复习一下以前的东西,有需要的自取,强调一点,如果真的想了解透彻,一定要动手,脑袋会了不代表就会写了 Kafka是由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据
阅读更多...
【八股】消息中间件
通用MQ问题 使用场景 异步发送(验证码、短信、邮件)MYSQL和Redis,ES之间的数据同步分布式事务削峰填谷 消息的重复消费问题 👉定义:消费者已经消费了消息,但是可能由于网络抖动或者消费者挂了导致ack回执没有发送给MQ 👉解决方案 为每条消息设置一个唯一的标识id,在消费者消费消息时,验证这个业务id是否存在,如果存在则说明已经消费过,不要再消费了。幂等方案:添加red
阅读更多...