grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?

本文主要是介绍grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

已发表的技术专栏
0  grpc-go、protobuf、multus-cni 技术专栏 总入口

1  grpc-go 源码剖析与实战  文章目录

2  Protobuf介绍与实战 图文专栏  文章目录

3  multus-cni   文章目录(k8s多网络实现方案)

4  grpc、oauth2、openssl、双向认证、单向认证等专栏文章目录)

假设现在有生产数据一方,消费数据一方,存数据一方

场景一:生产数据一方跟消费数据一方在不同一个进程里,可以使用MQ来实现,如下图所示:

生产数据消费数据
  消费者通过监听的方式来获取数据

场景二:生产数据一方跟消费数据一方在同一个进程里,如何实现?

  比方说,消费者可以采用每隔一定时长的方式去查询存数据的内存是否有数据,有的话,就消费。

  在grpc框架中,会有同样的问题;

  当帧发送器从帧缓存器controlBufer里获取数据的时候,如果采用每隔一定时长的方式去查询的话?这种方案怎么样?

  那么问题来了,时长定多少时间合适,不同的物理服务器性能不一样,或者说,数据帧的量大小也不一样,间隔时长就不好界定。

  在grpc框架中,采用通知方式,结合通道技术来实现。

  当消费者发现数据存储器里没有数据了,就阻塞着;当生产者将新的数据存储到数据存储器时,会给消费者的通道发送消息,告诉它有新的数据了,不需要继续阻塞了;消费者就可以继续获取数据帧了。

1、帧存储器executeAndPut是如何存储的?

其实,在前面的文章中,我们已经分析了最核心的功能,就是帧是如何具体的在单链表里存储的;
接下来,我们要考虑的问题是,在将帧存储到单链表前,要不要做一些操作,如校验操作;或者说在什么情况下,不允许往单链表里存储数据呢?

好,接下来,具体看一下,帧存储器executeAndPut是如何解决的:
进入grpc-go/internal/transport/controlbuf.go文件中的executeAndPut方法里:

1func (c *controlBuffer) executeAndPut(f func(it interface{}) bool, it cbItem) (bool, error) {
2var wakeUp bool
3.	c.mu.Lock()
4if c.err != nil {
5.		c.mu.Unlock()
6return false, c.err
7}8if f != nil {
9if !f(it) { // f wasn't successful
10.			c.mu.Unlock()
11return false, nil
12}
13}14if c.consumerWaiting {
15.		wakeUp = true
16.		c.consumerWaiting = false
17}
18.	c.list.enqueue(it)19if it.isTransportResponseFrame() {
20.		c.transportResponseFrames++
21if c.transportResponseFrames == maxQueuedTransportResponseFrames {
22// We are adding the frame that puts us over the threshold; create
23// a throttling channel.
24.			ch := make(chan struct{})
25.			c.trfChan.Store(&ch)
26}
27}28.	c.mu.Unlock()
29if wakeUp {
30select {
31case c.ch <- struct{}{}:
32default:
33}
34}35return true, nil
36}

主要代码说明:

  • 第2行:声明一个bool类型的变量wakeUp;该变量的目的是,根据wakeUp的值来判断是否将通道ch解除阻塞;若阻塞时不允许从单链表c.list继续读取帧数据;
  • 第4-7行:判断controlBuf是否存在异常,并提供了异常处理逻辑
  • 第8-13行:主要是在将帧存储到单链表c.list前,需要将帧扔进函数f里,做一些处理。
    • 函数f的参考例子,如grpc-go/internal/transport/http2_client.go文件中NewStream方法里,将创建好的头帧存储到controlBuf里场景下时,需要校验streamQuota值以及HeaderListSize大小
  • 第14-17行:若consumerWaiting 为true,就是表示存储帧的单链表c.list为空,而此时,帧加载器get正等待从单链表c.list里获取帧呢;
    • a)第15行:将wakeUp 置为true,表示允许给通道ch发送数据,解除阻塞;但是,具体还没有执行。
    • b)第16行:将c.consumerWaiting 重新置为false,达到的效果是,不必每次往单链表c.list里添加帧数据都给通道ch发送数据,也就是说,只有c.consumerWaiting 为true时,才允许给通道ch发送消息,解除阻塞。
      • c.consumerWaiting 为true时,是说,消费者需要等待,此时单链表c.list里没有数据,为空链表。
  • 第18行:调用单链表c.list的enqueue方法,具体将帧存储到链表c.list里;具体存储原理,前面章节已经介绍过了。
  • 第19-27行:服务器端给客户端发送某些类型的帧,客户端接收到这些帧后,需要给服务器端反馈一个ACK帧,或者RST帧;比方说客户端接收到的Ping帧后,需要给服务器端一个反馈ACK帧;变量transportResponseFrames就是用来统计给服务器端反馈了多少个ACK帧以及RST帧;当变量transportResponseFrames累加到一定的阈值maxQueuedTransportResponseFrames 后,就会创建一个通道ch,这个通道,就是用为阀门使用的;
    • 什么场景下使用?或者说什么地方调用了?
      在grpc-go/internal/transport/http2_client.go文件中reader方法里:“t.controlBuf.throttle()”语句里使用了;达到的效果就是在读取帧前,先判断一下阀门通道ch是阻塞状态,还是非阻塞状态;
      • 如果是非阻塞状态,就可以立马读取帧,
      • 如果是阻塞状态,就暂停读取帧,直到解除阀门通道的阻塞。
  • 第29-34行:当wakeUp为true时,就可以给通道ch发送数据,以解除通道ch的阻塞;从而使得帧加载器可以重新从单链表c.list获取帧。
这个方法的核心目的是:
  • 将各种类型的帧,存储到单链表c.list里;
  • 只不过,在存储前后,做了一定的事情;比方说,存储前的校验工作;对单链表c.list的存储容量判断,要不要暂停接收帧的读取工作;
  • 这其实,实现了一个流控的作用;当读取的帧的速度超过了帧加载器get获取的速度,就暂停读取帧,等待后台处理完成后,再允许重新读取帧。

2、帧加载器get如何从列表里获取帧

接下来,分析一下,帧加载器如何从单链表c.list里获取帧:
进入grpc-go/internal/transport/controlbuf.go文件中的get方法里:

1func (c *controlBuffer) get(block bool) (interface{}, error) {
2for {
3.		c.mu.Lock()
4if c.err != nil {
5.			c.mu.Unlock()
6return nil, c.err
7}8if !c.list.isEmpty() {
9.			h := c.list.dequeue().(cbItem)
10if h.isTransportResponseFrame() {
11if c.transportResponseFrames == maxQueuedTransportResponseFrames {
12// We are removing the frame that put us over the
13// threshold; close and clear the throttling channel.
14.					ch := c.trfChan.Load().(*chan struct{})
15close(*ch)
16.					c.trfChan.Store((*chan struct{})(nil))
17}
18.				c.transportResponseFrames--
19}
20.			c.mu.Unlock()
21return h, nil
22}23if !block {
24.			c.mu.Unlock()
25return nil, nil
26}
27.		c.consumerWaiting = true
28.		c.mu.Unlock()29select {
30case <-c.ch:31case <-c.done:
32.			c.finish()
33return nil, ErrConnClosing
34}
35}
36}

在获取帧的时候,提供了两种模式:

1.阻塞式获取帧:  参数block为true时,即阻塞式获取数据;
  • 假设,存储帧的单链表不为空,那直接从单链表里的头部取出帧数据,返回即可
  • 假设,存储帧的单链表为空,进入阻塞状态,等待阻塞解除后,重新尝试获取帧数据
2.非阻塞式获取帧:  参数block为false时,即非阻塞式获取数据;
  • 假设,存储帧的单链表不为空,那直接从单链表里的头部取出帧数据,返回即可

  • 假设,存储帧的单链表为空,直接返回nil,不会再尝试获取数据的。

可见,不管是阻塞式还是非阻塞式,只要存储帧的单链表有帧数据,直接返回帧数据;只是存储帧的单链表为空时有区别。

主要流程说明:

  • 第4-7行:判断controlBuf是否存在异常,有异常时就直接返回;其实,就是获取帧数据前的校验工作
  • 第8-22行:假设c.list.isEmpty() =false的情况下,即列表里存在帧数据
    • 第9行:从列表里获取帧数据
    • 第10行:判断此帧是否是反馈给服务器端的帧;
    • 第11行:当反馈给服务器端的帧的数量满足阈值时
    • 第14-15行:获取阀门通道,并且关闭阀门通道,相当于给阀门通道发送了一个消息;这样的话,在grpc-go/internal/transport/http2_client.go文件中reader方法里:“t.controlBuf.throttle()” 就解除阻塞了,帧接收器又可以接收帧了。
    • 第18行:将transportResponseFrames递减1;其实,在帧的接收器章节已经分析过了,如果阀门通道阻塞了,肯定transportResponseFrames 是达到了阈值,此现象可能的原因:往帧列表里存储的速度特别快,而获取的速度相对慢,以至于transportResponseFrames 的累加速度远大于递减的速度
    • 第21行:将获取的数据,返还;结束循环
  • 第23-26行:如果block为false时,就退出
  • 第27行:将c.consumerWaiting 置为 true,表示消费者正等待获取数据
  • 第30行:从通道里获取数据,没有的话,就处于阻塞状态;直到有新的数据存储到帧列表里,解除阻塞;重洗获取数据。

3、帧存储器executeAndPut和帧加载器get一起分析

接下来,我们将帧存储器executeAndPut和帧加载器get整合起来分析:

1.场景一:采用非阻塞式获取数据,不管单链表c.list里是否有帧数据
  这种场景,帧存储器和帧加载器是没有交互的,各自独立,互不影响
2.场景二:采用阻塞式获取数据,并且单链表c.list为空
  这种场景,帧存储器和帧加载器是有交互的;通过controlBuf里的consumerWaiting,ch来交互的;

grpc 帧存储器和帧加载器

  • 帧存储器将帧存储到单链表的尾部,帧加载器从单链表里获取帧;
  • 若帧加载器get发现单链表里没有帧数据了,此时为空的单链表时,就会将consumerWaiting置为true,以表明,帧加载器处于等待数据状态;于此同时,帧加载器会创建一个通过ch
  • 帧存储器有数据时,发现consumerWaiting为true时,说明,有消费者(帧加载器)处于阻塞等待数据状态,就给通过ch发送信号,告诉消费者,已经有数据了。消费者不用等待了,可以继续消费数据了。

4、总结

  本篇文章,我们主要分析了在将帧数据存储到单链表时前后都做了哪些事情;以及如何从单链表里获取帧数据的方式;可以阻塞式获取,也支持非阻塞式获取;

  到目前为止,我们已经知道了:

  • 如何将帧数据存储起来,
  • 如何获取帧数据,
  • 以及阻塞式获取帧数据的场景下,帧存储器和帧加载器如何交互的;

  接下来会介绍帧发送器的核心原理,而在帧发送器的核心原理中,同时使用了阻塞式获取帧数据和非阻塞式获取帧数据,有了刚才的铺垫,对理解帧发送器的原理应该会有帮助的。

下一篇文章
  帧发送器执行逻辑介绍

点击下面的图片,返回到专栏大纲

gRPC-go源码剖析与实战之专栏大纲

您的每一次点赞,每一次关注,每一次收藏都是对我工作的最大支持,让我们开始 吧!
gRPC-go源码剖析与实战之点赞之交

gRPC-go源码剖析与实战感谢

这篇关于grpc-go源码剖析二十四之在同一个进程中如何使用通知的方式消费数据帧?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1054354

相关文章

Python获取中国节假日数据记录入JSON文件

《Python获取中国节假日数据记录入JSON文件》项目系统内置的日历应用为了提升用户体验,特别设置了在调休日期显示“休”的UI图标功能,那么问题是这些调休数据从哪里来呢?我尝试一种更为智能的方法:P... 目录节假日数据获取存入jsON文件节假日数据读取封装完整代码项目系统内置的日历应用为了提升用户体验,

vue使用docxtemplater导出word

《vue使用docxtemplater导出word》docxtemplater是一种邮件合并工具,以编程方式使用并处理条件、循环,并且可以扩展以插入任何内容,下面我们来看看如何使用docxtempl... 目录docxtemplatervue使用docxtemplater导出word安装常用语法 封装导出方

Linux换行符的使用方法详解

《Linux换行符的使用方法详解》本文介绍了Linux中常用的换行符LF及其在文件中的表示,展示了如何使用sed命令替换换行符,并列举了与换行符处理相关的Linux命令,通过代码讲解的非常详细,需要的... 目录简介检测文件中的换行符使用 cat -A 查看换行符使用 od -c 检查字符换行符格式转换将

Go标准库常见错误分析和解决办法

《Go标准库常见错误分析和解决办法》Go语言的标准库为开发者提供了丰富且高效的工具,涵盖了从网络编程到文件操作等各个方面,然而,标准库虽好,使用不当却可能适得其反,正所谓工欲善其事,必先利其器,本文将... 目录1. 使用了错误的time.Duration2. time.After导致的内存泄漏3. jsO

使用Jackson进行JSON生成与解析的新手指南

《使用Jackson进行JSON生成与解析的新手指南》这篇文章主要为大家详细介绍了如何使用Jackson进行JSON生成与解析处理,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 核心依赖2. 基础用法2.1 对象转 jsON(序列化)2.2 JSON 转对象(反序列化)3.

Java枚举类实现Key-Value映射的多种实现方式

《Java枚举类实现Key-Value映射的多种实现方式》在Java开发中,枚举(Enum)是一种特殊的类,本文将详细介绍Java枚举类实现key-value映射的多种方式,有需要的小伙伴可以根据需要... 目录前言一、基础实现方式1.1 为枚举添加属性和构造方法二、http://www.cppcns.co

使用Python实现快速搭建本地HTTP服务器

《使用Python实现快速搭建本地HTTP服务器》:本文主要介绍如何使用Python快速搭建本地HTTP服务器,轻松实现一键HTTP文件共享,同时结合二维码技术,让访问更简单,感兴趣的小伙伴可以了... 目录1. 概述2. 快速搭建 HTTP 文件共享服务2.1 核心思路2.2 代码实现2.3 代码解读3.

Elasticsearch 在 Java 中的使用教程

《Elasticsearch在Java中的使用教程》Elasticsearch是一个分布式搜索和分析引擎,基于ApacheLucene构建,能够实现实时数据的存储、搜索、和分析,它广泛应用于全文... 目录1. Elasticsearch 简介2. 环境准备2.1 安装 Elasticsearch2.2 J

使用C#代码在PDF文档中添加、删除和替换图片

《使用C#代码在PDF文档中添加、删除和替换图片》在当今数字化文档处理场景中,动态操作PDF文档中的图像已成为企业级应用开发的核心需求之一,本文将介绍如何在.NET平台使用C#代码在PDF文档中添加、... 目录引言用C#添加图片到PDF文档用C#删除PDF文档中的图片用C#替换PDF文档中的图片引言在当

Java中List的contains()方法的使用小结

《Java中List的contains()方法的使用小结》List的contains()方法用于检查列表中是否包含指定的元素,借助equals()方法进行判断,下面就来介绍Java中List的c... 目录详细展开1. 方法签名2. 工作原理3. 使用示例4. 注意事项总结结论:List 的 contain