聊聊Go的三色标记法

2023-11-05 22:58
文章标签 标记 go 聊聊 三色

本文主要是介绍聊聊Go的三色标记法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

这里是Z哥的个人公众号

每周五11:45 按时送达

当然了,也会时不时加个餐~

我的第「203」篇原创敬上

大家好,我是 Z 哥。

今天带来一篇久违的技术型文章。

之前也有不少小伙伴会问,Z 哥你好久没发技术性文章了。其实主要原因有以下几点。

第一,目前的工作偏业务以及管理,的确在技术上的精力投入不如之前那么多。这也限制了自己在纯技术性方面的知识输出。

第二,虽然自己在工作之余,也会有一部分精力专门用于技术学习,但是大多是以新技术、新框架等的了解、熟悉为主。涉及到的知识 Level 相对比较浅,就算发出来对大家的帮助也不大,就没发。

第三,从长远来看,自己也不想太把自己局限在技术的圈子里。因为在我看来,技术只是一门手艺,是吃饭的家伙,但是吃饭的家伙从来都不仅仅是技术,还有很多其它的方面。甚至其中很多事情不像具体的技术细节那样「标准化」,有很多是通过血汗积累的「非标准化」经验,我认为这些经验的价值不亚于技术知识。因此,作为有志与大家交朋友的 Z 哥,自然就不想把自己局限在「技术」这个小圈子里。

好了,回到本文的正题。最近正好在学习 Golang,对它的里面用到的三色标记法的 GC 机制有些好奇(最开始是因为名字让我联想到了三色杯冷饮~),就稍微多深入了解了一下,在这里分享出来,或许将来对你面试啥的有些帮助。

/01  判断对象存活的思路/

在 GC 领域里,判断对象存活的主流思路是两个,「引用计数」和「可达性分析」。

01  引用计数

顾名思义,引用计数的思路就是给每个对象进行计数,每被其它对象引用一次,计数就 +1,引用失效后,计数就 -1。当计数器的数值为 0,就意味着它没有被使用,可以回收。

02  可达性分析

可达性分析的思路就是通过引用链路判断对象是否可被触达,如果能触达说明该对象当前正在被使用,不可回收;反之,没有触达到的对象则认为是无使用的,可以回收。

这个引用链路的结构类似于有向有环图,但是根节点不止一个,是一个集合,称之为 GCRoots。

目前主流的 GC 机制大多用的是「可达性分析」这条路线。Go、Java、.Net等都是如此。为什么引用计数不好用呢?因为它有一个特别严重的问题:无法处理循环引用

像上图这样的情况,引用计数永远不为 0,这些对象就永远不会被回收,这会严重影响回收的效果。

但是它也并不是一无是处,它的回收实时性效果更好,可以配合「可达性分析」一起使用,发挥各自的优点,在不同的场景下使用不同的策略。

由于,「可达性分析」思路是主流,所以后续发展出来的很多回收算法都以这个思路为基础的,三色标记法就是其中之一。我们今天主要来聊聊它。

/02  三色标记法/

在讲具体原理之前先了解一个概念,「Stop The World 」,简称「STW」。

垃圾回收器的工作流程大体如下:

  1. 标记出哪些对象是存活的,哪些是可回收的。

  2. 进行回收(清除/复制/整理)。如果在回收期间有移动过的对象(复制/整理),还需要更新引用。

第一步做标记的过程又可以分成两个步骤。

  1. 标记 GC ROOT 能关联到的对象。这里会 STW。

  2. 从 GCRoots 的直接关联对象开始遍历整个对象图。这里不会STW。

垃圾回收算法主要做的就是第一步中的第二步,三色标记法也不例外,它将从GC Roots 开始遍历的对象标记为以下三种颜色:

  • 白色,初始值。本次回收没被扫描过的对象默认都是白色的。而确认不可达的对象也是白色,但是会被标记「不可达」。

  • 灰色,中间状态。本对象有被外部引用,但是本对象引用的其它对象尚未全部检测完。

  • 黑色,本对象有被其它对象引用,且已检测完本对象引用的其它对象。

其实这三种颜色是啥不重要的,重要的是它们所表达的状态,灰色的中间状态,标记过程结束后只会存在白色或者黑色。

整个过程中,这些状态是如下图这样变化的。

看似很完美的解决方案,其实也存在的一个问题:标记过程中,对象引用发生了变化。

它会导致两个问题,「多标」和「漏标」。

多标就是下图这样:

由于步骤2不会STW,所以可能存在扫描过A将它标记为黑色后,又重新引用了一个原本已经被标记为白色的D(C断开了与D的引用)。此时,D就会被回收掉,导致程序出现意料之外的bug。

「漏标」就是这样:

对象 E/F/G 是“应该”被回收的。然而因为 E 已经变为灰色了,其仍会被当作存活对象继续遍历下去。最终的结果是:这部分对象仍会被标记为存活,即本轮 GC 不会回收这部分内存。

传统的解决这两个问题的思路有两个:

  1. 在断开引用的时候做额外处理。

  2. 在「黑色」对象重新建立「白色」对象的引用时做额外处理。(回收开始后新建的对象默认为黑色)。

第一个思路专业叫法是「写屏障」,第二个是「读屏障」。其实名字就是噱头,你可以把它们俩当我们平时编程中用到的 AOP 概念来理解,在修改和读取之前做一些操作。

基于「写屏障」,可以延伸出两个方案:

  • 增量更新(Incremental Update)。针对新增的引用,将其记录下来等待重新遍历。这个操作在「修改操作后」进行,JVM 中的 CMS 垃圾回收器就是这个思路。

  • 原始快照(Snapshot At The Beginning,SATB)。当某个时刻 的 GC Roots 确定后,当时的对象图就已经确定了。如果期间发生变化,则可以记录起来,保证标记依然按照原本的视图来。这个操作在「修改操作前」进行,JVM中 的 G1 垃圾回收器用的就是这个思路。理论上,配合 「Remembered Set」,SATB 的效率是比增量更新要高的,不过会消耗更多的内存。

基于「读屏障」的方案是:在「黑色」对象重新建立「白色」对象的引用前,将这个白色对象记录下来,避免被回收掉。这个动作在「读取操作前」进行,JVM 中的 ZGC 垃圾回收器就是这个思路。

在 Golang(1.8版本之后)里,用的是一种新的机制,称之为「混合写屏障」机制。它的思路总结下来就是4句话:

  1. 将对象分为堆上的对象和栈上的对象。

  2. GC 开始将栈上的对象全部扫描并标记为黑色,无需 STW。并且之后不再进行第二次重复扫描

  3. 在 GC 期间,任何在栈上创建的新对象,均为黑色。

  4. 在 GC 期间,在堆上被删除或者添加的对象都标记为灰色。后续继续扫描。

你看,其实这些原理也没那么复杂,我相信只要你搞清楚了自己面对的是什么问题,你也能想到这些方案。

好了,总结一下。

这篇呢,Z 哥和你分享了我对 Golang 中的 GC 机制「三色标记法」的了解。

GC 的底层判断对象存活思路主要是两个,引用计数和可达性分析。由于引用计数存在循环引用问题,所以大多数 GC 都是按照后者的思路实现的,Golang 也不例外。

「三色标记法」的原理是,将对象分为了三种状态:

  • 白色,默认值。本次回收没被扫描过的对象都是白色的。确认不可达的对象也是白色,但是会被标记「不可达」。

  • 灰色,中间状态。本对象有被外部引用,但是本对象引用的其它对象尚未全部检测完。

  • 黑色,本对象有被其它对象引用,且已检测完本对象引用的其它对象。

最终将白色状态的对象回收掉。为了解决其中会存在的漏标、多标问题,它通过「混合写屏障」的机制来解决。思路是,

  1. 将对象分为堆上的对象和栈上的对象。

  2. GC 开始将栈上的对象全部扫描并标记为黑色,无需 STW。并且之后不再进行第二次重复扫描

  3. 在 GC 期间,任何在栈上创建的新对象,均为黑色。

  4. 在 GC 期间,在堆上被删除或者添加的对象都标记为灰色。后续继续扫描。

希望对你有所帮助。

推荐阅读:

  • 如何做好知识管理

  • 一些微服务拆分的浅见

原创不易,如果你觉得这篇文章还不错,就「点赞」或者「在看」一下吧,鼓励我的创作 :)

也可以分享我的公众号名片给有需要的朋友们。

如果你有关于软件架构、分布式系统、产品、运营的困惑

可以试试点击「阅读原文

这篇关于聊聊Go的三色标记法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/353000

相关文章

Go Playground 在线编程环境

For all examples in this and the next chapter, we will use Go Playground. Go Playground represents a web service that can run programs written in Go. It can be opened in a web browser using the follow

go基础知识归纳总结

无缓冲的 channel 和有缓冲的 channel 的区别? 在 Go 语言中,channel 是用来在 goroutines 之间传递数据的主要机制。它们有两种类型:无缓冲的 channel 和有缓冲的 channel。 无缓冲的 channel 行为:无缓冲的 channel 是一种同步的通信方式,发送和接收必须同时发生。如果一个 goroutine 试图通过无缓冲 channel

脏页的标记方式详解

脏页的标记方式 一、引言 在数据库系统中,脏页是指那些被修改过但还未写入磁盘的数据页。为了有效地管理这些脏页并确保数据的一致性,数据库需要对脏页进行标记。了解脏页的标记方式对于理解数据库的内部工作机制和优化性能至关重要。 二、脏页产生的过程 当数据库中的数据被修改时,这些修改首先会在内存中的缓冲池(Buffer Pool)中进行。例如,执行一条 UPDATE 语句修改了某一行数据,对应的缓

如何确定 Go 语言中 HTTP 连接池的最佳参数?

确定 Go 语言中 HTTP 连接池的最佳参数可以通过以下几种方式: 一、分析应用场景和需求 并发请求量: 确定应用程序在特定时间段内可能同时发起的 HTTP 请求数量。如果并发请求量很高,需要设置较大的连接池参数以满足需求。例如,对于一个高并发的 Web 服务,可能同时有数百个请求在处理,此时需要较大的连接池大小。可以通过压力测试工具模拟高并发场景,观察系统在不同并发请求下的性能表现,从而

【Go】go连接clickhouse使用TCP协议

离开你是傻是对是错 是看破是软弱 这结果是爱是恨或者是什么 如果是种解脱 怎么会还有眷恋在我心窝 那么爱你为什么                      🎵 黄品源/莫文蔚《那么爱你为什么》 package mainimport ("context""fmt""log""time""github.com/ClickHouse/clickhouse-go/v2")func main(

三色标记(Tri-color marking)

维基百科部分 原文 https://en.wikipedia.org/wiki/Tracing_garbage_collection#TRI-COLOR Because of these performance problems, most modern tracing garbage collectors implement some variant of the tri-color ma

Go Select的实现

select语法总结 select对应的每个case如果有已经准备好的case 则进行chan读写操作;若没有则执行defualt语句;若都没有则阻塞当前goroutine,直到某个chan准备好可读或可写,完成对应的case后退出。 Select的内存布局 了解chanel的实现后对select的语法有个疑问,select如何实现多路复用的,为什么没有在第一个channel操作时阻塞 从而导

Go Channel的实现

channel作为goroutine间通信和同步的重要途径,是Go runtime层实现CSP并发模型重要的成员。在不理解底层实现时,经常在使用中对channe相关语法的表现感到疑惑,尤其是select case的行为。因此在了解channel的应用前先看一眼channel的实现。 Channel内存布局 channel是go的内置类型,它可以被存储到变量中,可以作为函数的参数或返回值,它在r

Go 数组赋值问题

package mainimport "fmt"type Student struct {Name stringAge int}func main() {data := make(map[string]*Student)list := []Student{{Name:"a",Age:1},{Name:"b",Age:2},{Name:"c",Age:3},}// 错误 都指向了最后一个v// a

Go组合

摘要 golang并非完全面向对象的程序语言,为了实现面向对象的继承这一神奇的功能,golang允许struct间使用匿名引入的方式实现对象属性方法的组合 组合使用注意项 使用匿名引入的方式来组合其他struct 默认优先调用外层方法 可以指定匿名struct以调用内层方法 代码 package mainimport ("fmt")type People struct{}type Pe