Flink 原理与实现:Savepoint

2024-05-12 23:38
文章标签 实现 原理 flink savepoint

本文主要是介绍Flink 原理与实现:Savepoint,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

扫码关注公众号免费阅读全文:冰山烈焰的黑板报
在这里插入图片描述

Savepoint 和 Checkpoint 都是使用 Asynchronous Barrier Snapshotting(简称 ABS)算法实现分布式快照的,都可以确保一致性、容错、故障恢复。何其相似乃尔,却又为何既生瑜,又生亮?是无心之举,还是有意为之?且听下文分解。

1. What are savepoints?

Savepoint 是 Flink 的一个非常独特的功能,类似于“瑞士军刀(Swiss Army knife)”的工具,可解决操作流应用程序的许多挑战。Savepoint 可以让你在某个指定的时间节点对整个流系统做快照。这个全局一致性快照(Global Consistent Snapshot)包含有关输入在数据源中所处位置的信息,以及有关源的所有位置和整个应用程序状态的信息。Savepoint 使用 Chandy-Lamport 算法的变体来获得整个状态的一致快照(可参考Flink 原理与实现:Checkpoint),而无需停止应用程序。Savepoint 需要有两个主要元素:

  1. Savepoint 通常需要一个比较大的文件目录,用于存放发生在该 Savepoint 的整个流应用的全部 State 的二进制文件。
  2. 一个相对较小的元数据文件,其中包含指向所有文件的指针(即,文件路径),这些文件是 Savepoint 的一部分,并存储在指定的分布式文件系统或数据存储中。

Global Consistent 表示所有输入中,全部并行 Operator 的 State 在完全相同的明确位置被 Checkpoint。如果你有一个流系统某些时刻的 Savepoint,那么你就可以从这些 Savepoint 的位置处重启该应用程序。这个新的应用程序会用 Savepoint 中 Operator 的 State 进行初始化,同时从 Savepoint 中获取的输入源的位置,并从该位置处开始重新处理数据。由于 Flink 的 Savepoint 之间彼此是相互独立的,一个应用程序可以拥有多个 Savepoint。因此,你也可以用不同的 Savepoint,从多个不同的处理位置重新启动多个不同版本的应用程序。如下图:
图1 从不同 Savepoint 重启的不同应用程序

2. When to use savepoints?

流式处理应用程序处理的数据是无界的,意味着理论上会永远运行下去。但是,成也萧何败萧何,正是由于这种特性,也暗示着流式处理应用程序总会有挂掉的一天,因为网络超时、磁盘坏道、机器故障等,都需要从某个特定的位置处进行失败恢复。实际上,很多应用案例是需要应用程序重新处理之前的数据。而 Savepoint 一般会应用于以下场景中:

  1. 部署一个应用程序的更新版本,比如,添加新功能、bugfix、更优的 Machine Learning Model。
  2. 为应用程序引入 A/B 测试,使用相同的数据流测试程序的不同版本,从相同的时间点开始测试而不会牺牲先前的状态。
  3. 对于不同资源,使用不同的并行度启动同一应用程序,然后将应用程序横向或横向扩展。
  4. 将应用程序迁移到新版本的 Apache Flink,或者将应用程序升级到其他集群。
  5. 暂停应用程序,释放集群资源给更高优先级的应用程序,稍后再重新启动,或者在输入流暂时不继续生产数据的时候。
  6. 使用 Savepoint 进行版本化并存档应用程序的状态。

3. Savepoint vs Checkpoint

SavepointCheckpoint 是 Flink 两个特有的功能。Savepoint 和 Checkpoint 在实现上是相似的,但是却存在着三方面的不同:

  1. 目的不同。从概念上讲,Flink的 Savepoint 和 Checkpoint 的区别类似于备份与传统数据库系统中的恢复日志的区别。 Checkpoints 的主要目的是作为 Apache Flink 的恢复机制,以确保容错处理框架能够从潜在的作业失败中恢复。 相反,Savepoints 的主要目的是充当用户手动备份和恢复活动后重新启动,继续或重新开启已暂停的应用程序的方式。
  2. 实现方式不同。Checkpoint 的设计是轻量级且快速的。它们可能(但不一定必须)利用底层状态后端的不同特性,并尽可能快地恢复数据。例如,RocksDB 状态后端增量检查点使用RocksDB 的内部格式,而不是 Flink 的本机格式。这有利于加速 RocksDB 的 Checkpoint 过程,使它们成为更轻量级检查点机制的第一个实例。相反,Savepoint 的设计更多地关注于数据的可移植性,并支持对作业所做的任何更改,这些更改会使生成和恢复工作的成本略微增加。
  3. 生命周期不同。Checkpoint 是自动的和周期性的。它们由 Flink 自动地、定期地拥有、创建和删除,不需要任何用户交互,以确保在发生作业失败时能够完全恢复。相反,Savepoint 是由用户手动拥有和管理的(即,它们是有计划地创建的和删除的)。
CheckpointSavepoint
目的从潜在的作业失败中恢复的机制重新启动应用程序的人工备份
实现轻量级且尽可能快速的恢复数据关注于数据的可移植性,生成和恢复工作的成本更高
生命周期无需任何人为干预,Flink 自动化管理人工手动地创建和删除

4. 总结

SavepointCheckpoint 是 Apache Flink 两个不同的特性,可以适用于不同的需求,以确保一致性、容错、故障恢复。Savepoint 可用于 Upgrade,Bugfix、Migration、A/B Test。这两个特性结合使用效果更好,从而确保应用程序的状态在不同的场景和环境中保持不变。

这篇关于Flink 原理与实现:Savepoint的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/984070

相关文章

Go 语言中的select语句详解及工作原理

《Go语言中的select语句详解及工作原理》在Go语言中,select语句是用于处理多个通道(channel)操作的一种控制结构,它类似于switch语句,本文给大家介绍Go语言中的select语... 目录Go 语言中的 select 是做什么的基本功能语法工作原理示例示例 1:监听多个通道示例 2:带

SpringBoot实现微信小程序支付功能

《SpringBoot实现微信小程序支付功能》小程序支付功能已成为众多应用的核心需求之一,本文主要介绍了SpringBoot实现微信小程序支付功能,文中通过示例代码介绍的非常详细,对大家的学习或者工作... 目录一、引言二、准备工作(一)微信支付商户平台配置(二)Spring Boot项目搭建(三)配置文件

鸿蒙中@State的原理使用详解(HarmonyOS 5)

《鸿蒙中@State的原理使用详解(HarmonyOS5)》@State是HarmonyOSArkTS框架中用于管理组件状态的核心装饰器,其核心作用是实现数据驱动UI的响应式编程模式,本文给大家介绍... 目录一、@State在鸿蒙中是做什么的?二、@Spythontate的基本原理1. 依赖关系的收集2.

基于Python实现高效PPT转图片工具

《基于Python实现高效PPT转图片工具》在日常工作中,PPT是我们常用的演示工具,但有时候我们需要将PPT的内容提取为图片格式以便于展示或保存,所以本文将用Python实现PPT转PNG工具,希望... 目录1. 概述2. 功能使用2.1 安装依赖2.2 使用步骤2.3 代码实现2.4 GUI界面3.效

MySQL更新某个字段拼接固定字符串的实现

《MySQL更新某个字段拼接固定字符串的实现》在MySQL中,我们经常需要对数据库中的某个字段进行更新操作,本文就来介绍一下MySQL更新某个字段拼接固定字符串的实现,感兴趣的可以了解一下... 目录1. 查看字段当前值2. 更新字段拼接固定字符串3. 验证更新结果mysql更新某个字段拼接固定字符串 -

java实现延迟/超时/定时问题

《java实现延迟/超时/定时问题》:本文主要介绍java实现延迟/超时/定时问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Java实现延迟/超时/定时java 每间隔5秒执行一次,一共执行5次然后结束scheduleAtFixedRate 和 schedu

Java Optional避免空指针异常的实现

《JavaOptional避免空指针异常的实现》空指针异常一直是困扰开发者的常见问题之一,本文主要介绍了JavaOptional避免空指针异常的实现,帮助开发者编写更健壮、可读性更高的代码,减少因... 目录一、Optional 概述二、Optional 的创建三、Optional 的常用方法四、Optio

在Android平台上实现消息推送功能

《在Android平台上实现消息推送功能》随着移动互联网应用的飞速发展,消息推送已成为移动应用中不可或缺的功能,在Android平台上,实现消息推送涉及到服务端的消息发送、客户端的消息接收、通知渠道(... 目录一、项目概述二、相关知识介绍2.1 消息推送的基本原理2.2 Firebase Cloud Me

Spring Boot项目中结合MyBatis实现MySQL的自动主从切换功能

《SpringBoot项目中结合MyBatis实现MySQL的自动主从切换功能》:本文主要介绍SpringBoot项目中结合MyBatis实现MySQL的自动主从切换功能,本文分步骤给大家介绍的... 目录原理解析1. mysql主从复制(Master-Slave Replication)2. 读写分离3.

Redis实现延迟任务的三种方法详解

《Redis实现延迟任务的三种方法详解》延迟任务(DelayedTask)是指在未来的某个时间点,执行相应的任务,本文为大家整理了三种常见的实现方法,感兴趣的小伙伴可以参考一下... 目录1.前言2.Redis如何实现延迟任务3.代码实现3.1. 过期键通知事件实现3.2. 使用ZSet实现延迟任务3.3