解决KafkaConsumer多线程接入不安全问题(spark streaming 消费kafka)

本文主要是介绍解决KafkaConsumer多线程接入不安全问题(spark streaming 消费kafka),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

使用场景:

设置并行度参数spark.streaming.concurrentJobs >1 时候,使用spark streaming消费kafka

异常信息:

There may be two or more tasks in one executor will use the same kafka consumer at the same time, then it will throw an exception: "KafkaConsumer is not safe for multi-threaded access"

JIRA-SPARK中已经提出的问题

https://issues.apache.org/jira/browse/SPARK-22606?jql=text ~ "spark.streaming.concurrentJobs"

解决办法:

第一种方案

PR地址:https://github.com/apache/spark/pull/19819

spark streaming消费kafka时候,默认开启了对kafkaconsumer进行缓存,通过存放到HashMap中实现,因此就需要有相应的key,才能找到具体到kafkaconsumer。

//原生的代码中是没有threadId变量的,通过加入线程id ,使得不同的线程不能同时使用同一个kafkaconsumerprivate case class CacheKey(groupId: String, topic: String, partition: Int, threadId: Long)private var cache: ju.LinkedHashMap[CacheKey, CachedKafkaConsumer[_, _]] = nullCachedKafkaConsumer.get[K, V](groupId, part.topic, part.partition, threadId, kafkaParams)

这个办法其实就是为缓存在map中的CachedKafkaConsumer对应的key增加了一个参数是线程id,使得不让多个线程使用同一个consumer,但是这种情况每一个task都需要去创建一个consumer,是消耗资源的。
PR中这样一句评论:
It will create a new consumer for each thread. This could be quite resource consuming when several topics shared with thread pools.

第二种方案

对spark-streaming-kafka中的CacheKafkaConsumer进行了重构,首先介绍几个类

//接口
KafkaDataConsumer//KafkaDataConsumer的实现类private case class CachedKafkaDataConsumer[K, V](internalConsumer: InternalKafkaConsumer[K, V])extends KafkaDataConsumer[K, V] {assert(internalConsumer.inUse)override def release(): Unit = KafkaDataConsumer.release(internalConsumer)}private case class NonCachedKafkaDataConsumer[K, V](internalConsumer: InternalKafkaConsumer[K, V])extends KafkaDataConsumer[K, V] {override def release(): Unit = internalConsumer.close()}//那么InternalKafkaConsumer是什么?其实对KafkaConsumer进行了封装而已,持有KafkaConsumer对象
private[kafka010] class InternalKafkaConsumer[K, V](val topicPartition: TopicPartition,val kafkaParams: ju.Map[String, Object])private[kafka010] case class CacheKey(groupId: String, topicPartition: TopicPartition)private[kafka010] var cache: ju.Map[CacheKey, InternalKafkaConsumer[_, _]] = null

那么为了防止一个executor中多个task同时使用同一个KafkaConsumer,如何解决呢?通过看如何获取的consumer即可看到解决方案!

def acquire[K, V](topicPartition: TopicPartition,kafkaParams: ju.Map[String, Object],context: TaskContext,useCache: Boolean): KafkaDataConsumer[K, V] = synchronized {val groupId = kafkaParams.get(ConsumerConfig.GROUP_ID_CONFIG).asInstanceOf[String]//根据groupId以及topicPartition创建相应的keyval key = new CacheKey(groupId, topicPartition)//根据key获得缓存的InternalKafkaConsumer对象,其实可以理解为KafkaConsumer对象,就是多了一层封装val existingInternalConsumer = cache.get(key)lazy val newInternalConsumer = new InternalKafkaConsumer[K, V](topicPartition, kafkaParams)//如果TaskContext不为null,同时task尝试次数大于等于1 if (context != null && context.attemptNumber >= 1) {logDebug(s"Reattempt detected, invalidating cached consumer $existingInternalConsumer")//如果缓存中存在该key的InternalKafkaConsumer对象if (existingInternalConsumer != null) {// 如果缓存中存在并且是使用状态,设置markedForClose=true,意思是说下一次release时候会将其关闭//如果缓存了并且非使用状态,那么直接关闭,并从缓存移除 if (existingInternalConsumer.inUse) {existingInternalConsumer.markedForClose = true} else {existingInternalConsumer.close()cache.remove(key)}}logDebug("Reattempt detected, new non-cached consumer will be allocated " +s"$newInternalConsumer")//这个最外层if分支创建新的consumer , 最后返回  NonCachedKafkaDataConsumerNonCachedKafkaDataConsumer(newInternalConsumer)} else if (!useCache) {//如果task重试次数小于1    或者 taskcontext不存在,并且没有使用缓存,直接创建NonCachedKafkaDataConsumer对象logDebug("Cache usage turned off, new non-cached consumer will be allocated " +s"$newInternalConsumer")NonCachedKafkaDataConsumer(newInternalConsumer)} else if (existingInternalConsumer == null) {//使用缓存了,但是缓存中不存在,直接创建CachedKafkaDataConsumerlogDebug("No cached consumer, new cached consumer will be allocated " +s"$newInternalConsumer")cache.put(key, newInternalConsumer)CachedKafkaDataConsumer(newInternalConsumer)} else if (existingInternalConsumer.inUse) {// 缓存中存在并且当前是在使用,那么创建一个新的InternalConsmer然后封装到NonCachedKafkaDataConsumer中返回logDebug("Used cached consumer found, new non-cached consumer will be allocated " +s"$newInternalConsumer")NonCachedKafkaDataConsumer(newInternalConsumer)} else {//缓存中存在并且没有被使用,直接设置为使用状态,然后封装到CachedKafkaDataConsumer中返回logDebug(s"Not used cached consumer found, re-using it $existingInternalConsumer")existingInternalConsumer.inUse = true// Any given TopicPartition should have a consistent key and value typeCachedKafkaDataConsumer(existingInternalConsumer.asInstanceOf[InternalKafkaConsumer[K, V]])}}

将InternalConsumer的markedForClose字段设置为true,意味着这个对象的kafkaconsumer对象要关闭

//KafkaRDD中增加了一个task完成监听器,如果任务完成调用closeIfNeeded方法
context.addTaskCompletionListener[Unit](_ => closeIfNeeded())def closeIfNeeded(): Unit = {if (consumer != null) {consumer.release()}}//上面的consumer是KafkaDataConsumer的子类的对象,其两个子类如下://   1:    internalConsumer会缓存private case class CachedKafkaDataConsumer[K, V](internalConsumer: InternalKafkaConsumer[K, V])extends KafkaDataConsumer[K, V] {assert(internalConsumer.inUse)//直接调用父类的release方法override def release(): Unit = KafkaDataConsumer.release(internalConsumer)}//看其父类的release方法private def release(internalConsumer: InternalKafkaConsumer[_, _]): Unit = synchronized {//获取internalConsumer的groupid topicpartition然后组成key,根据key去缓存查找相应的internalConsumer对象val key = new CacheKey(internalConsumer.groupId, internalConsumer.topicPartition)val cachedInternalConsumer = cache.get(key)//如果要释放的internalConsumer是缓存中存放的if (internalConsumer.eq(cachedInternalConsumer)) {// 标记为ture那么调用其close方法,然后从缓存移除if (internalConsumer.markedForClose) {internalConsumer.close()cache.remove(key)} else {//如果没有标记为true,意味着继续在缓存,不会移除,只是将其使用状态改为falseinternalConsumer.inUse = false}} else {// 这个对象没有被缓存过,或者 不等于缓存中的,直接关闭internalConsumer.close()logInfo(s"Released a supposedly cached consumer that was not found in the cache " +s"$internalConsumer")}}
}// 2 : internalConsumer不会缓存private case class NonCachedKafkaDataConsumer[K, V](internalConsumer: InternalKafkaConsumer[K, V])extends KafkaDataConsumer[K, V] {//直接调用其持有对象internalConsumer的close方法override def release(): Unit = internalConsumer.close()}//internalConsumer的close方法其实就是调用KafkaConsumer的close方法
def close(): Unit = consumer.close()//此处consumer是什么?
private val consumer = createConsumerprivate def createConsumer: KafkaConsumer[K, V] = {val updatedKafkaParams = KafkaConfigUpdater("executor", kafkaParams.asScala.toMap).setAuthenticationConfigIfNeeded().build()val c = new KafkaConsumer[K, V](updatedKafkaParams)val topics = ju.Arrays.asList(topicPartition)c.assign(topics)c}

通过这个方案,当我们没有使用缓存时候直接创建NonCachedKafkaDataConsumer对象,NonCachedKafkaDataConsumer对象封装了InternalConsumer, InternalConsumer对象中持有KafkaConsumer对象,InternalConsumer不会被缓存放到Map中。

当使用缓存时候,首先从根据groupid topicpartiiton组成的key,得到缓存的InternalConsumer对象,不存在就是null。

如果缓存不存在那么直接创建CachedKafkaDataConsumer对象,然后将这个对象引用的InternalConsumer对象缓存到Map中;

如果缓存已经存在了并且InternalConsumer当前是使用状态,那么直接创建NonCachedKafkaDataConsumer对象,这个对象持有的InternalConsumer对象是新建的,并不是缓存中的,虽然参数(topicpartition对象和kafkaParams)与缓存中的InternalConsumer是一样的;

如果缓存存在InternalConsumer并且不是使用状态,直接把缓存中的InternalConsumer设置为使用状态,然后封装到CachedKafkaDataConsumer中。

如果任务有重试,之前缓存的InternalConsumer如果是非使用状态,直接关闭并且缓存中移除;如果缓存的InternalConsumer是使用状态,将其标记为下一次release时候移除的状态,最后任务重试也需要相应的consumer,因此会返回一个NonCachedKafkaDataConsumer对象,并且里面的InternalConsumer对象是新建的,并没有使用缓存中的

这篇关于解决KafkaConsumer多线程接入不安全问题(spark streaming 消费kafka)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1064761

相关文章

JAVA保证HashMap线程安全的几种方式

《JAVA保证HashMap线程安全的几种方式》HashMap是线程不安全的,这意味着如果多个线程并发地访问和修改同一个HashMap实例,可能会导致数据不一致和其他线程安全问题,本文主要介绍了JAV... 目录1. 使用 Collections.synchronizedMap2. 使用 Concurren

usb接口驱动异常问题常用解决方案

《usb接口驱动异常问题常用解决方案》当遇到USB接口驱动异常时,可以通过多种方法来解决,其中主要就包括重装USB控制器、禁用USB选择性暂停设置、更新或安装新的主板驱动等... usb接口驱动异常怎么办,USB接口驱动异常是常见问题,通常由驱动损坏、系统更新冲突、硬件故障或电源管理设置导致。以下是常用解决

Mysql如何解决死锁问题

《Mysql如何解决死锁问题》:本文主要介绍Mysql如何解决死锁问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录【一】mysql中锁分类和加锁情况【1】按锁的粒度分类全局锁表级锁行级锁【2】按锁的模式分类【二】加锁方式的影响因素【三】Mysql的死锁情况【1

SpringBoot内嵌Tomcat临时目录问题及解决

《SpringBoot内嵌Tomcat临时目录问题及解决》:本文主要介绍SpringBoot内嵌Tomcat临时目录问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录SprinjavascriptgBoot内嵌Tomcat临时目录问题1.背景2.方案3.代码中配置t

SpringBoot使用GZIP压缩反回数据问题

《SpringBoot使用GZIP压缩反回数据问题》:本文主要介绍SpringBoot使用GZIP压缩反回数据问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录SpringBoot使用GZIP压缩反回数据1、初识gzip2、gzip是什么,可以干什么?3、Spr

如何解决idea的Module:‘:app‘platform‘android-32‘not found.问题

《如何解决idea的Module:‘:app‘platform‘android-32‘notfound.问题》:本文主要介绍如何解决idea的Module:‘:app‘platform‘andr... 目录idea的Module:‘:app‘pwww.chinasem.cnlatform‘android-32

kali linux 无法登录root的问题及解决方法

《kalilinux无法登录root的问题及解决方法》:本文主要介绍kalilinux无法登录root的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,... 目录kali linux 无法登录root1、问题描述1.1、本地登录root1.2、ssh远程登录root2、

SpringBoot应用中出现的Full GC问题的场景与解决

《SpringBoot应用中出现的FullGC问题的场景与解决》这篇文章主要为大家详细介绍了SpringBoot应用中出现的FullGC问题的场景与解决方法,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录Full GC的原理与触发条件原理触发条件对Spring Boot应用的影响示例代码优化建议结论F

深入理解Apache Kafka(分布式流处理平台)

《深入理解ApacheKafka(分布式流处理平台)》ApacheKafka作为现代分布式系统中的核心中间件,为构建高吞吐量、低延迟的数据管道提供了强大支持,本文将深入探讨Kafka的核心概念、架构... 目录引言一、Apache Kafka概述1.1 什么是Kafka?1.2 Kafka的核心概念二、Ka

MySQL 中查询 VARCHAR 类型 JSON 数据的问题记录

《MySQL中查询VARCHAR类型JSON数据的问题记录》在数据库设计中,有时我们会将JSON数据存储在VARCHAR或TEXT类型字段中,本文将详细介绍如何在MySQL中有效查询存储为V... 目录一、问题背景二、mysql jsON 函数2.1 常用 JSON 函数三、查询示例3.1 基本查询3.2