饥饿和公平

2024-06-04 06:18
文章标签 公平 饥饿

本文主要是介绍饥饿和公平,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

原文地址  By Jakob Jenkov  翻译 Simon-SZ  校对:方腾飞

如果一个线程因为CPU时间全部被其他线程抢走而得不到CPU运行时间,这种状态被称之为“饥饿”。而该线程被“饥饿致死”正是因为它得不到CPU运行时间的机会。解决饥饿的方案被称之为“公平性” – 即所有线程均能公平地获得运行机会。

 下面是本文讨论的主题:

1. Java中导致饥饿的原因:

  • 高优先级线程吞噬所有的低优先级线程的CPU时间。
  • 线程被永久堵塞在一个等待进入同步块的状态。
  • 线程在等待一个本身也处于永久等待完成的对象(比如调用这个对象的wait方法)。

2. 在Java中实现公平性方案,需要:

  • 使用锁,而不是同步块。
  • 公平锁。
  • 注意性能方面。

Java中导致饥饿的原因

在Java中,下面三个常见的原因会导致线程饥饿:

  1. 高优先级线程吞噬所有的低优先级线程的CPU时间。
  2. 线程被永久堵塞在一个等待进入同步块的状态,因为其他线程总是能在它之前持续地对该同步块进行访问。
  3. 线程在等待一个本身(在其上调用wait())也处于永久等待完成的对象,因为其他线程总是被持续地获得唤醒。

高优先级线程吞噬所有的低优先级线程的CPU时间

你能为每个线程设置独自的线程优先级,优先级越高的线程获得的CPU时间越多,线程优先级值设置在1到10之间,而这些优先级值所表示行为的准确解释则依赖于你的应用运行平台。对大多数应用来说,你最好是不要改变其优先级值。

线程被永久堵塞在一个等待进入同步块的状态

Java的同步代码区也是一个导致饥饿的因素。Java的同步代码区对哪个线程允许进入的次序没有任何保障。这就意味着理论上存在一个试图进入该同步区的线程处于被永久堵塞的风险,因为其他线程总是能持续地先于它获得访问,这即是“饥饿”问题,而一个线程被“饥饿致死”正是因为它得不到CPU运行时间的机会。

线程在等待一个本身(在其上调用wait())也处于永久等待完成的对象

如果多个线程处在wait()方法执行上,而对其调用notify()不会保证哪一个线程会获得唤醒,任何线程都有可能处于继续等待的状态。因此存在这样一个风险:一个等待线程从来得不到唤醒,因为其他等待线程总是能被获得唤醒。

在Java中实现公平性

虽Java不可能实现100%的公平性,我们依然可以通过同步结构在线程间实现公平性的提高。

首先来学习一段简单的同步态代码:

1 public class Synchronizer{
2  
3     public synchronized void doSynchronized(){
4  
5     //do a lot of work which takes a long time
6  
7     }
8 }

如果有一个以上的线程调用doSynchronized()方法,在第一个获得访问的线程未完成前,其他线程将一直处于阻塞状态,而且在这种多线程被阻塞的场景下,接下来将是哪个线程获得访问是没有保障的。

使用锁方式替代同步块

为了提高等待线程的公平性,我们使用锁方式来替代同步块。

1 public class Synchronizer{
2     Lock lock = new Lock();
3     public void doSynchronized() throws InterruptedException{
4         this.lock.lock();
5         //critical section, do a lot of work which takes a long time
6         this.lock.unlock();
7     }
8 }

注意到doSynchronized()不再声明为synchronized,而是用lock.lock()和lock.unlock()来替代。

下面是用Lock类做的一个实现:

01 public class Lock{
02  
03     private boolean isLocked      = false;
04  
05     private Thread lockingThread = null;
06  
07     public synchronized void lock() throws InterruptedException{
08  
09     while(isLocked){
10  
11         wait();
12  
13     }
14  
15     isLocked = true;
16  
17     lockingThread = Thread.currentThread();
18  
19 }
20  
21 public synchronized void unlock(){
22  
23     if(this.lockingThread != Thread.currentThread()){
24  
25          throw new IllegalMonitorStateException(
26  
27               "Calling thread has not locked this lock");
28  
29          }
30  
31     isLocked = false;
32  
33     lockingThread = null;
34  
35     notify();
36  
37     }
38 }

注意到上面对Lock的实现,如果存在多线程并发访问lock(),这些线程将阻塞在对lock()方法的访问上。另外,如果锁已经锁上(校对注:这里指的是isLocked等于true时),这些线程将阻塞在while(isLocked)循环的wait()调用里面。要记住的是,当线程正在等待进入lock() 时,可以调用wait()释放其锁实例对应的同步锁,使得其他多个线程可以进入lock()方法,并调用wait()方法。

这回看下doSynchronized(),你会注意到在lock()和unlock()之间的注释:在这两个调用之间的代码将运行很长一段时间。进一步设想,这段代码将长时间运行,和进入lock()并调用wait()来比较的话。这意味着大部分时间用在等待进入锁和进入临界区的过程是用在wait()的等待中,而不是被阻塞在试图进入lock()方法中。

在早些时候提到过,同步块不会对等待进入的多个线程谁能获得访问做任何保障,同样当调用notify()时,wait()也不会做保障一定能唤醒线程(至于为什么,请看线程通信)。因此这个版本的Lock类和doSynchronized()那个版本就保障公平性而言,没有任何区别。

但我们能改变这种情况。当前的Lock类版本调用自己的wait()方法,如果每个线程在不同的对象上调用wait(),那么只有一个线程会在该对象上调用wait(),Lock类可以决定哪个对象能对其调用notify(),因此能做到有效的选择唤醒哪个线程。

公平锁

下面来讲述将上面Lock类转变为公平锁FairLock。你会注意到新的实现和之前的Lock类中的同步和wait()/notify()稍有不同。

准确地说如何从之前的Lock类做到公平锁的设计是一个渐进设计的过程,每一步都是在解决上一步的问题而前进的:Nested Monitor Lockout, Slipped Conditions和Missed Signals。这些本身的讨论虽已超出本文的范围,但其中每一步的内容都将会专题进行讨论。重要的是,每一个调用lock()的线程都会进入一个队列,当解锁后,只有队列里的第一个线程被允许锁住Farlock实例,所有其它的线程都将处于等待状态,直到他们处于队列头部。

01 public class FairLock {
02     private boolean           isLocked       = false;
03     private Thread            lockingThread  = null;
04     private List<QueueObject> waitingThreads =
05             new ArrayList<QueueObject>();
06  
07   public void lock() throws InterruptedException{
08     QueueObject queueObject           = new QueueObject();
09     boolean     isLockedForThisThread = true;
10     synchronized(this){
11         waitingThreads.add(queueObject);
12     }
13  
14     while(isLockedForThisThread){
15       synchronized(this){
16         isLockedForThisThread =
17             isLocked || waitingThreads.get(0) != queueObject;
18         if(!isLockedForThisThread){
19           isLocked = true;
20            waitingThreads.remove(queueObject);
21            lockingThread = Thread.currentThread();
22            return;
23          }
24       }
25       try{
26         queueObject.doWait();
27       }catch(InterruptedException e){
28         synchronized(this) { waitingThreads.remove(queueObject); }
29         throw e;
30       }
31     }
32   }
33  
34   public synchronized void unlock(){
35     if(this.lockingThread != Thread.currentThread()){
36       throw new IllegalMonitorStateException(
37         "Calling thread has not locked this lock");
38     }
39     isLocked      = false;
40     lockingThread = null;
41     if(waitingThreads.size() > 0){
42       waitingThreads.get(0).doNotify();
43     }
44   }
45 }

 

01 public class QueueObject {
02  
03     private boolean isNotified = false;
04  
05     public synchronized void doWait() throws InterruptedException {
06  
07     while(!isNotified){
08         this.wait();
09     }
10  
11     this.isNotified = false;
12  
13 }
14  
15 public synchronized void doNotify() {
16     this.isNotified = true;
17     this.notify();
18 }
19  
20 public boolean equals(Object o) {
21     return this == o;
22 }
23  
24 }

首先注意到lock()方法不在声明为synchronized,取而代之的是对必需同步的代码,在synchronized中进行嵌套。

FairLock新创建了一个QueueObject的实例,并对每个调用lock()的线程进行入队列。调用unlock()的线程将从队列头部获取QueueObject,并对其调用doNotify(),以唤醒在该对象上等待的线程。通过这种方式,在同一时间仅有一个等待线程获得唤醒,而不是所有的等待线程。这也是实现FairLock公平性的核心所在。

请注意,在同一个同步块中,锁状态依然被检查和设置,以避免出现滑漏条件。

还需注意到,QueueObject实际是一个semaphore。doWait()和doNotify()方法在QueueObject中保存着信号。这样做以避免一个线程在调用queueObject.doWait()之前被另一个调用unlock()并随之调用queueObject.doNotify()的线程重入,从而导致信号丢失。queueObject.doWait()调用放置在synchronized(this)块之外,以避免被monitor嵌套锁死,所以另外的线程可以解锁,只要当没有线程在lock方法的synchronized(this)块中执行即可。

最后,注意到queueObject.doWait()在try – catch块中是怎样调用的。在InterruptedException抛出的情况下,线程得以离开lock(),并需让它从队列中移除。

性能考虑

如果比较Lock和FairLock类,你会注意到在FairLock类中lock()和unlock()还有更多需要深入的地方。这些额外的代码会导致FairLock的同步机制实现比Lock要稍微慢些。究竟存在多少影响,还依赖于应用在FairLock临界区执行的时长。执行时长越大,FairLock带来的负担影响就越小,当然这也和代码执行的频繁度相关。

(全文完)

这篇关于饥饿和公平的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1029290

相关文章

一些数学经验总结——关于将原一元二次函数增加一些限制条件后最优结果的对比(主要针对公平关切相关的建模)

1.没有分段的情况 原函数为一元二次凹函数(开口向下),如下: 因为要使得其存在正解,必须满足,那么。 上述函数的最优结果为:,。 对应的mathematica代码如下: Clear["Global`*"]f0[x_, a_, b_, c_, d_] := (a*x - b)*(d - c*x);(*(b c+a d)/(2 a c)*)Maximize[{f0[x, a, b,

团队动力之公平启发理论

不可不知的“公平启发理论” 公平启发理论‌主要用来回答如下问题: 公平感是如何产生的。公平感会对后续行为产生什么样的影响。 公平启发理论‌描述了人们在某个给定的情境下是如何构建自己的公平信念的,核心内容可以概括为两个阶段三个效应。两个阶段是指公平判断的形成和使用两个阶段。三个效应是指主因效应、替代效应以及其他效应。 两个阶段 ‌公平判断的形成阶段‌ 人们在日常生活中的决策更符合人们的生活实际

网易易盾携手雷斧科技,打造公平竞技环境

这是一个充满复古像素风格的游戏世界,玩家们控制着自己的像素角色,手持着各种像素化武器,时而酣畅对战,时而自由创作地图、武器和皮肤。 《像素射击》是由雷斧科技开发的一款集生存、对战、沙盒创造于一体的像素风格的3D多人在线射击游戏。 在游戏中,玩家不仅可以随心打造独属于自己的角色装扮,同时还可以与玩家通过团队竞赛、个人竞赛、据点争夺、和平模式、隐形模式、躲猫猫模式以及赛季模式等玩法,体验游戏带来的

多线程篇(基本认识 - 公平锁 非公平锁、独占锁 共享锁、可重入锁、自旋锁)(持续更新迭代)

目录 锁一:公平锁与非公平锁 前言 一、Lock 锁接口 二、公平锁 1. 简介 三、非公平锁 1. 简介 四、JUC 1. ReentranLock 公平锁 非公平锁 锁二:独占锁 & 共享锁 前言 一、简介 二、代码示例 1. 未加锁状态 2. 加锁状态 锁三:可重入锁 前言 一、简介 二、代码示例 锁四:自旋锁 一、前言 二、问题思考 三、思

当代传输算法以及其效率和公平

我不再提拥塞控制算法,因为当代一个好的,正常的传输算法本应该天然主动避免拥塞,而不是拥塞了再控制,本着这个思路,我甚至觉得 bbr 的 probe 都是一种 capacity-seeking 行为,而 capacity-seeking 是一定会制造拥塞的。所以我的想法很简单,跟踪 E = max(bw / delay),保持 inflight 守恒。 设 x 为 E = bw / delay 效

C++的特殊类设计 饥饿汉模式

目录 特殊类设计 设计一个不能被拷贝的类 设计一个只能在堆上创建对象的类 设计一个只能在栈上创建对象的类 设计一个不能继承的类 设计模式 单例模式 饿汉模式 饥汉模式 特殊类设计 设计一个不能被拷贝的类 C++98的设计方式:将该类的拷贝构造和赋值运算符重载函数均只声明不定义,并将它们的访问权限设置为私有 class CopyBan{// ...//设置为私有pr

智能优化算法:饥饿游戏搜索算法-附代码

智能优化算法:饥饿游戏搜索算法 文章目录 智能优化算法:饥饿游戏搜索算法1.算法原理1.1 接近食物1.2 饥饿角色 2.实验结果3.参考文献4.Matlab 摘要:饥饿游戏搜索算法(Hunger games search,HGS)是于2021年提出的一种新型智能优化算法,该算法是根据动物饥饿驱动活动和行为而设计的,具有寻优能力强,收敛速度快等特点。 1.算法原理 1.1

FairScheduler源码队列饥饿

小于最低资源保障量的队列,呈饥饿状态。 protected Resource resToPreempt(FSLeafQueue sched, long curTime) {long minShareTimeout = sched.getMinSharePreemptionTimeout();long fairShareTimeout = sched.getFairSharePreempti

ReentrantLock的非公平锁(NonfairSync)深度解析:源码之旅与实战策略

1. 引言 在Java并发编程中,ReentrantLock作为一种可重入的互斥锁,提供了比synchronized更强大和灵活的功能。其中,NonfairSync作为ReentrantLock内部非公平锁的实现,其设计理念和源码实现都体现了对性能和公平性的权衡。 2. NonfairSync概述 非公平锁特性: 新到达的线程在锁空闲时可能立即获取锁,而不必等待等待队列中的线程。可能导致