使用libevent多线程验证Linux上的服务器惊群现象

2024-03-18 15:48

本文主要是介绍使用libevent多线程验证Linux上的服务器惊群现象,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

什么是惊群现象?

惊群(thundering herd)是指,只有一个子进程能获得连接,但所有N个子进程却都被唤醒了,这种情况将使性能受损。
举一个很简单的例子,当你往一群鸽子中间扔一块食物,虽然最终只有一个鸽子抢到食物,但所有鸽子都会被惊动来争夺,没有抢到食物的鸽子只好回去继续睡觉, 等待下一块食物到来。这样,每扔一块食物,都会惊动所有的鸽子,即为惊群。对于操作系统来说,多个进程/线程在等待同一资源时,也会产生类似的效果,其结 果就是每当资源可用,所有的进程/线程都来竞争资源,造成的后果:
1)系统对用户进程/线程频繁的做无效的调度、上下文切换,系统系能大打折扣。
2)为了确保只有一个线程得到资源,用户必须对资源操作进行加锁保护,进一步加大了系统开销。

最常见的例子就是对于socket描述符的accept操作,当多个用户进程/线程监听在同一个端口上时,由于实际只可能accept一次,因此就会产生惊群现象.这个问题是一个古老的问题,新的操作系统内核已经解决了这一问题。

在多线程情况下,每个线程都监听同一个fd,当有数据来的时候,是否会有惊群现象呢?验证如下

服务器端代码

//g++ -g libevent_server.cpp -o libevent_server -levent -lpthread
//说明:服务器监听在本地19870端口, 等待udp client连接,有惊群现象: 当有数据到来时, 每个线程都被唤醒, 但是只有一个线程可以读到数据
//#include <iostream>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>
#include <pthread.h>
#include <event.h>
#include <netinet/in.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <sys/time.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <arpa/inet.h>using namespace std;int init_count = 0;
pthread_mutex_t init_lock;
pthread_cond_t init_cond;typedef struct {pthread_t thread_id; /* unique ID of this thread */struct event_base *base; /* libevent handle this thread uses */struct event notify_event; /* listen event for notify pipe */
} mythread;void *worker_libevent(void *arg)
{mythread *p = (mythread *)arg;pthread_mutex_lock(&init_lock);init_count++;pthread_cond_signal(&init_cond);pthread_mutex_unlock(&init_lock);event_base_loop(p->base, 0);
}int create_worker(void*(*func)(void *), void *arg)
{mythread *p = (mythread *)arg;pthread_t tid;pthread_attr_t attr;pthread_attr_init(&attr);pthread_create(&tid, &attr, func, arg);p->thread_id = tid;pthread_attr_destroy(&attr);return 0;
}void process(int fd, short which, void *arg)
{mythread *p = (mythread *)arg;printf("I am in the thread: [%lu]\n", p->thread_id);char buffer[100];memset(buffer, 0, 100);int ilen = read(fd, buffer, 100);printf("read num is: %d\n", ilen);printf("the buffer: %s\n", buffer);
}//设置libevent事件回调
int setup_thread(mythread *p, int fd)
{p->base = event_init();event_set(&p->notify_event, fd, EV_READ|EV_PERSIST, process, p);event_base_set(p->base, &p->notify_event);event_add(&p->notify_event, 0);return 0;
}int main()
{struct sockaddr_in in;int fd;fd = socket(AF_INET, SOCK_DGRAM, 0);//在127.0.0.1:19870处监听struct in_addr s;bzero(&in, sizeof(in));in.sin_family = AF_INET;inet_pton(AF_INET, "127.0.0.1", (void *)&s);in.sin_addr.s_addr = s.s_addr;in.sin_port = htons(19870);bind(fd, (struct sockaddr*)&in, sizeof(in));int threadnum = 10; //创建10个线程int i;pthread_mutex_init(&init_lock, NULL);pthread_cond_init(&init_cond, NULL);mythread *g_thread;g_thread = (mythread *)malloc(sizeof(mythread)*10);for(i=0; i<threadnum; i++){ //10个线程都监听同一个socket描述符, 检查是否产生惊群现象?setup_thread(&g_thread[i], fd);}for(i=0; i<threadnum; i++){create_worker(worker_libevent, &g_thread[i]);}//master线程等待worker线程池初始化完全pthread_mutex_lock(&init_lock);while(init_count < threadnum){pthread_cond_wait(&init_cond, &init_lock);}pthread_mutex_unlock(&init_lock);printf("IN THE MAIN LOOP\n");while(1){sleep(1);}//没有回收线程的代码free(g_thread);return 0;
}

客户端代码

//g++ -g libevent_client.cpp -o libevent_client
//#include <iostream>
#include <string.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <sys/time.h>
#include <netinet/in.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <arpa/inet.h>using namespace std;int main()
{struct sockaddr_in in;int fd;fd = socket(AF_INET, SOCK_DGRAM, 0);struct in_addr s;bzero(&in, sizeof(in));in.sin_family = AF_INET;inet_pton(AF_INET, "127.0.0.1", (void *)&s);in.sin_addr.s_addr = s.s_addr;in.sin_port = htons(19870);string str = "I am Michael";sendto(fd, str.c_str(), str.size(), 0, (struct sockaddr *)&in, sizeof(struct sockaddr_in));return 0;
}

测试效果图



参考文献

[1].http://blog.chinaunix.net/uid-26575352-id-3075103.html

[2].http://blog.csdn.net/nanjunxiao/article/details/9140769

[3].http://blog.163.com/leyni@126/blog/static/16223010220122611523786/

[4].http://simohayha.iteye.com/blog/658012

这篇关于使用libevent多线程验证Linux上的服务器惊群现象的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/822846

相关文章

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

linux-基础知识3

打包和压缩 zip 安装zip软件包 yum -y install zip unzip 压缩打包命令: zip -q -r -d -u 压缩包文件名 目录和文件名列表 -q:不显示命令执行过程-r:递归处理,打包各级子目录和文件-u:把文件增加/替换到压缩包中-d:从压缩包中删除指定的文件 解压:unzip 压缩包名 打包文件 把压缩包从服务器下载到本地 把压缩包上传到服务器(zip

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

Linux 网络编程 --- 应用层

一、自定义协议和序列化反序列化 代码: 序列化反序列化实现网络版本计算器 二、HTTP协议 1、谈两个简单的预备知识 https://www.baidu.com/ --- 域名 --- 域名解析 --- IP地址 http的端口号为80端口,https的端口号为443 url为统一资源定位符。CSDNhttps://mp.csdn.net/mp_blog/creation/editor