昇腾 - AscendCL C++应用开发 线程安全的队列

2024-08-21 08:52

本文主要是介绍昇腾 - AscendCL C++应用开发 线程安全的队列,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昇腾 - AscendCL C++应用开发 线程安全的队列

flyfish

C++ mutex 各种各样的互斥锁 mutex、timed_mutex、recursive_mutex、shared_mutex
C++ 线程间同步的条件变量 std::condition_variable 和 std::condition_variable_any
C++提供的智能指针 unique_ptr、shared_ptr、weak_ptr
C++中的左值(lvalue)和 右值(rvalue),移动语义(move semantics)和完美转发(perfect forwarding)
std::thread非常详细的解释

在写推理视频代码时,需要线程安全的队列,例如可以一个线程存储视频帧,另一个线程取出帧,然后推理,再将推理结果写入另一个队列。

#ifndef THREAD_SAFE_QUEUE_H
#define THREAD_SAFE_QUEUE_H#include <mutex>
#include <queue>
#include <condition_variable>
#include <stdexcept>namespace aclcustom {template<typename T>
class ThreadSafeQueue {
public:explicit ThreadSafeQueue(uint32_t capacity = kDefaultQueueCapacity){if (capacity < kMinQueueCapacity) {queueCapacity = kDefaultQueueCapacity;} else if (capacity > kMaxQueueCapacity) {queueCapacity = kMaxQueueCapacity;} else {queueCapacity = capacity;}}~ThreadSafeQueue() = default;bool Push(T input_value){std::unique_lock<std::mutex> lock(mutex_);cond_full_.wait(lock, [this] { return queue_.size() < queueCapacity; });queue_.push(std::move(input_value));cond_empty_.notify_one();return true;}T Pop(){std::unique_lock<std::mutex> lock(mutex_);cond_empty_.wait(lock, [this] { return !queue_.empty(); });T tmp_ptr = std::move(queue_.front());queue_.pop();cond_full_.notify_one();return tmp_ptr;}bool Empty() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.empty();}uint32_t Size() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.size();}bool ExtendCapacity(uint32_t newSize) {std::lock_guard<std::mutex> lock(mutex_);if (newSize < queue_.size()) {return false;  // Indicate that the operation failed}queueCapacity = newSize;cond_full_.notify_all();  // Notify all producers if neededreturn true;  // Indicate that the operation succeeded}private:std::queue<T> queue_;uint32_t queueCapacity;mutable std::mutex mutex_;std::condition_variable cond_empty_;std::condition_variable cond_full_;static constexpr uint32_t kMinQueueCapacity = 1;static constexpr uint32_t kMaxQueueCapacity = 10000;static constexpr uint32_t kDefaultQueueCapacity = 10;
};}  // namespace aclcustom#endif /* THREAD_SAFE_QUEUE_H */

调用示例

#include "ThreadSafeQueue.h"
#include <iostream>
#include <thread>void producer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {queue.Push(i);std::cout << "Produced: " << i << std::endl;}
}void consumer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {int value = queue.Pop();std::cout << "Consumed: " << value << std::endl;}
}int main() {aclcustom::ThreadSafeQueue<int> queue(100001); // This will be clamped to 10000std::thread producer_thread(producer, std::ref(queue));std::thread consumer_thread(consumer, std::ref(queue));producer_thread.join();consumer_thread.join();return 0;
}

队列容量

如果传入的 capacity 小于 kMinQueueCapacity,队列容量会设置为 kDefaultQueueCapacity
如果 capacity 超过了 kMaxQueueCapacity,队列容量会被限制在 kMaxQueueCapacity
否则,容量按用户输入的 capacity 设置。确保了队列的容量始终在合理的范围内,不会超出预设的最大容量,也不会过小。

Push 方法

Push 方法负责将新元素插入队列中:
使用 std::unique_lock 锁住互斥量 mutex_ 以保护共享数据。
使用 cond_full_ 条件变量等待队列有空间可供插入,如果队列已满,生产者线程会阻塞在这里,直到有空间释放。
插入元素后,使用 cond_empty_ 条件变量通知至少一个等待的消费者线程,表明队列中有数据可供消费。

Pop 方法

Pop 方法用于从队列中取出元素:
同样使用 std::unique_lock 锁住互斥量。
使用 cond_empty_ 条件变量等待队列中有数据可供消费,如果队列为空,消费者线程会阻塞在这里,直到有数据被插入。
取出元素后,使用 cond_full_ 条件变量通知至少一个等待的生产者线程,表明队列中有空间可供插入新数据。

Empty 方法

Empty 方法检查队列是否为空,使用 std::lock_guard 进行加锁,提供快速访问:

Size 方法

Size 方法返回当前队列的大小,也使用 std::lock_guard 进行加锁:

ExtendCapacity 方法

ExtendCapacity 方法允许动态调整队列容量:
如果新容量小于当前队列大小,可以返回一个错误代码或状态,表示扩容失败
更新容量后,通知所有等待的生产者线程以便他们可以继续插入数据。

线程通知机制

通过使用 std::condition_variable,我们实现了生产者和消费者之间的同步:
当队列满时,生产者线程等待空间释放。
当队列空时,消费者线程等待数据生成。
这种机制有效避免了不必要的忙等待(Busy Waiting),从而减少了 CPU 占用。
线程间同步std::condition_variable 用于让一个或多个线程等待,直到另一个线程发出某种信号或条件满足时,才会被唤醒继续执行。通常与 std::mutex 一起使用,保证条件判断和线程唤醒的原子性。

避免忙等待 :在没有 std::condition_variable 的情况下,线程可能会通过循环不断检查某个条件是否满足,这会消耗大量的 CPU 资源。std::condition_variable 允许线程在条件不满足时进入等待状态,不占用 CPU,直到条件满足时才被唤醒。

这篇关于昇腾 - AscendCL C++应用开发 线程安全的队列的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092693

相关文章

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

Python基于wxPython和FFmpeg开发一个视频标签工具

《Python基于wxPython和FFmpeg开发一个视频标签工具》在当今数字媒体时代,视频内容的管理和标记变得越来越重要,无论是研究人员需要对实验视频进行时间点标记,还是个人用户希望对家庭视频进行... 目录引言1. 应用概述2. 技术栈分析2.1 核心库和模块2.2 wxpython作为GUI选择的优

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

Spring Boot3虚拟线程的使用步骤详解

《SpringBoot3虚拟线程的使用步骤详解》虚拟线程是Java19中引入的一个新特性,旨在通过简化线程管理来提升应用程序的并发性能,:本文主要介绍SpringBoot3虚拟线程的使用步骤,... 目录问题根源分析解决方案验证验证实验实验1:未启用keep-alive实验2:启用keep-alive扩展建

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

C++ 中的 if-constexpr语法和作用

《C++中的if-constexpr语法和作用》if-constexpr语法是C++17引入的新语法特性,也被称为常量if表达式或静态if(staticif),:本文主要介绍C++中的if-c... 目录1 if-constexpr 语法1.1 基本语法1.2 扩展说明1.2.1 条件表达式1.2.2 fa

利用Python开发Markdown表格结构转换为Excel工具

《利用Python开发Markdown表格结构转换为Excel工具》在数据管理和文档编写过程中,我们经常使用Markdown来记录表格数据,但它没有Excel使用方便,所以本文将使用Python编写一... 目录1.完整代码2. 项目概述3. 代码解析3.1 依赖库3.2 GUI 设计3.3 解析 Mark

Android Kotlin 高阶函数详解及其在协程中的应用小结

《AndroidKotlin高阶函数详解及其在协程中的应用小结》高阶函数是Kotlin中的一个重要特性,它能够将函数作为一等公民(First-ClassCitizen),使得代码更加简洁、灵活和可... 目录1. 引言2. 什么是高阶函数?3. 高阶函数的基础用法3.1 传递函数作为参数3.2 Lambda

利用Go语言开发文件操作工具轻松处理所有文件

《利用Go语言开发文件操作工具轻松处理所有文件》在后端开发中,文件操作是一个非常常见但又容易出错的场景,本文小编要向大家介绍一个强大的Go语言文件操作工具库,它能帮你轻松处理各种文件操作场景... 目录为什么需要这个工具?核心功能详解1. 文件/目录存javascript在性检查2. 批量创建目录3. 文件

Java中&和&&以及|和||的区别、应用场景和代码示例

《Java中&和&&以及|和||的区别、应用场景和代码示例》:本文主要介绍Java中的逻辑运算符&、&&、|和||的区别,包括它们在布尔和整数类型上的应用,文中通过代码介绍的非常详细,需要的朋友可... 目录前言1. & 和 &&代码示例2. | 和 ||代码示例3. 为什么要使用 & 和 | 而不是总是使