昇腾 - AscendCL C++应用开发 线程安全的队列

2024-08-21 08:52

本文主要是介绍昇腾 - AscendCL C++应用开发 线程安全的队列,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昇腾 - AscendCL C++应用开发 线程安全的队列

flyfish

C++ mutex 各种各样的互斥锁 mutex、timed_mutex、recursive_mutex、shared_mutex
C++ 线程间同步的条件变量 std::condition_variable 和 std::condition_variable_any
C++提供的智能指针 unique_ptr、shared_ptr、weak_ptr
C++中的左值(lvalue)和 右值(rvalue),移动语义(move semantics)和完美转发(perfect forwarding)
std::thread非常详细的解释

在写推理视频代码时,需要线程安全的队列,例如可以一个线程存储视频帧,另一个线程取出帧,然后推理,再将推理结果写入另一个队列。

#ifndef THREAD_SAFE_QUEUE_H
#define THREAD_SAFE_QUEUE_H#include <mutex>
#include <queue>
#include <condition_variable>
#include <stdexcept>namespace aclcustom {template<typename T>
class ThreadSafeQueue {
public:explicit ThreadSafeQueue(uint32_t capacity = kDefaultQueueCapacity){if (capacity < kMinQueueCapacity) {queueCapacity = kDefaultQueueCapacity;} else if (capacity > kMaxQueueCapacity) {queueCapacity = kMaxQueueCapacity;} else {queueCapacity = capacity;}}~ThreadSafeQueue() = default;bool Push(T input_value){std::unique_lock<std::mutex> lock(mutex_);cond_full_.wait(lock, [this] { return queue_.size() < queueCapacity; });queue_.push(std::move(input_value));cond_empty_.notify_one();return true;}T Pop(){std::unique_lock<std::mutex> lock(mutex_);cond_empty_.wait(lock, [this] { return !queue_.empty(); });T tmp_ptr = std::move(queue_.front());queue_.pop();cond_full_.notify_one();return tmp_ptr;}bool Empty() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.empty();}uint32_t Size() const{std::lock_guard<std::mutex> lock(mutex_);return queue_.size();}bool ExtendCapacity(uint32_t newSize) {std::lock_guard<std::mutex> lock(mutex_);if (newSize < queue_.size()) {return false;  // Indicate that the operation failed}queueCapacity = newSize;cond_full_.notify_all();  // Notify all producers if neededreturn true;  // Indicate that the operation succeeded}private:std::queue<T> queue_;uint32_t queueCapacity;mutable std::mutex mutex_;std::condition_variable cond_empty_;std::condition_variable cond_full_;static constexpr uint32_t kMinQueueCapacity = 1;static constexpr uint32_t kMaxQueueCapacity = 10000;static constexpr uint32_t kDefaultQueueCapacity = 10;
};}  // namespace aclcustom#endif /* THREAD_SAFE_QUEUE_H */

调用示例

#include "ThreadSafeQueue.h"
#include <iostream>
#include <thread>void producer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {queue.Push(i);std::cout << "Produced: " << i << std::endl;}
}void consumer(aclcustom::ThreadSafeQueue<int>& queue) {for (int i = 0; i < 10; ++i) {int value = queue.Pop();std::cout << "Consumed: " << value << std::endl;}
}int main() {aclcustom::ThreadSafeQueue<int> queue(100001); // This will be clamped to 10000std::thread producer_thread(producer, std::ref(queue));std::thread consumer_thread(consumer, std::ref(queue));producer_thread.join();consumer_thread.join();return 0;
}

队列容量

如果传入的 capacity 小于 kMinQueueCapacity,队列容量会设置为 kDefaultQueueCapacity
如果 capacity 超过了 kMaxQueueCapacity,队列容量会被限制在 kMaxQueueCapacity
否则,容量按用户输入的 capacity 设置。确保了队列的容量始终在合理的范围内,不会超出预设的最大容量,也不会过小。

Push 方法

Push 方法负责将新元素插入队列中:
使用 std::unique_lock 锁住互斥量 mutex_ 以保护共享数据。
使用 cond_full_ 条件变量等待队列有空间可供插入,如果队列已满,生产者线程会阻塞在这里,直到有空间释放。
插入元素后,使用 cond_empty_ 条件变量通知至少一个等待的消费者线程,表明队列中有数据可供消费。

Pop 方法

Pop 方法用于从队列中取出元素:
同样使用 std::unique_lock 锁住互斥量。
使用 cond_empty_ 条件变量等待队列中有数据可供消费,如果队列为空,消费者线程会阻塞在这里,直到有数据被插入。
取出元素后,使用 cond_full_ 条件变量通知至少一个等待的生产者线程,表明队列中有空间可供插入新数据。

Empty 方法

Empty 方法检查队列是否为空,使用 std::lock_guard 进行加锁,提供快速访问:

Size 方法

Size 方法返回当前队列的大小,也使用 std::lock_guard 进行加锁:

ExtendCapacity 方法

ExtendCapacity 方法允许动态调整队列容量:
如果新容量小于当前队列大小,可以返回一个错误代码或状态,表示扩容失败
更新容量后,通知所有等待的生产者线程以便他们可以继续插入数据。

线程通知机制

通过使用 std::condition_variable,我们实现了生产者和消费者之间的同步:
当队列满时,生产者线程等待空间释放。
当队列空时,消费者线程等待数据生成。
这种机制有效避免了不必要的忙等待(Busy Waiting),从而减少了 CPU 占用。
线程间同步std::condition_variable 用于让一个或多个线程等待,直到另一个线程发出某种信号或条件满足时,才会被唤醒继续执行。通常与 std::mutex 一起使用,保证条件判断和线程唤醒的原子性。

避免忙等待 :在没有 std::condition_variable 的情况下,线程可能会通过循环不断检查某个条件是否满足,这会消耗大量的 CPU 资源。std::condition_variable 允许线程在条件不满足时进入等待状态,不占用 CPU,直到条件满足时才被唤醒。

这篇关于昇腾 - AscendCL C++应用开发 线程安全的队列的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092693

相关文章

JAVA保证HashMap线程安全的几种方式

《JAVA保证HashMap线程安全的几种方式》HashMap是线程不安全的,这意味着如果多个线程并发地访问和修改同一个HashMap实例,可能会导致数据不一致和其他线程安全问题,本文主要介绍了JAV... 目录1. 使用 Collections.synchronizedMap2. 使用 Concurren

Java的栈与队列实现代码解析

《Java的栈与队列实现代码解析》栈是常见的线性数据结构,栈的特点是以先进后出的形式,后进先出,先进后出,分为栈底和栈顶,栈应用于内存的分配,表达式求值,存储临时的数据和方法的调用等,本文给大家介绍J... 目录栈的概念(Stack)栈的实现代码队列(Queue)模拟实现队列(双链表实现)循环队列(循环数组

C++如何通过Qt反射机制实现数据类序列化

《C++如何通过Qt反射机制实现数据类序列化》在C++工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作,所以本文就来聊聊C++如何通过Qt反射机制实现数据类序列化吧... 目录设计预期设计思路代码实现使用方法在 C++ 工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作。由于数据类

Java中的Lambda表达式及其应用小结

《Java中的Lambda表达式及其应用小结》Java中的Lambda表达式是一项极具创新性的特性,它使得Java代码更加简洁和高效,尤其是在集合操作和并行处理方面,:本文主要介绍Java中的La... 目录前言1. 什么是Lambda表达式?2. Lambda表达式的基本语法例子1:最简单的Lambda表

Redis消息队列实现异步秒杀功能

《Redis消息队列实现异步秒杀功能》在高并发场景下,为了提高秒杀业务的性能,可将部分工作交给Redis处理,并通过异步方式执行,Redis提供了多种数据结构来实现消息队列,总结三种,本文详细介绍Re... 目录1 Redis消息队列1.1 List 结构1.2 Pub/Sub 模式1.3 Stream 结

Linux下如何使用C++获取硬件信息

《Linux下如何使用C++获取硬件信息》这篇文章主要为大家详细介绍了如何使用C++实现获取CPU,主板,磁盘,BIOS信息等硬件信息,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录方法获取CPU信息:读取"/proc/cpuinfo"文件获取磁盘信息:读取"/proc/diskstats"文

Python结合PyWebView库打造跨平台桌面应用

《Python结合PyWebView库打造跨平台桌面应用》随着Web技术的发展,将HTML/CSS/JavaScript与Python结合构建桌面应用成为可能,本文将系统讲解如何使用PyWebView... 目录一、技术原理与优势分析1.1 架构原理1.2 核心优势二、开发环境搭建2.1 安装依赖2.2 验

Java字符串操作技巧之语法、示例与应用场景分析

《Java字符串操作技巧之语法、示例与应用场景分析》在Java算法题和日常开发中,字符串处理是必备的核心技能,本文全面梳理Java中字符串的常用操作语法,结合代码示例、应用场景和避坑指南,可快速掌握字... 目录引言1. 基础操作1.1 创建字符串1.2 获取长度1.3 访问字符2. 字符串处理2.1 子字

C++使用printf语句实现进制转换的示例代码

《C++使用printf语句实现进制转换的示例代码》在C语言中,printf函数可以直接实现部分进制转换功能,通过格式说明符(formatspecifier)快速输出不同进制的数值,下面给大家分享C+... 目录一、printf 原生支持的进制转换1. 十进制、八进制、十六进制转换2. 显示进制前缀3. 指

C++中初始化二维数组的几种常见方法

《C++中初始化二维数组的几种常见方法》本文详细介绍了在C++中初始化二维数组的不同方式,包括静态初始化、循环、全部为零、部分初始化、std::array和std::vector,以及std::vec... 目录1. 静态初始化2. 使用循环初始化3. 全部初始化为零4. 部分初始化5. 使用 std::a