OpenMP多线程基础使用

2024-08-27 06:44
文章标签 基础 使用 多线程 openmp

本文主要是介绍OpenMP多线程基础使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

OpenMP 是一套 C++ 并行编程框架, 也支持 Forthan,是一个跨平台的多线程实现, 能够使串行代码经过最小的改动自动转化成并行的。具有广泛的适应性。这个最小的改动,有时候只是一行编译原语!具体实现是通过分析编译原语#pragma,将用原语定义的代码块,自动转化成并行的线程去执行。每个线程都将分配一个独立的id. 最后再合并线程结果。

  • 可以并行的条件:
    • 可拆分,代码和变量的前后不能相互依赖。
    • 独立运行,运行时,拥有一定的独有的资源。像独有的线程id等。

0 环境要求

0.1 Windows / Visual Studio 平台

VS 版本不低于2015,都支持 OpenMP . 需要在 IDE 进行设置,才能打开 OpenMP 支持。

  • 设置方式:调试 --> C/C++ --> 语言 --> OpenMP支持

这实际上使用了编译选项/openmp。

0.1 Linux / GCC 平台

Ubuntu 自带的 GCC 5.0.4, 直接支持选项 -fopenmp。后面都使用 ubuntu 系统来实验, windows 在配置好环境之后也可以使用。

1 验证支持 OpenMP

main.cpp

#include <iostream>
using namespace std;int main() {#if _OPENMPcout << " support openmp " << endl;#elsecout << " not support openmp" << endl;#endifreturn 0;
}

编译并运行:

# 编译
g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main.o -c main.cpp
g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main main.o# 运行
./main# 输出
support openmp

也可以通过编写 Makefile 来更加优雅地编译代码。Makefile 文件的编写比较简单,这里给出一个示例:
Makefile

CC = g++ -std=c++11 nullstring := 
dep_I_incpath = -I./include/hiredis -I./include
dep_L_libpath = -L./lib
dep_l_libname = -lhiredis
#deps_extra = $(dep_I_incpath) $(dep_L_libpath)  $(dep_l_libname)deps_extra = $(nullstring)#c_flag = -g -Wno-format -fpermissive 
c_flag = -g -pthread -Wno-format -fpermissive -fopenmpc_files =  \
$(wildcard *.cpp) $(wildcard *.c) $(wildcard *.cc)
h_files = \
$(wildcard *.hpp) $(wildcard *.h)
o_files_mess = \
$(patsubst %.cpp,%.o,${c_files}) $(patsubst %.c,%.o,${c_files}) $(patsubst %.cc,%.o,${c_files})
o_files = \
$(filter %.o, $(o_files_mess))
elf_file=  \
mainrm_files = \
*.o *.dep *.elf  *.s *.exeall:$(elf_file)$(elf_file):$(o_files)$(CC) $(c_flag) -o $@ $(o_files) $(deps_extra) 
main.o: main.cpp$(CC) $(c_flag) -o $@ -c $< $(deps_extra) 
#	@echo "c_file is:$(c_files)"; echo "h_files:$(h_files)"; echo "o_files:$(o_files)"clean:rm -rf $(rm_files)run:$(elf_file)./$(elf_file)

2 并行输出

  • 顺序打印 0-10 可以使用 for 循环简单实现:
for(int i=0; i< 10; i++) {cout << i << endl; 
}
  • 用 OpenMP 实现并行输出,只需要在 for 循环的起始位置添加一行编译原语来标记即可:
#pragma omp parallel for num_threads(4)
for(int i=0; i<10; i++) {cout << i << endl; 
}

main.cpp

#include <iostream>
#include <omp.h>using namespace std; int serial_cout() {for(int i=0; i<10; i++) {cout << i << endl; }return 0; 
}int parallel_cout() {#pragma omp parallel for num_threads(4)for(int i=0; i<10; i++) {cout << i << endl; }return 0; 
}int main() {cout << "serial cout: " << endl;serial_cout();cout <<"parallel cout: " << endl;parallel_cout();return 0;
}

编译运行

g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main.o -c main.cpp
g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main main.o
./mainserial cout:
0
1
2
3
4
5
6
7
8
9
parallel cout:
0
1
2
36
74
5
8
9

可以看到串行输出的是从 0 到 9 顺序输出,并行输出是乱序的,并且并行输出的每次顺序都不一样,说明 OpenMP 并行起了作用。

2.1 说明

上面并行的代码新增了两行:

  • #include <omp.h>,OpenMP 的编译头文件,包括一些常用API,像获取当前的线程id.

  • #pragma omp parallel for num_threads(4),用编译原语,指定其下面的代码块将会被渲染成多线程的代码,然后再编译。这里使用的线程数为 4

3 三种 private

多个线程同时运行的情况下,变量的管理默认有下面两种情况:

  • 创建线程之前就存在的变量——所有线程共享
  • 线程运行时创建的局部变量——每个线程独有
3.1 private

考虑这样的例子:

#include <stdio.h>int main()
{int i, j;#pragma omp parallel forfor (i = 0; i < 3; i++)for (j = 0; j < 3; j++)printf("i=%d j=%d\n", i, j);
}

编译运行之后,会发现输出结果并不符合预期:

i=1 j=0
i=1 j=1
i=1 j=2
i=0 j=0
i=2 j=0

这是多个线程同时访问和修改相同变量导致的问题,

在 openmp 中,可以使用 private() 命令来那解决,private(value),能让 每个线程都有该变量的独立拷贝,相当于一个同名的局部变量。

#include <stdio.h>int main() {int i, j;#pragma omp parallel for private(i, j)for (i = 0; i < 3; i++)for (j = 0; j < 3; j++)printf("i=%d j=%d\n", i, j);
}
3.2 firstprivate

虽然private声明变量后,每个线程都会生成一个相应的拷贝。但这些线程并不会对他们进行初始化。考虑下面的情况:

#include <stdio.h>int main() {int x = -1;#pragma omp parallel for private(x)for (int i = 0; i < 5; i++)printf("x=%d\n", x);
}

可以看到拷贝出的变量值是随机的:

x=14908664
x=13903992
x=13909720
x=13905304
x=8

想要有初始化的话就需要用到 firstprivate()

#include <stdio.h>int main() {int x = -1;#pragma omp parallel for firstprivate(x)for (int i = 0; i < 5; i++)printf("x=%d\n", x);
}

这样每个变量就都能初始化了

x=-1
x=-1
x=-1
x=-1
x=-1
3.3 lastprivate

考虑这样的例子:

#include <stdio.h>int main() {int x = -1;printf("start x=%d\n", x);#pragma omp parallel for private(x)for (int i = 0; i < 5; i++)printf("x=%d\n", x = i);printf("final x=%d", x);
}

虽然现在我们有了初始化,但循环结束后变量的值还是无法保留:

start x=-1
x=1
x=2
x=3
x=0
x=4
final x=-1

前面使用private时,循环结束后x的值是不会保留的。

lastprivate() 的功能就是在 private 的基础上,能够在循环结束时保留变量的值。

#include <stdio.h>int main() {int x = -1;printf("start x=%d\n", x);#pragma omp parallel for lastprivate(x)for (int i = 0; i < 5; i++)printf("x=%d\n", x = i);printf("final x=%d", x);
}

输出结果:

start x=-1
x=3
x=2
x=1
x=4
x=0
final x=4

注意到,最后一个输出的是3,保存的结果却是4?这是因为 lastprivate 保存的变量是逻辑上的最后的值。从代码运行逻辑上来讲 x 最后的值是 4,所以结果就是 4。

3.4 组合使用

从功能上可以看出,firstprivate 是对功能 private 的扩展,二者是相互替代的关系,所以 不能同时使用(会编译失败);lastprivate 和 private 同样也是相互替代的关系,依旧 不能同时使用(会编译失败);firstprivate 和 lastprivate 在功能上有相互补充关系,可以同时使用。

4 reduction

求1~10000000 之和, 用 16 个线程并行:

#include <iostream>
#include <omp.h>
#include <ctime>using namespace std; int parallel_sum() {#if 0
// TODO : this is incorrect way to reduce !!!long long int sum = 0;#pragma omp parallel for num_threads(16)for(int i=0; i<10000000; i++) {sum +=  i; }cout << sum << endl; 
#endif #if 1 long long int sum = 0;#pragma omp parallel for num_threads(16) reduction(+:sum)for(int i=0; i<10000000; i++) {sum +=  i; }cout << sum << endl; 
#endif return 0; 
}int serial_sum() {long long int sum = 0;for(int i=0; i<10000000; i++) {sum +=  i; }cout << sum << endl; return 0;
}int main() {cout << "serial sum: " << endl;clock_t begin_time1 = clock();    serial_sum();float seconds1 = float(clock( ) - begin_time1) / CLOCKS_PER_SEC;cout << "time: " << seconds1 << "s" << endl;cout <<"parallel sum: " << endl;clock_t begin_time2 = clock();parallel_sum();float seconds2 = float(clock( ) - begin_time2) / CLOCKS_PER_SEC;cout << "time: " << seconds2 << "s" << endl;return 0;
}

编译运行

g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main.o -c main.cpp
g++ -std=c++11  -g -pthread -Wno-format -fpermissive -fopenmp -o main main.o
./mainserial sum:
49999995000000
time: 0.046843s
parallel sum:
49999995000000
time: 0.004178s

不难看出,这里使用 opemmp 并行的时候,计算耗时更少。

4.1 说明

在使用 openmp 并行求和的函数里面,在使用条件编译关掉的那个代码块里面,sum += i 这一行多个线程同时访问 sum 时产生会冲突导致。在这种情况下没法使用 private 对其进行求和,需要使用 reduction() 来解决,具体使用如 openmp 并行求和的函数里面,在使用条件编译打开的那个代码块所示。

reduction 的命令格式是 reduction(operation : variable),其中 operation 是操作类型,variable 则是操作变量。

reduction的作用就是给每个线程创建一个独立的变量,在结束后根据操作类型进行归约。

  • 默认操作包括:
    • 算数运算:+, *, -, max, min
    • 逻辑运算:&&, ||
    • 位运算:&, |, ^

这里我们需要对 sum 进行累加,所以应该使用 reduction(+ : sum)

5 获取线程 id

#define DEFINE_idx auto idx = omp_get_thread_num();
#define _ROWS (omp_get_num_threads())
#pragma omp parallel for num_threads(3) 
for(int i=0; i<10; i++) {DEFINE_idx;printf("- idx is %d, i is %d, total thread num is %d\n", idx, i, _ROWS); 
}// 输出idx is 0, i is 0, total thread num is 3
- idx is 0, i is 1, total thread num is 3
- idx is 0, i is 2, total thread num is 3
- idx is 0, i is 3, total thread num is 3
- idx is 2, i is 7, total thread num is 3
- idx is 2, i is 8, total thread num is 3
- idx is 2, i is 9, total thread num is 3
- idx is 1, i is 4, total thread num is 3
- idx is 1, i is 5, total thread num is 3
- idx is 1, i is 6, total thread num is 3

6 对于首个for循环迭代器的限制

OpenMP 在优化多重 for 语句时,会自动把第一个循环的迭代器(也就是i)设为 private。

比如在前面 private 里面的示例双重for循环中,如果将

#pragma omp parallel for private(i, j)

修改为

#pragma omp parallel for private(j) // 不显式声明i为private

修改后并不会影响循环的正常运行。

这篇关于OpenMP多线程基础使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1110925

相关文章

Java中String字符串使用避坑指南

《Java中String字符串使用避坑指南》Java中的String字符串是我们日常编程中用得最多的类之一,看似简单的String使用,却隐藏着不少“坑”,如果不注意,可能会导致性能问题、意外的错误容... 目录8个避坑点如下:1. 字符串的不可变性:每次修改都创建新对象2. 使用 == 比较字符串,陷阱满

Python使用国内镜像加速pip安装的方法讲解

《Python使用国内镜像加速pip安装的方法讲解》在Python开发中,pip是一个非常重要的工具,用于安装和管理Python的第三方库,然而,在国内使用pip安装依赖时,往往会因为网络问题而导致速... 目录一、pip 工具简介1. 什么是 pip?2. 什么是 -i 参数?二、国内镜像源的选择三、如何

使用C++实现链表元素的反转

《使用C++实现链表元素的反转》反转链表是链表操作中一个经典的问题,也是面试中常见的考题,本文将从思路到实现一步步地讲解如何实现链表的反转,帮助初学者理解这一操作,我们将使用C++代码演示具体实现,同... 目录问题定义思路分析代码实现带头节点的链表代码讲解其他实现方式时间和空间复杂度分析总结问题定义给定

Linux使用nload监控网络流量的方法

《Linux使用nload监控网络流量的方法》Linux中的nload命令是一个用于实时监控网络流量的工具,它提供了传入和传出流量的可视化表示,帮助用户一目了然地了解网络活动,本文给大家介绍了Linu... 目录简介安装示例用法基础用法指定网络接口限制显示特定流量类型指定刷新率设置流量速率的显示单位监控多个

JavaScript中的reduce方法执行过程、使用场景及进阶用法

《JavaScript中的reduce方法执行过程、使用场景及进阶用法》:本文主要介绍JavaScript中的reduce方法执行过程、使用场景及进阶用法的相关资料,reduce是JavaScri... 目录1. 什么是reduce2. reduce语法2.1 语法2.2 参数说明3. reduce执行过程

如何使用Java实现请求deepseek

《如何使用Java实现请求deepseek》这篇文章主要为大家详细介绍了如何使用Java实现请求deepseek功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1.deepseek的api创建2.Java实现请求deepseek2.1 pom文件2.2 json转化文件2.2

python使用fastapi实现多语言国际化的操作指南

《python使用fastapi实现多语言国际化的操作指南》本文介绍了使用Python和FastAPI实现多语言国际化的操作指南,包括多语言架构技术栈、翻译管理、前端本地化、语言切换机制以及常见陷阱和... 目录多语言国际化实现指南项目多语言架构技术栈目录结构翻译工作流1. 翻译数据存储2. 翻译生成脚本

C++ Primer 多维数组的使用

《C++Primer多维数组的使用》本文主要介绍了多维数组在C++语言中的定义、初始化、下标引用以及使用范围for语句处理多维数组的方法,具有一定的参考价值,感兴趣的可以了解一下... 目录多维数组多维数组的初始化多维数组的下标引用使用范围for语句处理多维数组指针和多维数组多维数组严格来说,C++语言没

在 Spring Boot 中使用 @Autowired和 @Bean注解的示例详解

《在SpringBoot中使用@Autowired和@Bean注解的示例详解》本文通过一个示例演示了如何在SpringBoot中使用@Autowired和@Bean注解进行依赖注入和Bean... 目录在 Spring Boot 中使用 @Autowired 和 @Bean 注解示例背景1. 定义 Stud

使用 sql-research-assistant进行 SQL 数据库研究的实战指南(代码实现演示)

《使用sql-research-assistant进行SQL数据库研究的实战指南(代码实现演示)》本文介绍了sql-research-assistant工具,该工具基于LangChain框架,集... 目录技术背景介绍核心原理解析代码实现演示安装和配置项目集成LangSmith 配置(可选)启动服务应用场景