OpenMP并行程序设计——for循环并行化详解

2024-04-03 21:18
文章标签 设计 详解 循环 并行 openmp 并行程序

本文主要是介绍OpenMP并行程序设计——for循环并行化详解，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

转载请声明出处http://blog.csdn.net/zhongkejingwang/article/details/40018735

在C/C++中使用OpenMP优化代码方便又简单，代码中需要并行处理的往往是一些比较耗时的for循环，所以重点介绍一下OpenMP中for循环的应用。个人感觉只要掌握了文中讲的这些就足够了，如果想要学习OpenMP可以到网上查查资料。工欲善其事，必先利其器。如果还没有搭建好omp开发环境的可以看一下OpenMP并行程序设计——Eclipse开发环境的搭建

首先，如何使一段代码并行处理呢？omp中使用parallel制导指令标识代码中的并行段，形式为：

       #pragma omp parallel{每个线程都会执行大括号里的代码}

比如下面这段代码：

#include <iostream>
#include "omp.h"
using namespace std;
int main(int argc, char **argv) {//设置线程数，一般设置的线程数不超过CPU核心数，这里开4个线程执行并行代码段omp_set_num_threads(4);
#pragma omp parallel{cout << "Hello" << ", I am Thread " << omp_get_thread_num() << endl;}
}

omp_get_thread_num()是获取当前线程id号

以上代码执行结果为：

Hello, I am Thread 1
Hello, I am Thread 0
Hello, I am Thread 2
Hello, I am Thread 3

可以看到，四个线程都执行了大括号里的代码，先后顺序不确定，这就是一个并行块。

带有for的制导指令：

for制导语句是将for循环分配给各个线程执行，这里要求数据不存在依赖。

使用形式为：

（1）#pragma omp parallel for

     for()

（2）#pragma omp parallel

    {//注意：大括号必须要另起一行#pragma omp forfor()}

注意：第二种形式中并行块里面不要再出现parallel制导指令，比如写成这样就不可以：

#pragma omp parallel

    {#pragma omp parallel forfor()}

第一种形式作用域只是紧跟着的那个for循环，而第二种形式在整个并行块中可以出现多个for制导指令。下面结合例子程序讲解for循环并行化需要注意的地方。

假如不使用for制导语句，而直接在for循环前使用parallel语句：（为了使输出不出现混乱，这里使用printf代替cout）

#include <iostream>
#include <stdio.h>
#include "omp.h"
using namespace std;
int main(int argc, char **argv) {//设置线程数，一般设置的线程数不超过CPU核心数，这里开4个线程执行并行代码段omp_set_num_threads(4);
#pragma omp parallelfor (int i = 0; i < 2; i++)//cout << "i = " << i << ", I am Thread " << omp_get_thread_num() << endl;printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());
}

输出结果为：

i = 0, I am Thread 0
i = 0, I am Thread 1
i = 1, I am Thread 0
i = 1, I am Thread 1
i = 0, I am Thread 2
i = 1, I am Thread 2
i = 0, I am Thread 3
i = 1, I am Thread 3

从输出结果可以看到，如果不使用for制导语句，则每个线程都执行整个for循环。所以，使用for制导语句将for循环拆分开来尽可能平均地分配到各个线程执行。将并行代码改成这样之后：

#pragma omp parallel forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());

输出结果为：

i = 4, I am Thread 2
i = 2, I am Thread 1
i = 0, I am Thread 0
i = 1, I am Thread 0
i = 3, I am Thread 1
i = 5, I am Thread 3

可以看到线程0执行i=0和1，线程1执行i=2和3，线程2执行i=4，线程3执行i=5。线程0就是主线程

这样整个for循环被拆分并行执行了。上面的代码中parallel和for连在一块使用的，其只能作用到紧跟着的for循环，循环结束了并行块就退出了。

上面的代码可以改成这样：

#pragma omp parallel{
#pragma omp forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());}

这写法和上面效果是一样的。需要注意的问题来了：如果在parallel并行块里再出现parallel会怎么样呢？回答这个问题最好的方法就是跑一遍代码看看，所以把代码改成这样：

#pragma omp parallel{
#pragma omp parallel forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());}

输出结果：

i = 0, I am Thread 0
i = 0, I am Thread 0
i = 1, I am Thread 0
i = 1, I am Thread 0
i = 2, I am Thread 0
i = 2, I am Thread 0
i = 3, I am Thread 0
i = 3, I am Thread 0
i = 4, I am Thread 0
i = 4, I am Thread 0
i = 5, I am Thread 0
i = 5, I am Thread 0
i = 0, I am Thread 0
i = 1, I am Thread 0
i = 0, I am Thread 0
i = 2, I am Thread 0
i = 1, I am Thread 0
i = 3, I am Thread 0
i = 2, I am Thread 0
i = 4, I am Thread 0
i = 3, I am Thread 0
i = 5, I am Thread 0
i = 4, I am Thread 0
i = 5, I am Thread 0

可以看到，只有一个线程0，也就是只有主线程执行for循环，而且总共执行4次，每次都执行整个for循环！所以，这样写是不对的。

当然，上面说的for制导语句的两种写法是有区别的，比如两个for循环之间有一些代码只能有一个线程执行，那么用第一种写法只需要这样就可以了：

#pragma omp parallel forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());//这里是两个for循环之间的代码，将会由线程0即主线程执行printf("I am Thread %d\n", omp_get_thread_num());
#pragma omp parallel forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());

离开了for循环就剩主线程了，所以两个循环间的代码是由线程0执行的，输出结果如下：

i = 0, I am Thread 0
i = 2, I am Thread 1
i = 1, I am Thread 0
i = 3, I am Thread 1
i = 4, I am Thread 2
i = 5, I am Thread 3
I am Thread 0
i = 4, I am Thread 2
i = 2, I am Thread 1
i = 5, I am Thread 3
i = 0, I am Thread 0
i = 3, I am Thread 1
i = 1, I am Thread 0

但是如果用第二种写法把for循环写进parallel并行块中就需要注意了！

由于用parallel标识的并行块中每一行代码都会被多个线程处理，所以如果想让两个for循环之间的代码由一个线程执行的话就需要在代码前用single或master制导语句标识，master由是主线程执行，single是选一个线程执行，这个到底选哪个线程不确定。所以上面代码可以写成这样：

#pragma omp parallel{
#pragma omp forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());
#pragma omp master{//这里的代码由主线程执行printf("I am Thread %d\n", omp_get_thread_num());}
#pragma omp forfor (int i = 0; i < 6; i++)printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());}

效果和上面的是一样的，如果不指定让主线程执行，那么将master改成single即可。

到这里，parallel和for的用法都讲清楚了。接下来就开始讲并行处理时数据的同步问题，这是多线程编程里都会遇到的一个问题。

为了讲解数据同步问题，先由一个例子开始：

#include <iostream>
#include "omp.h"
using namespace std;
int main(int argc, char **argv) {int n = 100000;int sum = 0;omp_set_num_threads(4);
#pragma omp parallel{
#pragma omp forfor (int i = 0; i < n; i++) {{sum += 1;}}}cout << " sum = " << sum << endl;
}

期望的正确结果是100000，但是这样写是错误的。看代码，由于默认情况下sum变量是每个线程共享的，所以多个线程同时对sum操作时就会因为数据同步问题导致结果不对，显然，输出结果每次都不同，这是无法预知的，如下：

第一次输出sum = 58544
第二次输出sum = 77015
第三次输出sum = 78423

那么，怎么去解决这个数据同步问题呢？解决方法如下：

方法一：对操作共享变量的代码段做同步标识

代码修改如下：

#pragma omp parallel{
#pragma omp forfor (int i = 0; i < n; i++) {{
#pragma omp criticalsum += 1;}}}cout << " sum = " << sum << endl;

critical制导语句标识的下一行代码，也可以是跟着一个大括号括起来的代码段做了同步处理。输出结果100000

方法二：每个线程拷贝一份sum变量，退出并行块时再把各个线程的sum相加

并行代码修改如下：

#pragma omp parallel{
#pragma omp for reduction(+:sum)for (int i = 0; i < n; i++) {{sum += 1;}}}

reduction制导语句，操作是退出时将各自的sum相加存到外面的那个sum中，所以输出结果就是100000啦~~

方法三：这种方法貌似不那么优雅

代码修改如下：

int n = 100000;int sum[4] = { 0 };omp_set_num_threads(4);
#pragma omp parallel{
#pragma omp forfor (int i = 0; i < n; i++) {{sum[omp_get_thread_num()] += 1;}}}cout << " sum = " << sum[0] + sum[1] + sum[2] + sum[3] << endl;

每个线程操作的都是以各自线程id标识的数组位置，所以结果当然正确。

数据同步就讲完了，上面的代码中for循环是一个一个i平均分配给各个线程，如果想把循环一块一块分配给线程要怎么做呢？这时候用到了schedule制导语句。下面的代码演示了schedule的用法：

#include <iostream>
#include "omp.h"
#include <stdio.h>
using namespace std;
int main(int argc, char **argv) {int n = 12;omp_set_num_threads(4);
#pragma omp parallel{
#pragma omp for schedule(static, 3)for (int i = 0; i < n; i++) {{printf("i = %d, I am Thread %d\n", i, omp_get_thread_num());}}}
}

上面代码中for循环并行化时将循环很多很多块，每一块大小为3，然后再平均分配给各个线程执行。

输出结果如下：

i = 6, I am Thread 2
i = 3, I am Thread 1
i = 7, I am Thread 2
i = 4, I am Thread 1
i = 8, I am Thread 2
i = 5, I am Thread 1
i = 0, I am Thread 0
i = 9, I am Thread 3
i = 1, I am Thread 0
i = 10, I am Thread 3
i = 2, I am Thread 0
i = 11, I am Thread 3

从输出结果可以看到：线程0执行i=0 1 2，线程1执行i=3 4 5，线程2执行i=6 7 8，线程3执行i=9 10 11，如果后面还有则又从线程0开始分配。

OK，for循环并行化的知识基本讲完了，还有一个有用的制导语句barrier，用它可以在并行块中设置一个路障，必须等待所有线程到达时才能通过，这个一般在并行处理循环前后存在依赖的任务时使用到。

是不是很简单？

作者：陈靖_
来源：CSDN
原文：https://blog.csdn.net/zhongkejingwang/article/details/40350027
版权声明：本文为博主原创文章，转载请附上博文链接！

这篇关于OpenMP并行程序设计——for循环并行化详解的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/874004。

相关文章

Python中注释使用方法举例详解

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,：本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释？示例：三、单行注释语法：以 China编程# 开头，后面的内容为注释内容示例：示例：四
阅读更多...
mysql表操作与查询功能详解

mysql表操作与查询功能详解

《mysql表操作与查询功能详解》本文系统讲解MySQL表操作与查询,涵盖创建、修改、复制表语法,基本查询结构及WHERE、GROUPBY等子句,本文结合实例代码给大家介绍的非常详细,感兴趣的朋友跟随... 目录01.表的操作1.1表操作概览1.2创建表1.3修改表1.4复制表02.基本查询操作2.1 SE
阅读更多...
MySQL中的锁机制详解之全局锁,表级锁,行级锁

MySQL中的锁机制详解之全局锁,表级锁,行级锁

《MySQL中的锁机制详解之全局锁,表级锁,行级锁》MySQL锁机制通过全局、表级、行级锁控制并发,保障数据一致性与隔离性,全局锁适用于全库备份,表级锁适合读多写少场景,行级锁(InnoDB)实现高并... 目录一、锁机制基础：从并发问题到锁分类1.1 并发访问的三大问题1.2 锁的核心作用1.3 锁粒度分
阅读更多...
MySQL数据库中ENUM的用法是什么详解

MySQL数据库中ENUM的用法是什么详解

《MySQL数据库中ENUM的用法是什么详解》ENUM是一个字符串对象,用于指定一组预定义的值,并可在创建表时使用,下面：本文主要介绍MySQL数据库中ENUM的用法是什么的相关资料,文中通过代码... 目录mysql 中 ENUM 的用法一、ENUM 的定义与语法二、ENUM 的特点三、ENUM 的用法1
阅读更多...
MySQL count()聚合函数详解

MySQL count()聚合函数详解

《MySQLcount()聚合函数详解》MySQL中的COUNT()函数,它是SQL中最常用的聚合函数之一,用于计算表中符合特定条件的行数,本文给大家介绍MySQLcount()聚合函数,感兴趣的朋... 目录核心功能语法形式重要特性与行为如何选择使用哪种形式？总结深入剖析一下 mysql 中的 COUNT
阅读更多...
一文详解Git中分支本地和远程删除的方法

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤
阅读更多...
Go语言数据库编程GORM 的基本使用详解

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁
阅读更多...
mysql中的服务器架构详解

mysql中的服务器架构详解

《mysql中的服务器架构详解》：本文主要介绍mysql中的服务器架构,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、mysql服务器架构解释3、总结1、背景简单理解一下mysqphpl的服务器架构。2、mysjsql服务器架构解释mysql的架
阅读更多...
ModelMapper基本使用和常见场景示例详解

ModelMapper基本使用和常见场景示例详解

《ModelMapper基本使用和常见场景示例详解》ModelMapper是Java对象映射库,支持自动映射、自定义规则、集合转换及高级配置（如匹配策略、转换器）,可集成SpringBoot,减少样板... 目录1. 添加依赖2. 基本用法示例：简单对象映射3. 自定义映射规则4. 集合映射5. 高级配置匹
阅读更多...
Spring 框架之Springfox使用详解

Spring 框架之Springfox使用详解

《Spring框架之Springfox使用详解》Springfox是Spring框架的API文档工具,集成Swagger规范,自动生成文档并支持多语言/版本,模块化设计便于扩展,但存在版本兼容性、性... 目录核心功能工作原理模块化设计使用示例注意事项优缺点优点缺点总结适用场景建议总结Springfox 是
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2