【并行计算】【《并行程序设计导论》笔记】第一章：为什么要并行计算

本文主要是介绍【并行计算】【《并行程序设计导论》笔记】第一章：为什么要并行计算，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

个人主页：丷从心·

系列专栏：并行计算

---

1.1|为什么需要不断提升的性能

---

1.2|为什么需要构建并行系统

单处理器性能提升

• 单处理器性能大幅度提升的主要原因之一，是日益增加的集成电路晶体管密度
• 随着晶体管尺寸的减小，晶体管的传递速度增快，集成电路整体的速度也增快
• 但是，随着晶体管速度的增快，它们的能耗也相应增加，大多数能量是以热能的形式消耗，当一块集成电路变得太热的时候，就会变得不可靠
• 在$21$世纪的第一个$10$年中，用空气冷却的集成电路的散热能力已经达到了极限

---

1.3|为什么需要编写并行程序

串行代码与并行代码

串行代码

sum = 0;
for (i = 0; i < n; i++)
{x = Compute_next_value(...);sum += x;
}

并行代码

• 假设有$p$个核，且$p$远小于$n$，那么每个核能够计算大约$n/p$个数的值并累加求和

my_sum = 0;
my_first_i = ...;
my_last_i = ...;
for (my_i = my_first_i; my_i < my_last_i; my_i++)
{my_x = Compute_next_value(...);my_sum += my_x;
}

• 当各个核都计算完各自的my_sum值后，将自己的结果值发送给一个指定为“$master$”的核，$master$核将收到的部分和累加而得到全局总和

if (I'm the master core)
{sum = my_x;for each core other than myself{receive value from core;sum += value;}
}
else
{send my_x to the master;
}

• 当核的数目比较多的时候，将各个核两两结对

---

1.4|怎样编写并行程序

任务并行与数据并行

任务并行

• 任务并行是将待解决问题所需要执行的各个任务分配到各个核上执行

数据并行

• 数据并行是指将待解决问题所需要处理的数据分配给各个核，每个核在分配到的数据集上执行大致相似的操作

---

1.5|我们将做什么

共享内存系统与分布式内存系统

共享内存系统

• 在共享内存系统中，各个核能够共享访问计算机的内存，理论上每个核能够读、写内存的所有区域

分布式内存系统

• 在分布式内存系统中，每个核都拥有自己的私有内存，核之间的通信是显式的

---

1.6|并发、并行、分布式

---

这篇关于【并行计算】【《并行程序设计导论》笔记】第一章：为什么要并行计算的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---