【并行计算】【《并行程序设计导论》笔记】第一章：为什么要并行计算

原创 已于 2024-05-01 18:52:25 修改 · 2.2k 阅读 · 33 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#并行计算

于 2024-04-28 19:19:53 首次发布

文章目录

因上努力

个人主页：丷从心·

系列专栏：并行计算

果上随缘

1.1|为什么需要不断提升的性能

1.2|为什么需要构建并行系统

单处理器性能提升
  • 单处理器性能大幅度提升的主要原因之一，是日益增加的集成电路晶体管密度
  • 随着晶体管尺寸的减小，晶体管的传递速度增快，集成电路整体的速度也增快
  • 但是，随着晶体管速度的增快，它们的能耗也相应增加，大多数能量是以热能的形式消耗，当一块集成电路变得太热的时候，就会变得不可靠
  • 在 21 21 21世纪的第一个 10 10 10年中，用空气冷却的集成电路的散热能力已经达到了极限

1.3|为什么需要编写并行程序

串行代码与并行代码
串行代码
sum = 0;
for (i = 0; i
最低0.47元/天 解锁文章
【并行计算】【《并行程序设计导论》笔记】第二章：并行硬件和并行软件（4107字）
丷从心·的博客
04-29 1815
【并行计算】【《并行程序设计导论》笔记】第二章：并行硬件和并行软件（4107字）
【并行计算】【《并行程序设计导论》笔记】第三章：用MPI进行分布式内存编程
丷从心·的博客
04-29 2519
【并行计算】【《并行程序设计导论》笔记】第三章：用MPI进行分布式内存编程
并行计算笔记
编程语言小筑
03-30 165
对线程级的并行提供硬件或者软件上的支持： 一种方法就是采用抢占式或时间片轮转的多任务操作系统。这种方法允许用当前的软件中日益增多的并发性。采用时间版策略的多线程方法允许开发人员通过在多个线程之间切换执行的途径达到了隐藏I/O延迟的目的。实际上，这种模式并不支持并行执行，因为在任何时间，CPU都只能执行一个指令流。 另一种方法就是增加计算机中物理处理器的数量，这种方法能够有效利用线程级并行性。多...
并行计算-学习笔记2
susan_wang1的博客
11-23 1039
MIMD系统 多指令多数据流（MIMD）系统：同时支持多个指令流在多个数据流上操作.MIMD系统包括一组完全独立的核，每个核都有自己的控制单元。 MIMD系统有两种主要的类型：共享内存系统和分布式内存系统。 分布式内存系统：每个处理器有自己私有的内存空间，通过互连网络通信（显式通信）； 共享内存系统：处理器通过互连网络与内存连接，处理器之间隐式通信，共享内存。 分布式内存分布式内存编程AP
并行运算学习笔记
qq_36059563的博客
05-13 810
三.并行：表面并行，不断切换。并发：真正的并发操作mimd 多指令多数据。（sisd，simd，misd ）simd在并行性较大的数据问题上游泳，但对复杂的并行问题帮助不大。mimd系统通常是异步的。共享内存系统，分布是式存系统。共享内存系统：一组自治的处理器通过互联网与内存系统相互连接，每个处理器能够访问每个内存区域。（cpu）分布是内存系统：每个处理器有自己的私有内存，处理器之间通过发送消息或...
计算机操作系统-6-并发程序设计
SpriCoder的博客
03-08 3364
计算机操作系统-6-并发程序设计
并行程序设计导论笔记1-2章
weixin_43979229的博客
10-24 863
并行程序设计导论笔记 第一章 1.为什么要构建并行系统? 电路晶体管密度过大会使处理器能耗增加，散热的问题使通过继续增快集成电路密度提高处理器性能不再现实，因此集成电路商决定构建多核处理器。 2.为什么要编写并行程序？ 之前的串行程序适合之前的传统处理器，为了充分发掘多核处理器的性能，必须对常见串行结构进行并行化以提高性能。 3.如何编写并行程序？ 基本思想是把任务分配给各个核，主要有两种方法，任务并行和数据并行。 任务并行指的是把各个的任务分配给不同的核，数据并行指的是将待处理的数据分配给各个核进行处理。
算法导论读书笔记：算法在计算中的核心作用
算法导论系列读书笔记之一的讨论重点在于算法在计算领域中的关键角色。算法是解决计算问题的明确指令集合，是编程和计算机科学的核心要素。算法导论（Introduction to Algorithms）是计算机科学领域中经典教材之一，...
机器学习笔记：并行计算 （基础介绍）
qq_40206371的博客
05-31 1616
本篇用并行梯度下降作为引子，使用MapReduce框架，简单介绍一下并行计算。 1 并行梯度下降 1.1 最小二乘回归 我们记训练数据为 最小二乘回归定义为： 最小二乘回归的目标是寻找向量，使得对于所有的j，都接近于yj。 同样地，我们可以用梯度下降解这个问题 1.2 并行梯度下降 由于 xj 和 w 都是 d 维向量，因此计算一个 g(xj , yj ; w) 的时间复杂度是 O(d)。【d次乘法】 计算梯度需要计算g函数n次——>的时间复杂度是O(nd)。 ..
并行计算导论
momo的博客
03-25 1736
并行计算介绍 推动并行化 计算能力因素 —— 从晶体管到浮点运算速度 摩尔定律：芯片的晶体管数量每18个月增长一倍。 内存及磁盘速度的因素 总体
并行计算-openMP学习笔记(2)
blackturtle的博客
04-11 918
openMP是一种并行编程语言
并行计算-学习笔记1
susan_wang1的博客
11-22 1468
并行程序串行程序面向单核处理器，不利用多核性能；并行程序是需要利用多核性能的程序，编写并行程序需要调节各个核的工作：通信，负载平衡，同步。 核:中央处理器或者CPU的代名词 并行程序编写方法：任务并行和数据并行 任务并行：将待解决问题所需要执行的任务分配到各个核 数据并行：待解决问题所需要处理的数据分配到各个核 通信：一个核或者多个核将自己的结果发送给其它核
并行计算学习笔记（MPI）
ZfengxingJ的博客
03-29 1723
/* MPI点到点阻塞式通信C语言版 */#include "mpi.h" /*MPI头函数，提供了MPI函数和数据类型定义*/ #include <stdio.h>int main( int argc, char** argv ) { int rank; /*进
并行算法笔记（一）——性能测评
lengjiayi的博客
01-09 3409
并行执行时间TcomputT_{comput}Tcomput​为计算时间，TparoT_{paro}Tparo​为并行开销时间，TcommT_{comm}Tcomm​为通讯时间，则Tn=Tcomput+Tparo+TcommT_n=T_{comput}+T_{paro}+T_{comm}Tn​=Tcomput​+Tparo​+Tcomm​ 通讯开销：通讯开销包括启动时间t0t_0t0​（一般为建...
针对连续三次转子故障的四旋翼增量被动容错控制.zip
12-23
1.版本：matlab2014a/2019b/2024b 2.附赠案例数据可直接运行。 3.代码特点：参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象：计算机，电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。
开题报告Java+SSM+Vue药房药品采购集中管理系统.docx
12-23
计算机毕业设计开题报告
开题报告SpringBoot+Vue汽车销售网站.docx
12-23
计算机毕业设计开题报告
开题报告SpringBoot+Vue影城管理系统.docx
最新发布
12-23
计算机毕业设计开题报告
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值