
并行与分布式计算
大选帝侯
确实很懒,所以没编辑简介
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
并行与分布式计算导论 练习题指导(三)
练习题指导等效关系T(n,1)≥CT0(n,p)T(n,1)\ge CT_0(n,p)T(n,1)≥CT0(n,p)实际计算中,记并行时间复杂度为g(n)g(n)g(n),通讯时间复杂度为h(n,p)h(n,p)h(n,p),可以简化为g(n)≥Ch(n,p)g(n)\ge Ch(n,p)g(n)≥Ch(n,p)化简该不等式得到n≥f(p)n\ge f(p)n≥f(p)此即并行系统的等加速比关系可拓展性函数对于规模为n的问题,记M(n)M(n)M(n)为问题所需的内存,则该问题的并行实现原创 2020-05-26 11:14:24 · 1230 阅读 · 0 评论 -
Paper Reading Note:Paxos
Paxos的临时议会Paxos目标概念假设协议协议规则协议的执行ProposerAcceptor完整流程Prepare PhaseAccepte PhaseLearner活锁PaxosThe Paxos algorithm, when presented in plain English, is very simple.简单个屁目标在一个分布式系统中,几台计算机要就一个问题达成统一(比如...原创 2020-04-15 20:36:03 · 514 阅读 · 0 评论 -
并行与分布式计算导论 练习题指导(一)
第一题回顾MPI的通信机制,写出如下Collective Communications操作的伪代码:One-to-all BroadcastAll-to-all ReductionScatter参考答案(参考答案仅给出了框架,用?隐去了一些部分)如果是要交作业,那么抄袭可耻,但如果需要帮助,欢迎联系我,我的邮箱是ledge@pku.edu.cn下面全部以超立方体为例,超立方体结...原创 2020-04-08 19:29:35 · 2828 阅读 · 2 评论 -
并行与分布式计算导论(七)MPI Collective Communication
并行与分布式计算:MPI进阶(七)Section 7 MPI Collective Communication7.1 概述7.1.1 四个通信函数7.1.2 五个通信域函数7.1.3 Collective Communication7.2 一些说明7.3 按行分解MPI_AllgathervMPI_Gatherv7.4 按列分解MPI_ScattervMPI_Alltoallv7.5 棋盘式分解通...原创 2020-04-08 19:14:59 · 3558 阅读 · 5 评论 -
并行与分布式计算导论(六)MPI入门
并行与分布式计算:MPI入门(六)Section 6 MPI 入门6.1 Why MPI?6.1.1 MPI与OpenMP6.1.2 为什么要了解MPI6.2 MPI基础讲解6.2.1 头文件6.2.2 基本库函数6.2.3 编译6.2.4 执行指定进程数目指定主机处理器Multiple Program Multiple Data(MPMD)6.2.5 Send & ReceiveNon-...原创 2020-04-07 12:10:12 · 2314 阅读 · 1 评论 -
并行与分布式计算导论(五)OpenMP基础详解
并行与分布式计算:OpenMP详解(六)OpenMP编译指导语句指导句:#pragma omp parallel for指导句:#pragma omp parallel指导句:#pragma omp for指导句:#pragma omp single指导句:#pragma omp section(s)指导句:#pragma omp task指导句:#progma omp barrier 与 #pr...原创 2020-04-01 14:14:57 · 2629 阅读 · 0 评论 -
并行与分布式计算导论:OpenMP语句概览(持续更新)
并行与分布式计算:OpenMP的语法大全(五)Section 5 OpenMP的语句头文件库函数指导句X #progma omp Xparallelforparallel forcriticalmastersinglesingle nowaitbarrier指导句子句Y #pragma omp X Yshared([varibleList])private([varibleList])reduct...原创 2020-03-31 16:59:30 · 1135 阅读 · 0 评论 -
并行与分布式计算导论(四)问题的结构与分解
并行与分布式计算:OpenMP编程中的任务结构与分解(四)Section 4 OpenMP编程中的任务的分解与分配任务的分解并行度(degree of concurrency)任务依赖关系图关键路径(重要)任务交互图(Task Interaction Graph)并行效果任务的分配任务、线程与映射新的一轮MPI作业已经发布,我尽量在DDL之前给同学们把MPI部分也更新出来!鱼生苦短,争取更咸!...原创 2020-03-31 16:54:16 · 1622 阅读 · 0 评论 -
并行与分布式计算导论(三)并行程序设计的基本原则
并行与分布式计算:并行程序设计的基本原则(三)Section 3 并行程序的基本设计原则3.1 增量并行化3.2 Foster的设计理念(四步法)3.2.1 划分数据划分任务划分Pipelining(生产线)Foster检查表3.2.2 通信Foster检查表3.2.3 聚集目标Foster检查表3.2.4 映射目标任务数固定时的映射方法任务数量动态变化任务数动态变化时常见的任务调度算法总结Fos...原创 2020-03-29 20:40:52 · 2535 阅读 · 0 评论 -
并行与分布式计算导论(二)编程模型与硬件模型
并行与分布式计算:基本模型与算法设计(二)Section 2 编程模型与硬件模型2.1 并行模型与结构2.1.1 System Layers(不重要)2.1.2 三种并行编程模型(重要)Shared address space(SAS Model)Message passingData parallel编程模型强加在程序上的结构现代实践(混合编程模型)2.1.3 三种机器结构(不重要)Flynn分...原创 2020-03-29 20:21:10 · 1512 阅读 · 0 评论 -
并行与分布式计算导论(一)衡量并行程序好坏的指标
并行与分布式计算:基本模型与算法设计(一)介绍Lecture 1 回顾Lecture 2 编程模型与算法设计的基本原则并行模型与结构System Layers三种并行编程模型Shared address space(SAS Model)Message passingData parallel编程模型强加在程序上的结构现代实践(混合编程模型)三种机器结构(注意,==下面的仅需看看,了解一下就行==)...原创 2020-03-23 22:38:36 · 1658 阅读 · 4 评论