mpi学习日志(7):mpi4py与通信子,通信组

最新推荐文章于 2025-06-28 09:11:51 发布
最新推荐文章于 2025-06-28 09:11:51 发布
阅读量2.6k 收藏 2
点赞数 1
CC 4.0 BY-SA版权
分类专栏： mpi学习 文章标签： mpi mpi4py
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/ljhandlwt/article/details/51958560
本文介绍了MPI中的通信子和通信组概念，包括通信子作为对讲机的角色，通信组的划分，如COMM_WORLD、COMM_SELF和COMM_NULL。详细阐述了如何创建新通信组，通过Get_group()获取Group对象，再利用Create()方法创建新通信子，并通过示例代码展示了在多个进程中创建新通信组的过程，强调了全局同步的重要性以及空通信子的使用场景。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

从第一篇笔记开始,我们就使用了comm这个对象.

而且,几乎每次新学习的函数,都是这个comm的一个方法.

今天,我们就来重新认识comm,它到底是什么?


1.通信子

comm是一个通信子.什么是通信子?

通信子其实就是一个对讲机,每个进程都有一个对讲机.

通过对讲机,你可以和某个人对话,也可以对全部人发出广播.


2.通信组

警察有警察之间的对讲机,盗贼有盗贼之间的对讲机.

显然,警察的对讲机是不应该能和盗贼的对讲机通信的(不包括偷听).

这样的话,我们就有了通信组的概念.

警察之间形成一个通信组,盗贼之间形成一个通信组.


3.MPI里的通信组

MPI里有一个类Group,它就是充当了通信组的角色.

当我们有一个对讲机comm的时候,我们通过Get_group()的方法可以得到对应的Group对象.

Group对象有什么用?它可以用来创建新的通信组!


4.MPI里的默认通信子

我们一开始就用到了一个系统帮我们创建的全局通信子,就是COMM_WORLD,它包含了所有的进程.

其实还有两个系统默认创建的通信子,一个是COMM_SELF,另一个是COMM_NULL.

COMM_SELF仅仅包含了当前进程,而COMM_NULL则什么进程都没有包含.

在下面的代码中,我们将使用到COMM_NULL.


5.创建新通信组

在实际

最低0.47元/天 解锁文章

200万优质内容无限畅学
mpi4py 中的组间通信
自可乐的博客
03-29 739
本文从本人简书博客同步过来 在上一篇中我们介绍了 mpi4py 中的通信子管理 API， 下面我们将介绍组间通信相关方法。 组间通信子对象在某些基于组内通信子对象的操作/访问函数中也可使用。 访问函数 MPI.Comm.Is_inter(self) 判断当前通信子是否是组间通信子。 MPI.Intercomm.Get_remote_size(self) 返回远程组包含的进程数...
mpi学习日志(2):mpi4py与点对点通信
ljhandlwt
07-18 2019
前文说到,mpi是信息传递接口,因此信息传递是mpi的重点.而进程中的信息传递就是进程通信!今天我们将看看mpi创建的一组进程是怎么相互通信的. 进程通信有许多种,点对点通信,广播,散播等.今天我们先学习点对点通信. 什么是点对点通信?其实就是最简单的进程A向进程B发送信息,而进程B向进程A接收信息.这个关于两个进程之间的通信. 代码: 运行结果:
Time-LLM项目中解决mpi4py模块缺失问题的技术方案
最新发布
gitblog_07726的博客
06-28 236
Time-LLM项目中解决mpi4py模块缺失问题的技术方案 在基于Python的深度学习项目开发过程中，依赖管理是一个常见的技术挑战。本文将以Time-LLM项目中遇到的mpi4py模块缺失问题为例，深入分析问题成因并提供专业解决方案。 问题背景 当用户在大学服务器环境下运行Time-LLM项目时，DeepSpeed模块依赖的mpi4py包无法正常安装。具体表现为： 系统Python环境受限（...
mpi4py 中的集合通信
自可乐的博客
03-29 628
本文从本人简书博客同步过来 在上一篇中我们简要总结了 mpi4py 中的组与通信子的基本概念和用途，下面我们将进行集合通信的介绍。 集合通信的主要功能是对一组进程进行通信、同步、计算等。 集合通信根据信息的传递方向可大致分为两大类：单向的集合操作和双向的集合操作。对于具有根进程的集合操作，如 Bcast，Scatter，Gather 等，传输通过根进程的一个参数来定义为单向，此时对包含了根进...
MPI学习笔记（四）——组合通信子的管理
q19149的博客
10-23 2249
组和通信子的管理 组(Group) 组是一个进程的有序集合，在实现中可以看作是进程标识符的一个有序集。组内的每个进程与一个整数rank相联系，序列号从0开始并且是连续的。我们可以在通信组中使用组来描述通信空间中的参与者并对这些参与者进行分级（这样在通信空间中为它们赋予了唯一的名字）。 创建 //建立一个通信组对应的新进程组 int MPI_Comm_group(MPI_Comm comm, MPI...
mpi4py 点到点通信
自可乐的博客
03-25 539
本文从本人简书博客同步过来 在上一篇中我们已经通过几个简单的例子展示了使用 mpi4py 进行 Python 的并行编程方法，大家可以看到使用 mpi4py 进行 MPI 并行编程是比较简单和方便的，但是要用好 mpi4py，写出实用的功能强大的 MPI 并行计算程序，我们还需要对 mpi4py 所提供对各种方法及其用法有更深入的了解。下面我们从最基本的点到点通信开始，详细地介绍 mpi4py ...
mpi学习日志(5):mpi4py与多点通信续
ljhandlwt
07-19 2679
在多点通信里我们已经学习了广播bcast,散播scatter,收集gather,规约reduce. 今天我们再来简略看一些可能更为少用的多点通信. 1.allgather 简单来说就是收集+广播. gather中只有根进程会得到收集到的信息,而allgather则是所有进程都会得到收集到的信息,就相当于收集后再广播一次. 2.allredu
mpi学习日志(3):mpi4py与广播
ljhandlwt
07-18 2106
前面我们学习了点对点通信,那是关于两个点的通信.今天,我们学习多个点之间的通信.首先,我们学习广播. 所谓广播,就是说某个进程要向其他所有进程发送数据,而不是单独某个进程. 显然,一次的广播可以等价为许多次的点对点通信,我们可以用学过的send和recv去实现广播. 代码: 运行结果: 我们看见,5个进程中,除了要广播的进程0,后面4个进程
mpi学习日志(10):mpi4py实现简单并行矩阵乘法
ljhandlwt
07-20 3561
除了之前利用gather求π之外,我们就没有写过mpi程序的实例. 今天我们就尝试用mpi去写一个简单的并行矩阵乘法,虽说是并行,但不是使用经典的分治去处理,而只是简单地每个进程计算一个格子的值. 计算的式子是这样的,3*2的矩阵A乘上2*3的矩阵B,得到3*3的矩阵C. 这样的话,我们就需要9个进程去计算每个格子的值. 问题分析: 我们假设一开始只有进程0拥有矩阵A和B
python mpi4py_python – 在mpi4py中产生进程的相互通信？
weixin_39711959的博客
02-19 206
鉴于主进程A产生一组工作进程B的情况,每个进程都产生自己唯一的工作进程C,如何在C到A之间打开一个通信器？我正在尝试使用mpi4py在几段代码之间创建一个循环,这些代码彼此分开编写,同时最大限度地减少对代码的修改.因此,MPI代码的一般框架将是：> Master A(一个进程)生成8个进程B的进程,并将数组分散到它们.>每个B进程生成一个worker C,对该数组进行一些操作,并将其广...
学习笔记：MPI组通信的散发与组收集
10-26 1420
散发 在MPI组通信中，散发操作有两个函数，分别是MPI_Scatter与MPI_Scatterv。分别与之前所说的MPI_Gather,MPI_Gatherv为互逆操作。 MPI_Scatter 使用MPI_Scatter函数可以将root进程的发送缓冲区中的数据顺序地分发给各个进程（自己的接收缓冲区也会接收到）。调用方式为：MPI_Scatter(sendbuf,sendcount,sendt...
mpi4py安装包及依赖包
04-17
mpi4py安装包及依赖包.rar
mpi4py 点到点通信总结
自可乐的博客
03-26 555
本文从本人简书博客同步过来 在上一篇中我们介绍了 mpi4py 中组合发送接收通信方法，至此我们就对 mpi4py 中提供的各种点到点通信方法都做了一个简略的介绍，并给出了简短的使用例程。下面我们对点到点通信做一个小结。 通过前面的介绍可知，点到点通信有各种不同的模式，可分为阻塞通信，非重复非阻塞通信，可重复非阻塞通信，其中每一类还可分为标准、缓冲、就绪和同步模式。要理解各种模式通信的行为，关...
mpi4py
深未来技术
09-04 177
mpi4pyMPI which stands for message passing interface is a common library for parallel programming. There is a package mpi4py that builds on the top of mpi, and lets arbitrary python objects be...
mpi4py 中的组与通信子
自可乐的博客
03-29 716
本文从本人简书博客同步过来 在上一篇中我们简要总结了 mpi4py 中的点到点通信，下面我们将介绍组与通信子的基本概念。 为了理解 MPI 中的组与通信子的概念，我们先来了解以下一些术语的含义。 组（group） 所谓组，在 MPI 环境里就是指一组进程标识所组成的有序集合。组中的每个进程都有一个唯一的 rank 加以标识。组对象存在于通信子环境内，为通信子定义和描述通信参与者（进程）...
mpi4py 简介
自可乐的博客
03-25 3645
本文从本人简书博客同步过来 前言 计算机编程语言很多，但是适合高性能数值计算的语言却并不多，在高性能计算的项目中通常会使用到的语言有 Fortran、C、C++ 等，他们是传统的高性能计算机语言，这主要得益于它们的静态编译特性，使得有它们生成的机器代码，在底层上做了很多优化，能够充分发挥硬件的性能，但是这一特性也限制了它们的灵活性和易用性。一些动态的计算机语言在灵活性和易用性方面有着明显的优势...
mpi4py 中的组管理 API
自可乐的博客
03-29 397
本文从本人简书博客同步过来 在上一篇中我们介绍了 mpi4py 中组与通信子的基本概念，下面我们将介绍 mpi4py 中的组管理 API。 组的构建和取消 API MPI.Comm.Get_group(self) 返回与通信子 comm 相关的组。 MPI.Group.Dup(self) 复制当前组而产生一个新的组。 MPI.Group.Free(self) 释放组对象。...
Python——mpi4py
weixin_38278993的博客
05-30 1746
计算机编程语言很多，但是适合高性能数值计算的语言却并不多，在高性能计算的项目中通常会使用到的语言有 Fortran、C、C++ 等，他们是传统的高性能计算机语言，这主要得益于它们的静态编译特性，使得有它们生成的机器代码，在底层上做了很多优化，能够充分发挥硬件的性能，但是这一特性也限制了它们的灵活性和易用性。一些动态的计算机语言在灵活性和易用性方面有着明显的优势，但是由于性能等其他方面的原因却并不适合用来做大规模的数值计算，更别说用到高性能计算领域了。这其中有一个例外，就是 Python 计算机语言。作为一种
mpi4py.MPI
Baobabs的博客
06-07 519
简单记录一个mpi4py.MPI并行计算代码 简单分享一个mpi4py.MPI入门的编程实例 最近需要优化电磁场仿真速度，本着学习一下mpi4py并行方面的知识，找了半天网上找不到编程实例，最后自己总结了一下稍微给大家分享一个小的并行计算实例，mpi4py的库安装以及一些常识大家可以在官网上找到，这里我不过多叙述了。 文章目录简单记录一个mpi4py.MPI并行计算代码前言一、原始串行代码二、使用mpi4py并行1.简单写一个numpy.array拆分函数2.并行程序总结 前言 大概讲一下要实现的程序功能
ImportError: DLL load failed while importing MPI: 找不到指定的模块。
09-05
### 回答1： 这个错误通常发生在使用 MPI（Message Passing Interface）的 Python 库时。这个错误信息显示无法加载 MPI 的 DLL 文件，可能是因为 MPI 的 DLL 文件没有被正确地安装或配置。 要解决这个问题，你可以尝试以下几种方法： 1. 确认 MPI 的 DLL 文件是否已经正确安装。如果没有安装 MPI，可以从官方网站下载并安装 MPI。 2. 确认 MPI 的 DLL 文件路径是否已经正确配置。可以尝试在命令行中执行以下命令，检查是否能够找到 MPI 的 DLL 文件： ``` > where mpirun.exe ``` 如果没有找到 MPI 的 DLL 文件，需要将 MPI 的 DLL 文件路径添加到系统环境变量中。 3. 确认 Python 中是否已经正确安装了 MPI 的 Python 库。可以尝试在 Python 中执行以下命令，查看是否能够正确导入 MPI 的 Python 库： ```python >>> import mpi4py ``` 如果导入失败，可能需要重新安装 MPI 的 Python 库，并确保安装时指定了正确的 MPI 的 DLL 文件路径。 希望这些方法能够帮助你解决问题。 ### 回答2： "ImportError: DLL load failed while importing MPI: 找不到指定的模块" 这个错误通常意味着无法找到所需的 MPI（Message Passing Interface）模块。 MPI 是一种并行计算通信框架，用于在多个计算节点上进行信息传递和协调。在 Python 中，通过导入 mpi4py 模块来使用 MPI。然而，当你尝试导入 mpi4py 模块时，出现了这个错误。 出现这个错误的原因可能是因为你的环境中没有安装或正确配置 MPI。MPI 是一个独立的软件，需要额外安装和配置。 要解决这个问题，你需要确认以下几点： 1. 检查是否已经正确安装了 MPI。MPI 可以从官方网站（例如 Open MPI 或 MPICH）下载和安装。安装完成后，你需要确保 MPI 的安装路径正确添加到系统的 PATH 环境变量中。 2. 检查是否正确安装了 mpi4py 模块。可以使用 pip 命令来安装 mpi4py，例如执行 pip install mpi4py。 3. 确保你使用的 Python 版本和 mpi4py 模块是兼容的。MPI 的不同实现可能只支持特定的 Python 版本。确保使用与 MPI 实现兼容的 Python 版本，并尝试使用与当前 Python 版本匹配的 mpi4py 版本。 如果上述步骤仍然无法解决问题，你可能需要进行更详细的排查。可以查看系统错误日志或 MPI 的文档，以了解更具体的错误信息和解决方法。此外，你还可以尝试搜索和参与相关的开发者社区和论坛，以获取更多帮助和指导。 总之，"ImportError: DLL load failed while importing MPI: 找不到指定的模块" 错误表示无法找到所需的 MPI 模块。解决这个问题需要确认 MPI 的正确安装和配置，以及使用与当前 Python 版本兼容的 mpi4py 版本。 ### 回答3： ImportError: DLL load failed while importing MPI: 找不到指定的模块。 这个错误是由于无法找到指定的模块而导致的导入错误。在Python中，MPI是一个用于并行计算的模块，用于在多个计算单元之间进行通信和协调工作。当我们尝试导入MPI模块时，由于系统中缺少所需的DLL文件或DLL文件不存在于指定路径中，就会引发此错误。 要解决这个问题，我们可以采取以下步骤： 1. 确保MPI模块已正确安装：检查MPI模块是否已正确安装在您的系统上。您可以通过使用pip或conda等包管理器来安装MPI模块。 2. 检查DLL文件是否存在：确保所需的DLL文件存在于系统的路径中。您可以通过查看MPI模块的文档或安装说明来确定所需的DLL文件的名称和路径。 3. 更新MPI模块：如果您已安装MPI模块，并且确信所需的DLL文件存在于系统路径中，那么可能是由于版本不匹配或损坏的问题导致的。尝试更新MPI模块到最新版本，可以通过包管理器运行相应的命令完成更新。 4. 检查环境变量：确保系统的环境变量中包含所需DLL文件的路径。您可以检查并适当配置环境变量，以确保系统能够正确找到所需的DLL文件。 5. 检查操作系统和硬件要求：确保您的操作系统和硬件符合MPI模块的要求。某些模块可能对操作系统版本和硬件有特定的要求，如果不符合这些要求，就无法加载模块。 通过以上步骤的检查和操作，您应该能够解决ImportError: DLL load failed while importing MPI: 找不到指定的模块的错误。如果问题仍然存在，我们建议查阅MPI模块的文档，或向相关的开发者或社区提问以获取更多帮助。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值