MPI编程入门详解

MPI简介

说到并行计算,我们有一个不可绕开的话题——MPI编程。MPI是一个跨语言的通讯协议,用于编写并行计算机。支持点对点和广播。MPI是一个信息传递应用程序接口,包括协议和和语义说明,他们指明其如何在各种实现中发挥其特性。MPI的目标是高性能,大规模性,和可移植性。MPI在今天仍为高性能计算的主要模型。与OpenMP并行程序不同,MPI是一种基于信息传递的并行编程技术。消息传递接口是一种编程接口标准,而不是一种具体的编程语言。简而言之,MPI标准定义了一组具有可移植性的编程接口。

MPI基本函数

MPI调用借口的总数虽然庞大, 但根据实际编写MPI的经验, 常用的MPI调用的个数确什么有限。 下面是6个最基本的MPI函数。 1.  MPI_Init(…); 2.  MPI_Comm_size(…); 3.  MPI_Comm_rank(…); 4.  MPI_Send(…); 5.  MPI_Recv(…); 6.  MPI_Finalize(); 我们在此通过一个简单的例子来说明这6个MPI函数的基本用处。

函数介绍

1. int MPI_Init (int* argc ,char** argv[] )

该函数通常应该是第一个被调用的MPI函数用于并行环境初始化,其后面的代码到 MPI_Finalize()函数之前的代码在每个进程中都会被执行一次。 –  除MPI_Initialized()外, 其余所有的MPI函数应该在其后被调用。 –  MPI系统将通过argc,argv得到命令行参数(也就是说main函数必须带参数,否则会出错)。

2. int MPI_Finalize (void)

–  退出MPI系统, 所有进程正常退出都必须调用。 表明并行代码的结束,结束除主进程外其它进程。 –  串行代码仍可在主进程(rank = 0)上运行, 但不能再有MPI函数(包括MPI_Init())。

3. int MPI_Comm_size (MPI_Comm comm ,int* size )

–  获得进程个数 size。 –  指定一个通信子,也指定了一组共享该空间的进程, 这些进程组成该通信子的group(组)。 –  获得通信子comm中规定的group包含的进程的数量。

4. int MPI_Comm_rank (MPI_Comm comm ,int* rank)

–  得到本进程在通信空间中的rank值,即在组中的逻辑编号(该 rank值为0到p-1间的整数,相当于进程的ID。)

5. int MPI_Send( void *buff, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm)

–void *buff:你要发送的变量。 –int count:你发送的消息的个数(注意:不是长度,例如你要发送一个int整数,这里就填写1,如要是发送“hello”字符串,这里就填写6(C语言中字符串未有一个结束符,需要多一位))。 –MPI_Datatype datatype:你要发送的数据类型,这里需要用MPI定义的数据类型,可在网上找到,在此不再罗列。 –int dest:目的地进程号,你要发送给哪个进程,就填写目的进程的进程号。 –int tag:消息标签,接收方需要有相同的消息标签才能接收该消息。 –MPI_Comm comm:通讯域。表示你要向哪个组发送消息。

参数说明

6. int MPI_Recv( void *buff, int count, MPI_Datatype datatype, int source, int tag, MPI_Comm comm, MPI_Status *status)

–void *buff:你接收到的消息要保存到哪个变量里。 –int count:你接收消息的消息的个数(注意:不是长度,例如你要发送一个int整数,这里就填写1,如要是发送“hello”字符串,这里就填写6(C语言中字符串未有一个结束符,需要多一位))。它是接收数据长度的上界. 具体接收到的数据长度可通过调用MPI_Get_count 函数得到。 –MPI_Datatype datatype:你要接收的数据类型,这里需要用MPI定义的数据类型,可在网上找到,在此不再罗列。 –int dest:接收端进程号,你要需要哪个进程接收消息就填写接收进程的进程号。 –int tag:消息标签,需要与发送方的tag值相同的消息标签才能接收该消息。 –MPI_Comm comm:通讯域。 –MPI_Status *status:消息状态。接收函数返回时,将在这个参数指示的变量中存放实际接收消息的状态信息,包括消息的源进程标识,消息标签,包含的数据项个数等。

示例

基本函数都已经介绍完,现在我们来用一个示例来加强对这些基本函数的理解。

#include <stdio.h>
#include <string.h>
#include "mpi.h"
void main(int argc, char* argv[])
{
    int numprocs, myid, source;
    MPI_Status status;
    char message[100];
    MPI_Init(&argc, &argv);
    MPI_Comm_rank(MPI_COMM_WORLD, &myid);
    MPI_Comm_size(MPI_COMM_WORLD, &numprocs);
    if (myid != 0) {  //非0号进程发送消息
        strcpy(message, "Hello World!");
        MPI_Send(message, strlen(message) + 1, MPI_CHAR, 0, 99,
            MPI_COMM_WORLD);
    }
    else {   // myid == 0,即0号进程接收消息
        for (source = 1; source < numprocs; source++) {
            MPI_Recv(message, 100, MPI_CHAR, source, 99,
                MPI_COMM_WORLD, &status);
            printf("接收到第%d号进程发送的消息:%s\n", source, message);
        }
    }
    MPI_Finalize();
} /* end main */

运行结果如下图所示

可以看到,当笔者开启四线程运行时,1-3号进程发送消息,0号进程接收到消息并打印;当笔者开启八线程运行时,1-7号进程发送消息,0号进程接收到消息并打印。

本文使用的是标准阻塞接收发送的方式。消息传递是MPI的特性,也是我们学习的难点。这我们学习MPI必须掌握的。

消息发送与接收函数的参数的一些重要说明。

1.MPI标识一条消息的信息包含四个域:

  1. –  源:发送进程隐式确定,进程rank值唯一标识.
  2. –  目的:Send函数参数确定.
  3. –  Tag:Send函数参数确定, (0,UB) 232-1.
  4. –  通信子:缺省MPI_COMM_WORLD
  5. •  Group:有限/N, 有序/Rank [0,1,2,…N-1]
  6. •  Contex:Super_tag,用于标识该通讯空间.

2. buffer的使用

  1. buffer必须至少可以容纳count个由datatype指明类型的数据. 如果接收buf太小, 将导致溢出、 出错

3. 消息匹配

  1. –  参数匹配source,tag,comm/dest,tag,comm.
  2. –  Source == MPI_ANY_SOURCE: 接收任意处理器来的数据(任意消息来源).
  3. –  Tag == MPI_ANY_TAG: 匹配任意tag值的消息(任意tag消息).

4. 在阻塞式消息传送中不允许Source == dest,否则会导致死锁.

5. 消息传送被限制在同一个通信域内。

6. 在send函数中必须指定唯一的接收者。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 相对路径,‘/’,‘./’,‘../’

    python3相对路径 “/” 前有没有 “.” ,有几个“.”,意思完全不一样。

    于小勇
  • numpy中的broadcasting

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。

    于小勇
  • python中的if not

    在python中 None,  False, 空字符串"", 0, 空列表[], 空字典{}, 空元组()都相当于False ,即:

    于小勇
  • OpenMPI(一) 点对点通信

    如果发送的字节数等于接收的字节数,通信将成功。例如,可以发送一个包含两个int的数组,并接收一个long或者一个double。

    Pulsar-V
  • 初探并行编程技术之消息传递接口(Message Passing Interface, MPI)

    之前的文章中介绍了天河二号的架构,我们大致了解到了天河二号是一个由很多计算节点组成的具有强大运算能力的超级计算机。

    用户1621951
  • 用MPI进行分布式内存编程(入门篇)

    木东居士
  • 基于MPI的并行遗传算法

    在上一篇文章中我们大致了解到了MPI的基本概念以及其运行原理,并且学习了一些简单的MPI通信函数以及例子。在本篇中我们将会以实现遗传算法为例子,讲解一些...

    用户1621951
  • OpenMPI&cmake配置

    Pulsar-V
  • 使用HTML和CSS编写无JavaScript的Todo应用

    用css实现一个todo应用程序,但不是TodoMVC那样的设计,它不使用JavaScript,而是所有的交互都是由CSS驱动的。

    IMWeb前端团队
  • 使用HTML和CSS编写无JavaScript的Todo应用

    本文作者:IMWeb zzbozheng 原文出处:IMWeb社区 未经同意,禁止转载 用css实现一个todo应用程序,但不是TodoMVC那样的设...

    IMWeb前端团队

扫码关注云+社区

领取腾讯云代金券