【转】MPI入门

#include <iostream>
#include <mpi/mpi.h>

using namespace std;

int main(int argv, char* argc[]){
    MPI_Init(&argv, &argc);
    cout << "hello world" << endl;
    MPI_Finalize();
    return 0;
}

编译：

$ mpicxx -o hello.exe hello.cpp

运行：

$ mpirun -np 10 ./hello.exe

• -np 10 参数制定了运行了程序的10个拷贝

   我们来看代码，MPI程序的结构一般是：

1. 头文件、全局定义
2. 初始化MPI环境：MPI_Init()
3. 分布式代码
4. 终止MPI环境：MPI_Finalize()
5. 结束

#include <stdio.h>
#include <mpi/mpi.h>

int main(int argc, char *argv[]) {
    char hostname[MPI_MAX_PROCESSOR_NAME];
    int task_count;
    int rank;
    int len;
    int ret;

    ret = MPI_Init(&argc, &argv);
    if (MPI_SUCCESS != ret) {
        printf("start mpi fail\n");
        MPI_Abort(MPI_COMM_WORLD, ret);
    }

    MPI_Comm_size(MPI_COMM_WORLD, &task_count);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
    MPI_Get_processor_name(hostname, &len);

    printf("task_count = %d, my rank = %d on %s\n", task_count, rank, hostname);

    MPI_Finalize();

    return 0;
}

运行一下：

$ mpirun -np 3 ./hello3.exe task_count = 3, my rank = 0 on crackcell-vm0 task_count = 3, my rank = 1 on crackcell-vm0 task_count = 3, my rank = 2 on crackcell-vm0

• MPI提供了消息的缓存机制
• 消息可以以阻塞或非阻塞的方式发送
• 顺序性：MPI保证接收者收到消息的顺序和发送者的发送顺序一致
• 公平性：MPI不保证调度公平性，程序员自己去防止进程饥饿

#include <stdio.h>
#include <mpi/mpi.h>

int main(int argc, char *argv[]) {
    int task_count;
    int rank;
    int dest;
    int src;
    int count;
    int tag = 1;

    char in_msg;
    char out_msg = ‘x‘;

    MPI_Status status;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &task_count);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    if (0 == rank) {
        dest = 1;
        src = 1;
        // 向1发送一个字符，然后等待返回
        MPI_Send(&out_msg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);
        MPI_Recv(&in_msg, 1, MPI_CHAR, src, tag, MPI_COMM_WORLD, &status);
    } else if (1 == rank) {
        dest = 0;
        src = 0;
        // 向0发送一个字符，然后等待返回
        MPI_Recv(&in_msg, 1, MPI_CHAR, src, tag, MPI_COMM_WORLD, &status);
        MPI_Send(&out_msg, 1, MPI_CHAR, dest, tag, MPI_COMM_WORLD);
    }

    MPI_Get_count(&status, MPI_CHAR, &count);
    printf("task %d: recv %d char(s) from task %d with tag %d\n",
           rank, count, status.MPI_SOURCE, status.MPI_TAG);

    MPI_Finalize();

    return 0;
}

• 协同通信必须涉及同一个communicator中的所有进程
• 协同通信操作的类型
  1. 同步操作：进程等待同组的其它成员到达某一同步点
  2. 数据移动操作：broadcast、scatter/gather操作
  3. 协同计算：某个成员收集其它成员的数据，然后执行某个操作

• 一堆有序的进程组成一个group，每个进程有一个唯一的整数标识
• 一个communicator组织起了一堆需要相互之间通信的进程。MPI_COMM_WORLD包含了所有进程

group用来组织一组进程，communicator用来关联他们之前的通信关系。