Contents

MPI_first

MPI 初探

  • MPI_Init(NULL, NULL); // 两个参数保留未来使用

  • MPI_COMM_WORLD // a built-in communicator

每个进程有一个特定的rank

获取进程rank:

1
2
int world_rank;
MPI_Comm_Rank(MPI_COMM_WORLD, &world_rank);

获取总的并行进程数:

1
2
int world_size;
MPI_Comm_Size(MPI_COMM_WORLD, &world_size)

Message sending and receiving

  • 发送消息
1
2
3
4
5
6
7
8
MPI_Send(
    void* data,
    int count,
    MPI_Type datatype,
    int destination,
    int tag,
    MPI_Comm communicator
)
  • 接收消息
1
2
3
4
5
6
7
8
MPI_Receive(
    void* data,
    int count,
    MPI_Type datatype,
    int source,
    int tag,
    MPI_Comm communicator
)
taskdue
学习pytorch的自动求导机制4/10
学习cmake和make相关知识4/10