src/smpi/colls/alltoall-ring-mpi-barrier.c

   1 #include "colls.h"
   2 /*****************************************************************************
   3
   4  * Function: alltoall_ring_mpi_barrier
   5
   6  * Return: int
   7
   8  * Inputs:
   9     send_buff: send input buffer
  10     send_count: number of elements to send
  11     send_type: data type of elements being sent
  12     recv_buff: receive output buffer
  13     recv_count: number of elements to received
  14     recv_type: data type of elements being received
  15     comm: communicator
  16
  17  * Descrp: Function works in P - 1 steps. In step i, node j - i -> j -> j + i.
  18            MPI barriers are added between each two phases.
  19
  20  * Auther: Ahmad Faraj
  21
  22  ****************************************************************************/
  23 int
  24 smpi_coll_tuned_alltoall_ring_mpi_barrier(void *send_buff, int send_count,
  25                                           MPI_Datatype send_type,
  26                                           void *recv_buff, int recv_count,
  27                                           MPI_Datatype recv_type, MPI_Comm comm)
  28 {
  29   MPI_Status s;
  30   MPI_Aint send_chunk, recv_chunk;
  31   int i, src, dst, rank, num_procs;
  32   int tag = 1, success = 1;     /*, failure = 0, pof2 = 1; */
  33
  34   char *send_ptr = (char *) send_buff;
  35   char *recv_ptr = (char *) recv_buff;
  36
  37   MPI_Comm_rank(comm, &rank);
  38   MPI_Comm_size(comm, &num_procs);
  39   MPI_Type_extent(send_type, &send_chunk);
  40   MPI_Type_extent(recv_type, &recv_chunk);
  41
  42   send_chunk *= send_count;
  43   recv_chunk *= recv_count;
  44
  45   for (i = 0; i < num_procs; i++) {
  46     src = (rank - i + num_procs) % num_procs;
  47     dst = (rank + i) % num_procs;
  48
  49     MPI_Barrier(comm);
  50     MPI_Sendrecv(send_ptr + dst * send_chunk, send_count, send_type, dst,
  51                  tag, recv_ptr + src * recv_chunk, recv_count, recv_type,
  52                  src, tag, comm, &s);
  53   }
  54
  55   return success;
  56 }