src/smpi/colls/alltoall-pair.c

   1 #include "colls_private.h"
   2
   3 /*****************************************************************************
   4
   5  * Function: alltoall_pair
   6
   7  * Return: int
   8
   9  * Inputs:
  10     send_buff: send input buffer
  11     send_count: number of elements to send
  12     send_type: data type of elements being sent
  13     recv_buff: receive output buffer
  14     recv_count: number of elements to received
  15     recv_type: data type of elements being received
  16     comm: communicator
  17
  18  * Descrp: Function works when P is power of two. In each phase of P - 1
  19            phases, nodes in pair communicate their data.
  20
  21  * Auther: Ahmad Faraj
  22
  23  ****************************************************************************/
  24 /*
  25 int alltoall_pair(void *send_buff, int send_count, MPI_Datatype send_type,
  26                   void *recv_buff, int recv_count, MPI_Datatype recv_type,
  27                   MPI_Comm comm)
  28 {
  29
  30   MPI_Aint send_chunk, recv_chunk;
  31   MPI_Status s;
  32   MPI_Win win;
  33   int assert = 0;
  34   int i, src, dst, rank, num_procs;
  35   int tag = 1, success = 1, failure = 0, pof2 = 1;
  36
  37   char *send_ptr = (char *) send_buff;
  38   char *recv_ptr = (char *) recv_buff;
  39
  40   rank = smpi_comm_rank(comm);
  41   num_procs = smpi_comm_size(comm);
  42   send_chunk = smpi_datatype_get_extent(send_type);
  43   recv_chunk = smpi_datatype_get_extent(recv_type);
  44
  45   MPI_Win_create(recv_buff, num_procs * recv_chunk * send_count, recv_chunk, 0,
  46                  comm, &win);
  47   send_chunk *= send_count;
  48   recv_chunk *= recv_count;
  49
  50   MPI_Win_fence(assert, win);
  51   for (i = 0; i < num_procs; i++) {
  52     src = dst = rank ^ i;
  53     MPI_Put(send_ptr + dst * send_chunk, send_count, send_type, dst,
  54             rank * send_chunk, send_count, send_type, win);
  55   }
  56   MPI_Win_fence(assert, win);
  57   MPI_Win_free(&win);
  58   return 0;
  59 }
  60 */
  61
  62 int smpi_coll_tuned_alltoall_pair(void *send_buff, int send_count,
  63                                   MPI_Datatype send_type,
  64                                   void *recv_buff, int recv_count,
  65                                   MPI_Datatype recv_type, MPI_Comm comm)
  66 {
  67
  68   MPI_Aint send_chunk, recv_chunk;
  69   MPI_Status s;
  70   int i, src, dst, rank, num_procs;
  71   int tag = COLL_TAG_ALLTOALL;
  72   char *send_ptr = (char *) send_buff;
  73   char *recv_ptr = (char *) recv_buff;
  74
  75   rank = smpi_comm_rank(comm);
  76   num_procs = smpi_comm_size(comm);
  77   send_chunk = smpi_datatype_get_extent(send_type);
  78   recv_chunk = smpi_datatype_get_extent(recv_type);
  79
  80   send_chunk *= send_count;
  81   recv_chunk *= recv_count;
  82
  83   for (i = 0; i < num_procs; i++) {
  84     src = dst = rank ^ i;
  85     smpi_mpi_sendrecv(send_ptr + dst * send_chunk, send_count, send_type, dst, tag,
  86                  recv_ptr + src * recv_chunk, recv_count, recv_type, src, tag,
  87                  comm, &s);
  88   }
  89
  90   return MPI_SUCCESS;
  91 }