src/smpi/colls/alltoallv/alltoallv-pair-light-barrier.cpp

   1 /* Copyright (c) 2013-2019. The SimGrid Team.
   2  * All rights reserved.                                                     */
   3
   4 /* This program is free software; you can redistribute it and/or modify it
   5  * under the terms of the license (GNU LGPL) which comes with this package. */
   6
   7 #include "../colls_private.hpp"
   8 /*****************************************************************************
   9
  10  * Function: alltoall_pair_light_barrier
  11
  12  * Return: int
  13
  14  * Inputs:
  15     send_buff: send input buffer
  16     send_count: number of elements to send
  17     send_type: data type of elements being sent
  18     recv_buff: receive output buffer
  19     recv_count: number of elements to received
  20     recv_type: data type of elements being received
  21     comm: communicator
  22
  23  * Descrp: Function works in P - 1 steps. In step i, node j exchanges data
  24            with node i ^ j. Light barriers are inserted between
  25            communications in different phases.
  26
  27  * Auther: Ahmad Faraj
  28
  29  ****************************************************************************/
  30 namespace simgrid{
  31 namespace smpi{
  32 int
  33 Coll_alltoallv_pair_light_barrier::alltoallv(void *send_buff, int *send_counts, int *send_disps,
  34                                             MPI_Datatype send_type,
  35                                             void *recv_buff, int *recv_counts, int *recv_disps,
  36                                             MPI_Datatype recv_type,
  37                                             MPI_Comm comm)
  38 {
  39   MPI_Aint send_chunk, recv_chunk;
  40   MPI_Status s;
  41   int i, src, dst, rank, num_procs, next_partner;
  42   int tag = COLL_TAG_ALLTOALLV;     /*, failure = 0; */
  43
  44   char send_sync = 'a', recv_sync = 'b';
  45   char *send_ptr = (char *) send_buff;
  46   char *recv_ptr = (char *) recv_buff;
  47
  48   rank = comm->rank();
  49   num_procs = comm->size();
  50
  51   if((num_procs&(num_procs-1)))
  52     THROWF(arg_error,0, "alltoallv pair algorithm can't be used with non power of two number of processes ! ");
  53
  54   send_chunk = send_type->get_extent();
  55   recv_chunk = recv_type->get_extent();
  56
  57   Request::sendrecv(send_ptr + send_disps[rank] * send_chunk, send_counts[rank], send_type, rank, tag,
  58                recv_ptr + recv_disps[rank] * recv_chunk, recv_counts[rank], recv_type, rank, tag,
  59                comm, &s);
  60
  61   for (i = 1; i < num_procs; i++) {
  62     src = dst = rank ^ i;
  63
  64     Request::sendrecv(send_ptr + send_disps[dst] * send_chunk, send_counts[dst], send_type,
  65                  dst, tag, recv_ptr + recv_disps[src] *recv_chunk, recv_counts[dst],
  66                  recv_type, src, tag, comm, &s);
  67
  68     if ((i + 1) < num_procs) {
  69       next_partner = rank ^ (i + 1);
  70       Request::sendrecv(&send_sync, 1, MPI_CHAR, next_partner, tag,
  71                    &recv_sync, 1, MPI_CHAR, next_partner, tag, comm, &s);
  72     }
  73   }
  74   return MPI_SUCCESS;
  75 }
  76 }
  77 }