src/smpi/private.h

   1 /* Copyright (c) 2007, 2009, 2010. The SimGrid Team.
   2  * All rights reserved.                                                     */
   3
   4 /* This program is free software; you can redistribute it and/or modify it
   5   * under the terms of the license (GNU LGPL) which comes with this package. */
   6
   7 #ifndef SMPI_PRIVATE_H
   8 #define SMPI_PRIVATE_H
   9
  10 #include "xbt.h"
  11 #include "xbt/xbt_os_time.h"
  12 #include "simgrid/simix.h"
  13 #include "smpi/smpi.h"
  14 #include "smpi/smpif.h"
  15 #include "smpi/smpi_cocci.h"
  16 #include "instr/instr_private.h"
  17
  18 struct s_smpi_process_data;
  19 typedef struct s_smpi_process_data *smpi_process_data_t;
  20
  21 #define PERSISTENT     0x1
  22 #define NON_PERSISTENT 0x2
  23 #define SEND           0x4
  24 #define RECV           0x8
  25 #define RECV_DELETE     0x10
  26
  27 // this struct is here to handle the problem of non-contignous data
  28 // for each such structure these function should be implemented (vector
  29 // index hvector hindex struct)
  30 typedef struct s_smpi_subtype{
  31   void (*serialize)(const void * input, void *output, size_t count, void* subtype);
  32   void (*unserialize)(const void * input, void *output, size_t count, void* subtype);
  33   void (*subtype_free)(MPI_Datatype* type);
  34 } s_smpi_subtype_t;
  35
  36 typedef struct s_smpi_mpi_datatype{
  37   size_t size;
  38   /* this let us know if a serialization is required*/
  39   size_t has_subtype;
  40   MPI_Aint lb;
  41   MPI_Aint ub;
  42   int flags;
  43   /* this let us know how to serialize and unserialize*/
  44   void *substruct;
  45   int in_use;
  46 } s_smpi_mpi_datatype_t;
  47
  48 //*****************************************************************************************
  49
  50 typedef struct s_smpi_mpi_request {
  51   void *buf;
  52   /* in the case of non-contignous memory the user address shoud be keep
  53    * to unserialize the data inside the user memory*/
  54   void *old_buf;
  55   /* this let us know how tounserialize at the end of
  56    * the communication*/
  57   MPI_Datatype old_type;
  58   size_t size;
  59   int src;
  60   int dst;
  61   int tag;
  62   //to handle cases where we have an unknown sender
  63   //We can't override src, tag, and size, because the request may be reused later
  64   int real_src;
  65   int real_tag;
  66   int truncated;
  67   size_t real_size;
  68   MPI_Comm comm;
  69   smx_action_t action;
  70   unsigned flags;
  71   int detached;
  72 #ifdef HAVE_TRACING
  73   int send;
  74   int recv;
  75 #endif
  76 } s_smpi_mpi_request_t;
  77
  78 void smpi_process_init(int *argc, char ***argv);
  79 void smpi_process_destroy(void);
  80 void smpi_process_finalize(void);
  81
  82 smpi_process_data_t smpi_process_data(void);
  83 smpi_process_data_t smpi_process_remote_data(int index);
  84 void smpi_process_set_user_data(void *);
  85 void* smpi_process_get_user_data(void);
  86 int smpi_process_count(void);
  87 smx_rdv_t smpi_process_mailbox(void);
  88 smx_rdv_t smpi_process_remote_mailbox(int index);
  89 smx_rdv_t smpi_process_mailbox_small(void);
  90 smx_rdv_t smpi_process_remote_mailbox_small(int index);
  91 xbt_os_timer_t smpi_process_timer(void);
  92 void smpi_process_simulated_start(void);
  93 double smpi_process_simulated_elapsed(void);
  94
  95 void print_request(const char *message, MPI_Request request);
  96
  97 void smpi_global_init(void);
  98 void smpi_global_destroy(void);
  99
 100 size_t smpi_datatype_size(MPI_Datatype datatype);
 101 MPI_Aint smpi_datatype_lb(MPI_Datatype datatype);
 102 MPI_Aint smpi_datatype_ub(MPI_Datatype datatype);
 103 int smpi_datatype_extent(MPI_Datatype datatype, MPI_Aint * lb,
 104                          MPI_Aint * extent);
 105 MPI_Aint smpi_datatype_get_extent(MPI_Datatype datatype);
 106 int smpi_datatype_copy(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 107                        void *recvbuf, int recvcount,
 108                        MPI_Datatype recvtype);
 109 void smpi_datatype_use(MPI_Datatype type);
 110 void smpi_datatype_unuse(MPI_Datatype type);
 111
 112 int smpi_datatype_contiguous(int count, MPI_Datatype old_type,
 113                        MPI_Datatype* new_type);
 114 int smpi_datatype_vector(int count, int blocklen, int stride,
 115                       MPI_Datatype old_type, MPI_Datatype* new_type);
 116
 117 int smpi_datatype_hvector(int count, int blocklen, MPI_Aint stride,
 118                       MPI_Datatype old_type, MPI_Datatype* new_type);
 119 int smpi_datatype_indexed(int count, int* blocklens, int* indices,
 120                      MPI_Datatype old_type, MPI_Datatype* new_type);
 121 int smpi_datatype_hindexed(int count, int* blocklens, MPI_Aint* indices,
 122                      MPI_Datatype old_type, MPI_Datatype* new_type);
 123 int smpi_datatype_struct(int count, int* blocklens, MPI_Aint* indices,
 124                     MPI_Datatype* old_types, MPI_Datatype* new_type);
 125
 126 void smpi_datatype_create(MPI_Datatype* new_type, int size,int lb, int ub, int has_subtype, void *struct_type, int flags);
 127
 128
 129 void smpi_datatype_free(MPI_Datatype* type);
 130 void smpi_datatype_commit(MPI_Datatype* datatype);
 131
 132 void smpi_empty_status(MPI_Status * status);
 133 MPI_Op smpi_op_new(MPI_User_function * function, int commute);
 134 void smpi_op_destroy(MPI_Op op);
 135 void smpi_op_apply(MPI_Op op, void *invec, void *inoutvec, int *len,
 136                    MPI_Datatype * datatype);
 137
 138 MPI_Group smpi_group_new(int size);
 139 void smpi_group_destroy(MPI_Group group);
 140 void smpi_group_set_mapping(MPI_Group group, int index, int rank);
 141 int smpi_group_index(MPI_Group group, int rank);
 142 int smpi_group_rank(MPI_Group group, int index);
 143 int smpi_group_use(MPI_Group group);
 144 int smpi_group_unuse(MPI_Group group);
 145 int smpi_group_size(MPI_Group group);
 146 int smpi_group_compare(MPI_Group group1, MPI_Group group2);
 147
 148 MPI_Comm smpi_comm_new(MPI_Group group);
 149 void smpi_comm_destroy(MPI_Comm comm);
 150 MPI_Group smpi_comm_group(MPI_Comm comm);
 151 int smpi_comm_size(MPI_Comm comm);
 152 void smpi_comm_get_name(MPI_Comm comm, char* name, int* len);
 153 int smpi_comm_rank(MPI_Comm comm);
 154 MPI_Comm smpi_comm_split(MPI_Comm comm, int color, int key);
 155
 156 MPI_Request smpi_mpi_send_init(void *buf, int count, MPI_Datatype datatype,
 157                                int dst, int tag, MPI_Comm comm);
 158 MPI_Request smpi_mpi_recv_init(void *buf, int count, MPI_Datatype datatype,
 159                                int src, int tag, MPI_Comm comm);
 160 void smpi_mpi_start(MPI_Request request);
 161 void smpi_mpi_startall(int count, MPI_Request * requests);
 162 void smpi_mpi_request_free(MPI_Request * request);
 163 MPI_Request smpi_isend_init(void *buf, int count, MPI_Datatype datatype,
 164                             int dst, int tag, MPI_Comm comm);
 165 MPI_Request smpi_mpi_isend(void *buf, int count, MPI_Datatype datatype,
 166                            int dst, int tag, MPI_Comm comm);
 167 MPI_Request smpi_irecv_init(void *buf, int count, MPI_Datatype datatype,
 168                             int src, int tag, MPI_Comm comm);
 169 MPI_Request smpi_mpi_irecv(void *buf, int count, MPI_Datatype datatype,
 170                            int src, int tag, MPI_Comm comm);
 171 void smpi_mpi_recv(void *buf, int count, MPI_Datatype datatype, int src,
 172                    int tag, MPI_Comm comm, MPI_Status * status);
 173 void smpi_mpi_send(void *buf, int count, MPI_Datatype datatype, int dst,
 174                    int tag, MPI_Comm comm);
 175 void smpi_mpi_sendrecv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 176                        int dst, int sendtag, void *recvbuf, int recvcount,
 177                        MPI_Datatype recvtype, int src, int recvtag,
 178                        MPI_Comm comm, MPI_Status * status);
 179 int smpi_mpi_test(MPI_Request * request, MPI_Status * status);
 180 int smpi_mpi_testany(int count, MPI_Request requests[], int *index,
 181                      MPI_Status * status);
 182 int smpi_mpi_testall(int count, MPI_Request requests[],
 183                      MPI_Status status[]);
 184 void smpi_mpi_probe(int source, int tag, MPI_Comm comm, MPI_Status* status);
 185 void smpi_mpi_iprobe(int source, int tag, MPI_Comm comm, int* flag,
 186                     MPI_Status* status);
 187 int smpi_mpi_get_count(MPI_Status * status, MPI_Datatype datatype);
 188 void smpi_mpi_wait(MPI_Request * request, MPI_Status * status);
 189 int smpi_mpi_waitany(int count, MPI_Request requests[],
 190                      MPI_Status * status);
 191 int smpi_mpi_waitall(int count, MPI_Request requests[],
 192                       MPI_Status status[]);
 193 int smpi_mpi_waitsome(int incount, MPI_Request requests[], int *indices,
 194                       MPI_Status status[]);
 195 int smpi_mpi_testsome(int incount, MPI_Request requests[], int *indices,
 196                       MPI_Status status[]);
 197 void smpi_mpi_bcast(void *buf, int count, MPI_Datatype datatype, int root,
 198                     MPI_Comm comm);
 199 void smpi_mpi_barrier(MPI_Comm comm);
 200 void smpi_mpi_gather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 201                      void *recvbuf, int recvcount, MPI_Datatype recvtype,
 202                      int root, MPI_Comm comm);
 203 void smpi_mpi_gatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 204                       void *recvbuf, int *recvcounts, int *displs,
 205                       MPI_Datatype recvtype, int root, MPI_Comm comm);
 206 void smpi_mpi_allgather(void *sendbuf, int sendcount,
 207                         MPI_Datatype sendtype, void *recvbuf,
 208                         int recvcount, MPI_Datatype recvtype,
 209                         MPI_Comm comm);
 210 void smpi_mpi_allgatherv(void *sendbuf, int sendcount,
 211                          MPI_Datatype sendtype, void *recvbuf,
 212                          int *recvcounts, int *displs,
 213                          MPI_Datatype recvtype, MPI_Comm comm);
 214 void smpi_mpi_scatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 215                       void *recvbuf, int recvcount, MPI_Datatype recvtype,
 216                       int root, MPI_Comm comm);
 217 void smpi_mpi_scatterv(void *sendbuf, int *sendcounts, int *displs,
 218                        MPI_Datatype sendtype, void *recvbuf, int recvcount,
 219                        MPI_Datatype recvtype, int root, MPI_Comm comm);
 220 void smpi_mpi_reduce(void *sendbuf, void *recvbuf, int count,
 221                      MPI_Datatype datatype, MPI_Op op, int root,
 222                      MPI_Comm comm);
 223 void smpi_mpi_allreduce(void *sendbuf, void *recvbuf, int count,
 224                         MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 225 void smpi_mpi_scan(void *sendbuf, void *recvbuf, int count,
 226                    MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 227
 228 void nary_tree_bcast(void *buf, int count, MPI_Datatype datatype, int root,
 229                      MPI_Comm comm, int arity);
 230 void nary_tree_barrier(MPI_Comm comm, int arity);
 231
 232 int smpi_coll_tuned_alltoall_bruck(void *sendbuf, int sendcount,
 233                                    MPI_Datatype sendtype, void *recvbuf,
 234                                    int recvcount, MPI_Datatype recvtype,
 235                                    MPI_Comm comm);
 236 int smpi_coll_tuned_alltoall_basic_linear(void *sendbuf, int sendcount,
 237                                           MPI_Datatype sendtype,
 238                                           void *recvbuf, int recvcount,
 239                                           MPI_Datatype recvtype,
 240                                           MPI_Comm comm);
 241 int smpi_coll_tuned_alltoall_pairwise(void *sendbuf, int sendcount,
 242                                       MPI_Datatype sendtype, void *recvbuf,
 243                                       int recvcount, MPI_Datatype recvtype,
 244                                       MPI_Comm comm);
 245 int smpi_coll_basic_alltoallv(void *sendbuf, int *sendcounts,
 246                               int *senddisps, MPI_Datatype sendtype,
 247                               void *recvbuf, int *recvcounts,
 248                               int *recvdisps, MPI_Datatype recvtype,
 249                               MPI_Comm comm);
 250
 251 // utilities
 252 void smpi_bench_destroy(void);
 253 void smpi_bench_begin(void);
 254 void smpi_bench_end(void);
 255 void smpi_execute_flops(double flops);
 256
 257 // f77 wrappers
 258 void mpi_init__(int*);
 259 void mpi_finalize__(int*);
 260 void mpi_abort__(int* comm, int* errorcode, int* ierr);
 261 void mpi_comm_rank__(int* comm, int* rank, int* ierr);
 262 void mpi_comm_size__(int* comm, int* size, int* ierr);
 263 double mpi_wtime__(void);
 264 double mpi_wtick__(void);
 265 void mpi_initialized__(int* flag, int* ierr);
 266
 267 void mpi_comm_dup__(int* comm, int* newcomm, int* ierr);
 268 void mpi_comm_create__(int* comm, int* group, int* newcomm, int* ierr);
 269 void mpi_comm_free__(int* comm, int* ierr);
 270 void mpi_comm_split__(int* comm, int* color, int* key, int* comm_out, int* ierr);
 271 void mpi_group_incl__(int* group, int* n, int* key, int* group_out, int* ierr) ;
 272 void mpi_comm_group__(int* comm, int* group_out,  int* ierr);
 273 void mpi_send_init__(void *buf, int* count, int* datatype, int* dst, int* tag,
 274                      int* comm, int* request, int* ierr);
 275 void mpi_isend__(void *buf, int* count, int* datatype, int* dst,
 276                  int* tag, int* comm, int* request, int* ierr);
 277 void mpi_irsend__(void *buf, int* count, int* datatype, int* dst,
 278                  int* tag, int* comm, int* request, int* ierr);
 279 void mpi_send__(void* buf, int* count, int* datatype, int* dst,
 280                 int* tag, int* comm, int* ierr);
 281 void mpi_rsend__(void* buf, int* count, int* datatype, int* dst,
 282                 int* tag, int* comm, int* ierr);
 283 void mpi_recv_init__(void *buf, int* count, int* datatype, int* src, int* tag,
 284                      int* comm, int* request, int* ierr);
 285 void mpi_irecv__(void *buf, int* count, int* datatype, int* src, int* tag,
 286                  int* comm, int* request, int* ierr);
 287 void mpi_recv__(void* buf, int* count, int* datatype, int* src,
 288                 int* tag, int* comm, MPI_Status* status, int* ierr);
 289 void mpi_start__(int* request, int* ierr);
 290 void mpi_startall__(int* count, int* requests, int* ierr);
 291 void mpi_wait__(int* request, MPI_Status* status, int* ierr);
 292 void mpi_waitany__(int* count, int* requests, int* index, MPI_Status* status, int* ierr);
 293 void mpi_waitall__(int* count, int* requests, MPI_Status* status, int* ierr);
 294
 295 void mpi_barrier__(int* comm, int* ierr);
 296 void mpi_bcast__(void* buf, int* count, int* datatype, int* root, int* comm, int* ierr);
 297 void mpi_reduce__(void* sendbuf, void* recvbuf, int* count,
 298                   int* datatype, int* op, int* root, int* comm, int* ierr);
 299 void mpi_allreduce__(void* sendbuf, void* recvbuf, int* count, int* datatype,
 300                      int* op, int* comm, int* ierr);
 301 void mpi_reduce_scatter__(void* sendbuf, void* recvbuf, int* recvcounts, int* datatype,
 302                      int* op, int* comm, int* ierr) ;
 303 void mpi_scatter__(void* sendbuf, int* sendcount, int* sendtype,
 304                    void* recvbuf, int* recvcount, int* recvtype,
 305                    int* root, int* comm, int* ierr);
 306 void mpi_scatterv__(void* sendbuf, int* sendcounts, int* displs, int* sendtype,
 307                    void* recvbuf, int* recvcount, int* recvtype,
 308                    int* root, int* comm, int* ierr);
 309 void mpi_gather__(void* sendbuf, int* sendcount, int* sendtype,
 310                   void* recvbuf, int* recvcount, int* recvtype,
 311                   int* root, int* comm, int* ierr);
 312 void mpi_gatherv__(void* sendbuf, int* sendcount, int* sendtype,
 313                   void* recvbuf, int* recvcounts, int* displs, int* recvtype,
 314                   int* root, int* comm, int* ierr);
 315 void mpi_allgather__(void* sendbuf, int* sendcount, int* sendtype,
 316                      void* recvbuf, int* recvcount, int* recvtype,
 317                      int* comm, int* ierr);
 318 void mpi_allgatherv__(void* sendbuf, int* sendcount, int* sendtype,
 319                      void* recvbuf, int* recvcount,int* displs, int* recvtype,
 320                      int* comm, int* ierr) ;
 321 void mpi_type_size__(int* datatype, int *size, int* ierr);
 322
 323 void mpi_scan__(void* sendbuf, void* recvbuf, int* count, int* datatype,
 324                 int* op, int* comm, int* ierr);
 325 void mpi_alltoall__(void* sendbuf, int* sendcount, int* sendtype,
 326                     void* recvbuf, int* recvcount, int* recvtype, int* comm, int* ierr);
 327 void mpi_alltoallv__(void* sendbuf, int* sendcounts, int* senddisps, int* sendtype,
 328                     void* recvbuf, int* recvcounts, int* recvdisps, int* recvtype, int* comm, int* ierr);
 329 void mpi_get_processor_name__(char *name, int *resultlen, int* ierr);
 330 void mpi_test__ (int * request, int *flag, MPI_Status * status, int* ierr);
 331 void mpi_get_count__(MPI_Status * status, int* datatype, int *count, int* ierr);
 332 void mpi_type_extent__(int* datatype, MPI_Aint * extent, int* ierr);
 333 void mpi_attr_get__(int* comm, int* keyval, void* attr_value, int* flag, int* ierr );
 334 void mpi_type_lb__(int* datatype, MPI_Aint * extent, int* ierr);
 335 void mpi_type_ub__(int* datatype, MPI_Aint * extent, int* ierr);
 336 void mpi_error_string__(int* errorcode, char* string, int* resultlen, int* ierr);
 337 void mpi_sendrecv__(void* sendbuf, int* sendcount, int* sendtype, int* dst,
 338                 int* sendtag, void *recvbuf, int* recvcount,
 339                 int* recvtype, int* src, int* recvtag,
 340                 int* comm, MPI_Status* status, int* ierr);
 341
 342
 343 #endif