src/smpi/private.h

   1 /* Copyright (c) 2007, 2009-2014. The SimGrid Team.
   2  * All rights reserved.                                                     */
   3
   4 /* This program is free software; you can redistribute it and/or modify it
   5  * under the terms of the license (GNU LGPL) which comes with this package. */
   6
   7 #ifndef SMPI_PRIVATE_H
   8 #define SMPI_PRIVATE_H
   9
  10 #include "internal_config.h"
  11 #include "xbt.h"
  12 #include "xbt/xbt_os_time.h"
  13 #include "xbt/synchro_core.h"
  14 #include "simgrid/simix.h"
  15 #include "smpi/smpi_interface.h"
  16 #include "smpi/smpi.h"
  17 #include "smpi/smpi_cocci.h"
  18 #include "instr/instr_private.h"
  19
  20 SG_BEGIN_DECL()
  21
  22 struct s_smpi_process_data;
  23 typedef struct s_smpi_process_data *smpi_process_data_t;
  24
  25 #define PERSISTENT     0x1
  26 #define NON_PERSISTENT 0x2
  27 #define SEND           0x4
  28 #define RECV           0x8
  29 #define RECV_DELETE    0x10
  30 #define ISEND          0x20
  31 #define SSEND          0x40
  32 #define PREPARED       0x80
  33 #define FINISHED       0x100
  34 #define RMA            0x200
  35 #define ACCUMULATE     0x400
  36
  37
  38 enum smpi_process_state{
  39   SMPI_UNINITIALIZED,
  40   SMPI_INITIALIZED,
  41   SMPI_FINALIZED
  42 };
  43
  44 // this struct is here to handle the problem of non-contignous data
  45 // for each such structure these function should be implemented (vector
  46 // index hvector hindex struct)
  47 typedef struct s_smpi_subtype{
  48   void (*serialize)(const void * input, void *output, int count, void* subtype);
  49   void (*unserialize)(const void * input, void *output, int count, void* subtype, MPI_Op op);
  50   void (*subtype_free)(MPI_Datatype* type);
  51 } s_smpi_subtype_t;
  52
  53 typedef struct s_smpi_mpi_datatype{
  54   char* name;
  55   size_t size;
  56   /* this let us know if a serialization is required*/
  57   size_t has_subtype;
  58   MPI_Aint lb;
  59   MPI_Aint ub;
  60   int flags;
  61   /* this let us know how to serialize and unserialize*/
  62   void *substruct;
  63   int in_use;
  64 } s_smpi_mpi_datatype_t;
  65
  66
  67 #define COLL_TAG_REDUCE -112
  68 #define COLL_TAG_SCATTER -223
  69 #define COLL_TAG_SCATTERV -334
  70 #define COLL_TAG_GATHER -445
  71 #define COLL_TAG_ALLGATHER -556
  72 #define COLL_TAG_ALLGATHERV -667
  73 #define COLL_TAG_BARRIER -778
  74 #define COLL_TAG_REDUCE_SCATTER -889
  75 #define COLL_TAG_ALLTOALLV -1000
  76 #define COLL_TAG_ALLTOALL -1112
  77 #define COLL_TAG_GATHERV -2223
  78 #define COLL_TAG_BCAST -3334
  79 #define COLL_TAG_ALLREDUCE -4445
  80
  81 #define MPI_COMM_UNINITIALIZED ((MPI_Comm)-1)
  82
  83 //*****************************************************************************************
  84
  85 typedef struct s_smpi_mpi_request {
  86   void *buf;
  87   /* in the case of non-contignous memory the user address shoud be keep
  88    * to unserialize the data inside the user memory*/
  89   void *old_buf;
  90   /* this let us know how tounserialize at the end of
  91    * the communication*/
  92   MPI_Datatype old_type;
  93   size_t size;
  94   int src;
  95   int dst;
  96   int tag;
  97   //to handle cases where we have an unknown sender
  98   //We can't override src, tag, and size, because the request may be reused later
  99   int real_src;
 100   int real_tag;
 101   int truncated;
 102   size_t real_size;
 103   MPI_Comm comm;
 104   smx_action_t action;
 105   unsigned flags;
 106   int detached;
 107   MPI_Request detached_sender;
 108   int refcount;
 109   MPI_Op op;
 110 #ifdef HAVE_TRACING
 111   int send;
 112   int recv;
 113 #endif
 114 } s_smpi_mpi_request_t;
 115
 116
 117 void smpi_process_destroy(void);
 118 void smpi_process_finalize(void);
 119 int smpi_process_finalized(void);
 120 int smpi_process_initialized(void);
 121 void smpi_process_mark_as_initialized(void);
 122
 123 struct s_smpi_mpi_cart_topology;
 124 typedef struct s_smpi_mpi_cart_topology *MPIR_Cart_Topology;
 125
 126 struct s_smpi_mpi_graph_topology;
 127 typedef struct s_smpi_mpi_graph_topology *MPIR_Graph_Topology;
 128
 129 struct s_smpi_dist_graph_topology;
 130 typedef struct s_smpi_dist_graph_topology *MPIR_Dist_Graph_Topology;
 131
 132 // MPI_Topology defined in smpi.h, as it is public
 133
 134 void smpi_topo_destroy(MPI_Topology topo);
 135 MPI_Topology smpi_topo_create(MPIR_Topo_type kind);
 136 void smpi_cart_topo_destroy(MPIR_Cart_Topology cart);
 137 MPI_Topology smpi_cart_topo_create(int ndims);
 138 int smpi_mpi_cart_create(MPI_Comm comm_old, int ndims, int dims[],
 139                          int periods[], int reorder, MPI_Comm *comm_cart);
 140 int smpi_mpi_cart_sub(MPI_Comm comm, const int remain_dims[], MPI_Comm *newcomm);
 141 int smpi_mpi_cart_coords(MPI_Comm comm, int rank, int maxdims,
 142                          int coords[]);
 143 int smpi_mpi_cart_get(MPI_Comm comm, int maxdims, int* dims, int* periods,
 144                       int* coords);
 145 int smpi_mpi_cart_rank(MPI_Comm comm, int* coords, int* rank);
 146 int smpi_mpi_cart_shift(MPI_Comm comm, int direction, int disp,
 147                         int *rank_source, int *rank_dest);
 148 int smpi_mpi_cartdim_get(MPI_Comm comm, int *ndims);
 149 int smpi_mpi_dims_create(int nnodes, int ndims, int dims[]);
 150
 151
 152 smpi_process_data_t smpi_process_data(void);
 153 smpi_process_data_t smpi_process_remote_data(int index);
 154 void smpi_process_set_user_data(void *);
 155 void* smpi_process_get_user_data(void);
 156 int smpi_process_count(void);
 157 MPI_Comm smpi_process_comm_world(void);
 158 smx_rdv_t smpi_process_mailbox(void);
 159 smx_rdv_t smpi_process_remote_mailbox(int index);
 160 smx_rdv_t smpi_process_mailbox_small(void);
 161 smx_rdv_t smpi_process_remote_mailbox_small(int index);
 162 xbt_os_timer_t smpi_process_timer(void);
 163 void smpi_process_simulated_start(void);
 164 double smpi_process_simulated_elapsed(void);
 165 void smpi_process_set_sampling(int s);
 166 int smpi_process_get_sampling(void);
 167
 168 void smpi_deployment_register_process(const char* instance_id, int rank, int index, MPI_Comm**, xbt_bar_t*);
 169 void smpi_deployment_cleanup_instances(void);
 170
 171 void smpi_comm_copy_buffer_callback(smx_action_t comm,
 172                                            void *buff, size_t buff_size);
 173
 174 void print_request(const char *message, MPI_Request request);
 175
 176 int smpi_enabled(void);
 177 void smpi_global_init(void);
 178 void smpi_global_destroy(void);
 179 double smpi_mpi_wtime(void);
 180
 181 int is_datatype_valid(MPI_Datatype datatype);
 182
 183 size_t smpi_datatype_size(MPI_Datatype datatype);
 184 MPI_Aint smpi_datatype_lb(MPI_Datatype datatype);
 185 MPI_Aint smpi_datatype_ub(MPI_Datatype datatype);
 186 MPI_Datatype smpi_datatype_dup(MPI_Datatype datatype);
 187 int smpi_datatype_extent(MPI_Datatype datatype, MPI_Aint * lb,
 188                          MPI_Aint * extent);
 189 MPI_Aint smpi_datatype_get_extent(MPI_Datatype datatype);
 190 void smpi_datatype_get_name(MPI_Datatype datatype, char* name, int* length);
 191 void smpi_datatype_set_name(MPI_Datatype datatype, char* name);
 192 int smpi_datatype_copy(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 193                        void *recvbuf, int recvcount,
 194                        MPI_Datatype recvtype);
 195 void smpi_datatype_use(MPI_Datatype type);
 196 void smpi_datatype_unuse(MPI_Datatype type);
 197
 198 int smpi_datatype_contiguous(int count, MPI_Datatype old_type,
 199                        MPI_Datatype* new_type, MPI_Aint lb);
 200 int smpi_datatype_vector(int count, int blocklen, int stride,
 201                       MPI_Datatype old_type, MPI_Datatype* new_type);
 202
 203 int smpi_datatype_hvector(int count, int blocklen, MPI_Aint stride,
 204                       MPI_Datatype old_type, MPI_Datatype* new_type);
 205 int smpi_datatype_indexed(int count, int* blocklens, int* indices,
 206                      MPI_Datatype old_type, MPI_Datatype* new_type);
 207 int smpi_datatype_hindexed(int count, int* blocklens, MPI_Aint* indices,
 208                      MPI_Datatype old_type, MPI_Datatype* new_type);
 209 int smpi_datatype_struct(int count, int* blocklens, MPI_Aint* indices,
 210                     MPI_Datatype* old_types, MPI_Datatype* new_type);
 211
 212 void smpi_datatype_create(MPI_Datatype* new_type, int size,int lb, int ub, int has_subtype, void *struct_type, int flags);
 213
 214
 215 void smpi_datatype_free(MPI_Datatype* type);
 216 void smpi_datatype_commit(MPI_Datatype* datatype);
 217
 218 void smpi_empty_status(MPI_Status * status);
 219 MPI_Op smpi_op_new(MPI_User_function * function, int commute);
 220 int smpi_op_is_commute(MPI_Op op);
 221 void smpi_op_destroy(MPI_Op op);
 222 void smpi_op_apply(MPI_Op op, void *invec, void *inoutvec, int *len,
 223                    MPI_Datatype * datatype);
 224
 225 MPI_Group smpi_group_new(int size);
 226 MPI_Group smpi_group_copy(MPI_Group origin);
 227 void smpi_group_destroy(MPI_Group group);
 228 void smpi_group_set_mapping(MPI_Group group, int index, int rank);
 229 int smpi_group_index(MPI_Group group, int rank);
 230 int smpi_group_rank(MPI_Group group, int index);
 231 int smpi_group_use(MPI_Group group);
 232 int smpi_group_unuse(MPI_Group group);
 233 int smpi_group_size(MPI_Group group);
 234 int smpi_group_compare(MPI_Group group1, MPI_Group group2);
 235
 236 MPI_Topology smpi_comm_topo(MPI_Comm comm);
 237 MPI_Comm smpi_comm_new(MPI_Group group, MPI_Topology topo);
 238 void smpi_comm_destroy(MPI_Comm comm);
 239 MPI_Group smpi_comm_group(MPI_Comm comm);
 240 int smpi_comm_size(MPI_Comm comm);
 241 void smpi_comm_get_name(MPI_Comm comm, char* name, int* len);
 242 int smpi_comm_rank(MPI_Comm comm);
 243 MPI_Comm smpi_comm_split(MPI_Comm comm, int color, int key);
 244 void smpi_comm_use(MPI_Comm comm);
 245 void smpi_comm_unuse(MPI_Comm comm);
 246
 247 MPI_Request smpi_mpi_send_init(void *buf, int count, MPI_Datatype datatype,
 248                                int dst, int tag, MPI_Comm comm);
 249 MPI_Request smpi_mpi_recv_init(void *buf, int count, MPI_Datatype datatype,
 250                                int src, int tag, MPI_Comm comm);
 251 MPI_Request smpi_mpi_ssend_init(void *buf, int count, MPI_Datatype datatype,
 252                                int dst, int tag, MPI_Comm comm);
 253 void smpi_mpi_start(MPI_Request request);
 254 void smpi_mpi_startall(int count, MPI_Request * requests);
 255 void smpi_mpi_request_free(MPI_Request * request);
 256 MPI_Request smpi_isend_init(void *buf, int count, MPI_Datatype datatype,
 257                             int dst, int tag, MPI_Comm comm);
 258 MPI_Request smpi_mpi_isend(void *buf, int count, MPI_Datatype datatype,
 259                            int dst, int tag, MPI_Comm comm);
 260 MPI_Request smpi_issend_init(void *buf, int count, MPI_Datatype datatype,
 261                             int dst, int tag, MPI_Comm comm);
 262 MPI_Request smpi_mpi_issend(void *buf, int count, MPI_Datatype datatype,
 263                            int dst, int tag, MPI_Comm comm);
 264 MPI_Request smpi_irecv_init(void *buf, int count, MPI_Datatype datatype,
 265                             int src, int tag, MPI_Comm comm);
 266 MPI_Request smpi_mpi_irecv(void *buf, int count, MPI_Datatype datatype,
 267                            int src, int tag, MPI_Comm comm);
 268 MPI_Request smpi_rma_send_init(void *buf, int count, MPI_Datatype datatype,
 269                             int src, int dst, int tag, MPI_Comm comm, MPI_Op op);
 270 MPI_Request smpi_rma_recv_init(void *buf, int count, MPI_Datatype datatype,
 271                             int src, int dst, int tag, MPI_Comm comm, MPI_Op op);
 272 void smpi_mpi_recv(void *buf, int count, MPI_Datatype datatype, int src,
 273                    int tag, MPI_Comm comm, MPI_Status * status);
 274 void smpi_mpi_send(void *buf, int count, MPI_Datatype datatype, int dst,
 275                    int tag, MPI_Comm comm);
 276 void smpi_mpi_ssend(void *buf, int count, MPI_Datatype datatype, int dst,
 277                    int tag, MPI_Comm comm);
 278 void smpi_mpi_sendrecv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 279                        int dst, int sendtag, void *recvbuf, int recvcount,
 280                        MPI_Datatype recvtype, int src, int recvtag,
 281                        MPI_Comm comm, MPI_Status * status);
 282 int smpi_mpi_test(MPI_Request * request, MPI_Status * status);
 283 int smpi_mpi_testany(int count, MPI_Request requests[], int *index,
 284                      MPI_Status * status);
 285 int smpi_mpi_testall(int count, MPI_Request requests[],
 286                      MPI_Status status[]);
 287 void smpi_mpi_probe(int source, int tag, MPI_Comm comm, MPI_Status* status);
 288 void smpi_mpi_iprobe(int source, int tag, MPI_Comm comm, int* flag,
 289                     MPI_Status* status);
 290 int smpi_mpi_get_count(MPI_Status * status, MPI_Datatype datatype);
 291 void smpi_mpi_wait(MPI_Request * request, MPI_Status * status);
 292 int smpi_mpi_waitany(int count, MPI_Request requests[],
 293                      MPI_Status * status);
 294 int smpi_mpi_waitall(int count, MPI_Request requests[],
 295                       MPI_Status status[]);
 296 int smpi_mpi_waitsome(int incount, MPI_Request requests[], int *indices,
 297                       MPI_Status status[]);
 298 int smpi_mpi_testsome(int incount, MPI_Request requests[], int *indices,
 299                       MPI_Status status[]);
 300 void smpi_mpi_bcast(void *buf, int count, MPI_Datatype datatype, int root,
 301                     MPI_Comm comm);
 302 void smpi_mpi_barrier(MPI_Comm comm);
 303 void smpi_mpi_gather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 304                      void *recvbuf, int recvcount, MPI_Datatype recvtype,
 305                      int root, MPI_Comm comm);
 306 void smpi_mpi_reduce_scatter(void *sendbuf, void *recvbuf, int *recvcounts,
 307                        MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 308 void smpi_mpi_gatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 309                       void *recvbuf, int *recvcounts, int *displs,
 310                       MPI_Datatype recvtype, int root, MPI_Comm comm);
 311 void smpi_mpi_allgather(void *sendbuf, int sendcount,
 312                         MPI_Datatype sendtype, void *recvbuf,
 313                         int recvcount, MPI_Datatype recvtype,
 314                         MPI_Comm comm);
 315 void smpi_mpi_allgatherv(void *sendbuf, int sendcount,
 316                          MPI_Datatype sendtype, void *recvbuf,
 317                          int *recvcounts, int *displs,
 318                          MPI_Datatype recvtype, MPI_Comm comm);
 319 void smpi_mpi_scatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
 320                       void *recvbuf, int recvcount, MPI_Datatype recvtype,
 321                       int root, MPI_Comm comm);
 322 void smpi_mpi_scatterv(void *sendbuf, int *sendcounts, int *displs,
 323                        MPI_Datatype sendtype, void *recvbuf, int recvcount,
 324                        MPI_Datatype recvtype, int root, MPI_Comm comm);
 325 void smpi_mpi_reduce(void *sendbuf, void *recvbuf, int count,
 326                      MPI_Datatype datatype, MPI_Op op, int root,
 327                      MPI_Comm comm);
 328 void smpi_mpi_allreduce(void *sendbuf, void *recvbuf, int count,
 329                         MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 330 void smpi_mpi_scan(void *sendbuf, void *recvbuf, int count,
 331                    MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 332 void smpi_mpi_exscan(void *sendbuf, void *recvbuf, int count,
 333                    MPI_Datatype datatype, MPI_Op op, MPI_Comm comm);
 334
 335 int smpi_mpi_win_free( MPI_Win* win);
 336
 337 MPI_Win smpi_mpi_win_create( void *base, MPI_Aint size, int disp_unit, MPI_Info info, MPI_Comm comm);
 338
 339 void smpi_mpi_win_get_name(MPI_Win win, char* name, int* length);
 340 void smpi_mpi_win_set_name(MPI_Win win, char* name);
 341
 342 int smpi_mpi_win_fence( int assert,  MPI_Win win);
 343
 344 int smpi_mpi_get( void *origin_addr, int origin_count, MPI_Datatype origin_datatype, int target_rank,
 345               MPI_Aint target_disp, int target_count, MPI_Datatype target_datatype, MPI_Win win);
 346 int smpi_mpi_put( void *origin_addr, int origin_count, MPI_Datatype origin_datatype, int target_rank,
 347               MPI_Aint target_disp, int target_count, MPI_Datatype target_datatype, MPI_Win win);
 348 int smpi_mpi_accumulate( void *origin_addr, int origin_count, MPI_Datatype origin_datatype, int target_rank,
 349               MPI_Aint target_disp, int target_count, MPI_Datatype target_datatype, MPI_Op op, MPI_Win win);
 350
 351 void nary_tree_bcast(void *buf, int count, MPI_Datatype datatype, int root,
 352                      MPI_Comm comm, int arity);
 353 void nary_tree_barrier(MPI_Comm comm, int arity);
 354
 355 int smpi_coll_tuned_alltoall_ompi2(void *sendbuf, int sendcount,
 356                                       MPI_Datatype sendtype, void *recvbuf,
 357                                       int recvcount, MPI_Datatype recvtype,
 358                                       MPI_Comm comm);
 359 int smpi_coll_tuned_alltoall_bruck(void *sendbuf, int sendcount,
 360                                    MPI_Datatype sendtype, void *recvbuf,
 361                                    int recvcount, MPI_Datatype recvtype,
 362                                    MPI_Comm comm);
 363 int smpi_coll_tuned_alltoall_basic_linear(void *sendbuf, int sendcount,
 364                                           MPI_Datatype sendtype,
 365                                           void *recvbuf, int recvcount,
 366                                           MPI_Datatype recvtype,
 367                                           MPI_Comm comm);
 368 int smpi_coll_basic_alltoallv(void *sendbuf, int *sendcounts,
 369                               int *senddisps, MPI_Datatype sendtype,
 370                               void *recvbuf, int *recvcounts,
 371                               int *recvdisps, MPI_Datatype recvtype,
 372                               MPI_Comm comm);
 373
 374 // utilities
 375 extern double smpi_cpu_threshold;
 376 extern double smpi_running_power;
 377 extern int smpi_privatize_global_variables;
 378 extern char* start_data_exe; //start of the data+bss segment of the executable
 379 extern int size_data_exe; //size of the data+bss segment of the executable
 380
 381
 382 void switch_data_segment(int);
 383 void smpi_get_executable_global_size(void);
 384 void smpi_initialize_global_memory_segments(void);
 385 void smpi_destroy_global_memory_segments(void);
 386 void smpi_bench_destroy(void);
 387 void smpi_bench_begin(void);
 388 void smpi_bench_end(void);
 389
 390
 391 // f77 wrappers
 392 void mpi_init_(int*);
 393 void mpi_finalize_(int*);
 394 void mpi_abort_(int* comm, int* errorcode, int* ierr);
 395 void mpi_comm_rank_(int* comm, int* rank, int* ierr);
 396 void mpi_comm_size_(int* comm, int* size, int* ierr);
 397 double mpi_wtime_(void);
 398 double mpi_wtick_(void);
 399 void mpi_initialized_(int* flag, int* ierr);
 400
 401 void mpi_comm_dup_(int* comm, int* newcomm, int* ierr);
 402 void mpi_comm_create_(int* comm, int* group, int* newcomm, int* ierr);
 403 void mpi_comm_free_(int* comm, int* ierr);
 404 void mpi_comm_split_(int* comm, int* color, int* key, int* comm_out, int* ierr);
 405 void mpi_group_incl_(int* group, int* n, int* key, int* group_out, int* ierr) ;
 406 void mpi_comm_group_(int* comm, int* group_out,  int* ierr);
 407 void mpi_send_init_(void *buf, int* count, int* datatype, int* dst, int* tag,
 408                      int* comm, int* request, int* ierr);
 409 void mpi_isend_(void *buf, int* count, int* datatype, int* dst,
 410                  int* tag, int* comm, int* request, int* ierr);
 411 void mpi_irsend_(void *buf, int* count, int* datatype, int* dst,
 412                  int* tag, int* comm, int* request, int* ierr);
 413 void mpi_send_(void* buf, int* count, int* datatype, int* dst,
 414                 int* tag, int* comm, int* ierr);
 415 void mpi_rsend_(void* buf, int* count, int* datatype, int* dst,
 416                 int* tag, int* comm, int* ierr);
 417 void mpi_recv_init_(void *buf, int* count, int* datatype, int* src, int* tag,
 418                      int* comm, int* request, int* ierr);
 419 void mpi_irecv_(void *buf, int* count, int* datatype, int* src, int* tag,
 420                  int* comm, int* request, int* ierr);
 421 void mpi_recv_(void* buf, int* count, int* datatype, int* src,
 422                 int* tag, int* comm, MPI_Status* status, int* ierr);
 423 void mpi_start_(int* request, int* ierr);
 424 void mpi_startall_(int* count, int* requests, int* ierr);
 425 void mpi_wait_(int* request, MPI_Status* status, int* ierr);
 426 void mpi_waitany_(int* count, int* requests, int* index, MPI_Status* status, int* ierr);
 427 void mpi_waitall_(int* count, int* requests, MPI_Status* status, int* ierr);
 428
 429 void mpi_barrier_(int* comm, int* ierr);
 430 void mpi_bcast_(void* buf, int* count, int* datatype, int* root, int* comm, int* ierr);
 431 void mpi_reduce_(void* sendbuf, void* recvbuf, int* count,
 432                   int* datatype, int* op, int* root, int* comm, int* ierr);
 433 void mpi_allreduce_(void* sendbuf, void* recvbuf, int* count, int* datatype,
 434                      int* op, int* comm, int* ierr);
 435 void mpi_reduce_scatter_(void* sendbuf, void* recvbuf, int* recvcounts, int* datatype,
 436                      int* op, int* comm, int* ierr) ;
 437 void mpi_scatter_(void* sendbuf, int* sendcount, int* sendtype,
 438                    void* recvbuf, int* recvcount, int* recvtype,
 439                    int* root, int* comm, int* ierr);
 440 void mpi_scatterv_(void* sendbuf, int* sendcounts, int* displs, int* sendtype,
 441                    void* recvbuf, int* recvcount, int* recvtype,
 442                    int* root, int* comm, int* ierr);
 443 void mpi_gather_(void* sendbuf, int* sendcount, int* sendtype,
 444                   void* recvbuf, int* recvcount, int* recvtype,
 445                   int* root, int* comm, int* ierr);
 446 void mpi_gatherv_(void* sendbuf, int* sendcount, int* sendtype,
 447                   void* recvbuf, int* recvcounts, int* displs, int* recvtype,
 448                   int* root, int* comm, int* ierr);
 449 void mpi_allgather_(void* sendbuf, int* sendcount, int* sendtype,
 450                      void* recvbuf, int* recvcount, int* recvtype,
 451                      int* comm, int* ierr);
 452 void mpi_allgatherv_(void* sendbuf, int* sendcount, int* sendtype,
 453                      void* recvbuf, int* recvcount,int* displs, int* recvtype,
 454                      int* comm, int* ierr) ;
 455 void mpi_type_size_(int* datatype, int *size, int* ierr);
 456
 457 void mpi_scan_(void* sendbuf, void* recvbuf, int* count, int* datatype,
 458                 int* op, int* comm, int* ierr);
 459 void mpi_alltoall_(void* sendbuf, int* sendcount, int* sendtype,
 460                     void* recvbuf, int* recvcount, int* recvtype, int* comm, int* ierr);
 461 void mpi_alltoallv_(void* sendbuf, int* sendcounts, int* senddisps, int* sendtype,
 462                     void* recvbuf, int* recvcounts, int* recvdisps, int* recvtype, int* comm, int* ierr);
 463 void mpi_get_processor_name_(char *name, int *resultlen, int* ierr);
 464 void mpi_test_ (int * request, int *flag, MPI_Status * status, int* ierr);
 465 void mpi_testall_ (int* count, int * requests,  int *flag, MPI_Status * statuses, int* ierr);
 466 void mpi_get_count_(MPI_Status * status, int* datatype, int *count, int* ierr);
 467 void mpi_type_extent_(int* datatype, MPI_Aint * extent, int* ierr);
 468 void mpi_attr_get_(int* comm, int* keyval, void* attr_value, int* flag, int* ierr );
 469 void mpi_type_commit_(int* datatype,  int* ierr);
 470 void mpi_type_vector_(int* count, int* blocklen, int* stride, int* old_type, int* newtype,  int* ierr);
 471 void mpi_type_create_vector_(int* count, int* blocklen, int* stride, int* old_type, int* newtype,  int* ierr);
 472 void mpi_type_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype,  int* ierr);
 473 void mpi_type_create_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype,  int* ierr);
 474 void mpi_type_free_(int* datatype, int* ierr);
 475 void mpi_type_lb_(int* datatype, MPI_Aint * extent, int* ierr);
 476 void mpi_type_ub_(int* datatype, MPI_Aint * extent, int* ierr);
 477 void mpi_win_fence_( int* assert,  int* win, int* ierr);
 478 void mpi_win_free_( int* win, int* ierr);
 479 void mpi_win_create_( int *base, MPI_Aint* size, int* disp_unit, int* info, int* comm, int *win, int* ierr);
 480 void mpi_win_set_name_ (int*  win, char * name, int* ierr, int size);
 481 void mpi_win_get_name_ (int*  win, char * name, int* len, int* ierr);
 482 void mpi_info_create_( int *info, int* ierr);
 483 void mpi_info_set_( int *info, char *key, char *value, int* ierr);
 484 void mpi_info_free_(int* info, int* ierr);
 485 void mpi_get_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 486     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* win, int* ierr);
 487 void mpi_put_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 488     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* win, int* ierr);
 489 void mpi_accumulate_( int *origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 490     MPI_Aint* target_disp, int* target_count, int* target_datatype, int* op, int* win, int* ierr);
 491 void mpi_error_string_(int* errorcode, char* string, int* resultlen, int* ierr);
 492 void mpi_sendrecv_(void* sendbuf, int* sendcount, int* sendtype, int* dst,
 493                 int* sendtag, void *recvbuf, int* recvcount,
 494                 int* recvtype, int* src, int* recvtag,
 495                 int* comm, MPI_Status* status, int* ierr);
 496
 497 void mpi_finalized_ (int * flag, int* ierr);
 498 void mpi_init_thread_ (int *required, int *provided, int* ierr);
 499 void mpi_query_thread_ (int *provided, int* ierr);
 500 void mpi_is_thread_main_ (int *flag, int* ierr);
 501 void mpi_address_ (void *location, MPI_Aint * address, int* ierr);
 502 void mpi_get_address_ (void *location, MPI_Aint * address, int* ierr);
 503 void mpi_type_dup_ (int*  datatype, int* newdatatype, int* ierr);
 504 void mpi_type_set_name_ (int*  datatype, char * name, int* ierr, int size);
 505 void mpi_type_get_name_ (int*  datatype, char * name, int* len, int* ierr);
 506 void mpi_type_get_attr_ (int* type, int* type_keyval, void *attribute_val, int* flag, int* ierr);
 507 void mpi_type_set_attr_ (int* type, int* type_keyval, void *attribute_val, int* ierr);
 508 void mpi_type_delete_attr_ (int* type, int* type_keyval, int* ierr);
 509 void mpi_type_create_keyval_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 510 void mpi_type_free_keyval_ (int* keyval, int* ierr) ;
 511 void mpi_pcontrol_ (int* level , int* ierr);
 512 void mpi_type_get_extent_ (int* datatype, MPI_Aint * lb, MPI_Aint * extent, int* ierr);
 513 void mpi_type_get_true_extent_ (int* datatype, MPI_Aint * lb, MPI_Aint * extent, int* ierr);
 514 void mpi_op_create_ (void * function, int* commute, int* op, int* ierr);
 515 void mpi_op_free_ (int* op, int* ierr);
 516 void mpi_group_free_ (int* group, int* ierr);
 517 void mpi_group_size_ (int* group, int *size, int* ierr);
 518 void mpi_group_rank_ (int* group, int *rank, int* ierr);
 519 void mpi_group_translate_ranks_ (int* group1, int* n, int *ranks1, int* group2, int *ranks2, int* ierr);
 520 void mpi_group_compare_ (int* group1, int* group2, int *result, int* ierr);
 521 void mpi_group_union_ (int* group1, int* group2, int* newgroup, int* ierr);
 522 void mpi_group_intersection_ (int* group1, int* group2, int* newgroup, int* ierr);
 523 void mpi_group_difference_ (int* group1, int* group2, int* newgroup, int* ierr);
 524 void mpi_group_excl_ (int* group, int* n, int *ranks, int* newgroup, int* ierr);
 525 void mpi_group_range_incl_ (int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 526 void mpi_group_range_excl_ (int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 527 void mpi_comm_get_attr_ (int* comm, int* comm_keyval, void *attribute_val, int *flag, int* ierr);
 528 void mpi_comm_set_attr_ (int* comm, int* comm_keyval, void *attribute_val, int* ierr);
 529 void mpi_comm_delete_attr_ (int* comm, int* comm_keyval, int* ierr);
 530 void mpi_comm_create_keyval_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 531 void mpi_comm_free_keyval_ (int* keyval, int* ierr) ;
 532 void mpi_comm_get_name_ (int* comm, char* name, int* len, int* ierr);
 533 void mpi_comm_compare_ (int* comm1, int* comm2, int *result, int* ierr);
 534 void mpi_comm_disconnect_ (int* comm, int* ierr);
 535 void mpi_request_free_ (int* request, int* ierr);
 536 void mpi_sendrecv_replace_ (void *buf, int* count, int* datatype, int* dst, int* sendtag, int* src, int* recvtag,
 537  int* comm, MPI_Status* status, int* ierr);
 538 void mpi_testany_ (int* count, int* requests, int *index, int *flag, MPI_Status* status, int* ierr);
 539 void mpi_waitsome_ (int* incount, int* requests, int *outcount, int *indices, MPI_Status* status, int* ierr);
 540 void mpi_reduce_local_ (void *inbuf, void *inoutbuf, int* count, int* datatype, int* op, int* ierr);
 541 void mpi_reduce_scatter_block_ (void *sendbuf, void *recvbuf, int* recvcount, int* datatype, int* op, int* comm, int* ierr);
 542 void mpi_pack_size_ (int* incount, int* datatype, int* comm, int* size, int* ierr) ;
 543 void mpi_cart_coords_ (int* comm, int* rank, int* maxdims, int* coords, int* ierr) ;
 544 void mpi_cart_create_ (int* comm_old, int* ndims, int* dims, int* periods, int* reorder, int*  comm_cart, int* ierr) ;
 545 void mpi_cart_get_ (int* comm, int* maxdims, int* dims, int* periods, int* coords, int* ierr) ;
 546 void mpi_cart_map_ (int* comm_old, int* ndims, int* dims, int* periods, int* newrank, int* ierr) ;
 547 void mpi_cart_rank_ (int* comm, int* coords, int* rank, int* ierr) ;
 548 void mpi_cart_shift_ (int* comm, int* direction, int* displ, int* source, int* dest, int* ierr) ;
 549 void mpi_cart_sub_ (int* comm, int* remain_dims, int*  comm_new, int* ierr) ;
 550 void mpi_cartdim_get_ (int* comm, int* ndims, int* ierr) ;
 551 void mpi_graph_create_ (int* comm_old, int* nnodes, int* index, int* edges, int* reorder, int*  comm_graph, int* ierr) ;
 552 void mpi_graph_get_ (int* comm, int* maxindex, int* maxedges, int* index, int* edges, int* ierr) ;
 553 void mpi_graph_map_ (int* comm_old, int* nnodes, int* index, int* edges, int* newrank, int* ierr) ;
 554 void mpi_graph_neighbors_ (int* comm, int* rank, int* maxneighbors, int* neighbors, int* ierr) ;
 555 void mpi_graph_neighbors_count_ (int* comm, int* rank, int* nneighbors, int* ierr) ;
 556 void mpi_graphdims_get_ (int* comm, int* nnodes, int* nedges, int* ierr) ;
 557 void mpi_topo_test_ (int* comm, int* top_type, int* ierr) ;
 558 void mpi_error_class_ (int* errorcode, int* errorclass, int* ierr) ;
 559 void mpi_errhandler_create_ (void* function, void* errhandler, int* ierr) ;
 560 void mpi_errhandler_free_ (void* errhandler, int* ierr) ;
 561 void mpi_errhandler_get_ (int* comm, void* errhandler, int* ierr) ;
 562 void mpi_errhandler_set_ (int* comm, void* errhandler, int* ierr) ;
 563 void mpi_comm_set_errhandler_ (int* comm, void* errhandler, int* ierr) ;
 564 void mpi_comm_get_errhandler_ (int* comm, void* errhandler, int* ierr) ;
 565 void mpi_type_contiguous_ (int* count, int* old_type, int*  newtype, int* ierr) ;
 566 void mpi_cancel_ (int*  request, int* ierr) ;
 567 void mpi_buffer_attach_ (void* buffer, int* size, int* ierr) ;
 568 void mpi_buffer_detach_ (void* buffer, int* size, int* ierr) ;
 569 void mpi_testsome_ (int* incount, int*  requests, int* outcount, int* indices, MPI_Status*  statuses, int* ierr) ;
 570 void mpi_comm_test_inter_ (int* comm, int* flag, int* ierr) ;
 571 void mpi_unpack_ (void* inbuf, int* insize, int* position, void* outbuf, int* outcount, int* type, int* comm, int* ierr) ;
 572 void mpi_pack_external_size_ (char *datarep, int* incount, int* datatype, MPI_Aint *size, int* ierr);
 573 void mpi_pack_external_ (char *datarep, void *inbuf, int* incount, int* datatype, void *outbuf, MPI_Aint* outcount, MPI_Aint *position, int* ierr);
 574 void mpi_unpack_external_ ( char *datarep, void *inbuf, MPI_Aint* insize, MPI_Aint *position, void *outbuf, int* outcount, int* datatype, int* ierr);
 575 void mpi_type_hindexed_ (int* count, int* blocklens, MPI_Aint* indices, int* old_type, int*  newtype, int* ierr) ;
 576 void mpi_type_create_hindexed_ (int* count, int* blocklens, MPI_Aint* indices, int* old_type, int*  newtype, int* ierr) ;
 577 void mpi_type_create_hindexed_block_ (int* count, int* blocklength, MPI_Aint* indices, int* old_type, int*  newtype, int* ierr) ;
 578 void mpi_type_indexed_ (int* count, int* blocklens, int* indices, int* old_type, int*  newtype, int* ierr) ;
 579 void mpi_type_create_indexed_block_ (int* count, int* blocklength, int* indices,  int* old_type,  int*newtype, int* ierr);
 580 void mpi_type_struct_ (int* count, int* blocklens, MPI_Aint* indices, int*  old_types, int*  newtype, int* ierr) ;
 581 void mpi_type_create_struct_ (int* count, int* blocklens, MPI_Aint* indices, int*  old_types, int*  newtype, int* ierr) ;
 582 void mpi_ssend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr) ;
 583 void mpi_ssend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 584 void mpi_intercomm_create_ (int* local_comm, int* local_leader, int* peer_comm, int* remote_leader, int* tag, int*  comm_out, int* ierr) ;
 585 void mpi_intercomm_merge_ (int* comm, int* high, int*  comm_out, int* ierr) ;
 586 void mpi_bsend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr) ;
 587 void mpi_bsend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 588 void mpi_ibsend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 589 void mpi_comm_remote_group_ (int* comm, int*  group, int* ierr) ;
 590 void mpi_comm_remote_size_ (int* comm, int* size, int* ierr) ;
 591 void mpi_issend_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 592 void mpi_probe_ (int* source, int* tag, int* comm, MPI_Status* status, int* ierr) ;
 593 void mpi_attr_delete_ (int* comm, int* keyval, int* ierr) ;
 594 void mpi_attr_put_ (int* comm, int* keyval, void* attr_value, int* ierr) ;
 595 void mpi_rsend_init_ (void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int*  request, int* ierr) ;
 596 void mpi_keyval_create_ (void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr) ;
 597 void mpi_keyval_free_ (int* keyval, int* ierr) ;
 598 void mpi_test_cancelled_ (MPI_Status* status, int* flag, int* ierr) ;
 599 void mpi_pack_ (void* inbuf, int* incount, int* type, void* outbuf, int* outcount, int* position, int* comm, int* ierr) ;
 600 void mpi_get_elements_ (MPI_Status* status, int* datatype, int* elements, int* ierr) ;
 601 void mpi_dims_create_ (int* nnodes, int* ndims, int* dims, int* ierr) ;
 602 void mpi_iprobe_ (int* source, int* tag, int* comm, int* flag, MPI_Status* status, int* ierr) ;
 603 void mpi_type_get_envelope_ ( int* datatype, int *num_integers, int *num_addresses, int *num_datatypes, int *combiner, int* ierr);
 604 void mpi_type_get_contents_ (int* datatype, int* max_integers, int* max_addresses, int* max_datatypes, int* array_of_integers, MPI_Aint* array_of_addresses,
 605  int*array_of_datatypes, int* ierr);
 606 void mpi_type_create_darray_ (int* size, int* rank, int* ndims, int* array_of_gsizes, int* array_of_distribs, int* array_of_dargs, int* array_of_psizes,
 607  int* order, int* oldtype, int*newtype, int* ierr) ;
 608 void mpi_type_create_resized_ (int* oldtype,MPI_Aint* lb, MPI_Aint* extent, int*newtype, int* ierr);
 609 void mpi_type_create_subarray_ (int* ndims,int *array_of_sizes, int *array_of_subsizes, int *array_of_starts, int* order, int* oldtype, int*newtype, int* ierr);
 610 void mpi_type_match_size_ (int* typeclass,int* size,int*datatype, int* ierr);
 611 void mpi_alltoallw_ ( void *sendbuf, int *sendcnts, int *sdispls, int*sendtypes, void *recvbuf, int *recvcnts, int *rdispls, int*recvtypes,
 612  int* comm, int* ierr);
 613 void mpi_exscan_ (void *sendbuf, void *recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 614 void mpi_comm_set_name_ (int* comm, char* name, int* ierr, int size);
 615 void mpi_comm_dup_with_info_ (int* comm, int* info, int* newcomm, int* ierr);
 616 void mpi_comm_split_type_ (int* comm, int* split_type, int* key, int* info, int*newcomm, int* ierr);
 617 void mpi_comm_set_info_ (int* comm, int* info, int* ierr);
 618 void mpi_comm_get_info_ (int* comm, int* info, int* ierr);
 619 void mpi_info_get_ (int* info,char *key,int* valuelen, char *value, int *flag, int* ierr);
 620 void mpi_comm_create_errhandler_ ( void *function, void *errhandler, int* ierr);
 621 void mpi_add_error_class_ ( int *errorclass, int* ierr);
 622 void mpi_add_error_code_ (  int* errorclass, int *errorcode, int* ierr);
 623 void mpi_add_error_string_ ( int* errorcode, char *string, int* ierr);
 624 void mpi_comm_call_errhandler_ (int* comm,int* errorcode, int* ierr);
 625 void mpi_info_dup_ (int* info, int* newinfo, int* ierr);
 626 void mpi_info_get_valuelen_ ( int* info, char *key, int *valuelen, int *flag, int* ierr);
 627 void mpi_info_delete_ (int* info, char *key, int* ierr);
 628 void mpi_info_get_nkeys_ ( int* info, int *nkeys, int* ierr);
 629 void mpi_info_get_nthkey_ ( int* info, int* n, char *key, int* ierr);
 630 void mpi_get_version_ (int *version,int *subversion, int* ierr);
 631 void mpi_get_library_version_ (char *version,int *len, int* ierr);
 632 void mpi_request_get_status_ ( int* request, int *flag, MPI_Status* status, int* ierr);
 633 void mpi_grequest_start_ ( void *query_fn, void *free_fn, void *cancel_fn, void *extra_state, int*request, int* ierr);
 634 void mpi_grequest_complete_ ( int* request, int* ierr);
 635 void mpi_status_set_cancelled_ (MPI_Status* status,int* flag, int* ierr);
 636 void mpi_status_set_elements_ ( MPI_Status* status, int* datatype, int* count, int* ierr);
 637 void mpi_comm_connect_ ( char *port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 638 void mpi_publish_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 639 void mpi_unpublish_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 640 void mpi_lookup_name_ ( char *service_name, int* info, char *port_name, int* ierr);
 641 void mpi_comm_join_ ( int* fd, int*intercomm, int* ierr);
 642 void mpi_open_port_ ( int* info, char *port_name, int* ierr);
 643 void mpi_close_port_ ( char *port_name, int* ierr);
 644 void mpi_comm_accept_ ( char *port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 645 void mpi_comm_spawn_ ( char *command, char *argv, int* maxprocs, int* info, int* root, int* comm, int*intercomm, int* array_of_errcodes, int* ierr);
 646 void mpi_comm_spawn_multiple_ ( int* count, char *array_of_commands, char** array_of_argv, int* array_of_maxprocs, int* array_of_info, int* root,
 647  int* comm, int*intercomm, int* array_of_errcodes, int* ierr);
 648 void mpi_comm_get_parent_ ( int*parent, int* ierr);
 649
 650
 651 #ifdef HAVE_TRACING
 652 /********** Tracing **********/
 653 /* from smpi_instr.c */
 654 void TRACE_internal_smpi_set_category (const char *category);
 655 const char *TRACE_internal_smpi_get_category (void);
 656 void TRACE_smpi_collective_in(int rank, int root, const char *operation, instr_extra_data extra);
 657 void TRACE_smpi_collective_out(int rank, int root, const char *operation);
 658 void TRACE_smpi_computing_init(int rank);
 659 void TRACE_smpi_computing_out(int rank);
 660 void TRACE_smpi_computing_in(int rank, instr_extra_data extra);
 661 void TRACE_smpi_sleeping_init(int rank);
 662 void TRACE_smpi_sleeping_out(int rank);
 663 void TRACE_smpi_sleeping_in(int rank, instr_extra_data extra);
 664 void TRACE_smpi_testing_out(int rank);
 665 void TRACE_smpi_testing_in(int rank, instr_extra_data extra);
 666 void TRACE_smpi_alloc(void);
 667 void TRACE_smpi_release(void);
 668 void TRACE_smpi_ptp_in(int rank, int src, int dst, const char *operation,  instr_extra_data extra);
 669 void TRACE_smpi_ptp_out(int rank, int src, int dst, const char *operation);
 670 void TRACE_smpi_send(int rank, int src, int dst, int size);
 671 void TRACE_smpi_recv(int rank, int src, int dst);
 672 void TRACE_smpi_init(int rank);
 673 void TRACE_smpi_finalize(int rank);
 674 #endif
 675
 676 const char* encode_datatype(MPI_Datatype datatype);
 677
 678 // TODO, make this static and expose it more cleanly
 679 extern void** mappings;
 680 extern int loaded_page;
 681
 682 int smpi_process_index_of_smx_process(smx_process_t process);
 683
 684 SG_END_DECL()
 685
 686 #endif