src/smpi/include/private.hpp

   1 /* Copyright (c) 2007-2021. The SimGrid Team. All rights reserved.          */
   2
   3 /* This program is free software; you can redistribute it and/or modify it
   4  * under the terms of the license (GNU LGPL) which comes with this package. */
   5
   6 #ifndef SMPI_PRIVATE_HPP
   7 #define SMPI_PRIVATE_HPP
   8
   9 #include "smpi/smpi.h"
  10 #include "smpi/smpi_helpers_internal.h"
  11 #include "smpi_utils.hpp"
  12 #include "src/instr/instr_smpi.hpp"
  13 #include <unordered_map>
  14 #include <vector>
  15
  16 constexpr unsigned MPI_REQ_PERSISTENT     = 0x1;
  17 constexpr unsigned MPI_REQ_NON_PERSISTENT = 0x2;
  18 constexpr unsigned MPI_REQ_SEND           = 0x4;
  19 constexpr unsigned MPI_REQ_RECV           = 0x8;
  20 constexpr unsigned MPI_REQ_PROBE          = 0x10;
  21 constexpr unsigned MPI_REQ_ISEND          = 0x20;
  22 constexpr unsigned MPI_REQ_SSEND          = 0x40;
  23 constexpr unsigned MPI_REQ_PREPARED       = 0x80;
  24 constexpr unsigned MPI_REQ_FINISHED       = 0x100;
  25 constexpr unsigned MPI_REQ_RMA            = 0x200;
  26 constexpr unsigned MPI_REQ_ACCUMULATE     = 0x400;
  27 constexpr unsigned MPI_REQ_GENERALIZED    = 0x800;
  28 constexpr unsigned MPI_REQ_COMPLETE       = 0x1000;
  29 constexpr unsigned MPI_REQ_BSEND          = 0x2000;
  30 constexpr unsigned MPI_REQ_MATCHED        = 0x4000;
  31 constexpr unsigned MPI_REQ_CANCELLED      = 0x8000;
  32 constexpr unsigned MPI_REQ_NBC            = 0x10000;
  33
  34 enum class SmpiProcessState { UNINITIALIZED, INITIALIZING, INITIALIZED /*(=MPI_Init called)*/, FINALIZED };
  35
  36 constexpr int COLL_TAG_REDUCE         = -112;
  37 constexpr int COLL_TAG_SCATTER        = -223;
  38 constexpr int COLL_TAG_SCATTERV       = -334;
  39 constexpr int COLL_TAG_GATHER         = -445;
  40 constexpr int COLL_TAG_ALLGATHER      = -556;
  41 constexpr int COLL_TAG_ALLGATHERV     = -667;
  42 constexpr int COLL_TAG_BARRIER        = -778;
  43 constexpr int COLL_TAG_REDUCE_SCATTER = -889;
  44 constexpr int COLL_TAG_ALLTOALLV      = -1000;
  45 constexpr int COLL_TAG_ALLTOALLW      = -1020;
  46 constexpr int COLL_TAG_ALLTOALL       = -1112;
  47 constexpr int COLL_TAG_GATHERV        = -2223;
  48 constexpr int COLL_TAG_BCAST          = -3334;
  49 constexpr int COLL_TAG_ALLREDUCE      = -4445;
  50
  51 // SMPI_RMA_TAG has to be the smallest one, as it will be decremented for accumulate ordering.
  52 constexpr int SMPI_RMA_TAG            = -6666;
  53
  54 #define MPI_REQUEST_IGNORED ((MPI_Request*)-100)
  55
  56 /* Bindings for MPI special values */
  57 extern XBT_PUBLIC int mpi_in_place_;
  58 extern XBT_PUBLIC int mpi_bottom_;
  59 extern XBT_PUBLIC int mpi_status_ignore_;
  60 extern XBT_PUBLIC int mpi_statuses_ignore_;
  61 /* Convert between Fortran and C */
  62 #define FORT_ADDR(addr, val, val2)                                         \
  63   (((void *)(addr) == (void*) &(val2))                  \
  64    ? (val) : (void *)(addr))
  65 #define FORT_BOTTOM(addr) FORT_ADDR((addr), MPI_BOTTOM, mpi_bottom_)
  66 #define FORT_IN_PLACE(addr) FORT_ADDR((addr), MPI_IN_PLACE, mpi_in_place_)
  67 #define FORT_STATUS_IGNORE(addr) static_cast<MPI_Status*>(FORT_ADDR((addr), MPI_STATUS_IGNORE, mpi_status_ignore_))
  68 #define FORT_STATUSES_IGNORE(addr)                                                                                     \
  69   static_cast<MPI_Status*>(FORT_ADDR((addr), MPI_STATUSES_IGNORE, mpi_statuses_ignore_))
  70
  71 extern XBT_PRIVATE MPI_Comm MPI_COMM_UNINITIALIZED;
  72
  73 using MPIR_Cart_Topology       = SMPI_Cart_topology*;
  74 using MPIR_Graph_Topology      = SMPI_Graph_topology*;
  75 using MPIR_Dist_Graph_Topology = SMPI_Dist_Graph_topology*;
  76
  77 XBT_PRIVATE simgrid::smpi::ActorExt* smpi_process();
  78 XBT_PRIVATE simgrid::smpi::ActorExt* smpi_process_remote(simgrid::s4u::ActorPtr actor);
  79 XBT_PRIVATE int smpi_get_universe_size();
  80
  81 XBT_PRIVATE void smpi_deployment_register_process(const std::string& instance_id, int rank,
  82                                                   const simgrid::s4u::Actor* actor);
  83 XBT_PRIVATE void smpi_deployment_unregister_process(const std::string& instance_id);
  84
  85 XBT_PRIVATE MPI_Comm* smpi_deployment_comm_world(const std::string& instance_id);
  86 XBT_PRIVATE void smpi_deployment_cleanup_instances();
  87 XBT_PRIVATE int smpi_deployment_smpirun(const simgrid::s4u::Engine* e, const std::string& hostfile, int np,
  88                                         const std::string& replayfile, int map,
  89                                         const std::vector<const char*>& run_args);
  90
  91 XBT_PRIVATE void smpi_comm_copy_buffer_callback(simgrid::kernel::activity::CommImpl* comm, void* buff,
  92                                                 size_t buff_size);
  93
  94 XBT_PRIVATE void smpi_comm_null_copy_buffer_callback(simgrid::kernel::activity::CommImpl* comm, void* buff,
  95                                                      size_t buff_size);
  96
  97 XBT_PRIVATE int smpi_enabled();
  98 XBT_PRIVATE double smpi_mpi_wtime();
  99 XBT_PRIVATE void smpi_mpi_init();
 100
 101 enum class SharedMallocType { NONE, LOCAL, GLOBAL };
 102 enum class SmpiPrivStrategies { NONE = 0, MMAP = 1, DLOPEN = 2, DEFAULT = DLOPEN };
 103
 104 XBT_PRIVATE double smpi_cfg_host_speed();
 105 XBT_PRIVATE bool smpi_cfg_simulate_computation();
 106 XBT_PRIVATE SharedMallocType smpi_cfg_shared_malloc();
 107 XBT_PRIVATE double smpi_cfg_cpu_thresh();
 108 XBT_PRIVATE SmpiPrivStrategies smpi_cfg_privatization();
 109 XBT_PRIVATE int smpi_cfg_async_small_thresh();
 110 XBT_PRIVATE int smpi_cfg_detached_send_thresh();
 111 XBT_PRIVATE bool smpi_cfg_grow_injected_times();
 112 XBT_PRIVATE double smpi_cfg_iprobe_cpu_usage();
 113 XBT_PRIVATE bool smpi_cfg_trace_call_location();
 114 XBT_PRIVATE bool smpi_cfg_trace_call_use_absolute_path();
 115 XBT_PRIVATE std::string smpi_cfg_comp_adjustment_file();
 116 XBT_PRIVATE std::string smpi_cfg_papi_events_file();
 117 XBT_PRIVATE double smpi_cfg_auto_shared_malloc_thresh();
 118 XBT_PRIVATE bool smpi_cfg_display_alloc();
 119
 120 // utilities
 121 XBT_PRIVATE void smpi_init_options_internal(bool called_by_smpi_main);
 122
 123 extern XBT_PRIVATE char* smpi_data_exe_start; // start of the data+bss segment of the executable
 124 extern XBT_PRIVATE size_t smpi_data_exe_size; // size of the data+bss segment of the executable
 125
 126 XBT_PRIVATE bool smpi_switch_data_segment(simgrid::s4u::ActorPtr actor, const void* addr = nullptr);
 127
 128 XBT_PRIVATE void smpi_prepare_global_memory_segment();
 129 XBT_PRIVATE void smpi_backup_global_memory_segment();
 130 XBT_PRIVATE void smpi_destroy_global_memory_segments();
 131 XBT_PRIVATE void smpi_bench_destroy();
 132 XBT_PRIVATE void smpi_bench_begin();
 133 XBT_PRIVATE void smpi_bench_end();
 134 XBT_PRIVATE void smpi_shared_destroy();
 135 XBT_PRIVATE double smpi_adjust_comp_speed();
 136
 137 // This helper class uses RAII to call smpi_bench_end() when an object is built, and have smpi_bench_begin() be called
 138 // automatically when going out of scope.
 139 class XBT_PRIVATE SmpiBenchGuard {
 140 public:
 141   SmpiBenchGuard() { smpi_bench_end(); }
 142   SmpiBenchGuard(const SmpiBenchGuard&) = delete;
 143   SmpiBenchGuard& operator=(const SmpiBenchGuard&) = delete;
 144   ~SmpiBenchGuard() { smpi_bench_begin(); }
 145 };
 146
 147 XBT_PRIVATE unsigned char* smpi_get_tmp_sendbuffer(size_t size);
 148 XBT_PRIVATE unsigned char* smpi_get_tmp_recvbuffer(size_t size);
 149 XBT_PRIVATE void smpi_free_tmp_buffer(const unsigned char* buf);
 150 XBT_PRIVATE void smpi_free_replay_tmp_buffers();
 151
 152 extern "C" {
 153 // f77 wrappers
 154
 155 void mpi_init_(int* ierr);
 156 void mpi_finalize_(int* ierr);
 157 void mpi_abort_(int* comm, int* errorcode, int* ierr);
 158 void mpi_comm_rank_(int* comm, int* rank, int* ierr);
 159 void mpi_comm_size_(int* comm, int* size, int* ierr);
 160 double mpi_wtime_();
 161 double mpi_wtick_();
 162 void mpi_initialized_(int* flag, int* ierr);
 163
 164 void mpi_comm_dup_(int* comm, int* newcomm, int* ierr);
 165 void mpi_comm_create_(int* comm, int* group, int* newcomm, int* ierr);
 166 void mpi_comm_free_(int* comm, int* ierr);
 167 void mpi_comm_split_(int* comm, int* color, int* key, int* comm_out, int* ierr);
 168 void mpi_group_incl_(int* group, int* n, int* key, int* group_out, int* ierr);
 169 void mpi_comm_group_(int* comm, int* group_out, int* ierr);
 170 void mpi_comm_create_group_(int* comm, int* group, int, int* comm_out, int* ierr);
 171 void mpi_send_init_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 172 void mpi_isend_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 173 void mpi_irsend_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* request, int* ierr);
 174 void mpi_send_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* ierr);
 175 void mpi_rsend_(void* buf, int* count, int* datatype, int* dst, int* tag, int* comm, int* ierr);
 176 void mpi_recv_init_(void* buf, int* count, int* datatype, int* src, int* tag, int* comm, int* request, int* ierr);
 177 void mpi_irecv_(void* buf, int* count, int* datatype, int* src, int* tag, int* comm, int* request, int* ierr);
 178 void mpi_recv_(void* buf, int* count, int* datatype, int* src, int* tag, int* comm, MPI_Status* status, int* ierr);
 179 void mpi_start_(int* request, int* ierr);
 180 void mpi_startall_(int* count, int* requests, int* ierr);
 181 void mpi_wait_(int* request, MPI_Status* status, int* ierr);
 182 void mpi_waitany_(int* count, int* requests, int* index, MPI_Status* status, int* ierr);
 183 void mpi_waitall_(int* count, int* requests, MPI_Status* status, int* ierr);
 184 void mpi_free_mem_(void *baseptr, int* ierr);
 185 void mpi_barrier_(int* comm, int* ierr);
 186 void mpi_bcast_(void* buf, int* count, int* datatype, int* root, int* comm, int* ierr);
 187 void mpi_reduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* root, int* comm, int* ierr);
 188 void mpi_alloc_mem_(int* size, int* info, void *baseptr, int* ierr);
 189 void mpi_allreduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 190 void mpi_reduce_scatter_(void* sendbuf, void* recvbuf, int* recvcounts, int* datatype, int* op, int* comm, int* ierr);
 191 void mpi_reduce_scatter_block_(void* sendbuf, void* recvbuf, int* recvcount, int* datatype, int* op, int* comm,
 192                                int* ierr);
 193 void mpi_scatter_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype, int* root,
 194                   int* comm, int* ierr);
 195 void mpi_scatterv_(void* sendbuf, int* sendcounts, int* displs, int* sendtype, void* recvbuf, int* recvcount,
 196                    int* recvtype, int* root, int* comm, int* ierr);
 197 void mpi_gather_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype, int* root,
 198                  int* comm, int* ierr);
 199 void mpi_gatherv_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcounts, int* displs,
 200                   int* recvtype, int* root, int* comm, int* ierr);
 201 void mpi_allgather_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 202                     int* comm, int* ierr);
 203 void mpi_allgatherv_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* displs,
 204                      int* recvtype, int* comm, int* ierr);
 205 void mpi_scan_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 206 void mpi_alltoall_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 207                    int* comm, int* ierr);
 208 void mpi_alltoallv_(void* sendbuf, int* sendcounts, int* senddisps, int* sendtype, void* recvbuf, int* recvcounts,
 209                     int* recvdisps, int* recvtype, int* comm, int* ierr);
 210 void mpi_alltoallw_(void* sendbuf, int* sendcnts, int* sdispls, int* sendtypes, void* recvbuf, int* recvcnts,
 211                     int* rdispls, int* recvtypes, int* comm, int* ierr);
 212 void mpi_exscan_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* ierr);
 213
 214 void mpi_ibarrier_(int* comm, int* request, int* ierr);
 215 void mpi_ibcast_(void* buf, int* count, int* datatype, int* root, int* comm, int* request, int* ierr);
 216 void mpi_ireduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* root, int* comm, int* request, int* ierr);
 217 void mpi_iallreduce_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* request, int* ierr);
 218 void mpi_ireduce_scatter_(void* sendbuf, void* recvbuf, int* recvcounts, int* datatype, int* op, int* comm, int* request, int* ierr);
 219 void mpi_ireduce_scatter_block_(void* sendbuf, void* recvbuf, int* recvcount, int* datatype, int* op, int* comm, int* request ,
 220                                int* ierr);
 221 void mpi_iscatter_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype, int* root,
 222                   int* comm, int* request, int* ierr);
 223 void mpi_iscatterv_(void* sendbuf, int* sendcounts, int* displs, int* sendtype, void* recvbuf, int* recvcount,
 224                    int* recvtype, int* root, int* comm, int* request, int* ierr);
 225 void mpi_igather_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype, int* root,
 226                  int* comm, int* request, int* ierr);
 227 void mpi_igatherv_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcounts, int* displs,
 228                   int* recvtype, int* root, int* comm, int* request, int* ierr);
 229 void mpi_iallgather_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 230                     int* comm, int* request, int* ierr);
 231 void mpi_iallgatherv_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* displs,
 232                      int* recvtype, int* comm, int* request, int* ierr);
 233 void mpi_iscan_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* request, int* ierr);
 234 void mpi_ialltoall_(void* sendbuf, int* sendcount, int* sendtype, void* recvbuf, int* recvcount, int* recvtype,
 235                    int* comm, int* request, int* ierr);
 236 void mpi_ialltoallv_(void* sendbuf, int* sendcounts, int* senddisps, int* sendtype, void* recvbuf, int* recvcounts,
 237                     int* recvdisps, int* recvtype, int* comm, int* request, int* ierr);
 238 void mpi_ialltoallw_(void* sendbuf, int* sendcnts, int* sdispls, int* sendtypes, void* recvbuf, int* recvcnts,
 239                     int* rdispls, int* recvtypes, int* comm, int* request, int* ierr);
 240 void mpi_iexscan_(void* sendbuf, void* recvbuf, int* count, int* datatype, int* op, int* comm, int* request, int* ierr);
 241
 242 void mpi_type_size_(int* datatype, int* size, int* ierr);
 243 void mpi_get_processor_name_(char* name, int* resultlen, int* ierr);
 244 void mpi_test_(int* request, int* flag, MPI_Status* status, int* ierr);
 245 void mpi_testall_(int* count, int* requests, int* flag, MPI_Status* statuses, int* ierr);
 246 void mpi_get_count_(MPI_Status* status, int* datatype, int* count, int* ierr);
 247 void mpi_type_extent_(int* datatype, MPI_Aint* extent, int* ierr);
 248 void mpi_attr_get_(int* comm, int* keyval, int* attr_value, int* flag, int* ierr);
 249 void mpi_type_commit_(int* datatype, int* ierr);
 250 void mpi_type_vector_(int* count, int* blocklen, int* stride, int* old_type, int* newtype, int* ierr);
 251 void mpi_type_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype, int* ierr);
 252 void mpi_type_create_hvector_(int* count, int* blocklen, MPI_Aint* stride, int* old_type, int* newtype, int* ierr);
 253 void mpi_type_free_(int* datatype, int* ierr);
 254 void mpi_type_lb_(int* datatype, MPI_Aint* extent, int* ierr);
 255 void mpi_type_ub_(int* datatype, MPI_Aint* extent, int* ierr);
 256 void mpi_win_fence_(int* assert, int* win, int* ierr);
 257 void mpi_win_free_(int* win, int* ierr);
 258 void mpi_win_create_(int* base, MPI_Aint* size, int* disp_unit, int* info, int* comm, int* win, int* ierr);
 259 void mpi_win_set_name_(int* win, char* name, int* ierr, int size);
 260 void mpi_win_get_name_(int* win, char* name, int* len, int* ierr);
 261 void mpi_win_post_(int* group, int assert, int* win, int* ierr);
 262 void mpi_win_start_(int* group, int assert, int* win, int* ierr);
 263 void mpi_win_complete_(int* win, int* ierr);
 264 void mpi_win_wait_(int* win, int* ierr);
 265 void mpi_win_allocate_(MPI_Aint* size, int* disp_unit, int* info, int* comm, void* base, int* win, int* ierr);
 266 void mpi_win_attach_(int* win, int* base, MPI_Aint* size, int* ierr);
 267 void mpi_win_create_dynamic_(int* info, int* comm, int* win, int* ierr);
 268 void mpi_win_detach_(int* win, int* base, int* ierr);
 269 void mpi_win_set_info_(int* win, int* info, int* ierr);
 270 void mpi_win_get_info_(int* win, int* info, int* ierr);
 271 void mpi_win_get_group_(int* win, int* group, int* ierr);
 272 void mpi_win_get_attr_(int* win, int* type_keyval, MPI_Aint* attribute_val, int* flag, int* ierr);
 273 void mpi_win_set_attr_(int* win, int* type_keyval, MPI_Aint* att, int* ierr);
 274 void mpi_win_delete_attr_(int* win, int* comm_keyval, int* ierr);
 275 void mpi_win_create_keyval_(void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 276 void mpi_win_free_keyval_(int* keyval, int* ierr);
 277 void mpi_win_lock_(int* lock_type, int* rank, int* assert, int* win, int* ierr);
 278 void mpi_win_lock_all_(int* assert, int* win, int* ierr);
 279 void mpi_win_unlock_(int* rank, int* win, int* ierr);
 280 void mpi_win_unlock_all_(int* win, int* ierr);
 281 void mpi_win_flush_(int* rank, int* win, int* ierr);
 282 void mpi_win_flush_local_(int* rank, int* win, int* ierr);
 283 void mpi_win_flush_all_(int* win, int* ierr);
 284 void mpi_win_flush_local_all_(int* win, int* ierr);
 285 void mpi_win_dup_fn_( int* win, int* keyval, int* extrastate, MPI_Aint* valin, MPI_Aint* valout, int* flag, int* ierr );
 286 void mpi_win_null_copy_fn_( int* win, int* keyval, int* extrastate, MPI_Aint* valin, MPI_Aint* valout, int* flag, int* ierr );
 287 void mpi_info_create_(int* info, int* ierr);
 288 void mpi_info_set_(int* info, char* key, char* value, int* ierr, unsigned int keylen, unsigned int valuelen);
 289 void mpi_info_free_(int* info, int* ierr);
 290 void mpi_get_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank, MPI_Aint* target_disp,
 291               int* target_count, int* target_datatype, int* win, int* ierr);
 292 void mpi_put_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank, MPI_Aint* target_disp,
 293               int* target_count, int* target_datatype, int* win, int* ierr);
 294 void mpi_rget_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank, MPI_Aint* target_disp,
 295                int* target_count, int* target_datatype, int* win, int* request, int* ierr);
 296 void mpi_rput_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank, MPI_Aint* target_disp,
 297                int* target_count, int* target_datatype, int* win, int* request, int* ierr);
 298 void mpi_fetch_and_op_(int* origin_addr, int* result_addr, int* datatype, int* target_rank, MPI_Aint* target_disp,
 299                        int* op, int* win, int* ierr);
 300 void mpi_compare_and_swap_(int* origin_addr, int* compare_addr, int* result_addr, int* datatype, int* target_rank,
 301                            MPI_Aint* target_disp, int* win, int* ierr);
 302 void mpi_get_accumulate_(int* origin_addr, int* origin_count, int* origin_datatype, int* result_addr, int* result_count,
 303                          int* result_datatype, int* target_rank, MPI_Aint* target_disp, int* target_count,
 304                          int* target_datatype, int* op, int* win, int* ierr);
 305 void mpi_rget_accumulate_(int* origin_addr, int* origin_count, int* origin_datatype, int* result_addr,
 306                           int* result_count, int* result_datatype, int* target_rank, MPI_Aint* target_disp,
 307                           int* target_count, int* target_datatype, int* op, int* win, int* request, int* ierr);
 308 void mpi_accumulate_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank, MPI_Aint* target_disp,
 309                      int* target_count, int* target_datatype, int* op, int* win, int* ierr);
 310 void mpi_raccumulate_(int* origin_addr, int* origin_count, int* origin_datatype, int* target_rank,
 311                       MPI_Aint* target_disp, int* target_count, int* target_datatype, int* op, int* win, int* request,
 312                       int* ierr);
 313 void mpi_error_string_(int* errorcode, char* string, int* resultlen, int* ierr);
 314 void mpi_sendrecv_(void* sendbuf, int* sendcount, int* sendtype, int* dst, int* sendtag, void* recvbuf, int* recvcount,
 315                    int* recvtype, int* src, int* recvtag, int* comm, MPI_Status* status, int* ierr);
 316
 317 void mpi_finalized_(int* flag, int* ierr);
 318 void mpi_init_thread_(int* required, int* provided, int* ierr);
 319 void mpi_query_thread_(int* provided, int* ierr);
 320 void mpi_is_thread_main_(int* flag, int* ierr);
 321 void mpi_address_(void* location, MPI_Aint* address, int* ierr);
 322 void mpi_get_address_(void* location, MPI_Aint* address, int* ierr);
 323 void mpi_type_dup_(int* datatype, int* newdatatype, int* ierr);
 324 void mpi_type_set_name_(int* datatype, char* name, int* ierr, int size);
 325 void mpi_type_get_name_(int* datatype, char* name, int* len, int* ierr);
 326 void mpi_type_get_attr_(int* type, int* type_keyval, int* attribute_val, int* flag, int* ierr);
 327 void mpi_type_set_attr_(int* type, int* type_keyval, int* attribute_val, int* ierr);
 328 void mpi_type_delete_attr_(int* type, int* type_keyval, int* ierr);
 329 void mpi_type_create_keyval_(void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 330 void mpi_type_free_keyval_(int* keyval, int* ierr);
 331 void mpi_pcontrol_(int* level, int* ierr);
 332 void mpi_type_get_extent_(int* datatype, MPI_Aint* lb, MPI_Aint* extent, int* ierr);
 333 void mpi_type_get_true_extent_(int* datatype, MPI_Aint* lb, MPI_Aint* extent, int* ierr);
 334 void mpi_op_create_(void* function, int* commute, int* op, int* ierr);
 335 void mpi_op_free_(int* op, int* ierr);
 336 void mpi_op_commutative_(int* op, int* commute, int* ierr);
 337 void mpi_group_free_(int* group, int* ierr);
 338 void mpi_group_size_(int* group, int* size, int* ierr);
 339 void mpi_group_rank_(int* group, int* rank, int* ierr);
 340 void mpi_group_translate_ranks_(int* group1, int* n, int* ranks1, int* group2, int* ranks2, int* ierr);
 341 void mpi_group_compare_(int* group1, int* group2, int* result, int* ierr);
 342 void mpi_group_union_(int* group1, int* group2, int* newgroup, int* ierr);
 343 void mpi_group_intersection_(int* group1, int* group2, int* newgroup, int* ierr);
 344 void mpi_group_difference_(int* group1, int* group2, int* newgroup, int* ierr);
 345 void mpi_group_excl_(int* group, int* n, int* ranks, int* newgroup, int* ierr);
 346 void mpi_group_range_incl_(int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 347 void mpi_group_range_excl_(int* group, int* n, int ranges[][3], int* newgroup, int* ierr);
 348 void mpi_comm_get_attr_(int* comm, int* comm_keyval, int* attribute_val, int* flag, int* ierr);
 349 void mpi_comm_set_attr_(int* comm, int* comm_keyval, int* attribute_val, int* ierr);
 350 void mpi_comm_delete_attr_(int* comm, int* comm_keyval, int* ierr);
 351 void mpi_comm_create_keyval_(void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 352 void mpi_comm_free_keyval_(int* keyval, int* ierr);
 353 void mpi_comm_get_name_(int* comm, char* name, int* len, int* ierr);
 354 void mpi_comm_compare_(int* comm1, int* comm2, int* result, int* ierr);
 355 void mpi_comm_disconnect_(int* comm, int* ierr);
 356 void mpi_request_free_(int* request, int* ierr);
 357 void mpi_sendrecv_replace_(void* buf, int* count, int* datatype, int* dst, int* sendtag, int* src, int* recvtag,
 358                            int* comm, MPI_Status* status, int* ierr);
 359 void mpi_testany_(int* count, int* requests, int* index, int* flag, MPI_Status* status, int* ierr);
 360 void mpi_waitsome_(int* incount, int* requests, int* outcount, int* indices, MPI_Status* status, int* ierr);
 361 void mpi_reduce_local_(void* inbuf, void* inoutbuf, int* count, int* datatype, int* op, int* ierr);
 362 void mpi_pack_size_(int* incount, int* datatype, int* comm, int* size, int* ierr);
 363 void mpi_cart_coords_(int* comm, int* rank, int* maxdims, int* coords, int* ierr);
 364 void mpi_cart_create_(int* comm_old, int* ndims, int* dims, int* periods, int* reorder, int* comm_cart, int* ierr);
 365 void mpi_cart_get_(int* comm, int* maxdims, int* dims, int* periods, int* coords, int* ierr);
 366 void mpi_cart_map_(int* comm_old, int* ndims, int* dims, int* periods, int* newrank, int* ierr);
 367 void mpi_cart_rank_(int* comm, int* coords, int* rank, int* ierr);
 368 void mpi_cart_shift_(int* comm, int* direction, int* displ, int* source, int* dest, int* ierr);
 369 void mpi_cart_sub_(int* comm, int* remain_dims, int* comm_new, int* ierr);
 370 void mpi_cartdim_get_(int* comm, int* ndims, int* ierr);
 371 void mpi_graph_create_(int* comm_old, int* nnodes, int* index, int* edges, int* reorder, int* comm_graph, int* ierr);
 372 void mpi_graph_get_(int* comm, int* maxindex, int* maxedges, int* index, int* edges, int* ierr);
 373 void mpi_graph_map_(int* comm_old, int* nnodes, int* index, int* edges, int* newrank, int* ierr);
 374 void mpi_graph_neighbors_(int* comm, int* rank, int* maxneighbors, int* neighbors, int* ierr);
 375 void mpi_graph_neighbors_count_(int* comm, int* rank, int* nneighbors, int* ierr);
 376 void mpi_graphdims_get_(int* comm, int* nnodes, int* nedges, int* ierr);
 377 void mpi_topo_test_(int* comm, int* top_type, int* ierr);
 378 void mpi_error_class_(int* errorcode, int* errorclass, int* ierr);
 379 void mpi_errhandler_create_(void* function, int* errhandler, int* ierr);
 380 void mpi_errhandler_free_(int* errhandler, int* ierr);
 381 void mpi_errhandler_get_(int* comm, int* errhandler, int* ierr);
 382 void mpi_errhandler_set_(int* comm, int* errhandler, int* ierr);
 383 void mpi_comm_set_errhandler_(int* comm, int* errhandler, int* ierr);
 384 void mpi_comm_get_errhandler_(int* comm, int* errhandler, int* ierr);
 385 void mpi_type_contiguous_(int* count, int* old_type, int* newtype, int* ierr);
 386 void mpi_cancel_(int* request, int* ierr);
 387 void mpi_buffer_attach_(void* buffer, int* size, int* ierr);
 388 void mpi_buffer_detach_(void* buffer, int* size, int* ierr);
 389 void mpi_testsome_(int* incount, int* requests, int* outcount, int* indices, MPI_Status* statuses, int* ierr);
 390 void mpi_comm_test_inter_(int* comm, int* flag, int* ierr);
 391 void mpi_unpack_(void* inbuf, int* insize, int* position, void* outbuf, int* outcount, int* type, int* comm, int* ierr);
 392 void mpi_pack_external_size_(char* datarep, int* incount, int* datatype, MPI_Aint* size, int* ierr);
 393 void mpi_pack_external_(char* datarep, void* inbuf, int* incount, int* datatype, void* outbuf, MPI_Aint* outcount,
 394                         MPI_Aint* position, int* ierr);
 395 void mpi_unpack_external_(char* datarep, void* inbuf, MPI_Aint* insize, MPI_Aint* position, void* outbuf, int* outcount,
 396                           int* datatype, int* ierr);
 397 void mpi_type_hindexed_(int* count, int* blocklens, int* indices, int* old_type, int* newtype, int* ierr);
 398 void mpi_type_create_hindexed_(int* count, int* blocklens, MPI_Aint* indices, int* old_type, int* newtype, int* ierr);
 399 void mpi_type_create_hindexed_block_(int* count, int* blocklength, MPI_Aint* indices, int* old_type, int* newtype,
 400                                      int* ierr);
 401 void mpi_type_indexed_(int* count, int* blocklens, int* indices, int* old_type, int* newtype, int* ierr);
 402 void mpi_type_create_indexed_(int* count, int* blocklens, int* indices, int* old_type, int* newtype, int* ierr);
 403 void mpi_type_create_indexed_block_(int* count, int* blocklength, int* indices, int* old_type, int* newtype, int* ierr);
 404 void mpi_type_struct_(int* count, int* blocklens, int* indices, int* old_types, int* newtype, int* ierr);
 405 void mpi_type_create_struct_(int* count, int* blocklens, MPI_Aint* indices, int* old_types, int* newtype, int* ierr);
 406 void mpi_ssend_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr);
 407 void mpi_ssend_init_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* request, int* ierr);
 408 void mpi_intercomm_create_(int* local_comm, int* local_leader, int* peer_comm, int* remote_leader, int* tag,
 409                            int* comm_out, int* ierr);
 410 void mpi_intercomm_merge_(int* comm, int* high, int* comm_out, int* ierr);
 411 void mpi_bsend_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* ierr);
 412 void mpi_bsend_init_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* request, int* ierr);
 413 void mpi_ibsend_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* request, int* ierr);
 414 void mpi_comm_remote_group_(int* comm, int* group, int* ierr);
 415 void mpi_comm_remote_size_(int* comm, int* size, int* ierr);
 416 void mpi_issend_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* request, int* ierr);
 417 void mpi_probe_(int* source, int* tag, int* comm, MPI_Status* status, int* ierr);
 418 void mpi_attr_delete_(int* comm, int* keyval, int* ierr);
 419 void mpi_attr_put_(int* comm, int* keyval, int* attr_value, int* ierr);
 420 void mpi_rsend_init_(void* buf, int* count, int* datatype, int* dest, int* tag, int* comm, int* request, int* ierr);
 421 void mpi_keyval_create_(void* copy_fn, void* delete_fn, int* keyval, void* extra_state, int* ierr);
 422 void mpi_keyval_free_(int* keyval, int* ierr);
 423 void mpi_test_cancelled_(MPI_Status* status, int* flag, int* ierr);
 424 void mpi_pack_(void* inbuf, int* incount, int* type, void* outbuf, int* outcount, int* position, int* comm, int* ierr);
 425 void mpi_get_elements_(MPI_Status* status, int* datatype, int* elements, int* ierr);
 426 void mpi_dims_create_(int* nnodes, int* ndims, int* dims, int* ierr);
 427 void mpi_iprobe_(int* source, int* tag, int* comm, int* flag, MPI_Status* status, int* ierr);
 428 void mpi_type_get_envelope_(int* datatype, int* num_integers, int* num_addresses, int* num_datatypes, int* combiner,
 429                             int* ierr);
 430 void mpi_type_get_contents_(int* datatype, int* max_integers, int* max_addresses, int* max_datatypes,
 431                             int* array_of_integers, MPI_Aint* array_of_addresses, int* array_of_datatypes, int* ierr);
 432 void mpi_type_create_darray_(int* size, int* rank, int* ndims, int* array_of_gsizes, int* array_of_distribs,
 433                              int* array_of_dargs, int* array_of_psizes, int* order, int* oldtype, int* newtype,
 434                              int* ierr);
 435 void mpi_type_create_resized_(int* oldtype, MPI_Aint* lb, MPI_Aint* extent, int* newtype, int* ierr);
 436 void mpi_type_create_subarray_(int* ndims, int* array_of_sizes, int* array_of_subsizes, int* array_of_starts,
 437                                int* order, int* oldtype, int* newtype, int* ierr);
 438 void mpi_type_match_size_(int* typeclass, int* size, int* datatype, int* ierr);
 439 void mpi_comm_set_name_(int* comm, char* name, int* ierr);
 440 void mpi_comm_dup_with_info_(int* comm, int* info, int* newcomm, int* ierr);
 441 void mpi_comm_split_type_(int* comm, int* split_type, int* key, int* info, int* newcomm, int* ierr);
 442 void mpi_comm_set_info_(int* comm, int* info, int* ierr);
 443 void mpi_comm_get_info_(int* comm, int* info, int* ierr);
 444 void mpi_info_get_(int* info, char* key, int* valuelen, char* value, int* flag, int* ierr, unsigned int keylen);
 445 void mpi_comm_create_errhandler_(void* function, int* errhandler, int* ierr);
 446 void mpi_add_error_class_(int* errorclass, int* ierr);
 447 void mpi_add_error_code_(int* errorclass, int* errorcode, int* ierr);
 448 void mpi_add_error_string_(int* errorcode, char* string, int* ierr);
 449 void mpi_comm_call_errhandler_(int* comm, int* errorcode, int* ierr);
 450 void mpi_info_dup_(int* info, int* newinfo, int* ierr);
 451 void mpi_info_get_valuelen_(int* info, char* key, int* valuelen, int* flag, int* ierr, unsigned int keylen);
 452 void mpi_info_delete_(int* info, char* key, int* ierr, unsigned int keylen);
 453 void mpi_info_get_nkeys_(int* info, int* nkeys, int* ierr);
 454 void mpi_info_get_nthkey_(int* info, int* n, char* key, int* ierr, unsigned int keylen);
 455 void mpi_get_version_(int* version, int* subversion, int* ierr);
 456 void mpi_get_library_version_(char* version, int* len, int* ierr);
 457 void mpi_request_get_status_(int* request, int* flag, MPI_Status* status, int* ierr);
 458 void mpi_grequest_start_(void* query_fn, void* free_fn, void* cancel_fn, void* extra_state, int* request, int* ierr);
 459 void mpi_grequest_complete_(int* request, int* ierr);
 460 void mpi_status_set_cancelled_(MPI_Status* status, int* flag, int* ierr);
 461 void mpi_status_set_elements_(MPI_Status* status, int* datatype, int* count, int* ierr);
 462 void mpi_comm_connect_(char* port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 463 void mpi_publish_name_(char* service_name, int* info, char* port_name, int* ierr);
 464 void mpi_unpublish_name_(char* service_name, int* info, char* port_name, int* ierr);
 465 void mpi_lookup_name_(char* service_name, int* info, char* port_name, int* ierr);
 466 void mpi_comm_join_(int* fd, int* intercomm, int* ierr);
 467 void mpi_open_port_(int* info, char* port_name, int* ierr);
 468 void mpi_close_port_(char* port_name, int* ierr);
 469 void mpi_comm_accept_(char* port_name, int* info, int* root, int* comm, int* newcomm, int* ierr);
 470 void mpi_comm_spawn_(char* command, char* argv, int* maxprocs, int* info, int* root, int* comm, int* intercomm,
 471                      int* array_of_errcodes, int* ierr);
 472 void mpi_comm_spawn_multiple_(int* count, char* array_of_commands, char** array_of_argv, int* array_of_maxprocs,
 473                               int* array_of_info, int* root, int* comm, int* intercomm, int* array_of_errcodes,
 474                               int* ierr);
 475 void mpi_comm_get_parent_(int* parent, int* ierr);
 476 void mpi_file_close_(int* file, int* ierr);
 477 void mpi_file_delete_(char* filename, int* info, int* ierr);
 478 void mpi_file_open_(int* comm, char* filename, int* amode, int* info, int* fh, int* ierr);
 479 void mpi_file_seek_(int* fh, MPI_Offset* offset, int* whence, int* ierr);
 480 void mpi_file_seek_shared_(int* fh, MPI_Offset* offset, int* whence, int* ierr);
 481 void mpi_file_get_position_(int* fh, MPI_Offset* offset, int* ierr);
 482 void mpi_file_get_position_shared_(int* fh, MPI_Offset* offset, int* ierr);
 483 void mpi_file_set_view_(int* fh, MPI_Offset* offset, int* etype, int* filetype, char* datarep, int* info, int* ierr);
 484 void mpi_file_get_view_(int* fh, MPI_Offset* disp, int* etype, int* filetype, char *datarep, int* ierr);
 485 void mpi_file_read_(int* fh, void* buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 486 void mpi_file_read_shared_(int* fh, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 487 void mpi_file_read_all_(int* fh, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 488 void mpi_file_read_ordered_(int* fh, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 489 void mpi_file_read_at_(int* fh, MPI_Offset* offset, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 490 void mpi_file_read_at_all_(int* fh, MPI_Offset* offset, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 491 void mpi_file_write_(int* fh, void* buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 492 void mpi_file_write_all_(int* fh, void* buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 493 void mpi_file_write_shared_(int* fh, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 494 void mpi_file_write_ordered_(int* fh, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 495 void mpi_file_write_at_(int* fh, MPI_Offset* offset, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 496 void mpi_file_write_at_all_(int* fh, MPI_Offset* offset, void *buf, int* count, int* datatype, MPI_Status* status, int* ierr);
 497 void smpi_init_fortran_types();
 498 void smpi_execute_flops_(double* flops);
 499 void smpi_execute_flops_benched_(double* flops);
 500 void smpi_execute_(double* duration);
 501 void smpi_execute_benched_(double* duration);
 502 } // extern "C"
 503
 504 XBT_PRIVATE int smpi_temp_shm_get();
 505 XBT_PRIVATE void* smpi_temp_shm_mmap(int fd, size_t size);
 506
 507 struct s_smpi_privatization_region_t {
 508   void* address;
 509   int file_descriptor;
 510 };
 511 using smpi_privatization_region_t = s_smpi_privatization_region_t*;
 512
 513 XBT_PRIVATE smpi_privatization_region_t smpi_init_global_memory_segment_process();
 514
 515 /**
 516  * Get the address of the beginning of the memory page where addr is located.
 517  * Note that we use an integer division here, so (a/b)*b is not a, unless a%b == 0
 518  *
 519  * This is used when privatizing.
 520  */
 521 #define TOPAGE(addr) (void*)(((unsigned long)(addr) / xbt_pagesize) * xbt_pagesize)
 522
 523 /** Used only if PAPI is compiled in, but integrated anyway so that this file does not depend on internal_config.h (to speed builds) */
 524 using papi_counter_t = std::vector<std::pair</* counter name */ std::string, /* counter value */ long long>>;
 525 struct papi_process_data {
 526   papi_counter_t counter_data;
 527   int event_set;
 528 };
 529 extern std::map</* computation unit name */ std::string, papi_process_data, std::less<>> units2papi_setup;
 530
 531 extern std::unordered_map<std::string, double> location2speedup;
 532
 533 /** @brief Returns the last call location (filename, linenumber). Process-specific. */
 534 XBT_PUBLIC smpi_trace_call_location_t* smpi_trace_get_call_location();
 535
 536 XBT_PRIVATE void private_execute_flops(double flops);
 537
 538 #define CHECK_ARGS(test, errcode,...)\
 539   {\
 540     if (test) {\
 541       int error_code_ = (errcode);\
 542       if (error_code_ != MPI_SUCCESS){\
 543         XBT_WARN(__VA_ARGS__);\
 544       }\
 545       return error_code_;\
 546     }\
 547   }
 548
 549 #define CHECK_INIT                                                                                                     \
 550   {                                                                                                                    \
 551     int init_flag = 0;                                                                                                 \
 552     PMPI_Initialized(&init_flag);                                                                                      \
 553     CHECK_ARGS(not init_flag, MPI_ERR_OTHER, "%s: MPI_Init was not called !", __func__)                                \
 554     PMPI_Finalized(&init_flag);                                                                                        \
 555     CHECK_ARGS(init_flag, MPI_ERR_OTHER, "%s: MPI_Finalize was already called !", __func__)                            \
 556   }
 557
 558 #define CHECK_VAL(num, val, err, value)\
 559   CHECK_ARGS((value) == (val), (err),\
 560              "%s: param %d %s cannot be %s", __func__, (num), _XBT_STRINGIFY(value), _XBT_STRINGIFY(val))
 561
 562 #define CHECK_NULL(num,err,buf)\
 563   CHECK_ARGS((buf) == nullptr, (err),\
 564              "%s: param %d %s cannot be NULL", __func__, (num), _XBT_STRINGIFY(buf))
 565
 566 #define CHECK_MPI_NULL(num, val, err, ptr)\
 567   {\
 568     CHECK_ARGS((ptr) == (val), (err),\
 569                "%s: param %d %s cannot be %s", __func__, (num), _XBT_STRINGIFY(ptr), _XBT_STRINGIFY(val))\
 570     CHECK_NULL(num, err, ptr)\
 571   }
 572
 573 #define CHECK_NEGATIVE(num, err, val)\
 574   CHECK_ARGS((val) < 0, (err),\
 575              "%s: param %d %s cannot be negative", __func__, (num), _XBT_STRINGIFY(val))
 576
 577 #define CHECK_NEGATIVE_OR_ZERO(num, err, val)\
 578   CHECK_ARGS((val) <= 0, (err),\
 579              "%s: param %d %s cannot be negative or 0", __func__, (num), _XBT_STRINGIFY(val))
 580
 581 #define CHECK_COMM2(num, comm)\
 582   CHECK_MPI_NULL((num), MPI_COMM_NULL, MPI_ERR_COMM, (comm))
 583
 584 #define CHECK_DELETED(num, err, obj)\
 585   CHECK_ARGS((obj)->deleted(), (err), "%s: param %d %s has already been freed", __func__, (num),\
 586   _XBT_STRINGIFY(obj))
 587
 588 #define CHECK_COMM(num)\
 589   {\
 590     CHECK_INIT\
 591     CHECK_COMM2((num), comm)\
 592     CHECK_DELETED((num), MPI_ERR_COMM, comm)\
 593     simgrid::smpi::utils::set_current_handle(comm);\
 594   }
 595
 596 #define CHECK_REQUEST(num)\
 597   CHECK_ARGS(request == nullptr, MPI_ERR_REQUEST,\
 598              "%s: param %d request cannot be NULL",__func__, (num));
 599
 600 #define CHECK_REQUEST_VALID(num)\
 601   {\
 602     CHECK_REQUEST(num)\
 603     if(request!=MPI_REQUEST_IGNORED){\
 604       CHECK_DELETED((num), MPI_ERR_REQUEST, *request)\
 605       simgrid::smpi::utils::set_current_handle(*request);\
 606     }\
 607   }
 608 #define SET_BUF1(buf)\
 609     simgrid::smpi::utils::set_current_buffer(1, _XBT_STRINGIFY(buf), buf);
 610 #define SET_BUF2(buf)\
 611     simgrid::smpi::utils::set_current_buffer(2, _XBT_STRINGIFY(buf), buf);
 612
 613 #define CHECK_BUFFER2(num,buf,count)\
 614     CHECK_ARGS((buf) == nullptr && (count) > 0, MPI_ERR_BUFFER,\
 615              "%s: param %d %s cannot be NULL if %s > 0",__func__, (num), _XBT_STRINGIFY(buf), _XBT_STRINGIFY(count))\
 616
 617 #define CHECK_BUFFER(num,buf,count,datatype)\
 618   {\
 619     CHECK_BUFFER2(num,buf,count)\
 620     CHECK_ARGS( simgrid::smpi::utils::get_buffer_size(buf) < (size_t)(count*datatype->get_extent()), MPI_ERR_BUFFER,\
 621              "%s: param %d message size %zd exceeds buffer %s size %zu",__func__, (num), count*datatype->get_extent(), _XBT_STRINGIFY(buf), simgrid::smpi::utils::get_buffer_size(buf))\
 622   }
 623
 624 #define CHECK_COUNT(num, count)\
 625   CHECK_NEGATIVE((num), MPI_ERR_COUNT, (count))
 626
 627 #define CHECK_TYPE(num, datatype)\
 628   {\
 629     CHECK_MPI_NULL((num), MPI_DATATYPE_NULL, MPI_ERR_TYPE, (datatype))\
 630     CHECK_ARGS((not (datatype)->is_valid()), MPI_ERR_TYPE,\
 631              "%s: param %d %s is invalid", __func__, (num), _XBT_STRINGIFY(datatype));\
 632     CHECK_DELETED((num), MPI_ERR_TYPE, datatype)\
 633     if (not datatype->is_basic())\
 634       simgrid::smpi::utils::set_current_handle(datatype);\
 635   }
 636
 637 #define CHECK_OP(num, op, type)\
 638   {\
 639   CHECK_MPI_NULL((num), MPI_OP_NULL, MPI_ERR_OP, (op))\
 640   CHECK_ARGS((op == MPI_REPLACE || op == MPI_NO_OP), MPI_ERR_OP,\
 641              "%s: param %d op %s cannot be used in non RMA calls", __func__, (num), _XBT_STRINGIFY(op));\
 642   CHECK_DELETED((num), MPI_ERR_OP, op)\
 643   if (not op->is_predefined())\
 644     simgrid::smpi::utils::set_current_handle(op);\
 645   CHECK_ARGS(((op)->allowed_types() && (((op)->allowed_types() & (type)->flags()) == 0)), MPI_ERR_OP,\
 646              "%s: param %d op %s can't be applied to type %s", __func__, (num), _XBT_STRINGIFY(op), type->name().c_str());\
 647   }
 648
 649 #define CHECK_ROOT(num)\
 650   CHECK_ARGS((root < 0 || root >= comm->size()), MPI_ERR_ROOT,\
 651              "%s: param %d root (=%d) cannot be negative or larger than communicator size (=%d)", __func__, (num),\
 652              root, comm->size())
 653
 654 #define CHECK_INFO(num,info)\
 655   {\
 656     CHECK_MPI_NULL((num), MPI_INFO_NULL, MPI_ERR_INFO, (info))\
 657     CHECK_DELETED((num), MPI_ERR_INFO, info)\
 658     simgrid::smpi::utils::set_current_handle(info);\
 659   }
 660
 661 #define CHECK_TAG(num,tag)\
 662   CHECK_ARGS(((tag) < 0 && (tag) !=  MPI_ANY_TAG), MPI_ERR_TAG,\
 663              "%s: param %d %s (=%d) cannot be negative", __func__, (num), _XBT_STRINGIFY(tag), (tag))
 664
 665 #define CHECK_FILE(num, fh)\
 666   CHECK_MPI_NULL((num), MPI_FILE_NULL, MPI_ERR_FILE, (fh))
 667
 668 #define CHECK_OFFSET(num, offset)\
 669   CHECK_NEGATIVE((num), MPI_ERR_DISP, (offset))
 670
 671 #define CHECK_GROUP(num, group)\
 672   CHECK_MPI_NULL((num), MPI_GROUP_NULL, MPI_ERR_GROUP, (group))
 673
 674 #define CHECK_WIN(num, win)\
 675   {\
 676   CHECK_MPI_NULL((num), MPI_WIN_NULL, MPI_ERR_WIN, (win))\
 677   simgrid::smpi::utils::set_current_handle(win);\
 678   }
 679 #define CHECK_RANK(num, rank, comm)\
 680   CHECK_ARGS(((rank) >= (comm)->size() || (rank) <0), MPI_ERR_RANK,\
 681              "%s: param %d %s (=%d) cannot be < 0 or > %d", __func__, (num), _XBT_STRINGIFY(rank),\
 682              (rank), (comm)->size() )
 683
 684 #define CHECK_PROC_RMA(num,proc,win)\
 685   {\
 686     CHECK_VAL((num), MPI_PROC_NULL, MPI_SUCCESS, (proc))\
 687     CHECK_RANK(num, proc, (win)->comm())\
 688   }
 689
 690 #define CHECK_NOT_IN_PLACE_ROOT(num, buf)\
 691   CHECK_ARGS((buf == MPI_IN_PLACE), MPI_ERR_BUFFER,\
 692              "%s: param %d %s cannot be MPI_IN_PLACE for rank %d with root %d", __func__, (num), _XBT_STRINGIFY(buf),  \
 693              rank, root)
 694
 695 #define CHECK_NOT_IN_PLACE(num, buf)\
 696   CHECK_ARGS((buf == MPI_IN_PLACE), MPI_ERR_BUFFER,\
 697              "%s: param %d %s cannot be MPI_IN_PLACE for rank %d", __func__, (num), _XBT_STRINGIFY(buf), rank)
 698
 699 #endif