Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
cade107058622a56a4af8fa22b809b0f1dd1fef3
[simgrid.git] / src / smpi / bindings / smpi_pmpi_coll.cpp
1 /* Copyright (c) 2007-2019. The SimGrid Team. All rights reserved.          */
2
3 /* This program is free software; you can redistribute it and/or modify it
4  * under the terms of the license (GNU LGPL) which comes with this package. */
5
6 #include "private.hpp"
7 #include "smpi_coll.hpp"
8 #include "smpi_comm.hpp"
9 #include "smpi_request.hpp"
10 #include "smpi_datatype_derived.hpp"
11 #include "smpi_op.hpp"
12 #include "src/smpi/include/smpi_actor.hpp"
13
14 XBT_LOG_EXTERNAL_DEFAULT_CATEGORY(smpi_pmpi);
15
16 /* PMPI User level calls */
17
18 int PMPI_Bcast(void *buf, int count, MPI_Datatype datatype, int root, MPI_Comm comm)
19 {
20   return PMPI_Ibcast(buf, count, datatype, root, comm, MPI_REQUEST_IGNORED);
21 }
22
23 int PMPI_Barrier(MPI_Comm comm)
24 {
25   return PMPI_Ibarrier(comm, MPI_REQUEST_IGNORED);
26 }
27
28 int PMPI_Ibarrier(MPI_Comm comm, MPI_Request *request)
29 {
30   int retval = 0;
31   smpi_bench_end();
32   if (comm == MPI_COMM_NULL) {
33     retval = MPI_ERR_COMM;
34   } else if(request == nullptr){
35     retval = MPI_ERR_ARG;
36   }else{
37     int rank = simgrid::s4u::this_actor::get_pid();
38     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED? "PMPI_Barrier" : "PMPI_Ibarrier", new simgrid::instr::NoOpTIData(request==MPI_REQUEST_IGNORED? "barrier" : "ibarrier"));
39     if(request==MPI_REQUEST_IGNORED){
40       simgrid::smpi::Colls::barrier(comm);
41       //Barrier can be used to synchronize RMA calls. Finish all requests from comm before.
42       comm->finish_rma_calls();
43     } else
44       simgrid::smpi::Colls::ibarrier(comm, request);
45     TRACE_smpi_comm_out(rank);
46   }    
47   smpi_bench_begin();
48   return retval;
49 }
50
51 int PMPI_Ibcast(void *buf, int count, MPI_Datatype datatype, 
52                    int root, MPI_Comm comm, MPI_Request* request)
53 {
54   int retval = 0;
55   smpi_bench_end();
56   if (comm == MPI_COMM_NULL) {
57     retval = MPI_ERR_COMM;
58   } else if (not datatype->is_valid()) {
59     retval = MPI_ERR_ARG;
60   } else if(request == nullptr){
61     retval = MPI_ERR_ARG;
62   } else {
63     int rank = simgrid::s4u::this_actor::get_pid();
64     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Bcast":"PMPI_Ibcast",
65                        new simgrid::instr::CollTIData(request==MPI_REQUEST_IGNORED?"bcast":"ibcast", root, -1.0,
66                                                       datatype->is_replayable() ? count : count * datatype->size(), -1,
67                                                       simgrid::smpi::Datatype::encode(datatype), ""));
68     if (comm->size() > 1){
69       if(request==MPI_REQUEST_IGNORED)
70         simgrid::smpi::Colls::bcast(buf, count, datatype, root, comm);
71       else
72         simgrid::smpi::Colls::ibcast(buf, count, datatype, root, comm, request);
73     } else {
74       if(request!=MPI_REQUEST_IGNORED)
75         *request = MPI_REQUEST_NULL;
76     }
77     retval = MPI_SUCCESS;
78
79     TRACE_smpi_comm_out(rank);
80   }
81   smpi_bench_begin();
82   return retval;
83 }
84
85 int PMPI_Gather(void *sendbuf, int sendcount, MPI_Datatype sendtype,void *recvbuf, int recvcount, MPI_Datatype recvtype,
86                 int root, MPI_Comm comm){
87   return PMPI_Igather(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, root, comm, MPI_REQUEST_IGNORED);
88 }
89
90 int PMPI_Igather(void *sendbuf, int sendcount, MPI_Datatype sendtype,void *recvbuf, int recvcount, MPI_Datatype recvtype,
91                 int root, MPI_Comm comm, MPI_Request *request)
92 {
93   int retval = 0;
94
95   smpi_bench_end();
96
97   if (comm == MPI_COMM_NULL) {
98     retval = MPI_ERR_COMM;
99   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
100             ((comm->rank() == root) && (recvtype == MPI_DATATYPE_NULL))){
101     retval = MPI_ERR_TYPE;
102   } else if ((( sendbuf != MPI_IN_PLACE) && (sendcount <0)) || ((comm->rank() == root) && (recvcount <0))){
103     retval = MPI_ERR_COUNT;
104   } else if (request == nullptr){
105     retval = MPI_ERR_ARG;
106   }  else {
107
108     char* sendtmpbuf = static_cast<char*>(sendbuf);
109     int sendtmpcount = sendcount;
110     MPI_Datatype sendtmptype = sendtype;
111     if( (comm->rank() == root) && (sendbuf == MPI_IN_PLACE )) {
112       sendtmpcount=0;
113       sendtmptype=recvtype;
114     }
115     int rank = simgrid::s4u::this_actor::get_pid();
116
117     TRACE_smpi_comm_in(
118         rank, request==MPI_REQUEST_IGNORED?"PMPI_Gather":"PMPI_Igather",
119         new simgrid::instr::CollTIData(
120             request==MPI_REQUEST_IGNORED ? "gather":"igather", root, -1.0, sendtmptype->is_replayable() ? sendtmpcount : sendtmpcount * sendtmptype->size(),
121             (comm->rank() != root || recvtype->is_replayable()) ? recvcount : recvcount * recvtype->size(),
122             simgrid::smpi::Datatype::encode(sendtmptype), simgrid::smpi::Datatype::encode(recvtype)));
123     if(request == MPI_REQUEST_IGNORED)
124       simgrid::smpi::Colls::gather(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcount, recvtype, root, comm);
125     else
126       simgrid::smpi::Colls::igather(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcount, recvtype, root, comm, request);
127
128     retval = MPI_SUCCESS;
129     TRACE_smpi_comm_out(rank);
130   }
131
132   smpi_bench_begin();
133   return retval;
134 }
135
136 int PMPI_Gatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf, int *recvcounts, int *displs,
137                 MPI_Datatype recvtype, int root, MPI_Comm comm){
138   return PMPI_Igatherv(sendbuf, sendcount, sendtype, recvbuf, recvcounts, displs, recvtype, root, comm, MPI_REQUEST_IGNORED);
139 }
140
141 int PMPI_Igatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype, void *recvbuf, int *recvcounts, int *displs,
142                 MPI_Datatype recvtype, int root, MPI_Comm comm, MPI_Request *request)
143 {
144   int retval = 0;
145
146   smpi_bench_end();
147
148   if (comm == MPI_COMM_NULL) {
149     retval = MPI_ERR_COMM;
150   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
151             ((comm->rank() == root) && (recvtype == MPI_DATATYPE_NULL))){
152     retval = MPI_ERR_TYPE;
153   } else if (( sendbuf != MPI_IN_PLACE) && (sendcount <0)){
154     retval = MPI_ERR_COUNT;
155   } else if ((comm->rank() == root) && (recvcounts == nullptr || displs == nullptr)) {
156     retval = MPI_ERR_ARG;
157   } else if (request == nullptr){
158     retval = MPI_ERR_ARG;
159   }  else {
160     char* sendtmpbuf = static_cast<char*>(sendbuf);
161     int sendtmpcount = sendcount;
162     MPI_Datatype sendtmptype = sendtype;
163     if( (comm->rank() == root) && (sendbuf == MPI_IN_PLACE )) {
164       sendtmpcount=0;
165       sendtmptype=recvtype;
166     }
167
168     int rank         = simgrid::s4u::this_actor::get_pid();
169     int dt_size_recv = recvtype->is_replayable() ? 1 : recvtype->size();
170
171     std::vector<int>* trace_recvcounts = new std::vector<int>;
172     if (comm->rank() == root) {
173       for (int i = 0; i < comm->size(); i++) // copy data to avoid bad free
174         trace_recvcounts->push_back(recvcounts[i] * dt_size_recv);
175     }
176
177     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Gatherv":"PMPI_Igatherv",
178                        new simgrid::instr::VarCollTIData(
179                            request==MPI_REQUEST_IGNORED ? "gatherv":"igatherv", root,
180                            sendtmptype->is_replayable() ? sendtmpcount : sendtmpcount * sendtmptype->size(), nullptr,
181                            dt_size_recv, trace_recvcounts, simgrid::smpi::Datatype::encode(sendtmptype),
182                            simgrid::smpi::Datatype::encode(recvtype)));
183     if(request == MPI_REQUEST_IGNORED)
184       retval = simgrid::smpi::Colls::gatherv(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcounts, displs, recvtype, root, comm);
185     else
186       retval = simgrid::smpi::Colls::igatherv(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcounts, displs, recvtype, root, comm, request);
187     TRACE_smpi_comm_out(rank);
188   }
189
190   smpi_bench_begin();
191   return retval;
192 }
193
194 int PMPI_Allgather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
195                    void *recvbuf, int recvcount, MPI_Datatype recvtype, MPI_Comm comm){
196   return PMPI_Iallgather(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, comm, MPI_REQUEST_IGNORED);
197 }
198               
199 int PMPI_Iallgather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
200                    void *recvbuf, int recvcount, MPI_Datatype recvtype, MPI_Comm comm, MPI_Request* request)
201 {
202   int retval = MPI_SUCCESS;
203
204   smpi_bench_end();
205
206   if (comm == MPI_COMM_NULL) {
207     retval = MPI_ERR_COMM;
208   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
209             (recvtype == MPI_DATATYPE_NULL)){
210     retval = MPI_ERR_TYPE;
211   } else if ((( sendbuf != MPI_IN_PLACE) && (sendcount <0)) ||
212             (recvcount <0)){
213     retval = MPI_ERR_COUNT;
214   } else if (request == nullptr){
215     retval = MPI_ERR_ARG;
216   }  else {
217     if(sendbuf == MPI_IN_PLACE) {
218       sendbuf=static_cast<char*>(recvbuf)+recvtype->get_extent()*recvcount*comm->rank();
219       sendcount=recvcount;
220       sendtype=recvtype;
221     }
222     int rank = simgrid::s4u::this_actor::get_pid();
223
224     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Allgather":"PMPI_Iallggather",
225                        new simgrid::instr::CollTIData(
226                            request==MPI_REQUEST_IGNORED ? "allgather" : "iallgather", -1, -1.0, sendtype->is_replayable() ? sendcount : sendcount * sendtype->size(),
227                            recvtype->is_replayable() ? recvcount : recvcount * recvtype->size(),
228                            simgrid::smpi::Datatype::encode(sendtype), simgrid::smpi::Datatype::encode(recvtype)));
229     if(request == MPI_REQUEST_IGNORED)
230       simgrid::smpi::Colls::allgather(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, comm);
231     else
232       simgrid::smpi::Colls::iallgather(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, comm, request);
233     TRACE_smpi_comm_out(rank);
234   }
235   smpi_bench_begin();
236   return retval;
237 }
238
239 int PMPI_Allgatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
240                    void *recvbuf, int *recvcounts, int *displs, MPI_Datatype recvtype, MPI_Comm comm){
241   return PMPI_Iallgatherv(sendbuf, sendcount, sendtype, recvbuf, recvcounts, displs, recvtype, comm, MPI_REQUEST_IGNORED);
242 }
243
244 int PMPI_Iallgatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
245                    void *recvbuf, int *recvcounts, int *displs, MPI_Datatype recvtype, MPI_Comm comm, MPI_Request* request)
246 {
247   int retval = 0;
248
249   smpi_bench_end();
250
251   if (comm == MPI_COMM_NULL) {
252     retval = MPI_ERR_COMM;
253   } else if (((sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) || (recvtype == MPI_DATATYPE_NULL)) {
254     retval = MPI_ERR_TYPE;
255   } else if (( sendbuf != MPI_IN_PLACE) && (sendcount <0)){
256     retval = MPI_ERR_COUNT;
257   } else if (recvcounts == nullptr || displs == nullptr) {
258     retval = MPI_ERR_ARG;
259   } else if (request == nullptr){
260     retval = MPI_ERR_ARG;
261   }  else {
262
263     if(sendbuf == MPI_IN_PLACE) {
264       sendbuf=static_cast<char*>(recvbuf)+recvtype->get_extent()*displs[comm->rank()];
265       sendcount=recvcounts[comm->rank()];
266       sendtype=recvtype;
267     }
268     int rank               = simgrid::s4u::this_actor::get_pid();
269     int dt_size_recv       = recvtype->is_replayable() ? 1 : recvtype->size();
270
271     std::vector<int>* trace_recvcounts = new std::vector<int>;
272     for (int i = 0; i < comm->size(); i++) // copy data to avoid bad free
273       trace_recvcounts->push_back(recvcounts[i] * dt_size_recv);
274
275     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Allgatherv":"PMPI_Iallgatherv",
276                        new simgrid::instr::VarCollTIData(
277                            request==MPI_REQUEST_IGNORED ? "allgatherv" : "iallgatherv", -1, sendtype->is_replayable() ? sendcount : sendcount * sendtype->size(),
278                            nullptr, dt_size_recv, trace_recvcounts, simgrid::smpi::Datatype::encode(sendtype),
279                            simgrid::smpi::Datatype::encode(recvtype)));
280     if(request == MPI_REQUEST_IGNORED)
281       simgrid::smpi::Colls::allgatherv(sendbuf, sendcount, sendtype, recvbuf, recvcounts, displs, recvtype, comm);
282     else
283       simgrid::smpi::Colls::iallgatherv(sendbuf, sendcount, sendtype, recvbuf, recvcounts, displs, recvtype, comm, request);
284     retval = MPI_SUCCESS;
285     TRACE_smpi_comm_out(rank);
286   }
287
288   smpi_bench_begin();
289   return retval;
290 }
291
292 int PMPI_Scatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
293                 void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm){
294   return PMPI_Iscatter(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, root, comm, MPI_REQUEST_IGNORED);
295 }
296
297 int PMPI_Iscatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
298                 void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm, MPI_Request* request)
299 {
300   int retval = 0;
301
302   smpi_bench_end();
303
304   if (comm == MPI_COMM_NULL) {
305     retval = MPI_ERR_COMM;
306   } else if (((comm->rank() == root) && (not sendtype->is_valid())) ||
307              ((recvbuf != MPI_IN_PLACE) && (not recvtype->is_valid()))) {
308     retval = MPI_ERR_TYPE;
309   } else if ((sendbuf == recvbuf) ||
310       ((comm->rank()==root) && sendcount>0 && (sendbuf == nullptr))){
311     retval = MPI_ERR_BUFFER;
312   }else if (request == nullptr){
313     retval = MPI_ERR_ARG;
314   } else {
315
316     if (recvbuf == MPI_IN_PLACE) {
317       recvtype  = sendtype;
318       recvcount = sendcount;
319     }
320     int rank = simgrid::s4u::this_actor::get_pid();
321
322     TRACE_smpi_comm_in(
323         rank, request==MPI_REQUEST_IGNORED?"PMPI_Scatter":"PMPI_Iscatter",
324         new simgrid::instr::CollTIData(
325             request==MPI_REQUEST_IGNORED ? "scatter" : "iscatter", root, -1.0,
326             (comm->rank() != root || sendtype->is_replayable()) ? sendcount : sendcount * sendtype->size(),
327             recvtype->is_replayable() ? recvcount : recvcount * recvtype->size(),
328             simgrid::smpi::Datatype::encode(sendtype), simgrid::smpi::Datatype::encode(recvtype)));
329     if(request == MPI_REQUEST_IGNORED)
330       simgrid::smpi::Colls::scatter(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, root, comm);
331     else
332       simgrid::smpi::Colls::iscatter(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, root, comm, request);
333     retval = MPI_SUCCESS;
334     TRACE_smpi_comm_out(rank);
335   }
336
337   smpi_bench_begin();
338   return retval;
339 }
340
341 int PMPI_Scatterv(void *sendbuf, int *sendcounts, int *displs,
342                  MPI_Datatype sendtype, void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm){
343   return PMPI_Iscatterv(sendbuf, sendcounts, displs, sendtype, recvbuf, recvcount, recvtype, root, comm, MPI_REQUEST_IGNORED);
344 }
345
346 int PMPI_Iscatterv(void *sendbuf, int *sendcounts, int *displs,
347                  MPI_Datatype sendtype, void *recvbuf, int recvcount, MPI_Datatype recvtype, int root, MPI_Comm comm, MPI_Request *request)
348 {
349   int retval = 0;
350
351   smpi_bench_end();
352
353   if (comm == MPI_COMM_NULL) {
354     retval = MPI_ERR_COMM;
355   } else if (sendcounts == nullptr || displs == nullptr) {
356     retval = MPI_ERR_ARG;
357   } else if (((comm->rank() == root) && (sendtype == MPI_DATATYPE_NULL)) ||
358              ((recvbuf != MPI_IN_PLACE) && (recvtype == MPI_DATATYPE_NULL))) {
359     retval = MPI_ERR_TYPE;
360   } else if (request == nullptr){
361     retval = MPI_ERR_ARG;
362   } else {
363     if (recvbuf == MPI_IN_PLACE) {
364       recvtype  = sendtype;
365       recvcount = sendcounts[comm->rank()];
366     }
367     int rank               = simgrid::s4u::this_actor::get_pid();
368     int dt_size_send       = sendtype->is_replayable() ? 1 : sendtype->size();
369
370     std::vector<int>* trace_sendcounts = new std::vector<int>;
371     if (comm->rank() == root) {
372       for (int i = 0; i < comm->size(); i++) // copy data to avoid bad free
373         trace_sendcounts->push_back(sendcounts[i] * dt_size_send);
374     }
375
376     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Scatterv":"PMPI_Iscatterv",
377                        new simgrid::instr::VarCollTIData(
378                            request==MPI_REQUEST_IGNORED ? "scatterv":"iscatterv", root, dt_size_send, trace_sendcounts,
379                            recvtype->is_replayable() ? recvcount : recvcount * recvtype->size(), nullptr,
380                            simgrid::smpi::Datatype::encode(sendtype), simgrid::smpi::Datatype::encode(recvtype)));
381     if(request == MPI_REQUEST_IGNORED)
382       retval = simgrid::smpi::Colls::scatterv(sendbuf, sendcounts, displs, sendtype, recvbuf, recvcount, recvtype, root, comm);
383     else
384      retval = simgrid::smpi::Colls::iscatterv(sendbuf, sendcounts, displs, sendtype, recvbuf, recvcount, recvtype, root, comm, request);
385
386     TRACE_smpi_comm_out(rank);
387   }
388
389   smpi_bench_begin();
390   return retval;
391 }
392
393 int PMPI_Reduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, int root, MPI_Comm comm)
394 {
395   return PMPI_Ireduce(sendbuf, recvbuf, count, datatype, op, root, comm, MPI_REQUEST_IGNORED);
396 }
397
398 int PMPI_Ireduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, int root, MPI_Comm comm, MPI_Request* request)
399 {
400   int retval = 0;
401
402   smpi_bench_end();
403
404   if (comm == MPI_COMM_NULL) {
405     retval = MPI_ERR_COMM;
406   } else if (not datatype->is_valid() || op == MPI_OP_NULL) {
407     retval = MPI_ERR_ARG;
408   } else if (request == nullptr){
409     retval = MPI_ERR_ARG;
410   } else {
411     int rank = simgrid::s4u::this_actor::get_pid();
412
413     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ? "PMPI_Reduce":"PMPI_Ireduce",
414                        new simgrid::instr::CollTIData(request==MPI_REQUEST_IGNORED ? "reduce":"ireduce", root, 0,
415                                                       datatype->is_replayable() ? count : count * datatype->size(), -1,
416                                                       simgrid::smpi::Datatype::encode(datatype), ""));
417     if(request == MPI_REQUEST_IGNORED)
418       simgrid::smpi::Colls::reduce(sendbuf, recvbuf, count, datatype, op, root, comm);
419     else
420       simgrid::smpi::Colls::ireduce(sendbuf, recvbuf, count, datatype, op, root, comm, request);
421
422
423     retval = MPI_SUCCESS;
424     TRACE_smpi_comm_out(rank);
425   }
426
427   smpi_bench_begin();
428   return retval;
429 }
430
431 int PMPI_Reduce_local(void *inbuf, void *inoutbuf, int count, MPI_Datatype datatype, MPI_Op op){
432   int retval = 0;
433
434   smpi_bench_end();
435   if (not datatype->is_valid() || op == MPI_OP_NULL) {
436     retval = MPI_ERR_ARG;
437   } else {
438     op->apply(inbuf, inoutbuf, &count, datatype);
439     retval = MPI_SUCCESS;
440   }
441   smpi_bench_begin();
442   return retval;
443 }
444
445 int PMPI_Allreduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
446 {
447   return PMPI_Iallreduce(sendbuf, recvbuf, count, datatype, op, comm, MPI_REQUEST_IGNORED);
448 }
449
450 int PMPI_Iallreduce(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm, MPI_Request *request)
451 {
452   int retval = 0;
453
454   smpi_bench_end();
455
456   if (comm == MPI_COMM_NULL) {
457     retval = MPI_ERR_COMM;
458   } else if (not datatype->is_valid()) {
459     retval = MPI_ERR_TYPE;
460   } else if (op == MPI_OP_NULL) {
461     retval = MPI_ERR_OP;
462   } else if (request == nullptr){
463     retval = MPI_ERR_ARG;
464   } else {
465     char* sendtmpbuf = static_cast<char*>(sendbuf);
466     if( sendbuf == MPI_IN_PLACE ) {
467       sendtmpbuf = static_cast<char*>(xbt_malloc(count*datatype->get_extent()));
468       simgrid::smpi::Datatype::copy(recvbuf, count, datatype,sendtmpbuf, count, datatype);
469     }
470     int rank = simgrid::s4u::this_actor::get_pid();
471
472     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ?"PMPI_Allreduce":"PMPI_Iallreduce",
473                        new simgrid::instr::CollTIData(request==MPI_REQUEST_IGNORED ? "allreduce":"iallreduce", -1, 0,
474                                                       datatype->is_replayable() ? count : count * datatype->size(), -1,
475                                                       simgrid::smpi::Datatype::encode(datatype), ""));
476
477     if(request == MPI_REQUEST_IGNORED)
478       simgrid::smpi::Colls::allreduce(sendtmpbuf, recvbuf, count, datatype, op, comm);
479     else
480       simgrid::smpi::Colls::iallreduce(sendtmpbuf, recvbuf, count, datatype, op, comm, request);
481
482     if( sendbuf == MPI_IN_PLACE )
483       xbt_free(sendtmpbuf);
484
485     retval = MPI_SUCCESS;
486     TRACE_smpi_comm_out(rank);
487   }
488
489   smpi_bench_begin();
490   return retval;
491 }
492
493 int PMPI_Scan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
494 {
495   return PMPI_Iscan(sendbuf, recvbuf, count, datatype, op, comm, MPI_REQUEST_IGNORED);
496 }
497
498 int PMPI_Iscan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm, MPI_Request* request)
499 {
500   int retval = 0;
501
502   smpi_bench_end();
503
504   if (comm == MPI_COMM_NULL) {
505     retval = MPI_ERR_COMM;
506   } else if (not datatype->is_valid()) {
507     retval = MPI_ERR_TYPE;
508   } else if (op == MPI_OP_NULL) {
509     retval = MPI_ERR_OP;
510   } else if (request == nullptr){
511     retval = MPI_ERR_ARG;
512   } else {
513     int rank = simgrid::s4u::this_actor::get_pid();
514     void* sendtmpbuf = sendbuf;
515     if (sendbuf == MPI_IN_PLACE) {
516       sendtmpbuf = static_cast<void*>(xbt_malloc(count * datatype->size()));
517       memcpy(sendtmpbuf, recvbuf, count * datatype->size());
518     }
519     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ? "PMPI_Scan" : "PMPI_Iscan", new simgrid::instr::Pt2PtTIData(
520                                            request==MPI_REQUEST_IGNORED ? "scan":"iscan", -1, 
521                                            datatype->is_replayable() ? count : count * datatype->size(),
522                                            simgrid::smpi::Datatype::encode(datatype)));
523
524     if(request == MPI_REQUEST_IGNORED)
525       retval = simgrid::smpi::Colls::scan(sendtmpbuf, recvbuf, count, datatype, op, comm);
526     else
527       retval = simgrid::smpi::Colls::iscan(sendtmpbuf, recvbuf, count, datatype, op, comm, request);
528
529     TRACE_smpi_comm_out(rank);
530     if (sendbuf == MPI_IN_PLACE)
531       xbt_free(sendtmpbuf);
532   }
533
534   smpi_bench_begin();
535   return retval;
536 }
537
538 int PMPI_Exscan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
539 {
540   return PMPI_Iexscan(sendbuf, recvbuf, count, datatype, op, comm, MPI_REQUEST_IGNORED);
541 }
542
543 int PMPI_Iexscan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm, MPI_Request* request){
544   int retval = 0;
545
546   smpi_bench_end();
547
548   if (comm == MPI_COMM_NULL) {
549     retval = MPI_ERR_COMM;
550   } else if (not datatype->is_valid()) {
551     retval = MPI_ERR_TYPE;
552   } else if (op == MPI_OP_NULL) {
553     retval = MPI_ERR_OP;
554   } else if (request == nullptr){
555     retval = MPI_ERR_ARG;
556   } else {
557     int rank         = simgrid::s4u::this_actor::get_pid();
558     void* sendtmpbuf = sendbuf;
559     if (sendbuf == MPI_IN_PLACE) {
560       sendtmpbuf = static_cast<void*>(xbt_malloc(count * datatype->size()));
561       memcpy(sendtmpbuf, recvbuf, count * datatype->size());
562     }
563
564     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ? "PMPI_Exscan" : "PMPI_Iexscan", new simgrid::instr::Pt2PtTIData(
565                                            request==MPI_REQUEST_IGNORED ? "exscan":"iexscan", -1, datatype->is_replayable() ? count : count * datatype->size(),
566                                            simgrid::smpi::Datatype::encode(datatype)));
567
568     if(request == MPI_REQUEST_IGNORED)
569       retval = simgrid::smpi::Colls::exscan(sendtmpbuf, recvbuf, count, datatype, op, comm);
570     else
571       retval = simgrid::smpi::Colls::iexscan(sendtmpbuf, recvbuf, count, datatype, op, comm, request);
572
573     TRACE_smpi_comm_out(rank);
574     if (sendbuf == MPI_IN_PLACE)
575       xbt_free(sendtmpbuf);
576   }
577
578   smpi_bench_begin();
579   return retval;
580 }
581
582 int PMPI_Reduce_scatter(void *sendbuf, void *recvbuf, int *recvcounts, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
583 {
584   return PMPI_Ireduce_scatter(sendbuf, recvbuf, recvcounts, datatype, op, comm, MPI_REQUEST_IGNORED);
585 }
586
587 int PMPI_Ireduce_scatter(void *sendbuf, void *recvbuf, int *recvcounts, MPI_Datatype datatype, MPI_Op op, MPI_Comm comm, MPI_Request *request)
588 {
589   int retval = 0;
590   smpi_bench_end();
591
592   if (comm == MPI_COMM_NULL) {
593     retval = MPI_ERR_COMM;
594   } else if (not datatype->is_valid()) {
595     retval = MPI_ERR_TYPE;
596   } else if (op == MPI_OP_NULL) {
597     retval = MPI_ERR_OP;
598   } else if (recvcounts == nullptr) {
599     retval = MPI_ERR_ARG;
600   }  else if (request == nullptr){
601     retval = MPI_ERR_ARG;
602   } else {
603     int rank                           = simgrid::s4u::this_actor::get_pid();
604     std::vector<int>* trace_recvcounts = new std::vector<int>;
605     int dt_send_size                   = datatype->is_replayable() ? 1 : datatype->size();
606     int totalcount    = 0;
607
608     for (int i = 0; i < comm->size(); i++) { // copy data to avoid bad free
609       trace_recvcounts->push_back(recvcounts[i] * dt_send_size);
610       totalcount += recvcounts[i];
611     }
612
613     void* sendtmpbuf = sendbuf;
614     if (sendbuf == MPI_IN_PLACE) {
615       sendtmpbuf = static_cast<void*>(xbt_malloc(totalcount * datatype->size()));
616       memcpy(sendtmpbuf, recvbuf, totalcount * datatype->size());
617     }
618
619     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ? "PMPI_Reduce_scatter": "PMPI_Ireduce_scatter", new simgrid::instr::VarCollTIData(
620                                            request==MPI_REQUEST_IGNORED ? "reducescatter":"ireducescatter", -1, dt_send_size, nullptr, -1, trace_recvcounts,
621                                            simgrid::smpi::Datatype::encode(datatype), ""));
622
623     if(request == MPI_REQUEST_IGNORED)
624       simgrid::smpi::Colls::reduce_scatter(sendtmpbuf, recvbuf, recvcounts, datatype, op, comm);
625     else
626       simgrid::smpi::Colls::ireduce_scatter(sendtmpbuf, recvbuf, recvcounts, datatype, op, comm, request);
627
628     retval = MPI_SUCCESS;
629     TRACE_smpi_comm_out(rank);
630
631     if (sendbuf == MPI_IN_PLACE)
632       xbt_free(sendtmpbuf);
633   }
634
635   smpi_bench_begin();
636   return retval;
637 }
638
639 int PMPI_Reduce_scatter_block(void *sendbuf, void *recvbuf, int recvcount,
640                               MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
641 {
642   return PMPI_Ireduce_scatter_block(sendbuf, recvbuf, recvcount, datatype, op, comm, MPI_REQUEST_IGNORED);
643 }
644
645 int PMPI_Ireduce_scatter_block(void *sendbuf, void *recvbuf, int recvcount,
646                               MPI_Datatype datatype, MPI_Op op, MPI_Comm comm, MPI_Request *request)
647 {
648   int retval;
649   smpi_bench_end();
650
651   if (comm == MPI_COMM_NULL) {
652     retval = MPI_ERR_COMM;
653   } else if (not datatype->is_valid()) {
654     retval = MPI_ERR_TYPE;
655   } else if (op == MPI_OP_NULL) {
656     retval = MPI_ERR_OP;
657   } else if (recvcount < 0) {
658     retval = MPI_ERR_ARG;
659   } else if (request == nullptr){
660     retval = MPI_ERR_ARG;
661   }  else {
662     int count = comm->size();
663
664     int rank                           = simgrid::s4u::this_actor::get_pid();
665     int dt_send_size                   = datatype->is_replayable() ? 1 : datatype->size();
666     std::vector<int>* trace_recvcounts = new std::vector<int>(recvcount * dt_send_size); // copy data to avoid bad free
667
668     void* sendtmpbuf       = sendbuf;
669     if (sendbuf == MPI_IN_PLACE) {
670       sendtmpbuf = static_cast<void*>(xbt_malloc(recvcount * count * datatype->size()));
671       memcpy(sendtmpbuf, recvbuf, recvcount * count * datatype->size());
672     }
673
674     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED ? "PMPI_Reduce_scatter_block":"PMPI_Ireduce_scatter_block",
675                        new simgrid::instr::VarCollTIData(request==MPI_REQUEST_IGNORED ? "reducescatter":"ireducescatter", -1, 0, nullptr, -1, trace_recvcounts,
676                                                          simgrid::smpi::Datatype::encode(datatype), ""));
677
678     int* recvcounts = new int[count];
679     for (int i      = 0; i < count; i++)
680       recvcounts[i] = recvcount;
681     if(request == MPI_REQUEST_IGNORED)
682       simgrid::smpi::Colls::reduce_scatter(sendtmpbuf, recvbuf, recvcounts, datatype, op, comm);
683     else
684       simgrid::smpi::Colls::ireduce_scatter(sendtmpbuf, recvbuf, recvcounts, datatype, op, comm, request);
685     delete[] recvcounts;
686     retval = MPI_SUCCESS;
687
688     TRACE_smpi_comm_out(rank);
689
690     if (sendbuf == MPI_IN_PLACE)
691       xbt_free(sendtmpbuf);
692   }
693
694   smpi_bench_begin();
695   return retval;
696 }
697 int PMPI_Alltoall(void* sendbuf, int sendcount, MPI_Datatype sendtype, void* recvbuf, int recvcount,
698                   MPI_Datatype recvtype, MPI_Comm comm){
699   return PMPI_Ialltoall(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, comm, MPI_REQUEST_IGNORED);
700 }
701                   
702 int PMPI_Ialltoall(void* sendbuf, int sendcount, MPI_Datatype sendtype, void* recvbuf, int recvcount,
703                   MPI_Datatype recvtype, MPI_Comm comm, MPI_Request *request)
704 {
705   int retval = 0;
706   smpi_bench_end();
707
708   if (comm == MPI_COMM_NULL) {
709     retval = MPI_ERR_COMM;
710   } else if ((sendbuf != MPI_IN_PLACE && sendtype == MPI_DATATYPE_NULL) || recvtype == MPI_DATATYPE_NULL) {
711     retval = MPI_ERR_TYPE;
712   } else if (request == nullptr){
713     retval = MPI_ERR_ARG;
714   } else {
715     int rank                 = simgrid::s4u::this_actor::get_pid();
716     void* sendtmpbuf         = static_cast<char*>(sendbuf);
717     int sendtmpcount         = sendcount;
718     MPI_Datatype sendtmptype = sendtype;
719     if (sendbuf == MPI_IN_PLACE) {
720       sendtmpbuf = static_cast<void*>(xbt_malloc(recvcount * comm->size() * recvtype->size()));
721       memcpy(sendtmpbuf, recvbuf, recvcount * comm->size() * recvtype->size());
722       sendtmpcount = recvcount;
723       sendtmptype  = recvtype;
724     }
725
726     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Alltoall":"PMPI_Ialltoall",
727                        new simgrid::instr::CollTIData(
728                            request==MPI_REQUEST_IGNORED ? "alltoall" : "ialltoall", -1, -1.0,
729                            sendtmptype->is_replayable() ? sendtmpcount : sendtmpcount * sendtmptype->size(),
730                            recvtype->is_replayable() ? recvcount : recvcount * recvtype->size(),
731                            simgrid::smpi::Datatype::encode(sendtmptype), simgrid::smpi::Datatype::encode(recvtype)));
732     if(request == MPI_REQUEST_IGNORED)
733       retval = simgrid::smpi::Colls::alltoall(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcount, recvtype, comm);
734     else
735       retval = simgrid::smpi::Colls::ialltoall(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcount, recvtype, comm, request);
736
737     TRACE_smpi_comm_out(rank);
738
739     if (sendbuf == MPI_IN_PLACE)
740       xbt_free(sendtmpbuf);
741   }
742
743   smpi_bench_begin();
744   return retval;
745 }
746
747 int PMPI_Alltoallv(void* sendbuf, int* sendcounts, int* senddisps, MPI_Datatype sendtype, void* recvbuf,
748                    int* recvcounts, int* recvdisps, MPI_Datatype recvtype, MPI_Comm comm)
749 {
750   return PMPI_Ialltoallv(sendbuf, sendcounts, senddisps, sendtype, recvbuf, recvcounts, recvdisps, recvtype, comm, MPI_REQUEST_IGNORED);
751 }
752
753 int PMPI_Ialltoallv(void* sendbuf, int* sendcounts, int* senddisps, MPI_Datatype sendtype, void* recvbuf,
754                    int* recvcounts, int* recvdisps, MPI_Datatype recvtype, MPI_Comm comm, MPI_Request *request)
755 {
756   int retval = 0;
757
758   smpi_bench_end();
759
760   if (comm == MPI_COMM_NULL) {
761     retval = MPI_ERR_COMM;
762   } else if ((sendbuf != MPI_IN_PLACE && sendtype == MPI_DATATYPE_NULL)  || recvtype == MPI_DATATYPE_NULL) {
763     retval = MPI_ERR_TYPE;
764   } else if ((sendbuf != MPI_IN_PLACE && (sendcounts == nullptr || senddisps == nullptr)) || recvcounts == nullptr ||
765              recvdisps == nullptr) {
766     retval = MPI_ERR_ARG;
767   } else if (request == nullptr){
768     retval = MPI_ERR_ARG;
769   }  else {
770     int rank                           = simgrid::s4u::this_actor::get_pid();
771     int size               = comm->size();
772     int send_size                      = 0;
773     int recv_size                      = 0;
774     std::vector<int>* trace_sendcounts = new std::vector<int>;
775     std::vector<int>* trace_recvcounts = new std::vector<int>;
776     int dt_size_recv       = recvtype->size();
777
778     void* sendtmpbuf         = static_cast<char*>(sendbuf);
779     int* sendtmpcounts       = sendcounts;
780     int* sendtmpdisps        = senddisps;
781     MPI_Datatype sendtmptype = sendtype;
782     int maxsize              = 0;
783     for (int i = 0; i < size; i++) { // copy data to avoid bad free
784       recv_size += recvcounts[i] * dt_size_recv;
785       trace_recvcounts->push_back(recvcounts[i] * dt_size_recv);
786       if (((recvdisps[i] + recvcounts[i]) * dt_size_recv) > maxsize)
787         maxsize = (recvdisps[i] + recvcounts[i]) * dt_size_recv;
788     }
789
790     if (sendbuf == MPI_IN_PLACE) {
791       sendtmpbuf = static_cast<void*>(xbt_malloc(maxsize));
792       memcpy(sendtmpbuf, recvbuf, maxsize);
793       sendtmpcounts = static_cast<int*>(xbt_malloc(size * sizeof(int)));
794       memcpy(sendtmpcounts, recvcounts, size * sizeof(int));
795       sendtmpdisps = static_cast<int*>(xbt_malloc(size * sizeof(int)));
796       memcpy(sendtmpdisps, recvdisps, size * sizeof(int));
797       sendtmptype = recvtype;
798     }
799
800     int dt_size_send = sendtmptype->size();
801
802     for (int i = 0; i < size; i++) { // copy data to avoid bad free
803       send_size += sendtmpcounts[i] * dt_size_send;
804       trace_sendcounts->push_back(sendtmpcounts[i] * dt_size_send);
805     }
806
807     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Alltoallv":"PMPI_Ialltoallv",
808                        new simgrid::instr::VarCollTIData(request==MPI_REQUEST_IGNORED ? "alltoallv":"ialltoallv", -1, send_size, trace_sendcounts, recv_size,
809                                                          trace_recvcounts, simgrid::smpi::Datatype::encode(sendtmptype),
810                                                          simgrid::smpi::Datatype::encode(recvtype)));
811
812     if(request == MPI_REQUEST_IGNORED)
813       retval = simgrid::smpi::Colls::alltoallv(sendtmpbuf, sendtmpcounts, sendtmpdisps, sendtmptype, recvbuf, recvcounts,
814                                     recvdisps, recvtype, comm);
815     else
816       retval = simgrid::smpi::Colls::ialltoallv(sendtmpbuf, sendtmpcounts, sendtmpdisps, sendtmptype, recvbuf, recvcounts,
817                                     recvdisps, recvtype, comm, request);
818     TRACE_smpi_comm_out(rank);
819
820     if (sendbuf == MPI_IN_PLACE) {
821       xbt_free(sendtmpbuf);
822       xbt_free(sendtmpcounts);
823       xbt_free(sendtmpdisps);
824     }
825   }
826
827   smpi_bench_begin();
828   return retval;
829 }
830
831 int PMPI_Alltoallw(void* sendbuf, int* sendcounts, int* senddisps, MPI_Datatype* sendtypes, void* recvbuf,
832                    int* recvcounts, int* recvdisps, MPI_Datatype* recvtypes, MPI_Comm comm)
833 {
834   return PMPI_Ialltoallw(sendbuf, sendcounts, senddisps, sendtypes, recvbuf, recvcounts, recvdisps, recvtypes, comm, MPI_REQUEST_IGNORED);
835 }
836
837 int PMPI_Ialltoallw(void* sendbuf, int* sendcounts, int* senddisps, MPI_Datatype* sendtypes, void* recvbuf,
838                    int* recvcounts, int* recvdisps, MPI_Datatype* recvtypes, MPI_Comm comm, MPI_Request *request)
839 {
840   int retval = 0;
841
842   smpi_bench_end();
843
844   if (comm == MPI_COMM_NULL) {
845     retval = MPI_ERR_COMM;
846   } else if ((sendbuf != MPI_IN_PLACE && sendtypes == nullptr)  || recvtypes == nullptr) {
847     retval = MPI_ERR_TYPE;
848   } else if ((sendbuf != MPI_IN_PLACE && (sendcounts == nullptr || senddisps == nullptr)) || recvcounts == nullptr ||
849              recvdisps == nullptr) {
850     retval = MPI_ERR_ARG;
851   } else if (request == nullptr){
852     retval = MPI_ERR_ARG;
853   }  else {
854     int rank                           = simgrid::s4u::this_actor::get_pid();
855     int size                           = comm->size();
856     int send_size                      = 0;
857     int recv_size                      = 0;
858     std::vector<int>* trace_sendcounts = new std::vector<int>;
859     std::vector<int>* trace_recvcounts = new std::vector<int>;
860
861     void* sendtmpbuf           = static_cast<char*>(sendbuf);
862     int* sendtmpcounts         = sendcounts;
863     int* sendtmpdisps          = senddisps;
864     MPI_Datatype* sendtmptypes = sendtypes;
865     unsigned long maxsize                = 0;
866     for (int i = 0; i < size; i++) { // copy data to avoid bad free
867       if(recvtypes[i]==MPI_DATATYPE_NULL){
868         delete trace_recvcounts;
869         delete trace_sendcounts;
870         return MPI_ERR_TYPE;
871       }
872       recv_size += recvcounts[i] * recvtypes[i]->size();
873       trace_recvcounts->push_back(recvcounts[i] * recvtypes[i]->size());
874       if ((recvdisps[i] + (recvcounts[i] * recvtypes[i]->size())) > maxsize)
875         maxsize = recvdisps[i] + (recvcounts[i] * recvtypes[i]->size());
876     }
877
878     if (sendbuf == MPI_IN_PLACE) {
879       sendtmpbuf = static_cast<void*>(xbt_malloc(maxsize));
880       memcpy(sendtmpbuf, recvbuf, maxsize);
881       sendtmpcounts = static_cast<int*>(xbt_malloc(size * sizeof(int)));
882       memcpy(sendtmpcounts, recvcounts, size * sizeof(int));
883       sendtmpdisps = static_cast<int*>(xbt_malloc(size * sizeof(int)));
884       memcpy(sendtmpdisps, recvdisps, size * sizeof(int));
885       sendtmptypes = static_cast<MPI_Datatype*>(xbt_malloc(size * sizeof(MPI_Datatype)));
886       memcpy(sendtmptypes, recvtypes, size * sizeof(MPI_Datatype));
887     }
888
889     for (int i = 0; i < size; i++) { // copy data to avoid bad free
890       send_size += sendtmpcounts[i] * sendtmptypes[i]->size();
891       trace_sendcounts->push_back(sendtmpcounts[i] * sendtmptypes[i]->size());
892     }
893
894     TRACE_smpi_comm_in(rank, request==MPI_REQUEST_IGNORED?"PMPI_Alltoallw":"PMPI_Ialltoallw",
895                        new simgrid::instr::VarCollTIData(request==MPI_REQUEST_IGNORED ? "alltoallv":"ialltoallv", -1, send_size, trace_sendcounts, recv_size,
896                                                          trace_recvcounts, simgrid::smpi::Datatype::encode(sendtmptypes[0]),
897                                                          simgrid::smpi::Datatype::encode(recvtypes[0])));
898
899     if(request == MPI_REQUEST_IGNORED)
900       retval = simgrid::smpi::Colls::alltoallw(sendtmpbuf, sendtmpcounts, sendtmpdisps, sendtmptypes, recvbuf, recvcounts,
901                                     recvdisps, recvtypes, comm);
902     else
903       retval = simgrid::smpi::Colls::ialltoallw(sendtmpbuf, sendtmpcounts, sendtmpdisps, sendtmptypes, recvbuf, recvcounts,
904                                     recvdisps, recvtypes, comm, request);
905     TRACE_smpi_comm_out(rank);
906
907     if (sendbuf == MPI_IN_PLACE) {
908       xbt_free(sendtmpbuf);
909       xbt_free(sendtmpcounts);
910       xbt_free(sendtmpdisps);
911       xbt_free(sendtmptypes);
912     }
913   }
914
915   smpi_bench_begin();
916   return retval;
917 }