Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
f3269fd81c14b05975a97f4cef20adeeea273ca0
[simgrid.git] / src / smpi / smpi_pmpi.c
1 /* Copyright (c) 2007, 2008, 2009, 2010. The SimGrid Team.
2  * All rights reserved.                                                     */
3
4 /* This program is free software; you can redistribute it and/or modify it
5   * under the terms of the license (GNU LGPL) which comes with this package. */
6
7 #include "private.h"
8 #include "smpi_mpi_dt_private.h"
9
10 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(smpi_pmpi, smpi,
11                                 "Logging specific to SMPI (pmpi)");
12
13 #ifdef HAVE_TRACING
14 //this function need to be here because of the calls to smpi_bench
15 void TRACE_smpi_set_category(const char *category)
16 {
17   //need to end bench otherwise categories for execution tasks are wrong
18   smpi_bench_end();
19   TRACE_internal_smpi_set_category (category);
20   //begin bench after changing process's category
21   smpi_bench_begin();
22 }
23 #endif
24
25 /* PMPI User level calls */
26
27 int PMPI_Init(int *argc, char ***argv)
28 {
29   smpi_process_init(argc, argv);
30   smpi_process_mark_as_initialized();
31 #ifdef HAVE_TRACING
32   int rank = smpi_process_index();
33   TRACE_smpi_init(rank);
34
35   TRACE_smpi_computing_init(rank);
36 #endif
37   smpi_bench_begin();
38   return MPI_SUCCESS;
39 }
40
41 int PMPI_Finalize(void)
42 {
43   smpi_process_finalize();
44   smpi_bench_end();
45 #ifdef HAVE_TRACING
46   int rank = smpi_process_index();
47   TRACE_smpi_computing_out(rank);
48   TRACE_smpi_finalize(smpi_process_index());
49 #endif
50   smpi_process_destroy();
51   return MPI_SUCCESS;
52 }
53
54 int PMPI_Finalized(int* flag)
55 {
56   *flag=smpi_process_finalized();
57   return MPI_SUCCESS;
58 }
59
60 int PMPI_Get_version (int *version,int *subversion){
61   *version = MPI_VERSION;
62   *subversion= MPI_SUBVERSION;
63   return MPI_SUCCESS;
64 }
65
66 int PMPI_Get_library_version (char *version,int *len){
67   int retval = MPI_SUCCESS;
68   smpi_bench_end();
69   snprintf(version,MPI_MAX_LIBRARY_VERSION_STRING,"SMPI Version %d.%d. Copyright The Simgrid Team 2007-2013",SIMGRID_VERSION_MAJOR,
70           SIMGRID_VERSION_MINOR);
71   *len = strlen(version) > MPI_MAX_LIBRARY_VERSION_STRING ? MPI_MAX_LIBRARY_VERSION_STRING : strlen(version);
72   smpi_bench_begin();
73   return retval;
74 }
75
76 int PMPI_Init_thread(int *argc, char ***argv, int required, int *provided)
77 {
78   if (provided != NULL) {
79     *provided = MPI_THREAD_MULTIPLE;
80   }
81   return MPI_Init(argc, argv);
82 }
83
84 int PMPI_Query_thread(int *provided)
85 {
86   int retval;
87
88   smpi_bench_end();
89   if (provided == NULL) {
90     retval = MPI_ERR_ARG;
91   } else {
92     *provided = MPI_THREAD_MULTIPLE;
93     retval = MPI_SUCCESS;
94   }
95   smpi_bench_begin();
96   return retval;
97 }
98
99 int PMPI_Is_thread_main(int *flag)
100 {
101   int retval;
102
103   smpi_bench_end();
104   if (flag == NULL) {
105     retval = MPI_ERR_ARG;
106   } else {
107     *flag = smpi_process_index() == 0;
108     retval = MPI_SUCCESS;
109   }
110   smpi_bench_begin();
111   return retval;
112 }
113
114 int PMPI_Abort(MPI_Comm comm, int errorcode)
115 {
116   smpi_bench_end();
117   smpi_process_destroy();
118 #ifdef HAVE_TRACING
119   int rank = smpi_process_index();
120   TRACE_smpi_computing_out(rank);
121 #endif
122   // FIXME: should kill all processes in comm instead
123   simcall_process_kill(SIMIX_process_self());
124   return MPI_SUCCESS;
125 }
126
127 double PMPI_Wtime(void)
128 {
129   double time;
130
131   smpi_bench_end();
132   time = SIMIX_get_clock();
133   smpi_bench_begin();
134   return time;
135 }
136 extern double sg_maxmin_precision;
137 double PMPI_Wtick(void)
138 {
139   return sg_maxmin_precision;
140 }
141
142 int PMPI_Address(void *location, MPI_Aint * address)
143 {
144   int retval;
145
146   smpi_bench_end();
147   if (!address) {
148     retval = MPI_ERR_ARG;
149   } else {
150     *address = (MPI_Aint) location;
151     retval = MPI_SUCCESS;
152   }
153   smpi_bench_begin();
154   return retval;
155 }
156
157 int PMPI_Get_address(void *location, MPI_Aint * address)
158 {
159   return PMPI_Address(location, address);
160 }
161
162 int PMPI_Type_free(MPI_Datatype * datatype)
163 {
164   int retval;
165
166   smpi_bench_end();
167   if (!datatype) {
168     retval = MPI_ERR_ARG;
169   } else {
170     smpi_datatype_free(datatype);
171     retval = MPI_SUCCESS;
172   }
173   smpi_bench_begin();
174   return retval;
175 }
176
177 int PMPI_Type_size(MPI_Datatype datatype, int *size)
178 {
179   int retval;
180
181   smpi_bench_end();
182   if (datatype == MPI_DATATYPE_NULL) {
183     retval = MPI_ERR_TYPE;
184   } else if (size == NULL) {
185     retval = MPI_ERR_ARG;
186   } else {
187     *size = (int) smpi_datatype_size(datatype);
188     retval = MPI_SUCCESS;
189   }
190   smpi_bench_begin();
191   return retval;
192 }
193
194 int PMPI_Type_get_extent(MPI_Datatype datatype, MPI_Aint * lb, MPI_Aint * extent)
195 {
196   int retval;
197
198   smpi_bench_end();
199   if (datatype == MPI_DATATYPE_NULL) {
200     retval = MPI_ERR_TYPE;
201   } else if (lb == NULL || extent == NULL) {
202     retval = MPI_ERR_ARG;
203   } else {
204     retval = smpi_datatype_extent(datatype, lb, extent);
205   }
206   smpi_bench_begin();
207   return retval;
208 }
209
210 int PMPI_Type_get_true_extent(MPI_Datatype datatype, MPI_Aint * lb, MPI_Aint * extent)
211 {
212   return PMPI_Type_get_extent(datatype, lb, extent);
213 }
214
215 int PMPI_Type_extent(MPI_Datatype datatype, MPI_Aint * extent)
216 {
217   int retval;
218
219   smpi_bench_end();
220   if (datatype == MPI_DATATYPE_NULL) {
221     retval = MPI_ERR_TYPE;
222   } else if (extent == NULL) {
223     retval = MPI_ERR_ARG;
224   } else {
225     *extent = smpi_datatype_get_extent(datatype);
226     retval = MPI_SUCCESS;
227   }
228   smpi_bench_begin();
229   return retval;
230 }
231
232 int PMPI_Type_lb(MPI_Datatype datatype, MPI_Aint * disp)
233 {
234   int retval;
235
236   smpi_bench_end();
237   if (datatype == MPI_DATATYPE_NULL) {
238     retval = MPI_ERR_TYPE;
239   } else if (disp == NULL) {
240     retval = MPI_ERR_ARG;
241   } else {
242     *disp = smpi_datatype_lb(datatype);
243     retval = MPI_SUCCESS;
244   }
245   smpi_bench_begin();
246   return retval;
247 }
248
249 int PMPI_Type_ub(MPI_Datatype datatype, MPI_Aint * disp)
250 {
251   int retval;
252
253   smpi_bench_end();
254   if (datatype == MPI_DATATYPE_NULL) {
255     retval = MPI_ERR_TYPE;
256   } else if (disp == NULL) {
257     retval = MPI_ERR_ARG;
258   } else {
259     *disp = smpi_datatype_ub(datatype);
260     retval = MPI_SUCCESS;
261   }
262   smpi_bench_begin();
263   return retval;
264 }
265
266 int PMPI_Op_create(MPI_User_function * function, int commute, MPI_Op * op)
267 {
268   int retval;
269
270   smpi_bench_end();
271   if (function == NULL || op == NULL) {
272     retval = MPI_ERR_ARG;
273   } else {
274     *op = smpi_op_new(function, commute);
275     retval = MPI_SUCCESS;
276   }
277   smpi_bench_begin();
278   return retval;
279 }
280
281 int PMPI_Op_free(MPI_Op * op)
282 {
283   int retval;
284
285   smpi_bench_end();
286   if (op == NULL) {
287     retval = MPI_ERR_ARG;
288   } else if (*op == MPI_OP_NULL) {
289     retval = MPI_ERR_OP;
290   } else {
291     smpi_op_destroy(*op);
292     *op = MPI_OP_NULL;
293     retval = MPI_SUCCESS;
294   }
295   smpi_bench_begin();
296   return retval;
297 }
298
299 int PMPI_Group_free(MPI_Group * group)
300 {
301   int retval;
302
303   smpi_bench_end();
304   if (group == NULL) {
305     retval = MPI_ERR_ARG;
306   } else {
307     smpi_group_destroy(*group);
308     *group = MPI_GROUP_NULL;
309     retval = MPI_SUCCESS;
310   }
311   smpi_bench_begin();
312   return retval;
313 }
314
315 int PMPI_Group_size(MPI_Group group, int *size)
316 {
317   int retval;
318
319   smpi_bench_end();
320   if (group == MPI_GROUP_NULL) {
321     retval = MPI_ERR_GROUP;
322   } else if (size == NULL) {
323     retval = MPI_ERR_ARG;
324   } else {
325     *size = smpi_group_size(group);
326     retval = MPI_SUCCESS;
327   }
328   smpi_bench_begin();
329   return retval;
330 }
331
332 int PMPI_Group_rank(MPI_Group group, int *rank)
333 {
334   int retval;
335
336   smpi_bench_end();
337   if (group == MPI_GROUP_NULL) {
338     retval = MPI_ERR_GROUP;
339   } else if (rank == NULL) {
340     retval = MPI_ERR_ARG;
341   } else {
342     *rank = smpi_group_rank(group, smpi_process_index());
343     retval = MPI_SUCCESS;
344   }
345   smpi_bench_begin();
346   return retval;
347 }
348
349 int PMPI_Group_translate_ranks(MPI_Group group1, int n, int *ranks1,
350                               MPI_Group group2, int *ranks2)
351 {
352   int retval, i, index;
353   smpi_bench_end();
354   if (group1 == MPI_GROUP_NULL || group2 == MPI_GROUP_NULL) {
355     retval = MPI_ERR_GROUP;
356   } else {
357     for (i = 0; i < n; i++) {
358       if(ranks1[i]==MPI_PROC_NULL){
359         ranks2[i]=MPI_PROC_NULL;
360       }else{
361         index = smpi_group_index(group1, ranks1[i]);
362         ranks2[i] = smpi_group_rank(group2, index);
363       }
364     }
365     retval = MPI_SUCCESS;
366   }
367   smpi_bench_begin();
368   return retval;
369 }
370
371 int PMPI_Group_compare(MPI_Group group1, MPI_Group group2, int *result)
372 {
373   int retval;
374
375   smpi_bench_end();
376   if (group1 == MPI_GROUP_NULL || group2 == MPI_GROUP_NULL) {
377     retval = MPI_ERR_GROUP;
378   } else if (result == NULL) {
379     retval = MPI_ERR_ARG;
380   } else {
381     *result = smpi_group_compare(group1, group2);
382     retval = MPI_SUCCESS;
383   }
384   smpi_bench_begin();
385   return retval;
386 }
387
388 int PMPI_Group_union(MPI_Group group1, MPI_Group group2,
389                     MPI_Group * newgroup)
390 {
391   int retval, i, proc1, proc2, size, size2;
392
393   smpi_bench_end();
394   if (group1 == MPI_GROUP_NULL || group2 == MPI_GROUP_NULL) {
395     retval = MPI_ERR_GROUP;
396   } else if (newgroup == NULL) {
397     retval = MPI_ERR_ARG;
398   } else {
399     size = smpi_group_size(group1);
400     size2 = smpi_group_size(group2);
401     for (i = 0; i < size2; i++) {
402       proc2 = smpi_group_index(group2, i);
403       proc1 = smpi_group_rank(group1, proc2);
404       if (proc1 == MPI_UNDEFINED) {
405         size++;
406       }
407     }
408     if (size == 0) {
409       *newgroup = MPI_GROUP_EMPTY;
410     } else {
411       *newgroup = smpi_group_new(size);
412       size2 = smpi_group_size(group1);
413       for (i = 0; i < size2; i++) {
414         proc1 = smpi_group_index(group1, i);
415         smpi_group_set_mapping(*newgroup, proc1, i);
416       }
417       for (i = size2; i < size; i++) {
418         proc2 = smpi_group_index(group2, i - size2);
419         smpi_group_set_mapping(*newgroup, proc2, i);
420       }
421     }
422     retval = MPI_SUCCESS;
423   }
424   smpi_bench_begin();
425   return retval;
426 }
427
428 int PMPI_Group_intersection(MPI_Group group1, MPI_Group group2,
429                            MPI_Group * newgroup)
430 {
431   int retval, i, proc1, proc2, size;
432
433   smpi_bench_end();
434   if (group1 == MPI_GROUP_NULL || group2 == MPI_GROUP_NULL) {
435     retval = MPI_ERR_GROUP;
436   } else if (newgroup == NULL) {
437     retval = MPI_ERR_ARG;
438   } else {
439     size = smpi_group_size(group2);
440     for (i = 0; i < size; i++) {
441       proc2 = smpi_group_index(group2, i);
442       proc1 = smpi_group_rank(group1, proc2);
443       if (proc1 == MPI_UNDEFINED) {
444         size--;
445       }
446     }
447     if (size == 0) {
448       *newgroup = MPI_GROUP_EMPTY;
449     } else {
450       *newgroup = smpi_group_new(size);
451       int j=0;
452       for (i = 0; i < smpi_group_size(group2); i++) {
453         proc2 = smpi_group_index(group2, i);
454         proc1 = smpi_group_rank(group1, proc2);
455         if (proc1 != MPI_UNDEFINED) {
456           smpi_group_set_mapping(*newgroup, proc2, j);
457           j++;
458         }
459       }
460     }
461     retval = MPI_SUCCESS;
462   }
463   smpi_bench_begin();
464   return retval;
465 }
466
467 int PMPI_Group_difference(MPI_Group group1, MPI_Group group2, MPI_Group * newgroup)
468 {
469   int retval, i, proc1, proc2, size, size2;
470
471   smpi_bench_end();
472   if (group1 == MPI_GROUP_NULL || group2 == MPI_GROUP_NULL) {
473     retval = MPI_ERR_GROUP;
474   } else if (newgroup == NULL) {
475     retval = MPI_ERR_ARG;
476   } else {
477     size = size2 = smpi_group_size(group1);
478     for (i = 0; i < size2; i++) {
479       proc1 = smpi_group_index(group1, i);
480       proc2 = smpi_group_rank(group2, proc1);
481       if (proc2 != MPI_UNDEFINED) {
482         size--;
483       }
484     }
485     if (size == 0) {
486       *newgroup = MPI_GROUP_EMPTY;
487     } else {
488       *newgroup = smpi_group_new(size);
489       for (i = 0; i < size2; i++) {
490         proc1 = smpi_group_index(group1, i);
491         proc2 = smpi_group_rank(group2, proc1);
492         if (proc2 == MPI_UNDEFINED) {
493           smpi_group_set_mapping(*newgroup, proc1, i);
494         }
495       }
496     }
497     retval = MPI_SUCCESS;
498   }
499   smpi_bench_begin();
500   return retval;
501 }
502
503 int PMPI_Group_incl(MPI_Group group, int n, int *ranks, MPI_Group * newgroup)
504 {
505   int retval, i, index;
506
507   smpi_bench_end();
508   if (group == MPI_GROUP_NULL) {
509     retval = MPI_ERR_GROUP;
510   } else if (newgroup == NULL) {
511     retval = MPI_ERR_ARG;
512   } else {
513     if (n == 0) {
514       *newgroup = MPI_GROUP_EMPTY;
515     } else if (n == smpi_group_size(group)) {
516       *newgroup = group;
517       if(group!= smpi_comm_group(MPI_COMM_WORLD)
518                 && group != MPI_GROUP_NULL
519                 && group != smpi_comm_group(MPI_COMM_SELF)
520                 && group != MPI_GROUP_EMPTY)
521       smpi_group_use(group);
522     } else {
523       *newgroup = smpi_group_new(n);
524       for (i = 0; i < n; i++) {
525         index = smpi_group_index(group, ranks[i]);
526         smpi_group_set_mapping(*newgroup, index, i);
527       }
528     }
529     retval = MPI_SUCCESS;
530   }
531   smpi_bench_begin();
532   return retval;
533 }
534
535 int PMPI_Group_excl(MPI_Group group, int n, int *ranks, MPI_Group * newgroup)
536 {
537   int retval, i, j, newsize, oldsize, index;
538
539   smpi_bench_end();
540   if (group == MPI_GROUP_NULL) {
541     retval = MPI_ERR_GROUP;
542   } else if (newgroup == NULL) {
543     retval = MPI_ERR_ARG;
544   } else {
545     if (n == 0) {
546       *newgroup = group;
547       if(group!= smpi_comm_group(MPI_COMM_WORLD)
548                 && group != MPI_GROUP_NULL
549                 && group != smpi_comm_group(MPI_COMM_SELF)
550                 && group != MPI_GROUP_EMPTY)
551       smpi_group_use(group);
552     } else if (n == smpi_group_size(group)) {
553       *newgroup = MPI_GROUP_EMPTY;
554     } else {
555       oldsize=smpi_group_size(group);
556       newsize = oldsize - n;
557       *newgroup = smpi_group_new(newsize);
558
559       int* to_exclude=xbt_new(int, smpi_group_size(group));
560       for(i=0; i<oldsize; i++)
561         to_exclude[i]=0;
562       for(i=0; i<n; i++)
563         to_exclude[ranks[i]]=1;
564
565       j=0;
566       for(i=0; i<oldsize; i++){
567         if(to_exclude[i]==0){
568           index = smpi_group_index(group, i);
569           smpi_group_set_mapping(*newgroup, index, j);
570           j++;
571         }
572       }
573
574       xbt_free(to_exclude);
575     }
576     retval = MPI_SUCCESS;
577   }
578   smpi_bench_begin();
579   return retval;
580 }
581
582 int PMPI_Group_range_incl(MPI_Group group, int n, int ranges[][3],
583                          MPI_Group * newgroup)
584 {
585   int retval, i, j, rank, size, index;
586
587   smpi_bench_end();
588   if (group == MPI_GROUP_NULL) {
589     retval = MPI_ERR_GROUP;
590   } else if (newgroup == NULL) {
591     retval = MPI_ERR_ARG;
592   } else {
593     if (n == 0) {
594       *newgroup = MPI_GROUP_EMPTY;
595     } else {
596       size = 0;
597       for (i = 0; i < n; i++) {
598         for (rank = ranges[i][0];       /* First */
599              rank >= 0; /* Last */
600               ) {
601           size++;
602
603           rank += ranges[i][2]; /* Stride */
604           if (ranges[i][0]<ranges[i][1]){
605               if(rank > ranges[i][1])
606                 break;
607           }else{
608               if(rank < ranges[i][1])
609                 break;
610           }
611         }
612       }
613
614       *newgroup = smpi_group_new(size);
615       j = 0;
616       for (i = 0; i < n; i++) {
617         for (rank = ranges[i][0];     /* First */
618              rank >= 0; /* Last */
619              ) {
620           index = smpi_group_index(group, rank);
621           smpi_group_set_mapping(*newgroup, index, j);
622           j++;
623           rank += ranges[i][2]; /* Stride */
624           if (ranges[i][0]<ranges[i][1]){
625             if(rank > ranges[i][1])
626               break;
627           }else{
628             if(rank < ranges[i][1])
629               break;
630           }
631         }
632       }
633     }
634     retval = MPI_SUCCESS;
635   }
636   smpi_bench_begin();
637   return retval;
638 }
639
640 int PMPI_Group_range_excl(MPI_Group group, int n, int ranges[][3],
641                          MPI_Group * newgroup)
642 {
643   int retval, i, rank, newrank,oldrank, size, index, add;
644
645   smpi_bench_end();
646   if (group == MPI_GROUP_NULL) {
647     retval = MPI_ERR_GROUP;
648   } else if (newgroup == NULL) {
649     retval = MPI_ERR_ARG;
650   } else {
651     if (n == 0) {
652       *newgroup = group;
653       if(group!= smpi_comm_group(MPI_COMM_WORLD)
654                 && group != MPI_GROUP_NULL
655                 && group != smpi_comm_group(MPI_COMM_SELF)
656                 && group != MPI_GROUP_EMPTY)
657       smpi_group_use(group);
658     } else {
659       size = smpi_group_size(group);
660       for (i = 0; i < n; i++) {
661         for (rank = ranges[i][0];       /* First */
662              rank >= 0; /* Last */
663               ) {
664           size--;
665
666           rank += ranges[i][2]; /* Stride */
667           if (ranges[i][0]<ranges[i][1]){
668               if(rank > ranges[i][1])
669                 break;
670           }else{
671               if(rank < ranges[i][1])
672                 break;
673           }
674         }
675       }
676       if (size == 0) {
677         *newgroup = MPI_GROUP_EMPTY;
678       } else {
679         *newgroup = smpi_group_new(size);
680         newrank=0;
681         oldrank=0;
682         while (newrank < size) {
683           add=1;
684           for (i = 0; i < n; i++) {
685             for (rank = ranges[i][0];rank >= 0;){
686               if(rank==oldrank){
687                   add=0;
688                   break;
689               }
690
691               rank += ranges[i][2]; /* Stride */
692
693               if (ranges[i][0]<ranges[i][1]){
694                   if(rank > ranges[i][1])
695                     break;
696               }else{
697                   if(rank < ranges[i][1])
698                     break;
699               }
700             }
701           }
702           if(add==1){
703             index = smpi_group_index(group, oldrank);
704             smpi_group_set_mapping(*newgroup, index, newrank);
705             newrank++;
706           }
707           oldrank++;
708         }
709       }
710     }
711
712     retval = MPI_SUCCESS;
713   }
714   smpi_bench_begin();
715   return retval;
716 }
717
718 int PMPI_Comm_rank(MPI_Comm comm, int *rank)
719 {
720   int retval;
721
722   smpi_bench_end();
723   if (comm == MPI_COMM_NULL) {
724     retval = MPI_ERR_COMM;
725   } else if (rank == NULL) {
726     retval = MPI_ERR_ARG;
727   } else {
728     *rank = smpi_comm_rank(comm);
729     retval = MPI_SUCCESS;
730   }
731   smpi_bench_begin();
732   return retval;
733 }
734
735 int PMPI_Comm_size(MPI_Comm comm, int *size)
736 {
737   int retval;
738
739   smpi_bench_end();
740   if (comm == MPI_COMM_NULL) {
741     retval = MPI_ERR_COMM;
742   } else if (size == NULL) {
743     retval = MPI_ERR_ARG;
744   } else {
745     *size = smpi_comm_size(comm);
746     retval = MPI_SUCCESS;
747   }
748   smpi_bench_begin();
749   return retval;
750 }
751
752 int PMPI_Comm_get_name (MPI_Comm comm, char* name, int* len)
753 {
754   int retval;
755
756   smpi_bench_end();
757   if (comm == MPI_COMM_NULL)  {
758     retval = MPI_ERR_COMM;
759   } else if (name == NULL || len == NULL)  {
760     retval = MPI_ERR_ARG;
761   } else {
762     smpi_comm_get_name(comm, name, len);
763     retval = MPI_SUCCESS;
764   }
765   smpi_bench_begin();
766   return retval;
767 }
768
769 int PMPI_Comm_group(MPI_Comm comm, MPI_Group * group)
770 {
771   int retval;
772
773   smpi_bench_end();
774   if (comm == MPI_COMM_NULL) {
775     retval = MPI_ERR_COMM;
776   } else if (group == NULL) {
777     retval = MPI_ERR_ARG;
778   } else {
779     *group = smpi_comm_group(comm);
780     if(*group!= smpi_comm_group(MPI_COMM_WORLD)
781               && *group != MPI_GROUP_NULL
782               && *group != smpi_comm_group(MPI_COMM_SELF)
783               && *group != MPI_GROUP_EMPTY)
784     smpi_group_use(*group);
785     retval = MPI_SUCCESS;
786   }
787   smpi_bench_begin();
788   return retval;
789 }
790
791 int PMPI_Comm_compare(MPI_Comm comm1, MPI_Comm comm2, int *result)
792 {
793   int retval;
794
795   smpi_bench_end();
796   if (comm1 == MPI_COMM_NULL || comm2 == MPI_COMM_NULL) {
797     retval = MPI_ERR_COMM;
798   } else if (result == NULL) {
799     retval = MPI_ERR_ARG;
800   } else {
801     if (comm1 == comm2) {       /* Same communicators means same groups */
802       *result = MPI_IDENT;
803     } else {
804       *result =
805           smpi_group_compare(smpi_comm_group(comm1),
806                              smpi_comm_group(comm2));
807       if (*result == MPI_IDENT) {
808         *result = MPI_CONGRUENT;
809       }
810     }
811     retval = MPI_SUCCESS;
812   }
813   smpi_bench_begin();
814   return retval;
815 }
816
817 int PMPI_Comm_dup(MPI_Comm comm, MPI_Comm * newcomm)
818 {
819   int retval;
820
821   smpi_bench_end();
822   if (comm == MPI_COMM_NULL) {
823     retval = MPI_ERR_COMM;
824   } else if (newcomm == NULL) {
825     retval = MPI_ERR_ARG;
826   } else {
827     *newcomm = smpi_comm_new(smpi_comm_group(comm));
828     retval = MPI_SUCCESS;
829   }
830   smpi_bench_begin();
831   return retval;
832 }
833
834 int PMPI_Comm_create(MPI_Comm comm, MPI_Group group, MPI_Comm * newcomm)
835 {
836   int retval;
837
838   smpi_bench_end();
839   if (comm == MPI_COMM_NULL) {
840     retval = MPI_ERR_COMM;
841   } else if (group == MPI_GROUP_NULL) {
842     retval = MPI_ERR_GROUP;
843   } else if (newcomm == NULL) {
844     retval = MPI_ERR_ARG;
845   } else if(smpi_group_rank(group,smpi_process_index())==MPI_UNDEFINED){
846     *newcomm= MPI_COMM_NULL;
847     retval = MPI_SUCCESS;
848   }else{
849
850     *newcomm = smpi_comm_new(group);
851     retval = MPI_SUCCESS;
852   }
853   smpi_bench_begin();
854   return retval;
855 }
856
857 int PMPI_Comm_free(MPI_Comm * comm)
858 {
859   int retval;
860
861   smpi_bench_end();
862   if (comm == NULL) {
863     retval = MPI_ERR_ARG;
864   } else if (*comm == MPI_COMM_NULL) {
865     retval = MPI_ERR_COMM;
866   } else {
867     smpi_comm_destroy(*comm);
868     *comm = MPI_COMM_NULL;
869     retval = MPI_SUCCESS;
870   }
871   smpi_bench_begin();
872   return retval;
873 }
874
875 int PMPI_Comm_disconnect(MPI_Comm * comm)
876 {
877   /* TODO: wait until all communication in comm are done */
878   int retval;
879
880   smpi_bench_end();
881   if (comm == NULL) {
882     retval = MPI_ERR_ARG;
883   } else if (*comm == MPI_COMM_NULL) {
884     retval = MPI_ERR_COMM;
885   } else {
886     smpi_comm_destroy(*comm);
887     *comm = MPI_COMM_NULL;
888     retval = MPI_SUCCESS;
889   }
890   smpi_bench_begin();
891   return retval;
892 }
893
894 int PMPI_Comm_split(MPI_Comm comm, int color, int key, MPI_Comm* comm_out)
895 {
896   int retval;
897
898   smpi_bench_end();
899   if (comm_out == NULL) {
900     retval = MPI_ERR_ARG;
901   } else if (comm == MPI_COMM_NULL) {
902     retval = MPI_ERR_COMM;
903   } else {
904     *comm_out = smpi_comm_split(comm, color, key);
905     retval = MPI_SUCCESS;
906   }
907   smpi_bench_begin();
908   return retval;
909 }
910
911 int PMPI_Send_init(void *buf, int count, MPI_Datatype datatype, int dst,
912                   int tag, MPI_Comm comm, MPI_Request * request)
913 {
914   int retval;
915
916   smpi_bench_end();
917   if (request == NULL) {
918     retval = MPI_ERR_ARG;
919   } else if (comm == MPI_COMM_NULL) {
920     retval = MPI_ERR_COMM;
921   } else if (dst == MPI_PROC_NULL) {
922     retval = MPI_SUCCESS;
923   } else {
924     *request = smpi_mpi_send_init(buf, count, datatype, dst, tag, comm);
925     retval = MPI_SUCCESS;
926   }
927   smpi_bench_begin();
928   return retval;
929 }
930
931 int PMPI_Recv_init(void *buf, int count, MPI_Datatype datatype, int src,
932                   int tag, MPI_Comm comm, MPI_Request * request)
933 {
934   int retval;
935
936   smpi_bench_end();
937   if (request == NULL) {
938     retval = MPI_ERR_ARG;
939   } else if (comm == MPI_COMM_NULL) {
940     retval = MPI_ERR_COMM;
941   } else if (src == MPI_PROC_NULL) {
942       retval = MPI_SUCCESS;
943   } else {
944     *request = smpi_mpi_recv_init(buf, count, datatype, src, tag, comm);
945     retval = MPI_SUCCESS;
946   }
947   smpi_bench_begin();
948   return retval;
949 }
950
951 int PMPI_Ssend_init(void* buf, int count, MPI_Datatype datatype, int dst, int tag, MPI_Comm comm, MPI_Request* request) {
952   int retval;
953
954     smpi_bench_end();
955     if (request == NULL) {
956       retval = MPI_ERR_ARG;
957     } else if (comm == MPI_COMM_NULL) {
958       retval = MPI_ERR_COMM;
959     } else if (dst == MPI_PROC_NULL) {
960       retval = MPI_SUCCESS;
961     } else {
962       *request = smpi_mpi_ssend_init(buf, count, datatype, dst, tag, comm);
963       retval = MPI_SUCCESS;
964     }
965     smpi_bench_begin();
966     return retval;
967 }
968
969 int PMPI_Start(MPI_Request * request)
970 {
971   int retval;
972
973   smpi_bench_end();
974   if (request == NULL || *request == MPI_REQUEST_NULL) {
975     retval = MPI_ERR_ARG;
976   } else {
977     smpi_mpi_start(*request);
978     retval = MPI_SUCCESS;
979   }
980   smpi_bench_begin();
981   return retval;
982 }
983
984 int PMPI_Startall(int count, MPI_Request * requests)
985 {
986   int retval;
987
988   smpi_bench_end();
989   if (requests == NULL) {
990     retval = MPI_ERR_ARG;
991   } else {
992     smpi_mpi_startall(count, requests);
993     retval = MPI_SUCCESS;
994   }
995   smpi_bench_begin();
996   return retval;
997 }
998
999 int PMPI_Request_free(MPI_Request * request)
1000 {
1001   int retval;
1002
1003   smpi_bench_end();
1004   if (*request == MPI_REQUEST_NULL) {
1005     retval = MPI_ERR_ARG;
1006   } else {
1007     if((*request)->flags & PERSISTENT)(*request)->refcount--;
1008     smpi_mpi_request_free(request);
1009     retval = MPI_SUCCESS;
1010   }
1011   smpi_bench_begin();
1012   return retval;
1013 }
1014
1015 int PMPI_Irecv(void *buf, int count, MPI_Datatype datatype, int src,
1016               int tag, MPI_Comm comm, MPI_Request * request)
1017 {
1018   int retval;
1019
1020   smpi_bench_end();
1021
1022   if (request == NULL) {
1023     retval = MPI_ERR_ARG;
1024   } else if (comm == MPI_COMM_NULL) {
1025     retval = MPI_ERR_COMM;
1026   } else if (src == MPI_PROC_NULL) {
1027     *request = MPI_REQUEST_NULL;
1028     retval = MPI_SUCCESS;
1029   } else if (src!=MPI_ANY_SOURCE && (src >= smpi_group_size(smpi_comm_group(comm)) || src <0)){
1030     retval = MPI_ERR_COMM;
1031   } else if (count < 0) {
1032     retval = MPI_ERR_COUNT;
1033   } else if (buf==NULL && count > 0) {
1034     retval = MPI_ERR_COUNT;
1035   } else if (datatype == MPI_DATATYPE_NULL){
1036     retval = MPI_ERR_TYPE;
1037   } else if(tag<0 && tag !=  MPI_ANY_TAG){
1038     retval = MPI_ERR_TAG;
1039   } else {
1040
1041 #ifdef HAVE_TRACING
1042   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1043   int src_traced = smpi_group_index(smpi_comm_group(comm), src);
1044   TRACE_smpi_ptp_in(rank, src_traced, rank, __FUNCTION__);
1045 #endif
1046
1047     *request = smpi_mpi_irecv(buf, count, datatype, src, tag, comm);
1048     retval = MPI_SUCCESS;
1049
1050 #ifdef HAVE_TRACING
1051   TRACE_smpi_ptp_out(rank, src_traced, rank, __FUNCTION__);
1052   (*request)->recv = 1;
1053 #endif
1054   }
1055
1056   smpi_bench_begin();
1057   return retval;
1058 }
1059
1060
1061 int PMPI_Isend(void *buf, int count, MPI_Datatype datatype, int dst,
1062               int tag, MPI_Comm comm, MPI_Request * request)
1063 {
1064   int retval;
1065
1066   smpi_bench_end();
1067   if (request == NULL) {
1068     retval = MPI_ERR_ARG;
1069   } else if (comm == MPI_COMM_NULL) {
1070     retval = MPI_ERR_COMM;
1071   } else if (dst == MPI_PROC_NULL) {
1072     *request = MPI_REQUEST_NULL;
1073     retval = MPI_SUCCESS;
1074   } else if (dst >= smpi_group_size(smpi_comm_group(comm)) || dst <0){
1075     retval = MPI_ERR_RANK;
1076   } else if (count < 0) {
1077     retval = MPI_ERR_COUNT;
1078   } else if (buf==NULL && count > 0) {
1079     retval = MPI_ERR_COUNT;
1080   } else if (datatype == MPI_DATATYPE_NULL){
1081     retval = MPI_ERR_TYPE;
1082   } else if(tag<0 && tag !=  MPI_ANY_TAG){
1083     retval = MPI_ERR_TAG;
1084   } else {
1085
1086 #ifdef HAVE_TRACING
1087   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1088   TRACE_smpi_computing_out(rank);
1089   int dst_traced = smpi_group_index(smpi_comm_group(comm), dst);
1090   TRACE_smpi_ptp_in(rank, rank, dst_traced, __FUNCTION__);
1091   TRACE_smpi_send(rank, rank, dst_traced);
1092 #endif
1093
1094     *request = smpi_mpi_isend(buf, count, datatype, dst, tag, comm);
1095     retval = MPI_SUCCESS;
1096
1097 #ifdef HAVE_TRACING
1098   TRACE_smpi_ptp_out(rank, rank, dst_traced, __FUNCTION__);
1099   (*request)->send = 1;
1100   TRACE_smpi_computing_in(rank);
1101 #endif
1102   }
1103
1104   smpi_bench_begin();
1105   return retval;
1106 }
1107
1108 int PMPI_Issend(void* buf, int count, MPI_Datatype datatype, int dst, int tag, MPI_Comm comm, MPI_Request* request) {
1109   int retval;
1110
1111   smpi_bench_end();
1112   if (request == NULL) {
1113     retval = MPI_ERR_ARG;
1114   } else if (comm == MPI_COMM_NULL) {
1115     retval = MPI_ERR_COMM;
1116   } else if (dst == MPI_PROC_NULL) {
1117     *request = MPI_REQUEST_NULL;
1118     retval = MPI_SUCCESS;
1119   } else if (dst >= smpi_group_size(smpi_comm_group(comm)) || dst <0){
1120     retval = MPI_ERR_RANK;
1121   } else if (count < 0) {
1122     retval = MPI_ERR_COUNT;
1123   } else if (buf==NULL && count > 0) {
1124     retval = MPI_ERR_COUNT;
1125   } else if (datatype == MPI_DATATYPE_NULL){
1126     retval = MPI_ERR_TYPE;
1127   } else if(tag<0 && tag !=  MPI_ANY_TAG){
1128     retval = MPI_ERR_TAG;
1129   } else {
1130
1131 #ifdef HAVE_TRACING
1132   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1133   TRACE_smpi_computing_out(rank);
1134   int dst_traced = smpi_group_index(smpi_comm_group(comm), dst);
1135   TRACE_smpi_ptp_in(rank, rank, dst_traced, __FUNCTION__);
1136   TRACE_smpi_send(rank, rank, dst_traced);
1137 #endif
1138
1139     *request = smpi_mpi_issend(buf, count, datatype, dst, tag, comm);
1140     retval = MPI_SUCCESS;
1141
1142 #ifdef HAVE_TRACING
1143   TRACE_smpi_ptp_out(rank, rank, dst_traced, __FUNCTION__);
1144   (*request)->send = 1;
1145   TRACE_smpi_computing_in(rank);
1146 #endif
1147   }
1148
1149   smpi_bench_begin();
1150   return retval;
1151 }
1152
1153 int PMPI_Recv(void *buf, int count, MPI_Datatype datatype, int src, int tag,
1154              MPI_Comm comm, MPI_Status * status)
1155 {
1156   int retval;
1157
1158   smpi_bench_end();
1159   if (comm == MPI_COMM_NULL) {
1160     retval = MPI_ERR_COMM;
1161   } else if (src == MPI_PROC_NULL) {
1162     smpi_empty_status(status);
1163     status->MPI_SOURCE = MPI_PROC_NULL;
1164     retval = MPI_SUCCESS;
1165   } else if (src!=MPI_ANY_SOURCE && (src >= smpi_group_size(smpi_comm_group(comm)) || src <0)){
1166     retval = MPI_ERR_RANK;
1167   } else if (count < 0) {
1168     retval = MPI_ERR_COUNT;
1169   } else if (buf==NULL && count > 0) {
1170     retval = MPI_ERR_COUNT;
1171   } else if (datatype == MPI_DATATYPE_NULL){
1172     retval = MPI_ERR_TYPE;
1173   } else if(tag<0 && tag !=  MPI_ANY_TAG){
1174     retval = MPI_ERR_TAG;
1175   } else {
1176 #ifdef HAVE_TRACING
1177   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1178   int src_traced = smpi_group_index(smpi_comm_group(comm), src);
1179   TRACE_smpi_computing_out(rank);
1180
1181   TRACE_smpi_ptp_in(rank, src_traced, rank, __FUNCTION__);
1182 #endif
1183
1184     smpi_mpi_recv(buf, count, datatype, src, tag, comm, status);
1185     retval = MPI_SUCCESS;
1186
1187 #ifdef HAVE_TRACING
1188   //the src may not have been known at the beginning of the recv (MPI_ANY_SOURCE)
1189   if(status!=MPI_STATUS_IGNORE)src_traced = smpi_group_index(smpi_comm_group(comm), status->MPI_SOURCE);
1190   TRACE_smpi_ptp_out(rank, src_traced, rank, __FUNCTION__);
1191   TRACE_smpi_recv(rank, src_traced, rank);
1192   TRACE_smpi_computing_in(rank);
1193 #endif
1194   }
1195
1196   smpi_bench_begin();
1197   return retval;
1198 }
1199
1200 int PMPI_Send(void *buf, int count, MPI_Datatype datatype, int dst, int tag,
1201              MPI_Comm comm)
1202 {
1203   int retval;
1204
1205   smpi_bench_end();
1206
1207   if (comm == MPI_COMM_NULL) {
1208     retval = MPI_ERR_COMM;
1209   } else if (dst == MPI_PROC_NULL) {
1210     retval = MPI_SUCCESS;
1211   } else if (dst >= smpi_group_size(smpi_comm_group(comm)) || dst <0){
1212     retval = MPI_ERR_RANK;
1213   } else if (count < 0) {
1214     retval = MPI_ERR_COUNT;
1215   } else if (buf==NULL && count > 0) {
1216     retval = MPI_ERR_COUNT;
1217   } else if (datatype == MPI_DATATYPE_NULL){
1218     retval = MPI_ERR_TYPE;
1219   } else if(tag<0 && tag !=  MPI_ANY_TAG){
1220     retval = MPI_ERR_TAG;
1221   } else {
1222
1223 #ifdef HAVE_TRACING
1224   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1225   TRACE_smpi_computing_out(rank);
1226   int dst_traced = smpi_group_index(smpi_comm_group(comm), dst);
1227   TRACE_smpi_ptp_in(rank, rank, dst_traced, __FUNCTION__);
1228   TRACE_smpi_send(rank, rank, dst_traced);
1229 #endif
1230
1231     smpi_mpi_send(buf, count, datatype, dst, tag, comm);
1232     retval = MPI_SUCCESS;
1233
1234 #ifdef HAVE_TRACING
1235   TRACE_smpi_ptp_out(rank, rank, dst_traced, __FUNCTION__);
1236   TRACE_smpi_computing_in(rank);
1237 #endif
1238   }
1239
1240   smpi_bench_begin();
1241   return retval;
1242 }
1243
1244
1245
1246 int PMPI_Ssend(void* buf, int count, MPI_Datatype datatype, int dst, int tag, MPI_Comm comm) {
1247   int retval;
1248
1249    smpi_bench_end();
1250
1251    if (comm == MPI_COMM_NULL) {
1252      retval = MPI_ERR_COMM;
1253    } else if (dst == MPI_PROC_NULL) {
1254      retval = MPI_SUCCESS;
1255    } else if (dst >= smpi_group_size(smpi_comm_group(comm)) || dst <0){
1256      retval = MPI_ERR_RANK;
1257    } else if (count < 0) {
1258      retval = MPI_ERR_COUNT;
1259    } else if (buf==NULL && count > 0) {
1260      retval = MPI_ERR_COUNT;
1261    } else if (datatype == MPI_DATATYPE_NULL){
1262      retval = MPI_ERR_TYPE;
1263    } else if(tag<0 && tag !=  MPI_ANY_TAG){
1264      retval = MPI_ERR_TAG;
1265    } else {
1266
1267  #ifdef HAVE_TRACING
1268    int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1269    TRACE_smpi_computing_out(rank);
1270    int dst_traced = smpi_group_index(smpi_comm_group(comm), dst);
1271    TRACE_smpi_ptp_in(rank, rank, dst_traced, __FUNCTION__);
1272    TRACE_smpi_send(rank, rank, dst_traced);
1273  #endif
1274
1275      smpi_mpi_ssend(buf, count, datatype, dst, tag, comm);
1276      retval = MPI_SUCCESS;
1277
1278  #ifdef HAVE_TRACING
1279    TRACE_smpi_ptp_out(rank, rank, dst_traced, __FUNCTION__);
1280    TRACE_smpi_computing_in(rank);
1281  #endif
1282    }
1283
1284    smpi_bench_begin();
1285    return retval;}
1286
1287
1288 int PMPI_Sendrecv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1289                  int dst, int sendtag, void *recvbuf, int recvcount,
1290                  MPI_Datatype recvtype, int src, int recvtag,
1291                  MPI_Comm comm, MPI_Status * status)
1292 {
1293   int retval;
1294
1295   smpi_bench_end();
1296
1297   if (comm == MPI_COMM_NULL) {
1298     retval = MPI_ERR_COMM;
1299   } else if (sendtype == MPI_DATATYPE_NULL
1300              || recvtype == MPI_DATATYPE_NULL) {
1301     retval = MPI_ERR_TYPE;
1302   } else if (src == MPI_PROC_NULL || dst == MPI_PROC_NULL) {
1303       smpi_empty_status(status);
1304       status->MPI_SOURCE = MPI_PROC_NULL;
1305       retval = MPI_SUCCESS;
1306   }else if (dst >= smpi_group_size(smpi_comm_group(comm)) || dst <0 ||
1307       (src!=MPI_ANY_SOURCE && (src >= smpi_group_size(smpi_comm_group(comm)) || src <0))){
1308     retval = MPI_ERR_RANK;
1309   } else if (sendcount < 0 || recvcount<0) {
1310       retval = MPI_ERR_COUNT;
1311   } else if ((sendbuf==NULL && sendcount > 0)||(recvbuf==NULL && recvcount>0)) {
1312     retval = MPI_ERR_COUNT;
1313   } else if((sendtag<0 && sendtag !=  MPI_ANY_TAG)||(recvtag<0 && recvtag != MPI_ANY_TAG)){
1314     retval = MPI_ERR_TAG;
1315   } else {
1316
1317 #ifdef HAVE_TRACING
1318   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1319   TRACE_smpi_computing_out(rank);
1320   int dst_traced = smpi_group_index(smpi_comm_group(comm), dst);
1321   int src_traced = smpi_group_index(smpi_comm_group(comm), src);
1322   TRACE_smpi_ptp_in(rank, src_traced, dst_traced, __FUNCTION__);
1323   TRACE_smpi_send(rank, rank, dst_traced);
1324 #endif
1325
1326
1327     smpi_mpi_sendrecv(sendbuf, sendcount, sendtype, dst, sendtag, recvbuf,
1328                       recvcount, recvtype, src, recvtag, comm, status);
1329     retval = MPI_SUCCESS;
1330
1331 #ifdef HAVE_TRACING
1332   TRACE_smpi_ptp_out(rank, src_traced, dst_traced, __FUNCTION__);
1333   TRACE_smpi_recv(rank, src_traced, rank);
1334   TRACE_smpi_computing_in(rank);
1335 #endif
1336
1337   }
1338
1339   smpi_bench_begin();
1340   return retval;
1341 }
1342
1343 int PMPI_Sendrecv_replace(void *buf, int count, MPI_Datatype datatype,
1344                          int dst, int sendtag, int src, int recvtag,
1345                          MPI_Comm comm, MPI_Status * status)
1346 {
1347   //TODO: suboptimal implementation
1348   void *recvbuf;
1349   int retval;
1350   if (datatype == MPI_DATATYPE_NULL) {
1351       retval = MPI_ERR_TYPE;
1352   } else if (count < 0) {
1353       retval = MPI_ERR_COUNT;
1354   } else {
1355     int size = smpi_datatype_get_extent(datatype) * count;
1356     recvbuf = xbt_new(char, size);
1357     retval =
1358         MPI_Sendrecv(buf, count, datatype, dst, sendtag, recvbuf, count,
1359                      datatype, src, recvtag, comm, status);
1360     if(retval==MPI_SUCCESS){
1361         smpi_datatype_copy(recvbuf, count, datatype, buf, count, datatype);
1362     }
1363     xbt_free(recvbuf);
1364
1365   }
1366   return retval;
1367 }
1368
1369 int PMPI_Test(MPI_Request * request, int *flag, MPI_Status * status)
1370 {
1371   int retval;
1372
1373   smpi_bench_end();
1374   if (request == MPI_REQUEST_NULL || flag == NULL) {
1375     retval = MPI_ERR_ARG;
1376   } else if (*request == MPI_REQUEST_NULL) {
1377     *flag= TRUE;
1378     retval = MPI_ERR_REQUEST;
1379   } else {
1380     *flag = smpi_mpi_test(request, status);
1381     retval = MPI_SUCCESS;
1382   }
1383   smpi_bench_begin();
1384   return retval;
1385 }
1386
1387 int PMPI_Testany(int count, MPI_Request requests[], int *index, int *flag,
1388                 MPI_Status * status)
1389 {
1390   int retval;
1391
1392   smpi_bench_end();
1393   if (index == NULL || flag == NULL) {
1394     retval = MPI_ERR_ARG;
1395   } else {
1396     *flag = smpi_mpi_testany(count, requests, index, status);
1397     retval = MPI_SUCCESS;
1398   }
1399   smpi_bench_begin();
1400   return retval;
1401 }
1402
1403 int PMPI_Testall(int count, MPI_Request* requests, int* flag, MPI_Status* statuses)
1404 {
1405   int retval;
1406
1407   smpi_bench_end();
1408   if (flag == NULL) {
1409     retval = MPI_ERR_ARG;
1410   } else {
1411     *flag = smpi_mpi_testall(count, requests, statuses);
1412     retval = MPI_SUCCESS;
1413   }
1414   smpi_bench_begin();
1415   return retval;
1416 }
1417
1418 int PMPI_Probe(int source, int tag, MPI_Comm comm, MPI_Status* status) {
1419   int retval;
1420   smpi_bench_end();
1421
1422   if (status == NULL) {
1423     retval = MPI_ERR_ARG;
1424   } else if (comm == MPI_COMM_NULL) {
1425     retval = MPI_ERR_COMM;
1426   } else if (source == MPI_PROC_NULL) {
1427     smpi_empty_status(status);
1428     status->MPI_SOURCE = MPI_PROC_NULL;
1429     retval = MPI_SUCCESS;
1430   } else {
1431     smpi_mpi_probe(source, tag, comm, status);
1432     retval = MPI_SUCCESS;
1433   }
1434   smpi_bench_begin();
1435   return retval;
1436 }
1437
1438
1439 int PMPI_Iprobe(int source, int tag, MPI_Comm comm, int* flag, MPI_Status* status) {
1440   int retval;
1441   smpi_bench_end();
1442
1443   if (flag == NULL) {
1444     retval = MPI_ERR_ARG;
1445   } else if (status == NULL) {
1446     retval = MPI_ERR_ARG;
1447   } else if (comm == MPI_COMM_NULL) {
1448     retval = MPI_ERR_COMM;
1449   } else if (source == MPI_PROC_NULL) {
1450     *flag=TRUE;
1451     smpi_empty_status(status);
1452     status->MPI_SOURCE = MPI_PROC_NULL;
1453     retval = MPI_SUCCESS;
1454   } else {
1455     smpi_mpi_iprobe(source, tag, comm, flag, status);
1456     retval = MPI_SUCCESS;
1457   }
1458   smpi_bench_begin();
1459   return retval;
1460 }
1461
1462 int PMPI_Wait(MPI_Request * request, MPI_Status * status)
1463 {
1464   int retval;
1465
1466   smpi_bench_end();
1467
1468   if (request == NULL) {
1469     retval = MPI_ERR_ARG;
1470   } else if (*request == MPI_REQUEST_NULL) {
1471     retval = MPI_ERR_REQUEST;
1472   } else {
1473
1474 #ifdef HAVE_TRACING
1475   int rank = request && (*request)->comm != MPI_COMM_NULL
1476       ? smpi_process_index()
1477       : -1;
1478   TRACE_smpi_computing_out(rank);
1479
1480   int src_traced = (*request)->src;
1481   int dst_traced = (*request)->dst;
1482   int is_wait_for_receive = (*request)->recv;
1483   TRACE_smpi_ptp_in(rank, src_traced, dst_traced, __FUNCTION__);
1484 #endif
1485
1486     smpi_mpi_wait(request, status);
1487     retval = MPI_SUCCESS;
1488
1489 #ifdef HAVE_TRACING
1490   TRACE_smpi_ptp_out(rank, src_traced, dst_traced, __FUNCTION__);
1491   if (is_wait_for_receive) {
1492     TRACE_smpi_recv(rank, src_traced, dst_traced);
1493   }
1494   TRACE_smpi_computing_in(rank);
1495 #endif
1496
1497   }
1498
1499   smpi_bench_begin();
1500   return retval;
1501 }
1502
1503 int PMPI_Waitany(int count, MPI_Request requests[], int *index, MPI_Status * status)
1504 {
1505   int retval;
1506
1507   smpi_bench_end();
1508 #ifdef HAVE_TRACING
1509   //save requests information for tracing
1510   int i;
1511   int *srcs = xbt_new(int, count);
1512   int *dsts = xbt_new(int, count);
1513   int *recvs = xbt_new(int, count);
1514   for (i = 0; i < count; i++) {
1515     MPI_Request req = requests[i];      //already received requests are no longer valid
1516     if (req) {
1517       srcs[i] = req->src;
1518       dsts[i] = req->dst;
1519       recvs[i] = req->recv;
1520     }
1521   }
1522   int rank_traced = smpi_process_index();
1523   TRACE_smpi_computing_out(rank_traced);
1524
1525   TRACE_smpi_ptp_in(rank_traced, -1, -1, __FUNCTION__);
1526
1527 #endif
1528   if (index == NULL) {
1529     retval = MPI_ERR_ARG;
1530   } else {
1531     *index = smpi_mpi_waitany(count, requests, status);
1532     retval = MPI_SUCCESS;
1533   }
1534 #ifdef HAVE_TRACING
1535   if(*index!=MPI_UNDEFINED){
1536     int src_traced = srcs[*index];
1537     int dst_traced = dsts[*index];
1538     int is_wait_for_receive = recvs[*index];
1539     if (is_wait_for_receive) {
1540       TRACE_smpi_recv(rank_traced, src_traced, dst_traced);
1541     }
1542     TRACE_smpi_ptp_out(rank_traced, src_traced, dst_traced, __FUNCTION__);
1543     xbt_free(srcs);
1544     xbt_free(dsts);
1545     xbt_free(recvs);
1546   }
1547   TRACE_smpi_computing_in(rank_traced);
1548 #endif
1549   smpi_bench_begin();
1550   return retval;
1551 }
1552
1553 int PMPI_Waitall(int count, MPI_Request requests[], MPI_Status status[])
1554 {
1555
1556   smpi_bench_end();
1557 #ifdef HAVE_TRACING
1558   //save information from requests
1559   int i;
1560   int *srcs = xbt_new(int, count);
1561   int *dsts = xbt_new(int, count);
1562   int *recvs = xbt_new(int, count);
1563   int valid_count = 0;
1564   for (i = 0; i < count; i++) {
1565     MPI_Request req = requests[i];
1566     if(req!=MPI_REQUEST_NULL){
1567       srcs[valid_count] = req->src;
1568       dsts[valid_count] = req->dst;
1569       recvs[valid_count] = req->recv;
1570       valid_count++;
1571     }
1572   }
1573   int rank_traced = smpi_process_index();
1574   TRACE_smpi_computing_out(rank_traced);
1575
1576   TRACE_smpi_ptp_in(rank_traced, -1, -1, __FUNCTION__);
1577 #endif
1578   int retval = smpi_mpi_waitall(count, requests, status);
1579 #ifdef HAVE_TRACING
1580   for (i = 0; i < valid_count; i++) {
1581     int src_traced = srcs[i];
1582     int dst_traced = dsts[i];
1583     int is_wait_for_receive = recvs[i];
1584     if (is_wait_for_receive) {
1585       TRACE_smpi_recv(rank_traced, src_traced, dst_traced);
1586     }
1587   }
1588   TRACE_smpi_ptp_out(rank_traced, -1, -1, __FUNCTION__);
1589   xbt_free(srcs);
1590   xbt_free(dsts);
1591   xbt_free(recvs);
1592   TRACE_smpi_computing_in(rank_traced);
1593 #endif
1594   smpi_bench_begin();
1595   return retval;
1596 }
1597
1598 int PMPI_Waitsome(int incount, MPI_Request requests[], int *outcount,
1599                  int *indices, MPI_Status status[])
1600 {
1601   int retval;
1602
1603   smpi_bench_end();
1604   if (outcount == NULL) {
1605     retval = MPI_ERR_ARG;
1606   } else {
1607     *outcount = smpi_mpi_waitsome(incount, requests, indices, status);
1608     retval = MPI_SUCCESS;
1609   }
1610   smpi_bench_begin();
1611   return retval;
1612 }
1613
1614 int PMPI_Testsome(int incount, MPI_Request requests[], int* outcount,
1615                  int* indices, MPI_Status status[])
1616 {
1617   int retval;
1618
1619    smpi_bench_end();
1620    if (outcount == NULL) {
1621      retval = MPI_ERR_ARG;
1622    } else {
1623      *outcount = smpi_mpi_testsome(incount, requests, indices, status);
1624      retval = MPI_SUCCESS;
1625    }
1626    smpi_bench_begin();
1627    return retval;
1628 }
1629
1630
1631 int PMPI_Bcast(void *buf, int count, MPI_Datatype datatype, int root, MPI_Comm comm)
1632 {
1633   int retval;
1634
1635   smpi_bench_end();
1636 #ifdef HAVE_TRACING
1637   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1638   TRACE_smpi_computing_out(rank);
1639   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1640   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1641 #endif
1642   if (comm == MPI_COMM_NULL) {
1643     retval = MPI_ERR_COMM;
1644   } else {
1645     mpi_coll_bcast_fun(buf, count, datatype, root, comm);
1646     retval = MPI_SUCCESS;
1647   }
1648 #ifdef HAVE_TRACING
1649   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1650   TRACE_smpi_computing_in(rank);
1651 #endif
1652   smpi_bench_begin();
1653   return retval;
1654 }
1655
1656 int PMPI_Barrier(MPI_Comm comm)
1657 {
1658   int retval;
1659
1660   smpi_bench_end();
1661 #ifdef HAVE_TRACING
1662   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1663   TRACE_smpi_computing_out(rank);
1664   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
1665 #endif
1666   if (comm == MPI_COMM_NULL) {
1667     retval = MPI_ERR_COMM;
1668   } else {
1669     mpi_coll_barrier_fun(comm);
1670     retval = MPI_SUCCESS;
1671   }
1672 #ifdef HAVE_TRACING
1673   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
1674   TRACE_smpi_computing_in(rank);
1675 #endif
1676   smpi_bench_begin();
1677   return retval;
1678 }
1679
1680 int PMPI_Gather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1681                void *recvbuf, int recvcount, MPI_Datatype recvtype,
1682                int root, MPI_Comm comm)
1683 {
1684   int retval;
1685
1686   smpi_bench_end();
1687 #ifdef HAVE_TRACING
1688   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1689   TRACE_smpi_computing_out(rank);
1690   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1691   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1692 #endif
1693   if (comm == MPI_COMM_NULL) {
1694     retval = MPI_ERR_COMM;
1695   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
1696             ((smpi_comm_rank(comm) == root) && (recvtype == MPI_DATATYPE_NULL))){
1697     retval = MPI_ERR_TYPE;
1698   } else if ((( sendbuf != MPI_IN_PLACE) && (sendcount <0)) ||
1699             ((smpi_comm_rank(comm) == root) && (recvcount <0))){
1700     retval = MPI_ERR_COUNT;
1701   } else {
1702
1703     char* sendtmpbuf = (char*) sendbuf;
1704     int sendtmpcount = sendcount;
1705     MPI_Datatype sendtmptype = sendtype;
1706     if( (smpi_comm_rank(comm) == root) && (sendbuf == MPI_IN_PLACE )) {
1707       sendtmpcount=0;
1708       sendtmptype=recvtype;
1709     }
1710
1711     mpi_coll_gather_fun(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcount,
1712                     recvtype, root, comm);
1713
1714
1715     retval = MPI_SUCCESS;
1716   }
1717 #ifdef HAVE_TRACING
1718   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1719   TRACE_smpi_computing_in(rank);
1720 #endif
1721   smpi_bench_begin();
1722   return retval;
1723 }
1724
1725 int PMPI_Gatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1726                 void *recvbuf, int *recvcounts, int *displs,
1727                 MPI_Datatype recvtype, int root, MPI_Comm comm)
1728 {
1729   int retval;
1730
1731   smpi_bench_end();
1732 #ifdef HAVE_TRACING
1733   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1734   TRACE_smpi_computing_out(rank);
1735   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1736   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1737 #endif
1738   if (comm == MPI_COMM_NULL) {
1739     retval = MPI_ERR_COMM;
1740   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
1741             ((smpi_comm_rank(comm) == root) && (recvtype == MPI_DATATYPE_NULL))){
1742     retval = MPI_ERR_TYPE;
1743   } else if (( sendbuf != MPI_IN_PLACE) && (sendcount <0)){
1744     retval = MPI_ERR_COUNT;
1745   } else if (recvcounts == NULL || displs == NULL) {
1746     retval = MPI_ERR_ARG;
1747   } else {
1748
1749     char* sendtmpbuf = (char*) sendbuf;
1750     int sendtmpcount = sendcount;
1751     MPI_Datatype sendtmptype = sendtype;
1752     if( (smpi_comm_rank(comm) == root) && (sendbuf == MPI_IN_PLACE )) {
1753       sendtmpcount=0;
1754       sendtmptype=recvtype;
1755     }
1756
1757     smpi_mpi_gatherv(sendtmpbuf, sendtmpcount, sendtmptype, recvbuf, recvcounts,
1758                      displs, recvtype, root, comm);
1759     retval = MPI_SUCCESS;
1760   }
1761 #ifdef HAVE_TRACING
1762   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1763   TRACE_smpi_computing_in(rank);
1764 #endif
1765   smpi_bench_begin();
1766   return retval;
1767 }
1768
1769 int PMPI_Allgather(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1770                   void *recvbuf, int recvcount, MPI_Datatype recvtype,
1771                   MPI_Comm comm)
1772 {
1773   int retval;
1774
1775   smpi_bench_end();
1776 #ifdef HAVE_TRACING
1777   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1778   TRACE_smpi_computing_out(rank);
1779   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
1780 #endif
1781   if (comm == MPI_COMM_NULL) {
1782     retval = MPI_ERR_COMM;
1783   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
1784             (recvtype == MPI_DATATYPE_NULL)){
1785     retval = MPI_ERR_TYPE;
1786   } else if ((( sendbuf != MPI_IN_PLACE) && (sendcount <0)) ||
1787             (recvcount <0)){
1788     retval = MPI_ERR_COUNT;
1789   } else {
1790
1791     if(sendbuf == MPI_IN_PLACE) {
1792       sendbuf=((char*)recvbuf)+smpi_datatype_get_extent(recvtype)*recvcount*smpi_comm_rank(comm);
1793       sendcount=recvcount;
1794       sendtype=recvtype;
1795     }
1796
1797     mpi_coll_allgather_fun(sendbuf, sendcount, sendtype, recvbuf, recvcount,
1798                            recvtype, comm);
1799     retval = MPI_SUCCESS;
1800   }
1801 #ifdef HAVE_TRACING
1802   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
1803 #endif
1804   smpi_bench_begin();
1805   return retval;
1806 }
1807
1808 int PMPI_Allgatherv(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1809                    void *recvbuf, int *recvcounts, int *displs,
1810                    MPI_Datatype recvtype, MPI_Comm comm)
1811 {
1812   int retval;
1813
1814   smpi_bench_end();
1815 #ifdef HAVE_TRACING
1816   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1817   TRACE_smpi_computing_out(rank);
1818   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
1819 #endif
1820   if (comm == MPI_COMM_NULL) {
1821     retval = MPI_ERR_COMM;
1822   } else if ((( sendbuf != MPI_IN_PLACE) && (sendtype == MPI_DATATYPE_NULL)) ||
1823             (recvtype == MPI_DATATYPE_NULL)){
1824     retval = MPI_ERR_TYPE;
1825   } else if (( sendbuf != MPI_IN_PLACE) && (sendcount <0)){
1826     retval = MPI_ERR_COUNT;
1827   } else if (recvcounts == NULL || displs == NULL) {
1828     retval = MPI_ERR_ARG;
1829   } else {
1830
1831     if(sendbuf == MPI_IN_PLACE) {
1832       sendbuf=((char*)recvbuf)+smpi_datatype_get_extent(recvtype)*displs[smpi_comm_rank(comm)];
1833       sendcount=recvcounts[smpi_comm_rank(comm)];
1834       sendtype=recvtype;
1835     }
1836
1837     mpi_coll_allgatherv_fun(sendbuf, sendcount, sendtype, recvbuf, recvcounts,
1838                         displs, recvtype, comm);
1839     retval = MPI_SUCCESS;
1840   }
1841 #ifdef HAVE_TRACING
1842   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
1843   TRACE_smpi_computing_in(rank);
1844 #endif
1845   smpi_bench_begin();
1846   return retval;
1847 }
1848
1849 int PMPI_Scatter(void *sendbuf, int sendcount, MPI_Datatype sendtype,
1850                 void *recvbuf, int recvcount, MPI_Datatype recvtype,
1851                 int root, MPI_Comm comm)
1852 {
1853   int retval;
1854
1855   smpi_bench_end();
1856 #ifdef HAVE_TRACING
1857   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1858   TRACE_smpi_computing_out(rank);
1859   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1860
1861   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1862 #endif
1863   if (comm == MPI_COMM_NULL) {
1864     retval = MPI_ERR_COMM;
1865   } else if (((smpi_comm_rank(comm)==root) && (sendtype == MPI_DATATYPE_NULL))
1866              || ((recvbuf !=MPI_IN_PLACE) && (recvtype == MPI_DATATYPE_NULL))) {
1867     retval = MPI_ERR_TYPE;
1868   } else {
1869     if (recvbuf == MPI_IN_PLACE) {
1870         recvtype=sendtype;
1871         recvcount=sendcount;
1872     }
1873     mpi_coll_scatter_fun(sendbuf, sendcount, sendtype, recvbuf, recvcount,
1874                      recvtype, root, comm);
1875     retval = MPI_SUCCESS;
1876   }
1877 #ifdef HAVE_TRACING
1878   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1879   TRACE_smpi_computing_in(rank);
1880 #endif
1881   smpi_bench_begin();
1882   return retval;
1883 }
1884
1885 int PMPI_Scatterv(void *sendbuf, int *sendcounts, int *displs,
1886                  MPI_Datatype sendtype, void *recvbuf, int recvcount,
1887                  MPI_Datatype recvtype, int root, MPI_Comm comm)
1888 {
1889   int retval;
1890
1891   smpi_bench_end();
1892 #ifdef HAVE_TRACING
1893   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1894   TRACE_smpi_computing_out(rank);
1895   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1896   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1897 #endif
1898   if (comm == MPI_COMM_NULL) {
1899     retval = MPI_ERR_COMM;
1900   } else if (sendcounts == NULL || displs == NULL) {
1901     retval = MPI_ERR_ARG;
1902   } else if (((smpi_comm_rank(comm)==root) && (sendtype == MPI_DATATYPE_NULL))
1903              || ((recvbuf !=MPI_IN_PLACE) && (recvtype == MPI_DATATYPE_NULL))) {
1904     retval = MPI_ERR_TYPE;
1905   } else {
1906     if (recvbuf == MPI_IN_PLACE) {
1907         recvtype=sendtype;
1908         recvcount=sendcounts[smpi_comm_rank(comm)];
1909     }
1910     smpi_mpi_scatterv(sendbuf, sendcounts, displs, sendtype, recvbuf,
1911                       recvcount, recvtype, root, comm);
1912     retval = MPI_SUCCESS;
1913   }
1914 #ifdef HAVE_TRACING
1915   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1916   TRACE_smpi_computing_in(rank);
1917 #endif
1918   smpi_bench_begin();
1919   return retval;
1920 }
1921
1922 int PMPI_Reduce(void *sendbuf, void *recvbuf, int count,
1923                MPI_Datatype datatype, MPI_Op op, int root, MPI_Comm comm)
1924 {
1925   int retval;
1926
1927   smpi_bench_end();
1928 #ifdef HAVE_TRACING
1929   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1930   TRACE_smpi_computing_out(rank);
1931   int root_traced = smpi_group_index(smpi_comm_group(comm), root);
1932   TRACE_smpi_collective_in(rank, root_traced, __FUNCTION__);
1933 #endif
1934   if (comm == MPI_COMM_NULL) {
1935     retval = MPI_ERR_COMM;
1936   } else if (datatype == MPI_DATATYPE_NULL || op == MPI_OP_NULL) {
1937     retval = MPI_ERR_ARG;
1938   } else {
1939
1940     mpi_coll_reduce_fun(sendbuf, recvbuf, count, datatype, op, root, comm);
1941
1942     retval = MPI_SUCCESS;
1943   }
1944 #ifdef HAVE_TRACING
1945   TRACE_smpi_collective_out(rank, root_traced, __FUNCTION__);
1946   TRACE_smpi_computing_in(rank);
1947 #endif
1948   smpi_bench_begin();
1949   return retval;
1950 }
1951
1952 int PMPI_Reduce_local(void *inbuf, void *inoutbuf, int count,
1953     MPI_Datatype datatype, MPI_Op op){
1954   int retval;
1955
1956     smpi_bench_end();
1957     if (datatype == MPI_DATATYPE_NULL || op == MPI_OP_NULL) {
1958       retval = MPI_ERR_ARG;
1959     } else {
1960       smpi_op_apply(op, inbuf, inoutbuf, &count, &datatype);
1961       retval=MPI_SUCCESS;
1962     }
1963     smpi_bench_begin();
1964     return retval;
1965 }
1966
1967 int PMPI_Allreduce(void *sendbuf, void *recvbuf, int count,
1968                   MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
1969 {
1970   int retval;
1971
1972   smpi_bench_end();
1973 #ifdef HAVE_TRACING
1974   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
1975   TRACE_smpi_computing_out(rank);
1976   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
1977 #endif
1978   if (comm == MPI_COMM_NULL) {
1979     retval = MPI_ERR_COMM;
1980   } else if (datatype == MPI_DATATYPE_NULL) {
1981     retval = MPI_ERR_TYPE;
1982   } else if (op == MPI_OP_NULL) {
1983     retval = MPI_ERR_OP;
1984   } else {
1985
1986     char* sendtmpbuf = (char*) sendbuf;
1987     if( sendbuf == MPI_IN_PLACE ) {
1988       sendtmpbuf = (char *)xbt_malloc(count*smpi_datatype_get_extent(datatype));
1989       smpi_datatype_copy(recvbuf, count, datatype,sendtmpbuf, count, datatype);
1990     }
1991
1992     mpi_coll_allreduce_fun(sendtmpbuf, recvbuf, count, datatype, op, comm);
1993
1994     if( sendbuf == MPI_IN_PLACE ) {
1995       xbt_free(sendtmpbuf);
1996     }
1997
1998     retval = MPI_SUCCESS;
1999
2000   }
2001 #ifdef HAVE_TRACING
2002   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2003   TRACE_smpi_computing_in(rank);
2004 #endif
2005   smpi_bench_begin();
2006   return retval;
2007 }
2008
2009 int PMPI_Scan(void *sendbuf, void *recvbuf, int count,
2010              MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
2011 {
2012   int retval;
2013
2014   smpi_bench_end();
2015 #ifdef HAVE_TRACING
2016   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2017   TRACE_smpi_computing_out(rank);
2018   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2019 #endif
2020   if (comm == MPI_COMM_NULL) {
2021     retval = MPI_ERR_COMM;
2022   } else if (datatype == MPI_DATATYPE_NULL) {
2023     retval = MPI_ERR_TYPE;
2024   } else if (op == MPI_OP_NULL) {
2025     retval = MPI_ERR_OP;
2026   } else {
2027     smpi_mpi_scan(sendbuf, recvbuf, count, datatype, op, comm);
2028     retval = MPI_SUCCESS;
2029   }
2030 #ifdef HAVE_TRACING
2031   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2032   TRACE_smpi_computing_in(rank);
2033 #endif
2034   smpi_bench_begin();
2035   return retval;
2036 }
2037
2038 int PMPI_Exscan(void *sendbuf, void *recvbuf, int count, MPI_Datatype datatype,
2039                 MPI_Op op, MPI_Comm comm){
2040   int retval;
2041
2042   smpi_bench_end();
2043 #ifdef HAVE_TRACING
2044   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2045   TRACE_smpi_computing_out(rank);
2046   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2047 #endif
2048   if (comm == MPI_COMM_NULL) {
2049     retval = MPI_ERR_COMM;
2050   } else if (datatype == MPI_DATATYPE_NULL) {
2051     retval = MPI_ERR_TYPE;
2052   } else if (op == MPI_OP_NULL) {
2053     retval = MPI_ERR_OP;
2054   } else {
2055     smpi_mpi_exscan(sendbuf, recvbuf, count, datatype, op, comm);
2056     retval = MPI_SUCCESS;
2057   }
2058 #ifdef HAVE_TRACING
2059   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2060   TRACE_smpi_computing_in(rank);
2061 #endif
2062   smpi_bench_begin();
2063   return retval;
2064 }
2065
2066 int PMPI_Reduce_scatter(void *sendbuf, void *recvbuf, int *recvcounts,
2067                        MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
2068 {
2069   int retval;
2070   smpi_bench_end();
2071 #ifdef HAVE_TRACING
2072   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2073   TRACE_smpi_computing_out(rank);
2074   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2075 #endif
2076   if (comm == MPI_COMM_NULL) {
2077     retval = MPI_ERR_COMM;
2078   } else if (datatype == MPI_DATATYPE_NULL) {
2079     retval = MPI_ERR_TYPE;
2080   } else if (op == MPI_OP_NULL) {
2081     retval = MPI_ERR_OP;
2082   } else if (recvcounts == NULL) {
2083     retval = MPI_ERR_ARG;
2084   } else {
2085     void* sendtmpbuf=sendbuf;
2086     if(sendbuf==MPI_IN_PLACE){
2087       sendtmpbuf=recvbuf;
2088     }
2089
2090     mpi_coll_reduce_scatter_fun(sendtmpbuf, recvbuf, recvcounts,
2091                        datatype,  op, comm);
2092     retval = MPI_SUCCESS;
2093   }
2094 #ifdef HAVE_TRACING
2095   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2096   TRACE_smpi_computing_in(rank);
2097 #endif
2098   smpi_bench_begin();
2099   return retval;
2100 }
2101
2102 int PMPI_Reduce_scatter_block(void *sendbuf, void *recvbuf, int recvcount,
2103                        MPI_Datatype datatype, MPI_Op op, MPI_Comm comm)
2104 {
2105   int retval,i;
2106   smpi_bench_end();
2107 #ifdef HAVE_TRACING
2108   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2109   TRACE_smpi_computing_out(rank);
2110   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2111 #endif
2112   if (comm == MPI_COMM_NULL) {
2113     retval = MPI_ERR_COMM;
2114   } else if (datatype == MPI_DATATYPE_NULL) {
2115     retval = MPI_ERR_TYPE;
2116   } else if (op == MPI_OP_NULL) {
2117     retval = MPI_ERR_OP;
2118   } else if (recvcount < 0) {
2119     retval = MPI_ERR_ARG;
2120   } else {
2121     int count=smpi_comm_size(comm);
2122     int* recvcounts=(int*)xbt_malloc(count);
2123     for (i=0; i<count;i++)recvcounts[i]=recvcount;
2124     mpi_coll_reduce_scatter_fun(sendbuf, recvbuf, recvcounts,
2125                        datatype,  op, comm);
2126     xbt_free(recvcounts);
2127     retval = MPI_SUCCESS;
2128   }
2129 #ifdef HAVE_TRACING
2130   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2131   TRACE_smpi_computing_in(rank);
2132 #endif
2133   smpi_bench_begin();
2134   return retval;
2135 }
2136
2137 int PMPI_Alltoall(void *sendbuf, int sendcount, MPI_Datatype sendtype,
2138                  void *recvbuf, int recvcount, MPI_Datatype recvtype,
2139                  MPI_Comm comm)
2140 {
2141   int retval;
2142
2143   smpi_bench_end();
2144 #ifdef HAVE_TRACING
2145   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2146   TRACE_smpi_computing_out(rank);
2147   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2148 #endif
2149   if (comm == MPI_COMM_NULL) {
2150     retval = MPI_ERR_COMM;
2151   } else if (sendtype == MPI_DATATYPE_NULL
2152              || recvtype == MPI_DATATYPE_NULL) {
2153     retval = MPI_ERR_TYPE;
2154   } else {
2155     retval = mpi_coll_alltoall_fun(sendbuf, sendcount, sendtype, recvbuf, recvcount, recvtype, comm);
2156   }
2157 #ifdef HAVE_TRACING
2158   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2159   TRACE_smpi_computing_in(rank);
2160 #endif
2161   smpi_bench_begin();
2162   return retval;
2163 }
2164
2165 int PMPI_Alltoallv(void *sendbuf, int *sendcounts, int *senddisps,
2166                   MPI_Datatype sendtype, void *recvbuf, int *recvcounts,
2167                   int *recvdisps, MPI_Datatype recvtype, MPI_Comm comm)
2168 {
2169   int retval;
2170
2171   smpi_bench_end();
2172 #ifdef HAVE_TRACING
2173   int rank = comm != MPI_COMM_NULL ? smpi_process_index() : -1;
2174   TRACE_smpi_computing_out(rank);
2175   TRACE_smpi_collective_in(rank, -1, __FUNCTION__);
2176 #endif
2177   if (comm == MPI_COMM_NULL) {
2178     retval = MPI_ERR_COMM;
2179   } else if (sendtype == MPI_DATATYPE_NULL
2180              || recvtype == MPI_DATATYPE_NULL) {
2181     retval = MPI_ERR_TYPE;
2182   } else if (sendcounts == NULL || senddisps == NULL || recvcounts == NULL
2183              || recvdisps == NULL) {
2184     retval = MPI_ERR_ARG;
2185   } else {
2186     retval =
2187         mpi_coll_alltoallv_fun(sendbuf, sendcounts, senddisps, sendtype,
2188                                   recvbuf, recvcounts, recvdisps, recvtype,
2189                                   comm);
2190   }
2191 #ifdef HAVE_TRACING
2192   TRACE_smpi_collective_out(rank, -1, __FUNCTION__);
2193   TRACE_smpi_computing_in(rank);
2194 #endif
2195   smpi_bench_begin();
2196   return retval;
2197 }
2198
2199
2200 int PMPI_Get_processor_name(char *name, int *resultlen)
2201 {
2202   int retval = MPI_SUCCESS;
2203
2204   smpi_bench_end();
2205   strncpy(name, SIMIX_host_get_name(SIMIX_host_self()),
2206           strlen(SIMIX_host_get_name(SIMIX_host_self())) < MPI_MAX_PROCESSOR_NAME - 1 ?
2207           strlen(SIMIX_host_get_name(SIMIX_host_self())) +1 :
2208           MPI_MAX_PROCESSOR_NAME - 1 );
2209   *resultlen =
2210       strlen(name) >
2211       MPI_MAX_PROCESSOR_NAME ? MPI_MAX_PROCESSOR_NAME : strlen(name);
2212
2213   smpi_bench_begin();
2214   return retval;
2215 }
2216
2217 int PMPI_Get_count(MPI_Status * status, MPI_Datatype datatype, int *count)
2218 {
2219   int retval = MPI_SUCCESS;
2220   size_t size;
2221
2222   smpi_bench_end();
2223   if (status == NULL || count == NULL) {
2224     retval = MPI_ERR_ARG;
2225   } else if (datatype == MPI_DATATYPE_NULL) {
2226     retval = MPI_ERR_TYPE;
2227   } else {
2228     size = smpi_datatype_size(datatype);
2229     if (size == 0) {
2230       *count = 0;
2231     } else if (status->count % size != 0) {
2232       retval = MPI_UNDEFINED;
2233     } else {
2234       *count = smpi_mpi_get_count(status, datatype);
2235     }
2236   }
2237   smpi_bench_begin();
2238   return retval;
2239 }
2240
2241 int PMPI_Type_contiguous(int count, MPI_Datatype old_type, MPI_Datatype* new_type) {
2242   int retval;
2243
2244   smpi_bench_end();
2245   if (old_type == MPI_DATATYPE_NULL) {
2246     retval = MPI_ERR_TYPE;
2247   } else if (count<0){
2248     retval = MPI_ERR_COUNT;
2249   } else {
2250     retval = smpi_datatype_contiguous(count, old_type, new_type, 0);
2251   }
2252   smpi_bench_begin();
2253   return retval;
2254 }
2255
2256 int PMPI_Type_commit(MPI_Datatype* datatype) {
2257   int retval;
2258
2259   smpi_bench_end();
2260   if (datatype == MPI_DATATYPE_NULL) {
2261     retval = MPI_ERR_TYPE;
2262   } else {
2263     smpi_datatype_commit(datatype);
2264     retval = MPI_SUCCESS;
2265   }
2266   smpi_bench_begin();
2267   return retval;
2268 }
2269
2270
2271 int PMPI_Type_vector(int count, int blocklen, int stride, MPI_Datatype old_type, MPI_Datatype* new_type) {
2272   int retval;
2273
2274   smpi_bench_end();
2275   if (old_type == MPI_DATATYPE_NULL) {
2276     retval = MPI_ERR_TYPE;
2277   } else if (count<0 || blocklen<0){
2278     retval = MPI_ERR_COUNT;
2279   } else {
2280     retval = smpi_datatype_vector(count, blocklen, stride, old_type, new_type);
2281   }
2282   smpi_bench_begin();
2283   return retval;
2284 }
2285
2286 int PMPI_Type_hvector(int count, int blocklen, MPI_Aint stride, MPI_Datatype old_type, MPI_Datatype* new_type) {
2287   int retval;
2288
2289   smpi_bench_end();
2290   if (old_type == MPI_DATATYPE_NULL) {
2291     retval = MPI_ERR_TYPE;
2292   } else if (count<0 || blocklen<0){
2293     retval = MPI_ERR_COUNT;
2294   } else {
2295     retval = smpi_datatype_hvector(count, blocklen, stride, old_type, new_type);
2296   }
2297   smpi_bench_begin();
2298   return retval;
2299 }
2300
2301 int PMPI_Type_create_hvector(int count, int blocklen, MPI_Aint stride, MPI_Datatype old_type, MPI_Datatype* new_type) {
2302   return MPI_Type_hvector(count, blocklen, stride, old_type, new_type);
2303 }
2304
2305 int PMPI_Type_indexed(int count, int* blocklens, int* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2306   int retval;
2307
2308   smpi_bench_end();
2309   if (old_type == MPI_DATATYPE_NULL) {
2310     retval = MPI_ERR_TYPE;
2311   } else if (count<0){
2312     retval = MPI_ERR_COUNT;
2313   } else {
2314     retval = smpi_datatype_indexed(count, blocklens, indices, old_type, new_type);
2315   }
2316   smpi_bench_begin();
2317   return retval;
2318 }
2319
2320 int PMPI_Type_create_indexed(int count, int* blocklens, int* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2321   int retval;
2322
2323   smpi_bench_end();
2324   if (old_type == MPI_DATATYPE_NULL) {
2325     retval = MPI_ERR_TYPE;
2326   } else if (count<0){
2327     retval = MPI_ERR_COUNT;
2328   } else {
2329     retval = smpi_datatype_indexed(count, blocklens, indices, old_type, new_type);
2330   }
2331   smpi_bench_begin();
2332   return retval;
2333 }
2334
2335 int PMPI_Type_create_indexed_block(int count, int blocklength, int* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2336   int retval,i;
2337
2338   smpi_bench_end();
2339   if (old_type == MPI_DATATYPE_NULL) {
2340     retval = MPI_ERR_TYPE;
2341   } else if (count<0){
2342     retval = MPI_ERR_COUNT;
2343   } else {
2344     int* blocklens=(int*)xbt_malloc(blocklength*count);
2345     for (i=0; i<count;i++)blocklens[i]=blocklength;
2346     retval = smpi_datatype_indexed(count, blocklens, indices, old_type, new_type);
2347     xbt_free(blocklens);
2348   }
2349   smpi_bench_begin();
2350   return retval;
2351 }
2352
2353
2354 int PMPI_Type_hindexed(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2355   int retval;
2356
2357   smpi_bench_end();
2358   if (old_type == MPI_DATATYPE_NULL) {
2359     retval = MPI_ERR_TYPE;
2360   } else if (count<0){
2361     retval = MPI_ERR_COUNT;
2362   } else {
2363     retval = smpi_datatype_hindexed(count, blocklens, indices, old_type, new_type);
2364   }
2365   smpi_bench_begin();
2366   return retval;
2367 }
2368
2369 int PMPI_Type_create_hindexed(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2370   return PMPI_Type_hindexed(count, blocklens,indices,old_type,new_type);
2371 }
2372
2373 int PMPI_Type_create_hindexed_block(int count, int blocklength, MPI_Aint* indices, MPI_Datatype old_type, MPI_Datatype* new_type) {
2374   int retval,i;
2375
2376   smpi_bench_end();
2377   if (old_type == MPI_DATATYPE_NULL) {
2378     retval = MPI_ERR_TYPE;
2379   } else if (count<0){
2380     retval = MPI_ERR_COUNT;
2381   } else {
2382     int* blocklens=(int*)xbt_malloc(blocklength*count);
2383     for (i=0; i<count;i++)blocklens[i]=blocklength;
2384     retval = smpi_datatype_hindexed(count, blocklens, indices, old_type, new_type);
2385     xbt_free(blocklens);
2386   }
2387   smpi_bench_begin();
2388   return retval;
2389 }
2390
2391
2392 int PMPI_Type_struct(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype* old_types, MPI_Datatype* new_type) {
2393   int retval;
2394
2395   smpi_bench_end();
2396   if (count<0){
2397     retval = MPI_ERR_COUNT;
2398   } else {
2399     retval = smpi_datatype_struct(count, blocklens, indices, old_types, new_type);
2400   }
2401   smpi_bench_begin();
2402   return retval;
2403 }
2404
2405 int PMPI_Type_create_struct(int count, int* blocklens, MPI_Aint* indices, MPI_Datatype* old_types, MPI_Datatype* new_type) {
2406   return PMPI_Type_struct(count, blocklens, indices, old_types, new_type);
2407 }
2408
2409
2410 int PMPI_Error_class(int errorcode, int* errorclass) {
2411   // assume smpi uses only standard mpi error codes
2412   *errorclass=errorcode;
2413   return MPI_SUCCESS;
2414 }
2415
2416
2417 int PMPI_Initialized(int* flag) {
2418    *flag=smpi_process_initialized();
2419    return MPI_SUCCESS;
2420 }
2421
2422 /* The following calls are not yet implemented and will fail at runtime. */
2423 /* Once implemented, please move them above this notice. */
2424
2425 #define NOT_YET_IMPLEMENTED {\
2426         XBT_WARN("Not yet implemented : %s. Please contact the Simgrid team if support is needed", __FUNCTION__);\
2427         return MPI_SUCCESS;\
2428         }
2429
2430
2431 int PMPI_Type_dup(MPI_Datatype datatype, MPI_Datatype *newtype){
2432   NOT_YET_IMPLEMENTED
2433 }
2434
2435 int PMPI_Type_set_name(MPI_Datatype  datatype, char * name)
2436 {
2437   NOT_YET_IMPLEMENTED
2438 }
2439
2440 int PMPI_Type_get_name(MPI_Datatype  datatype, char * name, int* len)
2441 {
2442   NOT_YET_IMPLEMENTED
2443 }
2444
2445 int PMPI_Pack_size(int incount, MPI_Datatype datatype, MPI_Comm comm, int* size) {
2446    NOT_YET_IMPLEMENTED
2447 }
2448
2449 int PMPI_Cart_coords(MPI_Comm comm, int rank, int maxdims, int* coords) {
2450    NOT_YET_IMPLEMENTED
2451 }
2452
2453 int PMPI_Cart_create(MPI_Comm comm_old, int ndims, int* dims, int* periods, int reorder, MPI_Comm* comm_cart) {
2454    NOT_YET_IMPLEMENTED
2455 }
2456
2457 int PMPI_Cart_get(MPI_Comm comm, int maxdims, int* dims, int* periods, int* coords) {
2458    NOT_YET_IMPLEMENTED
2459 }
2460
2461 int PMPI_Cart_map(MPI_Comm comm_old, int ndims, int* dims, int* periods, int* newrank) {
2462    NOT_YET_IMPLEMENTED
2463 }
2464
2465 int PMPI_Cart_rank(MPI_Comm comm, int* coords, int* rank) {
2466    NOT_YET_IMPLEMENTED
2467 }
2468
2469 int PMPI_Cart_shift(MPI_Comm comm, int direction, int displ, int* source, int* dest) {
2470    NOT_YET_IMPLEMENTED
2471 }
2472
2473 int PMPI_Cart_sub(MPI_Comm comm, int* remain_dims, MPI_Comm* comm_new) {
2474    NOT_YET_IMPLEMENTED
2475 }
2476
2477 int PMPI_Cartdim_get(MPI_Comm comm, int* ndims) {
2478    NOT_YET_IMPLEMENTED
2479 }
2480
2481 int PMPI_Graph_create(MPI_Comm comm_old, int nnodes, int* index, int* edges, int reorder, MPI_Comm* comm_graph) {
2482    NOT_YET_IMPLEMENTED
2483 }
2484
2485 int PMPI_Graph_get(MPI_Comm comm, int maxindex, int maxedges, int* index, int* edges) {
2486    NOT_YET_IMPLEMENTED
2487 }
2488
2489 int PMPI_Graph_map(MPI_Comm comm_old, int nnodes, int* index, int* edges, int* newrank) {
2490    NOT_YET_IMPLEMENTED
2491 }
2492
2493 int PMPI_Graph_neighbors(MPI_Comm comm, int rank, int maxneighbors, int* neighbors) {
2494    NOT_YET_IMPLEMENTED
2495 }
2496
2497 int PMPI_Graph_neighbors_count(MPI_Comm comm, int rank, int* nneighbors) {
2498    NOT_YET_IMPLEMENTED
2499 }
2500
2501 int PMPI_Graphdims_get(MPI_Comm comm, int* nnodes, int* nedges) {
2502    NOT_YET_IMPLEMENTED
2503 }
2504
2505 int PMPI_Topo_test(MPI_Comm comm, int* top_type) {
2506    NOT_YET_IMPLEMENTED
2507 }
2508
2509 int PMPI_Errhandler_create(MPI_Handler_function* function, MPI_Errhandler* errhandler) {
2510    NOT_YET_IMPLEMENTED
2511 }
2512
2513 int PMPI_Errhandler_free(MPI_Errhandler* errhandler) {
2514    NOT_YET_IMPLEMENTED
2515 }
2516
2517 int PMPI_Errhandler_get(MPI_Comm comm, MPI_Errhandler* errhandler) {
2518    NOT_YET_IMPLEMENTED
2519 }
2520
2521 int PMPI_Error_string(int errorcode, char* string, int* resultlen) {
2522    NOT_YET_IMPLEMENTED
2523 }
2524
2525 int PMPI_Errhandler_set(MPI_Comm comm, MPI_Errhandler errhandler) {
2526    NOT_YET_IMPLEMENTED
2527 }
2528
2529 int PMPI_Comm_set_errhandler(MPI_Comm comm, MPI_Errhandler errhandler) {
2530    NOT_YET_IMPLEMENTED
2531 }
2532
2533 int PMPI_Cancel(MPI_Request* request) {
2534    NOT_YET_IMPLEMENTED
2535 }
2536
2537 int PMPI_Buffer_attach(void* buffer, int size) {
2538    NOT_YET_IMPLEMENTED
2539 }
2540
2541 int PMPI_Buffer_detach(void* buffer, int* size) {
2542    NOT_YET_IMPLEMENTED
2543 }
2544
2545 int PMPI_Comm_test_inter(MPI_Comm comm, int* flag) {
2546    NOT_YET_IMPLEMENTED
2547 }
2548
2549 int PMPI_Comm_get_attr (MPI_Comm comm, int comm_keyval, void *attribute_val, int *flag)
2550 {
2551    NOT_YET_IMPLEMENTED
2552 }
2553
2554 int PMPI_Comm_set_attr (MPI_Comm comm, int comm_keyval, void *attribute_val)
2555 {
2556    NOT_YET_IMPLEMENTED
2557 }
2558
2559 int PMPI_Comm_delete_attr (MPI_Comm comm, int comm_keyval)
2560 {
2561    NOT_YET_IMPLEMENTED
2562 }
2563
2564 int PMPI_Comm_create_keyval(MPI_Comm_copy_attr_function* copy_fn, MPI_Comm_delete_attr_function* delete_fn, int* keyval, void* extra_state)
2565 {
2566    NOT_YET_IMPLEMENTED
2567 }
2568
2569 int PMPI_Comm_free_keyval(int* keyval) {
2570    NOT_YET_IMPLEMENTED
2571 }
2572
2573 int PMPI_Pcontrol(const int level )
2574 {
2575    NOT_YET_IMPLEMENTED
2576 }
2577
2578 int PMPI_Unpack(void* inbuf, int insize, int* position, void* outbuf, int outcount, MPI_Datatype type, MPI_Comm comm) {
2579    NOT_YET_IMPLEMENTED
2580 }
2581
2582 int PMPI_Type_get_attr (MPI_Datatype type, int type_keyval, void *attribute_val, int* flag)
2583 {
2584   NOT_YET_IMPLEMENTED
2585 }
2586
2587 int PMPI_Type_set_attr (MPI_Datatype type, int type_keyval, void *attribute_val)
2588 {
2589   NOT_YET_IMPLEMENTED
2590 }
2591
2592 int PMPI_Type_delete_attr (MPI_Datatype type, int comm_keyval)
2593 {
2594   NOT_YET_IMPLEMENTED
2595 }
2596
2597 int PMPI_Type_create_keyval(MPI_Type_copy_attr_function* copy_fn, MPI_Type_delete_attr_function* delete_fn, int* keyval, void* extra_state)
2598 {
2599   NOT_YET_IMPLEMENTED
2600 }
2601
2602 int PMPI_Type_free_keyval(int* keyval) {
2603   NOT_YET_IMPLEMENTED
2604 }
2605
2606 int PMPI_Intercomm_create(MPI_Comm local_comm, int local_leader, MPI_Comm peer_comm, int remote_leader, int tag, MPI_Comm* comm_out) {
2607    NOT_YET_IMPLEMENTED
2608 }
2609
2610 int PMPI_Intercomm_merge(MPI_Comm comm, int high, MPI_Comm* comm_out) {
2611    NOT_YET_IMPLEMENTED
2612 }
2613
2614 int PMPI_Bsend(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm) {
2615    NOT_YET_IMPLEMENTED
2616 }
2617
2618 int PMPI_Bsend_init(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request* request) {
2619    NOT_YET_IMPLEMENTED
2620 }
2621
2622 int PMPI_Ibsend(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request* request) {
2623    NOT_YET_IMPLEMENTED
2624 }
2625
2626 int PMPI_Comm_remote_group(MPI_Comm comm, MPI_Group* group) {
2627    NOT_YET_IMPLEMENTED
2628 }
2629
2630 int PMPI_Comm_remote_size(MPI_Comm comm, int* size) {
2631    NOT_YET_IMPLEMENTED
2632 }
2633
2634 int PMPI_Attr_delete(MPI_Comm comm, int keyval) {
2635    NOT_YET_IMPLEMENTED
2636 }
2637
2638 int PMPI_Attr_get(MPI_Comm comm, int keyval, void* attr_value, int* flag) {
2639    NOT_YET_IMPLEMENTED
2640 }
2641
2642 int PMPI_Attr_put(MPI_Comm comm, int keyval, void* attr_value) {
2643    NOT_YET_IMPLEMENTED
2644 }
2645
2646 int PMPI_Rsend(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm) {
2647    NOT_YET_IMPLEMENTED
2648 }
2649
2650 int PMPI_Rsend_init(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request* request) {
2651    NOT_YET_IMPLEMENTED
2652 }
2653
2654 int PMPI_Irsend(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request* request) {
2655    NOT_YET_IMPLEMENTED
2656 }
2657
2658 int PMPI_Keyval_create(MPI_Copy_function* copy_fn, MPI_Delete_function* delete_fn, int* keyval, void* extra_state) {
2659    NOT_YET_IMPLEMENTED
2660 }
2661
2662 int PMPI_Keyval_free(int* keyval) {
2663    NOT_YET_IMPLEMENTED
2664 }
2665
2666 int PMPI_Test_cancelled(MPI_Status* status, int* flag) {
2667    NOT_YET_IMPLEMENTED
2668 }
2669
2670 int PMPI_Pack(void* inbuf, int incount, MPI_Datatype type, void* outbuf, int outcount, int* position, MPI_Comm comm) {
2671    NOT_YET_IMPLEMENTED
2672 }
2673
2674 int PMPI_Pack_external_size(char *datarep, int incount, MPI_Datatype datatype, MPI_Aint *size){
2675   NOT_YET_IMPLEMENTED
2676 }
2677
2678 int PMPI_Pack_external(char *datarep, void *inbuf, int incount, MPI_Datatype datatype, void *outbuf, MPI_Aint outcount, MPI_Aint *position){
2679   NOT_YET_IMPLEMENTED
2680 }
2681
2682 int PMPI_Unpack_external( char *datarep, void *inbuf, MPI_Aint insize, MPI_Aint *position, void *outbuf, int outcount, MPI_Datatype datatype){
2683   NOT_YET_IMPLEMENTED
2684 }
2685
2686 int PMPI_Get_elements(MPI_Status* status, MPI_Datatype datatype, int* elements) {
2687    NOT_YET_IMPLEMENTED
2688 }
2689
2690 int PMPI_Dims_create(int nnodes, int ndims, int* dims) {
2691    NOT_YET_IMPLEMENTED
2692 }
2693
2694 int PMPI_Win_fence( int assert,  MPI_Win win){
2695    NOT_YET_IMPLEMENTED
2696 }
2697
2698 int PMPI_Win_free( MPI_Win* win){
2699    NOT_YET_IMPLEMENTED
2700 }
2701
2702 int PMPI_Win_create( void *base, MPI_Aint size, int disp_unit, MPI_Info info, MPI_Comm comm, MPI_Win *win){
2703   NOT_YET_IMPLEMENTED
2704 }
2705
2706 int PMPI_Info_create( MPI_Info *info){
2707   NOT_YET_IMPLEMENTED
2708 }
2709
2710 int PMPI_Info_set( MPI_Info info, char *key, char *value){
2711   NOT_YET_IMPLEMENTED
2712 }
2713
2714 int PMPI_Info_free( MPI_Info *info){
2715   NOT_YET_IMPLEMENTED
2716 }
2717
2718 int PMPI_Get( void *origin_addr, int origin_count, MPI_Datatype origin_datatype, int target_rank,
2719     MPI_Aint target_disp, int target_count, MPI_Datatype target_datatype, MPI_Win win){
2720   NOT_YET_IMPLEMENTED
2721 }
2722
2723 int PMPI_Type_get_envelope( MPI_Datatype datatype, int *num_integers,
2724                           int *num_addresses, int *num_datatypes, int *combiner){
2725   NOT_YET_IMPLEMENTED
2726 }
2727
2728 int PMPI_Type_get_contents(MPI_Datatype datatype, int max_integers, int max_addresses,
2729                           int max_datatypes, int* array_of_integers, MPI_Aint* array_of_addresses,
2730                           MPI_Datatype* array_of_datatypes){
2731   NOT_YET_IMPLEMENTED
2732 }
2733
2734 int PMPI_Type_create_darray(int size, int rank, int ndims, int* array_of_gsizes,
2735                             int* array_of_distribs, int* array_of_dargs, int* array_of_psizes,
2736                             int order, MPI_Datatype oldtype, MPI_Datatype *newtype) {
2737   NOT_YET_IMPLEMENTED
2738 }
2739
2740 int PMPI_Type_create_resized(MPI_Datatype oldtype,MPI_Aint lb, MPI_Aint extent, MPI_Datatype *newtype){
2741   NOT_YET_IMPLEMENTED
2742 }
2743
2744 int PMPI_Type_create_subarray(int ndims,int *array_of_sizes, int *array_of_subsizes, int *array_of_starts, int order, MPI_Datatype oldtype, MPI_Datatype *newtype){
2745   NOT_YET_IMPLEMENTED
2746 }
2747
2748 int PMPI_Type_match_size(int typeclass,int size,MPI_Datatype *datatype){
2749   NOT_YET_IMPLEMENTED
2750 }
2751
2752 int PMPI_Alltoallw( void *sendbuf, int *sendcnts, int *sdispls, MPI_Datatype *sendtypes,
2753                    void *recvbuf, int *recvcnts, int *rdispls, MPI_Datatype *recvtypes,
2754                    MPI_Comm comm){
2755   NOT_YET_IMPLEMENTED
2756 }
2757
2758 int PMPI_Comm_set_name(MPI_Comm comm, char* name){
2759   NOT_YET_IMPLEMENTED
2760 }
2761
2762 int PMPI_Comm_dup_with_info(MPI_Comm comm, MPI_Info info, MPI_Comm * newcomm){
2763   NOT_YET_IMPLEMENTED
2764 }
2765
2766 int PMPI_Comm_split_type(MPI_Comm comm, int split_type, int key, MPI_Info info, MPI_Comm *newcomm){
2767   NOT_YET_IMPLEMENTED
2768 }
2769
2770 int PMPI_Comm_set_info (MPI_Comm comm, MPI_Info info){
2771   NOT_YET_IMPLEMENTED
2772 }
2773
2774 int PMPI_Comm_get_info (MPI_Comm comm, MPI_Info* info){
2775   NOT_YET_IMPLEMENTED
2776 }
2777
2778 int PMPI_Info_get(MPI_Info info,char *key,int valuelen, char *value, int *flag){
2779   NOT_YET_IMPLEMENTED
2780 }
2781
2782 int PMPI_Comm_create_errhandler( MPI_Comm_errhandler_fn *function, MPI_Errhandler *errhandler){
2783   NOT_YET_IMPLEMENTED
2784 }
2785
2786 int PMPI_Add_error_class( int *errorclass){
2787   NOT_YET_IMPLEMENTED
2788 }
2789
2790 int PMPI_Add_error_code(  int errorclass, int *errorcode){
2791   NOT_YET_IMPLEMENTED
2792 }
2793
2794 int PMPI_Add_error_string( int errorcode, char *string){
2795   NOT_YET_IMPLEMENTED
2796 }
2797
2798 int PMPI_Comm_call_errhandler(MPI_Comm comm,int errorcode){
2799   NOT_YET_IMPLEMENTED
2800 }
2801
2802 int PMPI_Info_dup(MPI_Info info, MPI_Info *newinfo){
2803   NOT_YET_IMPLEMENTED
2804 }
2805
2806 int PMPI_Info_delete(MPI_Info info, char *key){
2807   NOT_YET_IMPLEMENTED
2808 }
2809
2810 int PMPI_Info_get_nkeys( MPI_Info info, int *nkeys){
2811   NOT_YET_IMPLEMENTED
2812 }
2813
2814 int PMPI_Info_get_nthkey( MPI_Info info, int n, char *key){
2815   NOT_YET_IMPLEMENTED
2816 }
2817
2818 int PMPI_Info_get_valuelen( MPI_Info info, char *key, int *valuelen, int *flag){
2819   NOT_YET_IMPLEMENTED
2820 }
2821
2822 int PMPI_Request_get_status( MPI_Request request, int *flag, MPI_Status *status){
2823   NOT_YET_IMPLEMENTED
2824 }
2825
2826 int MPI_Request_get_status( MPI_Request request, int *flag, MPI_Status *status){
2827   NOT_YET_IMPLEMENTED
2828 }
2829
2830 int PMPI_Grequest_start( MPI_Grequest_query_function *query_fn, MPI_Grequest_free_function *free_fn, MPI_Grequest_cancel_function *cancel_fn, void *extra_state, MPI_Request *request){
2831   NOT_YET_IMPLEMENTED
2832 }
2833
2834 int PMPI_Grequest_complete( MPI_Request request){
2835   NOT_YET_IMPLEMENTED
2836 }
2837
2838 int PMPI_Status_set_cancelled(MPI_Status *status,int flag){
2839   NOT_YET_IMPLEMENTED
2840 }
2841
2842 int PMPI_Status_set_elements( MPI_Status *status, MPI_Datatype datatype, int count){
2843   NOT_YET_IMPLEMENTED
2844 }
2845
2846 int PMPI_Comm_connect( char *port_name, MPI_Info info, int root, MPI_Comm comm, MPI_Comm *newcomm){
2847   NOT_YET_IMPLEMENTED
2848 }
2849
2850 int PMPI_Publish_name( char *service_name, MPI_Info info, char *port_name){
2851   NOT_YET_IMPLEMENTED
2852 }
2853
2854 int PMPI_Unpublish_name( char *service_name, MPI_Info info, char *port_name){
2855   NOT_YET_IMPLEMENTED
2856 }
2857
2858 int PMPI_Lookup_name( char *service_name, MPI_Info info, char *port_name){
2859   NOT_YET_IMPLEMENTED
2860 }
2861
2862 int PMPI_Comm_join( int fd, MPI_Comm *intercomm){
2863   NOT_YET_IMPLEMENTED
2864 }
2865
2866 int PMPI_Open_port( MPI_Info info, char *port_name){
2867   NOT_YET_IMPLEMENTED
2868 }
2869
2870 int PMPI_Close_port(char *port_name){
2871   NOT_YET_IMPLEMENTED
2872 }
2873
2874 int PMPI_Comm_accept( char *port_name, MPI_Info info, int root, MPI_Comm comm, MPI_Comm *newcomm){
2875   NOT_YET_IMPLEMENTED
2876 }
2877
2878 int PMPI_Comm_spawn( char *command, char **argv, int maxprocs, MPI_Info info, int root, MPI_Comm comm, MPI_Comm *intercomm, int* array_of_errcodes){
2879   NOT_YET_IMPLEMENTED
2880 }
2881
2882 int PMPI_Comm_spawn_multiple( int count, char **array_of_commands, char*** array_of_argv,
2883                              int* array_of_maxprocs, MPI_Info* array_of_info, int root,
2884                              MPI_Comm comm, MPI_Comm *intercomm, int* array_of_errcodes){
2885   NOT_YET_IMPLEMENTED
2886 }
2887
2888 int PMPI_Comm_get_parent( MPI_Comm *parent){
2889   NOT_YET_IMPLEMENTED
2890 }