src/kernel/activity/CommImpl.cpp

   1 /* Copyright (c) 2007-2021. The SimGrid Team. All rights reserved.          */
   2
   3 /* This program is free software; you can redistribute it and/or modify it
   4  * under the terms of the license (GNU LGPL) which comes with this package. */
   5
   6 #include <simgrid/Exception.hpp>
   7 #include <simgrid/kernel/routing/NetPoint.hpp>
   8 #include <simgrid/modelchecker.h>
   9 #include <simgrid/s4u/Host.hpp>
  10
  11 #include "src/kernel/activity/CommImpl.hpp"
  12 #include "src/kernel/activity/MailboxImpl.hpp"
  13 #include "src/kernel/context/Context.hpp"
  14 #include "src/mc/mc_replay.hpp"
  15 #include "src/surf/cpu_interface.hpp"
  16 #include "src/surf/network_interface.hpp"
  17
  18 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(simix_network, simix, "SIMIX network-related synchronization");
  19
  20 XBT_PRIVATE void simcall_HANDLER_comm_send(smx_simcall_t simcall, smx_actor_t src, smx_mailbox_t mbox, double task_size,
  21                                            double rate, unsigned char* src_buff, size_t src_buff_size,
  22                                            bool (*match_fun)(void*, void*, simgrid::kernel::activity::CommImpl*),
  23                                            void (*copy_data_fun)(simgrid::kernel::activity::CommImpl*, void*, size_t),
  24                                            void* data, double timeout)
  25 {
  26   simgrid::kernel::activity::ActivityImplPtr comm = simcall_HANDLER_comm_isend(
  27       simcall, src, mbox, task_size, rate, src_buff, src_buff_size, match_fun, nullptr, copy_data_fun, data, false);
  28   simcall->mc_value_ = 0;
  29   comm->wait_for(simcall->issuer_, timeout);
  30 }
  31
  32 XBT_PRIVATE simgrid::kernel::activity::ActivityImplPtr simcall_HANDLER_comm_isend(
  33     smx_simcall_t /*simcall*/, smx_actor_t src_proc, smx_mailbox_t mbox, double task_size, double rate,
  34     unsigned char* src_buff, size_t src_buff_size,
  35     bool (*match_fun)(void*, void*, simgrid::kernel::activity::CommImpl*),
  36     void (*clean_fun)(void*), // used to free the synchro in case of problem after a detached send
  37     void (*copy_data_fun)(simgrid::kernel::activity::CommImpl*, void*, size_t), // used to copy data if not default one
  38     void* data, bool detached)
  39 {
  40   XBT_DEBUG("send from mailbox %p", mbox);
  41
  42   /* Prepare a synchro describing us, so that it gets passed to the user-provided filter of other side */
  43   simgrid::kernel::activity::CommImplPtr this_comm(
  44       new simgrid::kernel::activity::CommImpl(simgrid::kernel::activity::CommImpl::Type::SEND));
  45
  46   /* Look for communication synchro matching our needs. We also provide a description of
  47    * ourself so that the other side also gets a chance of choosing if it wants to match with us.
  48    *
  49    * If it is not found then push our communication into the rendez-vous point */
  50   simgrid::kernel::activity::CommImplPtr other_comm =
  51       mbox->find_matching_comm(simgrid::kernel::activity::CommImpl::Type::RECEIVE, match_fun, data, this_comm,
  52                                /*done*/ false, /*remove_matching*/ true);
  53
  54   if (not other_comm) {
  55     other_comm = std::move(this_comm);
  56
  57     if (mbox->is_permanent()) {
  58       // this mailbox is for small messages, which have to be sent right now
  59       other_comm->state_     = simgrid::kernel::activity::State::READY;
  60       other_comm->dst_actor_ = mbox->get_permanent_receiver().get();
  61       mbox->push_done(other_comm);
  62       XBT_DEBUG("pushing a message into the permanent receive list %p, comm %p", mbox, other_comm.get());
  63
  64     } else {
  65       mbox->push(other_comm);
  66     }
  67   } else {
  68     XBT_DEBUG("Receive already pushed");
  69
  70     other_comm->state_ = simgrid::kernel::activity::State::READY;
  71   }
  72
  73   if (detached) {
  74     other_comm->detach();
  75     other_comm->clean_fun = clean_fun;
  76   } else {
  77     other_comm->clean_fun = nullptr;
  78     src_proc->activities_.emplace_back(other_comm);
  79   }
  80
  81   /* Setup the communication synchro */
  82   other_comm->src_actor_ = src_proc;
  83   other_comm->src_data_  = data;
  84   (*other_comm).set_src_buff(src_buff, src_buff_size).set_size(task_size).set_rate(rate);
  85
  86   other_comm->match_fun     = match_fun;
  87   other_comm->copy_data_fun = copy_data_fun;
  88
  89   if (MC_is_active() || MC_record_replay_is_active())
  90     other_comm->state_ = simgrid::kernel::activity::State::RUNNING;
  91   else
  92     other_comm->start();
  93
  94   return (detached ? nullptr : other_comm);
  95 }
  96
  97 XBT_PRIVATE void simcall_HANDLER_comm_recv(smx_simcall_t simcall, smx_actor_t receiver, smx_mailbox_t mbox,
  98                                            unsigned char* dst_buff, size_t* dst_buff_size,
  99                                            bool (*match_fun)(void*, void*, simgrid::kernel::activity::CommImpl*),
 100                                            void (*copy_data_fun)(simgrid::kernel::activity::CommImpl*, void*, size_t),
 101                                            void* data, double timeout, double rate)
 102 {
 103   simgrid::kernel::activity::ActivityImplPtr comm = simcall_HANDLER_comm_irecv(
 104       simcall, receiver, mbox, dst_buff, dst_buff_size, match_fun, copy_data_fun, data, rate);
 105   simcall->mc_value_ = 0;
 106   comm->wait_for(simcall->issuer_, timeout);
 107 }
 108
 109 XBT_PRIVATE simgrid::kernel::activity::ActivityImplPtr
 110 simcall_HANDLER_comm_irecv(smx_simcall_t /*simcall*/, smx_actor_t receiver, smx_mailbox_t mbox, unsigned char* dst_buff,
 111                            size_t* dst_buff_size, bool (*match_fun)(void*, void*, simgrid::kernel::activity::CommImpl*),
 112                            void (*copy_data_fun)(simgrid::kernel::activity::CommImpl*, void*, size_t), void* data,
 113                            double rate)
 114 {
 115   simgrid::kernel::activity::CommImplPtr this_synchro(
 116       new simgrid::kernel::activity::CommImpl(simgrid::kernel::activity::CommImpl::Type::RECEIVE));
 117   XBT_DEBUG("recv from mbox %p. this_synchro=%p", mbox, this_synchro.get());
 118
 119   simgrid::kernel::activity::CommImplPtr other_comm;
 120   // communication already done, get it inside the list of completed comms
 121   if (mbox->is_permanent() && mbox->has_some_done_comm()) {
 122     XBT_DEBUG("We have a comm that has probably already been received, trying to match it, to skip the communication");
 123     // find a match in the list of already received comms
 124     other_comm = mbox->find_matching_comm(simgrid::kernel::activity::CommImpl::Type::SEND, match_fun, data,
 125                                           this_synchro, /*done*/ true,
 126                                           /*remove_matching*/ true);
 127     // if not found, assume the receiver came first, register it to the mailbox in the classical way
 128     if (not other_comm) {
 129       XBT_DEBUG("We have messages in the permanent receive list, but not the one we are looking for, pushing request "
 130                 "into list");
 131       other_comm = std::move(this_synchro);
 132       mbox->push(other_comm);
 133     } else {
 134       if (other_comm->surf_action_ && other_comm->get_remaining() < 1e-12) {
 135         XBT_DEBUG("comm %p has been already sent, and is finished, destroy it", other_comm.get());
 136         other_comm->state_ = simgrid::kernel::activity::State::DONE;
 137         other_comm->set_mailbox(nullptr);
 138       }
 139     }
 140   } else {
 141     /* Prepare a comm describing us, so that it gets passed to the user-provided filter of other side */
 142
 143     /* Look for communication activity matching our needs. We also provide a description of
 144      * ourself so that the other side also gets a chance of choosing if it wants to match with us.
 145      *
 146      * If it is not found then push our communication into the rendez-vous point */
 147     other_comm = mbox->find_matching_comm(simgrid::kernel::activity::CommImpl::Type::SEND, match_fun, data,
 148                                           this_synchro, /*done*/ false,
 149                                           /*remove_matching*/ true);
 150
 151     if (other_comm == nullptr) {
 152       XBT_DEBUG("Receive pushed first (%zu comm enqueued so far)", mbox->size());
 153       other_comm = std::move(this_synchro);
 154       mbox->push(other_comm);
 155     } else {
 156       XBT_DEBUG("Match my %p with the existing %p", this_synchro.get(), other_comm.get());
 157
 158       other_comm->state_ = simgrid::kernel::activity::State::READY;
 159     }
 160     receiver->activities_.emplace_back(other_comm);
 161   }
 162
 163   /* Setup communication synchro */
 164   other_comm->dst_actor_ = receiver;
 165   other_comm->dst_data_  = data;
 166   other_comm->set_dst_buff(dst_buff, dst_buff_size);
 167
 168   if (rate > -1.0 && (other_comm->get_rate() < 0.0 || rate < other_comm->get_rate()))
 169     other_comm->set_rate(rate);
 170
 171   other_comm->match_fun     = match_fun;
 172   other_comm->copy_data_fun = copy_data_fun;
 173
 174   if (MC_is_active() || MC_record_replay_is_active()) {
 175     other_comm->state_ = simgrid::kernel::activity::State::RUNNING;
 176     return other_comm;
 177   }
 178   other_comm->start();
 179   return other_comm;
 180 }
 181
 182 void simcall_HANDLER_comm_wait(smx_simcall_t simcall, simgrid::kernel::activity::CommImpl* comm, double timeout)
 183 {
 184   comm->wait_for(simcall->issuer_, timeout);
 185 }
 186
 187 bool simcall_HANDLER_comm_test(smx_simcall_t, simgrid::kernel::activity::CommImpl* comm)
 188 {
 189   return comm->test();
 190 }
 191
 192 ssize_t simcall_HANDLER_comm_testany(smx_simcall_t simcall, simgrid::kernel::activity::CommImpl* comms[], size_t count)
 193 {
 194   std::vector<simgrid::kernel::activity::CommImpl*> comms_vec(comms, comms + count);
 195   return simgrid::kernel::activity::CommImpl::test_any(simcall->issuer_, comms_vec);
 196 }
 197
 198 void simcall_HANDLER_comm_waitany(smx_simcall_t simcall, simgrid::kernel::activity::CommImpl* comms[], size_t count,
 199                                   double timeout)
 200 {
 201   std::vector<simgrid::kernel::activity::CommImpl*> comms_vec(comms, comms + count);
 202   simgrid::kernel::activity::CommImpl::wait_any_for(simcall->issuer_, comms_vec, timeout);
 203 }
 204
 205 /******************************************************************************/
 206 /*                    SIMIX_comm_copy_data callbacks                       */
 207 /******************************************************************************/
 208 // XBT_ATTRIB_DEPRECATED_v333
 209 void SIMIX_comm_set_copy_data_callback(void (*callback)(simgrid::kernel::activity::CommImpl*, void*, size_t))
 210 {
 211   simgrid::kernel::activity::CommImpl::set_copy_data_callback(callback);
 212 }
 213
 214 // XBT_ATTRIB_DEPRECATED_v333
 215 void SIMIX_comm_copy_buffer_callback(simgrid::kernel::activity::CommImpl* comm, void* buff, size_t buff_size)
 216 {
 217   simgrid::s4u::Comm::copy_buffer_callback(comm, buff, buff_size);
 218 }
 219
 220 // XBT_ATTRIB_DEPRECATED_v333
 221 void SIMIX_comm_copy_pointer_callback(simgrid::kernel::activity::CommImpl* comm, void* buff, size_t buff_size)
 222 {
 223   simgrid::s4u::Comm::copy_pointer_callback(comm, buff, buff_size);
 224 }
 225
 226 namespace simgrid {
 227 namespace kernel {
 228 namespace activity {
 229
 230 void (*CommImpl::copy_data_callback_)(CommImpl*, void*, size_t) = &s4u::Comm::copy_pointer_callback;
 231
 232 void CommImpl::set_copy_data_callback(void (*callback)(CommImpl*, void*, size_t))
 233 {
 234   copy_data_callback_ = callback;
 235 }
 236
 237 CommImpl& CommImpl::set_size(double size)
 238 {
 239   size_ = size;
 240   return *this;
 241 }
 242
 243 CommImpl& CommImpl::set_rate(double rate)
 244 {
 245   rate_ = rate;
 246   return *this;
 247 }
 248 CommImpl& CommImpl::set_mailbox(MailboxImpl* mbox)
 249 {
 250   mbox_ = mbox;
 251   return *this;
 252 }
 253
 254 CommImpl& CommImpl::set_src_buff(unsigned char* buff, size_t size)
 255 {
 256   src_buff_      = buff;
 257   src_buff_size_ = size;
 258   return *this;
 259 }
 260
 261 CommImpl& CommImpl::set_dst_buff(unsigned char* buff, size_t* size)
 262 {
 263   dst_buff_      = buff;
 264   dst_buff_size_ = size;
 265   return *this;
 266 }
 267
 268 CommImpl& CommImpl::detach()
 269 {
 270   detached_ = true;
 271   return *this;
 272 }
 273
 274 CommImpl::CommImpl(s4u::Host* from, s4u::Host* to, double bytes) : size_(bytes), detached_(true), from_(from), to_(to)
 275 {
 276   state_ = State::READY;
 277 }
 278
 279 CommImpl::~CommImpl()
 280 {
 281   XBT_DEBUG("Really free communication %p in state %s (detached = %d)", this, get_state_str(), detached_);
 282
 283   cleanup_surf();
 284
 285   if (detached_ && state_ != State::DONE) {
 286     /* the communication has failed and was detached:
 287      * we have to free the buffer */
 288     if (clean_fun)
 289       clean_fun(src_buff_);
 290     src_buff_ = nullptr;
 291   } else if (mbox_) {
 292     mbox_->remove(this);
 293   }
 294 }
 295
 296 /**  @brief Starts the simulation of a communication synchro. */
 297 CommImpl* CommImpl::start()
 298 {
 299   /* If both the sender and the receiver are already there, start the communication */
 300   if (state_ == State::READY) {
 301     from_ = from_ != nullptr ? from_ : src_actor_->get_host();
 302     to_   = to_ != nullptr ? to_ : dst_actor_->get_host();
 303
 304     /* Getting the network_model from the origin host
 305      * Valid while we have a single network model, otherwise we would need to change this function to first get the
 306      * routes and later create the respective surf actions */
 307     auto net_model = from_->get_netpoint()->get_englobing_zone()->get_network_model();
 308
 309     surf_action_ = net_model->communicate(from_, to_, size_, rate_);
 310     surf_action_->set_activity(this);
 311     surf_action_->set_category(get_tracing_category());
 312     state_ = State::RUNNING;
 313
 314     XBT_DEBUG("Starting communication %p from '%s' to '%s' (surf_action: %p; state: %s)", this, from_->get_cname(),
 315               to_->get_cname(), surf_action_, get_state_str());
 316
 317     /* If a link is failed, detect it immediately */
 318     if (surf_action_->get_state() == resource::Action::State::FAILED) {
 319       XBT_DEBUG("Communication from '%s' to '%s' failed to start because of a link failure", from_->get_cname(),
 320                 to_->get_cname());
 321       state_ = State::LINK_FAILURE;
 322       post();
 323
 324     } else if ((src_actor_ != nullptr && src_actor_->is_suspended()) ||
 325                (dst_actor_ != nullptr && dst_actor_->is_suspended())) {
 326       /* If any of the actor is suspended, create the synchro but stop its execution,
 327          it will be restarted when the sender actor resume */
 328       if (src_actor_->is_suspended())
 329         XBT_DEBUG("The communication is suspended on startup because src (%s@%s) was suspended since it initiated the "
 330                   "communication",
 331                   src_actor_->get_cname(), src_actor_->get_host()->get_cname());
 332       else
 333         XBT_DEBUG("The communication is suspended on startup because dst (%s@%s) was suspended since it initiated the "
 334                   "communication",
 335                   dst_actor_->get_cname(), dst_actor_->get_host()->get_cname());
 336
 337       surf_action_->suspend();
 338     }
 339   }
 340
 341   return this;
 342 }
 343
 344 /** @brief Copy the communication data from the sender's buffer to the receiver's one  */
 345 void CommImpl::copy_data()
 346 {
 347   size_t buff_size = src_buff_size_;
 348   /* If there is no data to copy then return */
 349   if (not src_buff_ || not dst_buff_ || copied_)
 350     return;
 351
 352   XBT_DEBUG("Copying comm %p data from %s (%p) -> %s (%p) (%zu bytes)", this,
 353             src_actor_ ? src_actor_->get_host()->get_cname() : "a finished actor", src_buff_,
 354             dst_actor_ ? dst_actor_->get_host()->get_cname() : "a finished actor", dst_buff_, buff_size);
 355
 356   /* Copy at most dst_buff_size bytes of the message to receiver's buffer */
 357   if (dst_buff_size_) {
 358     buff_size = std::min(buff_size, *dst_buff_size_);
 359
 360     /* Update the receiver's buffer size to the copied amount */
 361     *dst_buff_size_ = buff_size;
 362   }
 363
 364   if (buff_size > 0) {
 365     if (copy_data_fun)
 366       copy_data_fun(this, src_buff_, buff_size);
 367     else
 368       copy_data_callback_(this, src_buff_, buff_size);
 369   }
 370
 371   /* Set the copied flag so we copy data only once */
 372   /* (this function might be called from both communication ends) */
 373   copied_ = true;
 374 }
 375
 376 bool CommImpl::test()
 377 {
 378   if ((MC_is_active() || MC_record_replay_is_active()) && src_actor_ && dst_actor_)
 379     state_ = State::DONE;
 380   return ActivityImpl::test();
 381 }
 382
 383 void CommImpl::wait_for(actor::ActorImpl* issuer, double timeout)
 384 {
 385   XBT_DEBUG("CommImpl::wait_for(%g), %p, state %s", timeout, this, to_c_str(state_));
 386
 387   /* Associate this simcall to the wait synchro */
 388   register_simcall(&issuer->simcall_);
 389
 390   if (MC_is_active() || MC_record_replay_is_active()) {
 391     int idx = issuer->simcall_.mc_value_;
 392     if (idx == 0) {
 393       state_ = State::DONE;
 394     } else {
 395       /* If we reached this point, the wait simcall must have a timeout */
 396       /* Otherwise it shouldn't be enabled and executed by the MC */
 397       if (timeout < 0.0)
 398         THROW_IMPOSSIBLE;
 399       state_ = (issuer == src_actor_ ? State::SRC_TIMEOUT : State::DST_TIMEOUT);
 400     }
 401     finish();
 402     return;
 403   }
 404
 405   /* If the synchro has already finish perform the error handling, */
 406   /* otherwise set up a waiting timeout on the right side          */
 407   if (state_ != State::WAITING && state_ != State::RUNNING) {
 408     finish();
 409   } else { /* we need a sleep action (even when there is no timeout) to be notified of host failures */
 410     resource::Action* sleep = issuer->get_host()->get_cpu()->sleep(timeout);
 411     sleep->set_activity(this);
 412
 413     if (issuer == src_actor_)
 414       src_timeout_ = sleep;
 415     else
 416       dst_timeout_ = sleep;
 417   }
 418 }
 419
 420 ssize_t CommImpl::test_any(const actor::ActorImpl* issuer, const std::vector<CommImpl*>& comms)
 421 {
 422   if (MC_is_active() || MC_record_replay_is_active()) {
 423     int idx = issuer->simcall_.mc_value_;
 424     xbt_assert(idx == -1 || comms[idx]->test());
 425     return idx;
 426   }
 427
 428   for (std::size_t i = 0; i < comms.size(); ++i) {
 429     if (comms[i]->test())
 430       return i;
 431   }
 432   return -1;
 433 }
 434
 435 void CommImpl::wait_any_for(actor::ActorImpl* issuer, const std::vector<CommImpl*>& comms, double timeout)
 436 {
 437   if (MC_is_active() || MC_record_replay_is_active()) {
 438     xbt_assert(timeout <= 0.0, "Timeout not implemented for waitany in the model-checker");
 439     int idx    = issuer->simcall_.mc_value_;
 440     auto* comm = comms[idx];
 441     comm->simcalls_.push_back(&issuer->simcall_);
 442     simcall_comm_waitany__set__result(&issuer->simcall_, idx);
 443     comm->state_ = State::DONE;
 444     comm->finish();
 445     return;
 446   }
 447
 448   if (timeout < 0.0) {
 449     issuer->simcall_.timeout_cb_ = nullptr;
 450   } else {
 451     issuer->simcall_.timeout_cb_ = timer::Timer::set(s4u::Engine::get_clock() + timeout, [issuer, comms]() {
 452       // FIXME: Vector `comms' is copied here. Use a reference once its lifetime is extended (i.e. when the simcall is
 453       // modernized).
 454       issuer->simcall_.timeout_cb_ = nullptr;
 455       for (auto* comm : comms)
 456         comm->unregister_simcall(&issuer->simcall_);
 457       simcall_comm_waitany__set__result(&issuer->simcall_, -1);
 458       issuer->simcall_answer();
 459     });
 460   }
 461
 462   for (auto* comm : comms) {
 463     /* associate this simcall to the the synchro */
 464     comm->simcalls_.push_back(&issuer->simcall_);
 465
 466     /* see if the synchro is already finished */
 467     if (comm->state_ != State::WAITING && comm->state_ != State::RUNNING) {
 468       comm->finish();
 469       break;
 470     }
 471   }
 472 }
 473
 474 void CommImpl::suspend()
 475 {
 476   /* FIXME: shall we suspend also the timeout synchro? */
 477   if (surf_action_)
 478     surf_action_->suspend();
 479   /* if not created yet, the action will be suspended on creation, in CommImpl::start() */
 480 }
 481
 482 void CommImpl::resume()
 483 {
 484   /*FIXME: check what happen with the timeouts */
 485   if (surf_action_)
 486     surf_action_->resume();
 487   /* in the other case, the synchro were not really suspended yet, see CommImpl::suspend() and CommImpl::start() */
 488 }
 489
 490 void CommImpl::cancel()
 491 {
 492   /* if the synchro is a waiting state means that it is still in a mbox so remove from it and delete it */
 493   if (state_ == State::WAITING) {
 494     if (not detached_) {
 495       mbox_->remove(this);
 496       state_ = State::CANCELED;
 497     }
 498   } else if (not MC_is_active() /* when running the MC there are no surf actions */
 499              && not MC_record_replay_is_active() && (state_ == State::READY || state_ == State::RUNNING)) {
 500     surf_action_->cancel();
 501   }
 502 }
 503
 504 /** @brief This is part of the cleanup process, probably an internal command */
 505 void CommImpl::cleanup_surf()
 506 {
 507   clean_action();
 508
 509   if (src_timeout_) {
 510     src_timeout_->unref();
 511     src_timeout_ = nullptr;
 512   }
 513
 514   if (dst_timeout_) {
 515     dst_timeout_->unref();
 516     dst_timeout_ = nullptr;
 517   }
 518 }
 519
 520 void CommImpl::post()
 521 {
 522   /* Update synchro state */
 523   if (src_timeout_ && src_timeout_->get_state() == resource::Action::State::FINISHED)
 524     state_ = State::SRC_TIMEOUT;
 525   else if (dst_timeout_ && dst_timeout_->get_state() == resource::Action::State::FINISHED)
 526     state_ = State::DST_TIMEOUT;
 527   else if (src_timeout_ && src_timeout_->get_state() == resource::Action::State::FAILED)
 528     state_ = State::SRC_HOST_FAILURE;
 529   else if (dst_timeout_ && dst_timeout_->get_state() == resource::Action::State::FAILED)
 530     state_ = State::DST_HOST_FAILURE;
 531   else if (surf_action_ && surf_action_->get_state() == resource::Action::State::FAILED) {
 532     state_ = State::LINK_FAILURE;
 533   } else
 534     state_ = State::DONE;
 535
 536   XBT_DEBUG("CommImpl::post(): comm %p, state %s, src_proc %p, dst_proc %p, detached: %d", this, get_state_str(),
 537             src_actor_.get(), dst_actor_.get(), detached_);
 538
 539   /* destroy the surf actions associated with the Simix communication */
 540   cleanup_surf();
 541
 542   /* Answer all simcalls associated with the synchro */
 543   finish();
 544 }
 545
 546 void CommImpl::finish()
 547 {
 548   XBT_DEBUG("CommImpl::finish() in state %s", to_c_str(state_));
 549
 550   /* If the synchro is still in a rendez-vous point then remove from it */
 551   if (mbox_)
 552     mbox_->remove(this);
 553
 554   if (state_ == State::DONE)
 555     copy_data();
 556
 557   while (not simcalls_.empty()) {
 558     smx_simcall_t simcall = simcalls_.front();
 559     simcalls_.pop_front();
 560
 561     /* If a waitany simcall is waiting for this synchro to finish, then remove it from the other synchros in the waitany
 562      * list. Afterwards, get the position of the actual synchro in the waitany list and return it as the result of the
 563      * simcall */
 564
 565     if (simcall->call_ == simix::Simcall::NONE) // FIXME: maybe a better way to handle this case
 566       continue;                                 // if actor handling comm is killed
 567     if (simcall->call_ == simix::Simcall::COMM_WAITANY) {
 568       CommImpl** comms = simcall_comm_waitany__get__comms(simcall);
 569       size_t count     = simcall_comm_waitany__get__count(simcall);
 570       for (size_t i = 0; i < count; i++)
 571         comms[i]->unregister_simcall(simcall);
 572       if (simcall->timeout_cb_) {
 573         simcall->timeout_cb_->remove();
 574         simcall->timeout_cb_ = nullptr;
 575       }
 576       if (not MC_is_active() && not MC_record_replay_is_active()) {
 577         auto element = std::find(comms, comms + count, this);
 578         ssize_t rank = (element != comms + count) ? element - comms : -1;
 579         simcall_comm_waitany__set__result(simcall, rank);
 580       }
 581     }
 582
 583     /* Check out for errors */
 584
 585     if (not simcall->issuer_->get_host()->is_on()) {
 586       simcall->issuer_->context_->set_wannadie();
 587     } else {
 588       switch (state_) {
 589         case State::FAILED:
 590           simcall->issuer_->exception_ =
 591               std::make_exception_ptr(NetworkFailureException(XBT_THROW_POINT, "Remote peer failed"));
 592           break;
 593         case State::SRC_TIMEOUT:
 594           simcall->issuer_->exception_ = std::make_exception_ptr(
 595               TimeoutException(XBT_THROW_POINT, "Communication timeouted because of the sender"));
 596           break;
 597
 598         case State::DST_TIMEOUT:
 599           simcall->issuer_->exception_ = std::make_exception_ptr(
 600               TimeoutException(XBT_THROW_POINT, "Communication timeouted because of the receiver"));
 601           break;
 602
 603         case State::SRC_HOST_FAILURE:
 604           if (simcall->issuer_ == src_actor_)
 605             simcall->issuer_->context_->set_wannadie();
 606           else {
 607             state_ = kernel::activity::State::FAILED;
 608             simcall->issuer_->exception_ =
 609                 std::make_exception_ptr(NetworkFailureException(XBT_THROW_POINT, "Remote peer failed"));
 610           }
 611           break;
 612
 613         case State::DST_HOST_FAILURE:
 614           if (simcall->issuer_ == dst_actor_)
 615             simcall->issuer_->context_->set_wannadie();
 616           else {
 617             state_ = kernel::activity::State::FAILED;
 618             simcall->issuer_->exception_ =
 619                 std::make_exception_ptr(NetworkFailureException(XBT_THROW_POINT, "Remote peer failed"));
 620           }
 621           break;
 622
 623         case State::LINK_FAILURE:
 624           XBT_DEBUG("Link failure in synchro %p between '%s' and '%s': posting an exception to the issuer: %s (%p) "
 625                     "detached:%d",
 626                     this, src_actor_ ? src_actor_->get_host()->get_cname() : nullptr,
 627                     dst_actor_ ? dst_actor_->get_host()->get_cname() : nullptr, simcall->issuer_->get_cname(),
 628                     simcall->issuer_, detached_);
 629           if (src_actor_ == simcall->issuer_) {
 630             XBT_DEBUG("I'm source");
 631           } else if (dst_actor_ == simcall->issuer_) {
 632             XBT_DEBUG("I'm dest");
 633           } else {
 634             XBT_DEBUG("I'm neither source nor dest");
 635           }
 636           state_ = kernel::activity::State::FAILED;
 637           simcall->issuer_->throw_exception(
 638               std::make_exception_ptr(NetworkFailureException(XBT_THROW_POINT, "Link failure")));
 639           break;
 640
 641         case State::CANCELED:
 642           if (simcall->issuer_ == dst_actor_)
 643             simcall->issuer_->exception_ =
 644                 std::make_exception_ptr(CancelException(XBT_THROW_POINT, "Communication canceled by the sender"));
 645           else
 646             simcall->issuer_->exception_ =
 647                 std::make_exception_ptr(CancelException(XBT_THROW_POINT, "Communication canceled by the receiver"));
 648           break;
 649
 650         default:
 651           xbt_assert(state_ == State::DONE, "Internal error in CommImpl::finish(): unexpected synchro state %s",
 652                      to_c_str(state_));
 653       }
 654       simcall->issuer_->simcall_answer();
 655     }
 656     /* if there is an exception during a waitany or a testany, indicate the position of the failed communication */
 657     if (simcall->issuer_->exception_ &&
 658         (simcall->call_ == simix::Simcall::COMM_WAITANY || simcall->call_ == simix::Simcall::COMM_TESTANY)) {
 659       // First retrieve the rank of our failing synchro
 660       CommImpl** comms;
 661       size_t count;
 662       if (simcall->call_ == simix::Simcall::COMM_WAITANY) {
 663         comms = simcall_comm_waitany__get__comms(simcall);
 664         count = simcall_comm_waitany__get__count(simcall);
 665       } else {
 666         /* simcall->call_ == simix::Simcall::COMM_TESTANY */
 667         comms = simcall_comm_testany__get__comms(simcall);
 668         count = simcall_comm_testany__get__count(simcall);
 669       }
 670       auto element = std::find(comms, comms + count, this);
 671       ssize_t rank = (element != comms + count) ? element - comms : -1;
 672       // In order to modify the exception we have to rethrow it:
 673       try {
 674         std::rethrow_exception(simcall->issuer_->exception_);
 675       } catch (Exception& e) {
 676         e.set_value(rank);
 677       }
 678     }
 679
 680     simcall->issuer_->waiting_synchro_ = nullptr;
 681     simcall->issuer_->activities_.remove(this);
 682     if (detached_) {
 683       if (simcall->issuer_ != dst_actor_ && dst_actor_ != nullptr)
 684         dst_actor_->activities_.remove(this);
 685       if (simcall->issuer_ != src_actor_ && src_actor_ != nullptr)
 686         src_actor_->activities_.remove(this);
 687     }
 688   }
 689 }
 690
 691 } // namespace activity
 692 } // namespace kernel
 693 } // namespace simgrid