src/mc/explo/DFSExplorer.cpp

   1 /* Copyright (c) 2016-2023. The SimGrid Team. All rights reserved.          */
   2
   3 /* This program is free software; you can redistribute it and/or modify it
   4  * under the terms of the license (GNU LGPL) which comes with this package. */
   5
   6 #include "src/mc/explo/DFSExplorer.hpp"
   7 #include "src/mc/VisitedState.hpp"
   8 #include "src/mc/mc_config.hpp"
   9 #include "src/mc/mc_exit.hpp"
  10 #include "src/mc/mc_private.hpp"
  11 #include "src/mc/mc_record.hpp"
  12 #include "src/mc/transition/Transition.hpp"
  13
  14 #include "src/xbt/mmalloc/mmprivate.h"
  15 #include "xbt/log.h"
  16 #include "xbt/string.hpp"
  17 #include "xbt/sysdep.h"
  18
  19 #include <cassert>
  20 #include <cstdio>
  21
  22 #include <memory>
  23 #include <string>
  24 #include <vector>
  25
  26 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(mc_dfs, mc, "DFS exploration algorithm of the model-checker");
  27
  28 namespace simgrid::mc {
  29
  30 xbt::signal<void(RemoteApp&)> DFSExplorer::on_exploration_start_signal;
  31 xbt::signal<void(RemoteApp&)> DFSExplorer::on_backtracking_signal;
  32
  33 xbt::signal<void(State*, RemoteApp&)> DFSExplorer::on_state_creation_signal;
  34
  35 xbt::signal<void(State*, RemoteApp&)> DFSExplorer::on_restore_system_state_signal;
  36 xbt::signal<void(RemoteApp&)> DFSExplorer::on_restore_initial_state_signal;
  37 xbt::signal<void(Transition*, RemoteApp&)> DFSExplorer::on_transition_replay_signal;
  38 xbt::signal<void(Transition*, RemoteApp&)> DFSExplorer::on_transition_execute_signal;
  39
  40 xbt::signal<void(RemoteApp&)> DFSExplorer::on_log_state_signal;
  41
  42 void DFSExplorer::check_non_termination(const State* current_state)
  43 {
  44   for (auto state = stack_.rbegin(); state != stack_.rend(); ++state)
  45     if (*(*state)->get_system_state() == *current_state->get_system_state()) {
  46       XBT_INFO("Non-progressive cycle: state %ld -> state %ld", (*state)->get_num(), current_state->get_num());
  47       XBT_INFO("******************************************");
  48       XBT_INFO("*** NON-PROGRESSIVE CYCLE DETECTED ***");
  49       XBT_INFO("******************************************");
  50       XBT_INFO("Counter-example execution trace:");
  51       for (auto const& s : get_textual_trace())
  52         XBT_INFO("  %s", s.c_str());
  53       XBT_INFO("You can debug the problem (and see the whole details) by rerunning out of simgrid-mc with "
  54                "--cfg=model-check/replay:'%s'",
  55                get_record_trace().to_string().c_str());
  56       log_state();
  57
  58       throw TerminationError();
  59     }
  60 }
  61
  62 RecordTrace DFSExplorer::get_record_trace() // override
  63 {
  64   RecordTrace res;
  65   for (auto const& state : stack_)
  66     res.push_back(state->get_transition());
  67   return res;
  68 }
  69
  70 std::vector<std::string> DFSExplorer::get_textual_trace() // override
  71 {
  72   std::vector<std::string> trace;
  73   for (auto const& state : stack_) {
  74     const auto* t = state->get_transition();
  75     trace.push_back(xbt::string_printf("%ld: %s", t->aid_, t->to_string().c_str()));
  76   }
  77   return trace;
  78 }
  79
  80 void DFSExplorer::log_state() // override
  81 {
  82   on_log_state_signal(get_remote_app());
  83   XBT_INFO("DFS exploration ended. %ld unique states visited; %ld backtracks (%lu transition replays, %lu states "
  84            "visited overall)",
  85            State::get_expanded_states(), backtrack_count_, mc_model_checker->get_visited_states(),
  86            Transition::get_replayed_transitions());
  87 }
  88
  89 void DFSExplorer::run()
  90 {
  91   on_exploration_start_signal(get_remote_app());
  92   /* This function runs the DFS algorithm the state space.
  93    * We do so iteratively instead of recursively, dealing with the call stack manually.
  94    * This allows one to explore the call stack at will. */
  95
  96   while (not stack_.empty()) {
  97     /* Get current state */
  98     State* state = stack_.back().get();
  99
 100     XBT_DEBUG("**************************************************");
 101     XBT_DEBUG("Exploration depth=%zu (state:#%ld; %zu interleaves todo)", stack_.size(), state->get_num(),
 102               state->count_todo());
 103
 104     mc_model_checker->inc_visited_states();
 105
 106     // Backtrack if we reached the maximum depth
 107     if (stack_.size() > (std::size_t)_sg_mc_max_depth) {
 108       if (reduction_mode_ == ReductionMode::dpor) {
 109         XBT_ERROR("/!\\ Max depth of %d reached! THIS WILL PROBABLY BREAK the dpor reduction /!\\",
 110                   _sg_mc_max_depth.get());
 111         XBT_ERROR("/!\\ If bad things happen, disable dpor with --cfg=model-check/reduction:none /!\\");
 112       } else
 113         XBT_WARN("/!\\ Max depth reached ! /!\\ ");
 114       this->backtrack();
 115       continue;
 116     }
 117
 118     // Backtrack if we are revisiting a state we saw previously
 119     if (visited_state_ != nullptr) {
 120       XBT_DEBUG("State already visited (equal to state %ld), exploration stopped on this path.",
 121                 visited_state_->original_num == -1 ? visited_state_->num : visited_state_->original_num);
 122
 123       visited_state_ = nullptr;
 124       this->backtrack();
 125       continue;
 126     }
 127
 128     // Search for the next transition
 129     aid_t next = state->next_transition();
 130
 131     if (next < 0) { // If there is no more transition in the current state, backtrack.
 132       XBT_DEBUG("There remains %lu actors, but none to interleave (depth %zu).", state->get_actor_count(),
 133                 stack_.size() + 1);
 134
 135       if (state->get_actor_count() == 0) {
 136         mc_model_checker->finalize_app();
 137         XBT_VERB("Execution came to an end at %s (state: %ld, depth: %zu)", get_record_trace().to_string().c_str(),
 138                  state->get_num(), stack_.size());
 139
 140       }
 141
 142       this->backtrack();
 143       continue;
 144     }
 145
 146     if (_sg_mc_sleep_set) {
 147         XBT_VERB("Sleep set actually containing:");
 148         for (auto & [aid, transition] : state->get_sleep_set()) {
 149
 150             XBT_VERB("  <%ld,%s>", aid, transition.to_string().c_str());
 151
 152         }
 153     }
 154     /* Actually answer the request: let's execute the selected request (MCed does one step) */
 155     state->execute_next(next);
 156     on_transition_execute_signal(state->get_transition(), get_remote_app());
 157
 158     // If there are processes to interleave and the maximum depth has not been
 159     // reached then perform one step of the exploration algorithm.
 160     XBT_VERB("Execute %ld: %.60s (stack depth: %zu, state: %ld, %zu interleaves)", state->get_transition()->aid_,
 161              state->get_transition()->to_string().c_str(), stack_.size(), state->get_num(), state->count_todo());
 162
 163     /* Create the new expanded state (copy the state of MCed into our MCer data) */
 164     std::unique_ptr<State> next_state;
 165
 166     /* If we want sleep set reduction, pass the old state to the new state so it can
 167      * both copy the sleep set and eventually removes things from it locally */
 168     if (_sg_mc_sleep_set)
 169         next_state = std::make_unique<State>(get_remote_app(), state);
 170     else
 171         next_state = std::make_unique<State>(get_remote_app());
 172
 173     on_state_creation_signal(next_state.get(), get_remote_app());
 174
 175
 176     if (_sg_mc_termination)
 177       this->check_non_termination(next_state.get());
 178
 179     /* Check whether we already explored next_state in the past (but only if interested in state-equality reduction) */
 180     if (_sg_mc_max_visited_states > 0)
 181       visited_state_ = visited_states_.addVisitedState(next_state->get_num(), next_state.get());
 182
 183     /* If this is a new state (or if we don't care about state-equality reduction) */
 184     if (visited_state_ == nullptr) {
 185       /* Get an enabled process and insert it in the interleave set of the next state */
 186       for (auto const& [aid, _] : next_state->get_actors_list()) {
 187         if (next_state->is_actor_enabled(aid) and not next_state->is_done(aid)) {
 188           next_state->mark_todo(aid);
 189           if (reduction_mode_ == ReductionMode::dpor)
 190             break; // With DPOR, we take the first enabled transition
 191         }
 192       }
 193
 194       mc_model_checker->dot_output("\"%ld\" -> \"%ld\" [%s];\n", state->get_num(), next_state->get_num(),
 195                                    state->get_transition()->dot_string().c_str());
 196     } else
 197       mc_model_checker->dot_output("\"%ld\" -> \"%ld\" [%s];\n", state->get_num(),
 198                                    visited_state_->original_num == -1 ? visited_state_->num
 199                                                                       : visited_state_->original_num,
 200                                    state->get_transition()->dot_string().c_str());
 201
 202     stack_.push_back(std::move(next_state));
 203   }
 204
 205   log_state();
 206 }
 207
 208 void DFSExplorer::backtrack()
 209 {
 210   backtrack_count_++;
 211   XBT_VERB("Backtracking from %s", get_record_trace().to_string().c_str());
 212   on_backtracking_signal(get_remote_app());
 213   get_remote_app().check_deadlock();
 214
 215   /* We may backtrack from somewhere either because it's leaf, or because every enabled process are in done/sleep set.
 216    * In the first case, we need to remove the last transition corresponding to the Finalize */
 217   if (stack_.back()->get_transition()->aid_ == 0)
 218       stack_.pop_back();
 219
 220   /* Traverse the stack backwards until a state with a non empty interleave set is found, deleting all the states that
 221    *  have it empty in the way. For each deleted state, check if the request that has generated it (from its
 222    *  predecessor state) depends on any other previous request executed before it on another process. If there exists one,
 223    *  find the more recent, and add its process to the interleave set. If the process is not enabled at this point,
 224    *  then add every enabled process to the interleave */
 225   bool found_backtracking_point = false;
 226   while (not stack_.empty() && not found_backtracking_point) {
 227     std::unique_ptr<State> state = std::move(stack_.back());
 228
 229     stack_.pop_back();
 230
 231     XBT_DEBUG("Marking Transition >>%s<< of process %ld done and adding it to the sleep set", state->get_transition()->to_string().c_str(), state->get_transition()->aid_);
 232     state->mark_done(state->get_transition()->aid_);
 233     state->add_sleep_set(state->get_transition());
 234
 235     if (reduction_mode_ == ReductionMode::dpor) {
 236       aid_t issuer_id = state->get_transition()->aid_;
 237       for (auto i = stack_.rbegin(); i != stack_.rend(); ++i) {
 238         State* prev_state = i->get();
 239         if (state->get_transition()->aid_ == prev_state->get_transition()->aid_) {
 240           XBT_DEBUG("Simcall >>%s<< and >>%s<< with same issuer %ld", state->get_transition()->to_string().c_str(),
 241                     prev_state->get_transition()->to_string().c_str(), issuer_id);
 242           continue;
 243         } else if (prev_state->get_transition()->depends(state->get_transition())) {
 244           XBT_VERB("Dependent Transitions:");
 245           XBT_VERB("  %s (state=%ld)", prev_state->get_transition()->to_string().c_str(), prev_state->get_num());
 246           XBT_VERB("  %s (state=%ld)", state->get_transition()->to_string().c_str(), state->get_num());
 247
 248           if (prev_state->is_actor_enabled(issuer_id)){
 249               if (not prev_state->is_done(issuer_id))
 250                   prev_state->mark_todo(issuer_id);
 251               else
 252                   XBT_DEBUG("Actor %ld is already in done set: no need to explore it again", issuer_id);
 253           } else {
 254               XBT_DEBUG("Actor %ld is not enabled: DPOR may be failing. To stay sound, we are marking every enabled transition as todo", issuer_id);
 255               prev_state->mark_all_todo();
 256           }
 257           break;
 258         } else {
 259           XBT_VERB("INDEPENDENT Transitions:");
 260           XBT_VERB("  %s (state=%ld)", prev_state->get_transition()->to_string().c_str(), prev_state->get_num());
 261           XBT_VERB("  %s (state=%ld)", state->get_transition()->to_string().c_str(), state->get_num());
 262         }
 263       }
 264     }
 265
 266     if (state->count_todo() == 0) { // Empty interleaving set: exploration at this level is over
 267       XBT_DEBUG("Delete state %ld at depth %zu", state->get_num(), stack_.size() + 1);
 268
 269     } else {
 270       XBT_DEBUG("Back-tracking to state %ld at depth %zu: %lu transitions left to be explored", state->get_num(),
 271                 stack_.size() + 1, state->count_todo());
 272       stack_.push_back(std::move(state)); // Put it back on the stack so we can explore the next transition of the interleave
 273       found_backtracking_point = true;
 274     }
 275   }
 276
 277   if (found_backtracking_point) {
 278     /* If asked to rollback on a state that has a snapshot, restore it */
 279     State* last_state = stack_.back().get();
 280     if (const auto* system_state = last_state->get_system_state()) {
 281       system_state->restore(&get_remote_app().get_remote_process());
 282       on_restore_system_state_signal(last_state, get_remote_app());
 283       return;
 284     }
 285
 286     /* if no snapshot, we need to restore the initial state and replay the transitions */
 287     get_remote_app().restore_initial_state();
 288     on_restore_initial_state_signal(get_remote_app());
 289
 290     /* Traverse the stack from the state at position start and re-execute the transitions */
 291     for (std::unique_ptr<State> const& state : stack_) {
 292       if (state == stack_.back()) /* If we are arrived on the target state, don't replay the outgoing transition */
 293         break;
 294       state->get_transition()->replay();
 295       on_transition_replay_signal(state->get_transition(), get_remote_app());
 296       /* Update statistics */
 297       mc_model_checker->inc_visited_states();
 298     }
 299   } // If no backtracing point, then the stack is empty and the exploration is over
 300 }
 301
 302 DFSExplorer::DFSExplorer(const std::vector<char*>& args, bool with_dpor) : Exploration(args)
 303 {
 304   if (with_dpor)
 305     reduction_mode_ = ReductionMode::dpor;
 306   else
 307     reduction_mode_ = ReductionMode::none;
 308
 309   if (_sg_mc_termination) {
 310     if (with_dpor) {
 311       XBT_INFO("Check non progressive cycles (turning DPOR off)");
 312       reduction_mode_ = ReductionMode::none;
 313     } else {
 314       XBT_INFO("Check non progressive cycles");
 315     }
 316   } else
 317     XBT_INFO("Start a DFS exploration. Reduction is: %s.", to_c_str(reduction_mode_));
 318
 319   auto initial_state = std::make_unique<State>(get_remote_app());
 320
 321   XBT_DEBUG("**************************************************");
 322
 323   /* Get an enabled actor and insert it in the interleave set of the initial state */
 324   XBT_DEBUG("Initial state. %lu actors to consider", initial_state->get_actor_count());
 325   for (auto const& [aid, _] : initial_state->get_actors_list()) {
 326     if (initial_state->is_actor_enabled(aid)) {
 327       initial_state->mark_todo(aid);
 328       if (reduction_mode_ == ReductionMode::dpor) {
 329         XBT_DEBUG("Actor %ld is TODO, DPOR is ON so let's go for this one.", aid);
 330         break;
 331       }
 332       XBT_DEBUG("Actor %ld is TODO", aid);
 333     }
 334   }
 335
 336   stack_.push_back(std::move(initial_state));
 337 }
 338
 339 Exploration* create_dfs_exploration(const std::vector<char*>& args, bool with_dpor)
 340 {
 341   return new DFSExplorer(args, with_dpor);
 342 }
 343
 344 } // namespace simgrid::mc