src/kernel/lmm/System.cpp

   1 /* Copyright (c) 2004-2022. The SimGrid Team. All rights reserved.          */
   2
   3 /* This program is free software; you can redistribute it and/or modify it
   4  * under the terms of the license (GNU LGPL) which comes with this package. */
   5
   6 #include "src/kernel/lmm/fair_bottleneck.hpp"
   7 #include "src/kernel/lmm/maxmin.hpp"
   8 #if SIMGRID_HAVE_EIGEN3
   9 #include "src/kernel/lmm/bmf.hpp"
  10 #endif
  11 #include <boost/core/demangle.hpp>
  12 #include <typeinfo>
  13
  14 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(ker_lmm, kernel, "Kernel Linear Max-Min solver");
  15
  16 double sg_maxmin_precision = 1E-5; /* Change this with --cfg=maxmin/precision:VALUE */
  17 double sg_surf_precision   = 1E-9; /* Change this with --cfg=surf/precision:VALUE */
  18 int sg_concurrency_limit   = -1;      /* Change this with --cfg=maxmin/concurrency-limit:VALUE */
  19
  20 namespace simgrid {
  21 namespace kernel {
  22 namespace lmm {
  23
  24 int Variable::next_rank_   = 1;
  25 int Constraint::next_rank_ = 1;
  26
  27 Element::Element(Constraint* constraint, Variable* variable, double cweight)
  28     : constraint(constraint), variable(variable), consumption_weight(cweight), max_consumption_weight(cweight)
  29 {
  30 }
  31
  32 int Element::get_concurrency() const
  33 {
  34   // Ignore element with weight less than one (e.g. cross-traffic)
  35   return (consumption_weight >= 1) ? 1 : 0;
  36   // There are other alternatives, but they will change the behavior of the model..
  37   // So do not use it unless you want to make a new model.
  38   // If you do, remember to change the variables concurrency share to reflect it.
  39   // Potential examples are:
  40   // return (elem->weight>0)?1:0;//Include element as soon  as weight is non-zero
  41   // return (int)ceil(elem->weight);//Include element as the rounded-up integer value of the element weight
  42 }
  43
  44 void Element::decrease_concurrency()
  45 {
  46   xbt_assert(constraint->concurrency_current_ >= get_concurrency());
  47   constraint->concurrency_current_ -= get_concurrency();
  48 }
  49
  50 void Element::increase_concurrency(bool check_limit)
  51 {
  52   constraint->concurrency_current_ += get_concurrency();
  53
  54   if (constraint->concurrency_current_ > constraint->concurrency_maximum_)
  55     constraint->concurrency_maximum_ = constraint->concurrency_current_;
  56
  57   xbt_assert(not check_limit || constraint->get_concurrency_limit() < 0 ||
  58                  constraint->concurrency_current_ <= constraint->get_concurrency_limit(),
  59              "Concurrency limit overflow!");
  60 }
  61
  62 System* System::build(const std::string& solver_name, bool selective_update)
  63 {
  64   System* system = nullptr;
  65   if (solver_name == "bmf") {
  66 #if SIMGRID_HAVE_EIGEN3
  67     system = new BmfSystem(selective_update);
  68 #endif
  69   } else if (solver_name == "fairbottleneck") {
  70     system = new FairBottleneck(selective_update);
  71   } else {
  72     system = new MaxMin(selective_update);
  73   }
  74   return system;
  75 }
  76
  77 void System::validate_solver(const std::string& solver_name)
  78 {
  79   static const std::vector<std::string> opts{"bmf", "maxmin", "fairbottleneck"};
  80   if (solver_name == "bmf") {
  81 #if !SIMGRID_HAVE_EIGEN3
  82     xbt_die("Cannot use the BMF solver without installing Eigen3.");
  83 #endif
  84   }
  85   if (std::find(opts.begin(), opts.end(), solver_name) == std::end(opts)) {
  86     xbt_die("Invalid system solver, it should be one of: \"maxmin\", \"fairbottleneck\" or \"bmf\"");
  87   }
  88 }
  89
  90 void System::check_concurrency() const
  91 {
  92   // These checks are very expensive, so do them only if we want to debug SURF LMM
  93   if (not XBT_LOG_ISENABLED(ker_lmm, xbt_log_priority_debug))
  94     return;
  95
  96   for (Constraint const& cnst : constraint_set) {
  97     int concurrency       = 0;
  98     for (Element const& elem : cnst.enabled_element_set_) {
  99       xbt_assert(elem.variable->sharing_penalty_ > 0);
 100       concurrency += elem.get_concurrency();
 101     }
 102
 103     for (Element const& elem : cnst.disabled_element_set_) {
 104       // We should have staged variables only if concurrency is reached in some constraint
 105       xbt_assert(cnst.get_concurrency_limit() < 0 || elem.variable->staged_sharing_penalty_ == 0 ||
 106                      elem.variable->get_min_concurrency_slack() == 0,
 107                  "should not have staged variable!");
 108     }
 109
 110     xbt_assert(cnst.get_concurrency_limit() < 0 || cnst.get_concurrency_limit() >= concurrency,
 111                "concurrency check failed!");
 112     xbt_assert(cnst.concurrency_current_ == concurrency, "concurrency_current is out-of-date!");
 113   }
 114
 115   // Check that for each variable, all corresponding elements are in the same state (i.e. same element sets)
 116   for (Variable const& var : variable_set) {
 117     if (var.cnsts_.empty())
 118       continue;
 119
 120     const Element& elem    = var.cnsts_[0];
 121     bool belong_to_enabled  = elem.enabled_element_set_hook.is_linked();
 122     bool belong_to_disabled = elem.disabled_element_set_hook.is_linked();
 123     bool belong_to_active   = elem.active_element_set_hook.is_linked();
 124
 125     for (Element const& elem2 : var.cnsts_) {
 126       xbt_assert(belong_to_enabled == elem2.enabled_element_set_hook.is_linked(),
 127                  "Variable inconsistency (1): enabled_element_set");
 128       xbt_assert(belong_to_disabled == elem2.disabled_element_set_hook.is_linked(),
 129                  "Variable inconsistency (2): disabled_element_set");
 130       xbt_assert(belong_to_active == elem2.active_element_set_hook.is_linked(),
 131                  "Variable inconsistency (3): active_element_set");
 132     }
 133   }
 134 }
 135
 136 void System::var_free(Variable* var)
 137 {
 138   XBT_IN("(sys=%p, var=%p)", this, var);
 139   modified_ = true;
 140
 141   // TODOLATER Can do better than that by leaving only the variable in only one enabled_element_set, call
 142   // update_modified_set, and then remove it..
 143   update_modified_cnst_set_from_variable(var);
 144
 145   for (Element& elem : var->cnsts_) {
 146     if (var->sharing_penalty_ > 0)
 147       elem.decrease_concurrency();
 148     if (elem.enabled_element_set_hook.is_linked())
 149       simgrid::xbt::intrusive_erase(elem.constraint->enabled_element_set_, elem);
 150     if (elem.disabled_element_set_hook.is_linked())
 151       simgrid::xbt::intrusive_erase(elem.constraint->disabled_element_set_, elem);
 152     if (elem.active_element_set_hook.is_linked())
 153       simgrid::xbt::intrusive_erase(elem.constraint->active_element_set_, elem);
 154     if (elem.constraint->enabled_element_set_.empty() && elem.constraint->disabled_element_set_.empty())
 155       make_constraint_inactive(elem.constraint);
 156     else
 157       on_disabled_var(elem.constraint);
 158   }
 159
 160   var->cnsts_.clear();
 161
 162   check_concurrency();
 163
 164   xbt_mallocator_release(variable_mallocator_, var);
 165   XBT_OUT();
 166 }
 167
 168 System::System(bool selective_update) : selective_update_active(selective_update)
 169 {
 170   XBT_DEBUG("Setting selective_update_active flag to %d", selective_update_active);
 171
 172   if (selective_update)
 173     modified_set_ = std::make_unique<kernel::resource::Action::ModifiedSet>();
 174 }
 175
 176 System::~System()
 177 {
 178   while (Variable* var = extract_variable()) {
 179     std::string demangled = boost::core::demangle(var->id_ ? typeid(*var->id_).name() : "(unidentified)");
 180     XBT_WARN("Probable bug: a %s variable (#%d) not removed before the LMM system destruction.", demangled.c_str(),
 181              var->rank_);
 182     var_free(var);
 183   }
 184   while (Constraint* cnst = extract_constraint())
 185     cnst_free(cnst);
 186
 187   xbt_mallocator_free(variable_mallocator_);
 188 }
 189
 190 void System::cnst_free(Constraint* cnst)
 191 {
 192   make_constraint_inactive(cnst);
 193   delete cnst;
 194 }
 195
 196 Constraint::Constraint(resource::Resource* id_value, double bound_value) : bound_(bound_value), id_(id_value)
 197 {
 198   rank_ = next_rank_++;
 199 }
 200
 201 Constraint* System::constraint_new(resource::Resource* id, double bound_value)
 202 {
 203   auto* cnst = new Constraint(id, bound_value);
 204   insert_constraint(cnst);
 205   return cnst;
 206 }
 207
 208 void* System::variable_mallocator_new_f()
 209 {
 210   return new Variable;
 211 }
 212
 213 void System::variable_mallocator_free_f(void* var)
 214 {
 215   delete static_cast<Variable*>(var);
 216 }
 217
 218 Variable* System::variable_new(resource::Action* id, double sharing_penalty, double bound, size_t number_of_constraints)
 219 {
 220   XBT_IN("(sys=%p, id=%p, penalty=%f, bound=%f, num_cons =%zu)", this, id, sharing_penalty, bound,
 221          number_of_constraints);
 222
 223   auto* var = static_cast<Variable*>(xbt_mallocator_get(variable_mallocator_));
 224   var->initialize(id, sharing_penalty, bound, number_of_constraints, visited_counter_ - 1);
 225   if (sharing_penalty > 0)
 226     variable_set.push_front(*var);
 227   else
 228     variable_set.push_back(*var);
 229
 230   XBT_OUT(" returns %p", var);
 231   return var;
 232 }
 233
 234 void System::variable_free(Variable* var)
 235 {
 236   remove_variable(var);
 237   var_free(var);
 238 }
 239
 240 void System::variable_free_all()
 241 {
 242   while (Variable* var = extract_variable())
 243     variable_free(var);
 244 }
 245
 246 Element& System::expand_create_elem(Constraint* cnst, Variable* var, double consumption_weight)
 247 {
 248   xbt_assert(var->cnsts_.size() < var->cnsts_.capacity(), "Too much constraints");
 249
 250   var->cnsts_.emplace_back(cnst, var, consumption_weight);
 251   Element& elem = var->cnsts_.back();
 252
 253   if (var->sharing_penalty_ != 0.0) {
 254     elem.constraint->enabled_element_set_.push_front(elem);
 255   } else
 256     elem.constraint->disabled_element_set_.push_back(elem);
 257
 258   if (elem.consumption_weight > 0 || var->sharing_penalty_ > 0) {
 259     make_constraint_active(cnst);
 260   }
 261   return elem;
 262 }
 263
 264 Element& System::expand_add_to_elem(Element& elem, const Constraint* cnst, double consumption_weight) const
 265 {
 266   elem.max_consumption_weight = std::max(elem.max_consumption_weight, consumption_weight);
 267   if (cnst->sharing_policy_ != Constraint::SharingPolicy::FATPIPE)
 268     elem.consumption_weight += consumption_weight;
 269   else
 270     elem.consumption_weight = std::max(elem.consumption_weight, consumption_weight);
 271   return elem;
 272 }
 273
 274 void System::expand(Constraint* cnst, Variable* var, double consumption_weight)
 275 {
 276   modified_ = true;
 277
 278   auto elem_it =
 279       std::find_if(begin(var->cnsts_), end(var->cnsts_), [&cnst](Element const& x) { return x.constraint == cnst; });
 280   if (elem_it != end(var->cnsts_)) {
 281     /* before changing it, decreases concurrency on constraint, it'll be added back later */
 282     if (var->sharing_penalty_ != 0.0)
 283       elem_it->decrease_concurrency();
 284   }
 285   Element& elem = elem_it != end(var->cnsts_) ? expand_add_to_elem(*elem_it, cnst, consumption_weight)
 286                                               : expand_create_elem(cnst, var, consumption_weight);
 287
 288   // Check if we need to disable the variable
 289   if (var->sharing_penalty_ != 0) {
 290     /* increase concurrency in constraint that this element uses.
 291      * as we don't check if constraint has reached its limit before increasing,
 292      * we can't check the correct state at increase_concurrency, anyway
 293      * it'll check if the slack is smaller than 0 just below */
 294     elem.increase_concurrency(false);
 295     if (cnst->get_concurrency_slack() < 0) {
 296       double penalty = var->sharing_penalty_;
 297       disable_var(var);
 298       for (Element const& elem2 : var->cnsts_)
 299         on_disabled_var(elem2.constraint);
 300       var->staged_sharing_penalty_ = penalty;
 301       xbt_assert(not var->sharing_penalty_);
 302     }
 303   }
 304
 305   /* update modified constraint set accordingly */
 306   if (elem.consumption_weight > 0 || var->sharing_penalty_ > 0)
 307     update_modified_cnst_set(cnst);
 308
 309   check_concurrency();
 310 }
 311
 312 Variable* Constraint::get_variable(const Element** elem) const
 313 {
 314   if (*elem == nullptr) {
 315     // That is the first call, pick the first element among enabled_element_set (or disabled_element_set if
 316     // enabled_element_set is empty)
 317     if (not enabled_element_set_.empty())
 318       *elem = &enabled_element_set_.front();
 319     else if (not disabled_element_set_.empty())
 320       *elem = &disabled_element_set_.front();
 321     else
 322       *elem = nullptr;
 323   } else {
 324     // elem is not null, so we carry on
 325     if ((*elem)->enabled_element_set_hook.is_linked()) {
 326       // Look at enabled_element_set, and jump to disabled_element_set when finished
 327       auto iter = std::next(enabled_element_set_.iterator_to(**elem));
 328       if (iter != std::end(enabled_element_set_))
 329         *elem = &*iter;
 330       else if (not disabled_element_set_.empty())
 331         *elem = &disabled_element_set_.front();
 332       else
 333         *elem = nullptr;
 334     } else {
 335       auto iter = std::next(disabled_element_set_.iterator_to(**elem));
 336       *elem     = iter != std::end(disabled_element_set_) ? &*iter : nullptr;
 337     }
 338   }
 339   if (*elem)
 340     return (*elem)->variable;
 341   else
 342     return nullptr;
 343 }
 344
 345 // if we modify the list between calls, normal version may loop forever
 346 // this safe version ensures that we browse the list elements only once
 347 Variable* Constraint::get_variable_safe(const Element** elem, const Element** nextelem, size_t* numelem) const
 348 {
 349   if (*elem == nullptr) {
 350     *numelem = enabled_element_set_.size() + disabled_element_set_.size() - 1;
 351     if (not enabled_element_set_.empty())
 352       *elem = &enabled_element_set_.front();
 353     else if (not disabled_element_set_.empty())
 354       *elem = &disabled_element_set_.front();
 355     else
 356       *elem = nullptr;
 357   } else {
 358     *elem = *nextelem;
 359     if (*numelem > 0) {
 360       (*numelem)--;
 361     } else
 362       return nullptr;
 363   }
 364   if (*elem) {
 365     // elem is not null, so we carry on
 366     if ((*elem)->enabled_element_set_hook.is_linked()) {
 367       // Look at enabled_element_set, and jump to disabled_element_set when finished
 368       auto iter = std::next(enabled_element_set_.iterator_to(**elem));
 369       if (iter != std::end(enabled_element_set_))
 370         *nextelem = &*iter;
 371       else if (not disabled_element_set_.empty())
 372         *nextelem = &disabled_element_set_.front();
 373       else
 374         *nextelem = nullptr;
 375     } else {
 376       auto iter = std::next(disabled_element_set_.iterator_to(**elem));
 377       *nextelem = iter != std::end(disabled_element_set_) ? &*iter : nullptr;
 378     }
 379     return (*elem)->variable;
 380   } else
 381     return nullptr;
 382 }
 383
 384 template <class ElemList>
 385 static void format_element_list(const ElemList& elem_list, Constraint::SharingPolicy sharing_policy, double& sum,
 386                                 std::string& buf)
 387 {
 388   for (Element const& elem : elem_list) {
 389     buf += std::to_string(elem.consumption_weight) + ".'" + std::to_string(elem.variable->rank_) + "'(" +
 390            std::to_string(elem.variable->value_) + ")" +
 391            (sharing_policy != Constraint::SharingPolicy::FATPIPE ? " + " : " , ");
 392     if (sharing_policy != Constraint::SharingPolicy::FATPIPE)
 393       sum += elem.consumption_weight * elem.variable->value_;
 394     else
 395       sum = std::max(sum, elem.consumption_weight * elem.variable->value_);
 396   }
 397 }
 398
 399 void System::print() const
 400 {
 401   std::string buf = "MAX-MIN ( ";
 402
 403   /* Printing Objective */
 404   for (Variable const& var : variable_set)
 405     buf += "'" + std::to_string(var.rank_) + "'(" + std::to_string(var.sharing_penalty_) + ") ";
 406   buf += ")";
 407   XBT_DEBUG("%20s", buf.c_str());
 408   buf.clear();
 409
 410   XBT_DEBUG("Constraints");
 411   /* Printing Constraints */
 412   for (Constraint const& cnst : active_constraint_set) {
 413     double sum            = 0.0;
 414     // Show  the enabled variables
 415     buf += "\t";
 416     buf += cnst.sharing_policy_ != Constraint::SharingPolicy::FATPIPE ? "(" : "max(";
 417     format_element_list(cnst.enabled_element_set_, cnst.sharing_policy_, sum, buf);
 418     // TODO: Adding disabled elements only for test compatibility, but do we really want them to be printed?
 419     format_element_list(cnst.disabled_element_set_, cnst.sharing_policy_, sum, buf);
 420
 421     buf += "0) <= " + std::to_string(cnst.bound_) + " ('" + std::to_string(cnst.rank_) + "')";
 422
 423     if (cnst.sharing_policy_ == Constraint::SharingPolicy::FATPIPE) {
 424       buf += " [MAX-Constraint]";
 425     }
 426     XBT_DEBUG("%s", buf.c_str());
 427     buf.clear();
 428     xbt_assert(not double_positive(sum - cnst.bound_, cnst.bound_ * sg_maxmin_precision),
 429                "Incorrect value (%f is not smaller than %f): %g", sum, cnst.bound_, sum - cnst.bound_);
 430   }
 431
 432   XBT_DEBUG("Variables");
 433   /* Printing Result */
 434   for (Variable const& var : variable_set) {
 435     if (var.bound_ > 0) {
 436       XBT_DEBUG("'%d'(%f) : %f (<=%f)", var.rank_, var.sharing_penalty_, var.value_, var.bound_);
 437       xbt_assert(not double_positive(var.value_ - var.bound_, var.bound_ * sg_maxmin_precision),
 438                  "Incorrect value (%f is not smaller than %f", var.value_, var.bound_);
 439     } else {
 440       XBT_DEBUG("'%d'(%f) : %f", var.rank_, var.sharing_penalty_, var.value_);
 441     }
 442   }
 443 }
 444
 445 resource::Action::ModifiedSet* System::get_modified_action_set() const
 446 {
 447   return modified_set_.get();
 448 }
 449
 450 void System::solve()
 451 {
 452   if (not modified_)
 453     return;
 454
 455   do_solve();
 456
 457   modified_ = false;
 458   if (selective_update_active) {
 459     /* update list of modified variables */
 460     for (const Constraint& cnst : modified_constraint_set) {
 461       for (const Element& elem : cnst.enabled_element_set_) {
 462         if (elem.consumption_weight > 0) {
 463           resource::Action* action = elem.variable->id_;
 464           if (not action->is_within_modified_set())
 465             modified_set_->push_back(*action);
 466         }
 467       }
 468     }
 469     /* clear list of modified constraint */
 470     remove_all_modified_cnst_set();
 471   }
 472
 473   if (XBT_LOG_ISENABLED(ker_lmm, xbt_log_priority_debug)) {
 474     print();
 475   }
 476
 477   check_concurrency();
 478 }
 479
 480 /** @brief Attribute the value bound to var->bound.
 481  *
 482  *  @param var the Variable*
 483  *  @param bound the new bound to associate with var
 484  *
 485  *  Makes var->bound equal to bound. Whenever this function is called a change is  signed in the system. To
 486  *  avoid false system changing detection it is a good idea to test (bound != 0) before calling it.
 487  */
 488 void System::update_variable_bound(Variable* var, double bound)
 489 {
 490   modified_  = true;
 491   var->bound_ = bound;
 492
 493   if (not var->cnsts_.empty()) {
 494     for (Element const& elem : var->cnsts_) {
 495       update_modified_cnst_set(elem.constraint);
 496     }
 497   }
 498 }
 499
 500 void Variable::initialize(resource::Action* id_value, double sharing_penalty, double bound_value,
 501                           size_t number_of_constraints, unsigned visited_value)
 502 {
 503   id_     = id_value;
 504   rank_   = next_rank_++;
 505   cnsts_.reserve(number_of_constraints);
 506   sharing_penalty_   = sharing_penalty;
 507   staged_sharing_penalty_ = 0.0;
 508   bound_             = bound_value;
 509   value_             = 0.0;
 510   visited_           = visited_value;
 511   mu_                = 0.0;
 512
 513   xbt_assert(not variable_set_hook_.is_linked());
 514   xbt_assert(not saturated_variable_set_hook_.is_linked());
 515 }
 516
 517 int Variable::get_min_concurrency_slack() const
 518 {
 519   int minslack = std::numeric_limits<int>::max();
 520   for (Element const& elem : cnsts_) {
 521     int slack = elem.constraint->get_concurrency_slack();
 522     if (slack < minslack) {
 523       // This is only an optimization, to avoid looking at more constraints when slack is already zero
 524       if (slack == 0)
 525         return 0;
 526       minslack = slack;
 527     }
 528   }
 529   return minslack;
 530 }
 531
 532 // Small remark: In this implementation of System::enable_var() and System::disable_var(), we will meet multiple times
 533 // with var when running System::update_modified_cnst_set().
 534 // A priori not a big performance issue, but we might do better by calling System::update_modified_cnst_set() within the
 535 // for loops (after doing the first for enabling==1, and before doing the last for disabling==1)
 536 void System::enable_var(Variable* var)
 537 {
 538   xbt_assert(not XBT_LOG_ISENABLED(ker_lmm, xbt_log_priority_debug) || var->can_enable());
 539
 540   var->sharing_penalty_        = var->staged_sharing_penalty_;
 541   var->staged_sharing_penalty_ = 0;
 542
 543   // Enabling the variable, move var to list head. Subtlety is: here, we need to call update_modified_cnst_set AFTER
 544   // moving at least one element of var.
 545
 546   simgrid::xbt::intrusive_erase(variable_set, *var);
 547   variable_set.push_front(*var);
 548   for (Element& elem : var->cnsts_) {
 549     simgrid::xbt::intrusive_erase(elem.constraint->disabled_element_set_, elem);
 550     elem.constraint->enabled_element_set_.push_front(elem);
 551     elem.increase_concurrency();
 552   }
 553   update_modified_cnst_set_from_variable(var);
 554
 555   // When used within on_disabled_var, we would get an assertion fail, because transiently there can be variables
 556   // that are staged and could be activated.
 557   // Anyway, caller functions all call check_concurrency() in the end.
 558 }
 559
 560 void System::disable_var(Variable* var)
 561 {
 562   xbt_assert(not var->staged_sharing_penalty_, "Staged penalty should have been cleared");
 563   // Disabling the variable, move to var to list tail. Subtlety is: here, we need to call update_modified_cnst_set
 564   // BEFORE moving the last element of var.
 565   simgrid::xbt::intrusive_erase(variable_set, *var);
 566   variable_set.push_back(*var);
 567   update_modified_cnst_set_from_variable(var);
 568   for (Element& elem : var->cnsts_) {
 569     simgrid::xbt::intrusive_erase(elem.constraint->enabled_element_set_, elem);
 570     elem.constraint->disabled_element_set_.push_back(elem);
 571     if (elem.active_element_set_hook.is_linked())
 572       simgrid::xbt::intrusive_erase(elem.constraint->active_element_set_, elem);
 573     elem.decrease_concurrency();
 574   }
 575
 576   var->sharing_penalty_ = 0.0;
 577   var->staged_sharing_penalty_ = 0.0;
 578   var->value_          = 0.0;
 579   check_concurrency();
 580 }
 581
 582 /* /brief Find variables that can be enabled and enable them.
 583  *
 584  * Assuming that the variable has already been removed from non-zero penalties
 585  * Can we find a staged variable to add?
 586  * If yes, check that none of the constraints that this variable is involved in is at the limit of its concurrency
 587  * And then add it to enabled variables
 588  */
 589 void System::on_disabled_var(Constraint* cnstr)
 590 {
 591   if (cnstr->get_concurrency_limit() < 0)
 592     return;
 593
 594   size_t numelem = cnstr->disabled_element_set_.size();
 595   if (numelem == 0)
 596     return;
 597
 598   Element* elem = &cnstr->disabled_element_set_.front();
 599
 600   // Cannot use foreach loop, because System::enable_var() will modify disabled_element_set.. within the loop
 601   while (numelem-- && elem) {
 602     Element* nextelem;
 603     if (elem->disabled_element_set_hook.is_linked()) {
 604       auto iter = std::next(cnstr->disabled_element_set_.iterator_to(*elem));
 605       nextelem  = iter != std::end(cnstr->disabled_element_set_) ? &*iter : nullptr;
 606     } else {
 607       nextelem = nullptr;
 608     }
 609
 610     if (elem->variable->staged_sharing_penalty_ > 0 && elem->variable->can_enable()) {
 611       // Found a staged variable
 612       // TODOLATER: Add random timing function to model reservation protocol fuzziness? Then how to make sure that
 613       // staged variables will eventually be called?
 614       enable_var(elem->variable);
 615     }
 616
 617     xbt_assert(cnstr->concurrency_current_ <= cnstr->get_concurrency_limit(), "Concurrency overflow!");
 618     if (cnstr->concurrency_current_ == cnstr->get_concurrency_limit())
 619       break;
 620
 621     elem = nextelem;
 622   }
 623
 624   // We could get an assertion fail, because transiently there can be variables that are staged and could be activated.
 625   // And we need to go through all constraints of the disabled var before getting back a coherent state.
 626   // Anyway, caller functions all call check_concurrency() in the end.
 627 }
 628
 629 /** @brief update the penalty of a variable (disable it by passing 0 as a penalty) */
 630 void System::update_variable_penalty(Variable* var, double penalty)
 631 {
 632   xbt_assert(penalty >= 0, "Variable penalty should not be negative!");
 633   if (penalty == var->sharing_penalty_)
 634     return;
 635
 636   bool enabling_var  = (penalty > 0 && var->sharing_penalty_ <= 0);
 637   bool disabling_var = (penalty <= 0 && var->sharing_penalty_ > 0);
 638
 639   XBT_IN("(sys=%p, var=%p, var->sharing_penalty = %f, penalty=%f)", this, var, var->sharing_penalty_, penalty);
 640
 641   modified_ = true;
 642
 643   // Are we enabling this variable?
 644   if (enabling_var) {
 645     var->staged_sharing_penalty_ = penalty;
 646     int minslack       = var->get_min_concurrency_slack();
 647     if (minslack == 0) {
 648       XBT_DEBUG("Staging var (instead of enabling) because min concurrency slack is 0");
 649       return;
 650     }
 651     XBT_DEBUG("Enabling var with min concurrency slack %i", minslack);
 652     enable_var(var);
 653   } else if (disabling_var) {
 654     disable_var(var);
 655   } else {
 656     var->sharing_penalty_ = penalty;
 657     update_modified_cnst_set_from_variable(var);
 658   }
 659
 660   check_concurrency();
 661
 662   XBT_OUT();
 663 }
 664
 665 void System::update_constraint_bound(Constraint* cnst, double bound)
 666 {
 667   modified_ = true;
 668   update_modified_cnst_set(cnst);
 669   cnst->bound_ = bound;
 670 }
 671
 672 /** @brief Update the constraint set propagating recursively to other constraints so the system should not be entirely
 673  *  computed.
 674  *
 675  *  @param cnst the Constraint* affected by the change
 676  *
 677  *  A recursive algorithm to optimize the system recalculation selecting only constraints that have changed. Each
 678  *  constraint change is propagated to the list of constraints for each variable.
 679  */
 680 void System::update_modified_cnst_set_rec(const Constraint* cnst)
 681 {
 682   for (Element const& elem : cnst->enabled_element_set_) {
 683     Variable* var = elem.variable;
 684     for (Element const& elem2 : var->cnsts_) {
 685       if (var->visited_ == visited_counter_)
 686         break;
 687       if (elem2.constraint != cnst && not elem2.constraint->modified_constraint_set_hook_.is_linked()) {
 688         modified_constraint_set.push_back(*elem2.constraint);
 689         update_modified_cnst_set_rec(elem2.constraint);
 690       }
 691     }
 692     // var will be ignored in later visits as long as sys->visited_counter does not move
 693     var->visited_ = visited_counter_;
 694   }
 695 }
 696
 697 void System::update_modified_cnst_set_from_variable(const Variable* var)
 698 {
 699   /* nothing to update in these cases:
 700    * - selective update not active, all variables are active
 701    * - variable doesn't use any constraint
 702    * - variable is disabled (sharing penalty <= 0): we iterate only through the enabled_variables in
 703    * update_modified_cnst_set_rec */
 704   if (not selective_update_active || var->cnsts_.empty() || var->sharing_penalty_ <= 0)
 705     return;
 706
 707   /* Normally, if the conditions above are true, specially variable is enabled, we can call
 708    * modified_set over the first contraint only, since the recursion in update_modified_cnst_set_rec
 709    * will iterate over the other constraints of this variable */
 710   update_modified_cnst_set(var->cnsts_[0].constraint);
 711 }
 712
 713 void System::update_modified_cnst_set(Constraint* cnst)
 714 {
 715   /* nothing to do if selective update isn't active */
 716   if (selective_update_active && not cnst->modified_constraint_set_hook_.is_linked()) {
 717     modified_constraint_set.push_back(*cnst);
 718     update_modified_cnst_set_rec(cnst);
 719   }
 720 }
 721
 722 void System::remove_all_modified_cnst_set()
 723 {
 724   // We cleverly un-flag all variables just by incrementing visited_counter
 725   // In effect, the var->visited value will no more be equal to visited counter
 726   // To be clean, when visited counter has wrapped around, we force these var->visited values so that variables that
 727   // were in the modified a long long time ago are not wrongly skipped here, which would lead to very nasty bugs
 728   // (i.e. not readily reproducible, and requiring a lot of run time before happening).
 729   if (++visited_counter_ == 1) {
 730     /* the counter wrapped around, reset each variable->visited */
 731     for (Variable& var : variable_set)
 732       var.visited_ = 0;
 733   }
 734   modified_constraint_set.clear();
 735 }
 736
 737 /**
 738  * Returns resource load (in flop per second, or byte per second, or similar)
 739  *
 740  * If the resource is shared (the default case), the load is sum of resource usage made by
 741  * every variables located on this resource.
 742  *
 743  * If the resource is not shared (ie in FATPIPE mode), then the load is the max (not the sum)
 744  * of all resource usages located on this resource.
 745  */
 746 double Constraint::get_usage() const
 747 {
 748   double result              = 0.0;
 749   if (sharing_policy_ != SharingPolicy::FATPIPE) {
 750     for (Element const& elem : enabled_element_set_)
 751       if (elem.consumption_weight > 0)
 752         result += elem.consumption_weight * elem.variable->value_;
 753   } else {
 754     for (Element const& elem : enabled_element_set_)
 755       if (elem.consumption_weight > 0)
 756         result = std::max(result, elem.consumption_weight * elem.variable->value_);
 757   }
 758   return result;
 759 }
 760
 761 int Constraint::get_variable_amount() const
 762 {
 763   return static_cast<int>(std::count_if(std::begin(enabled_element_set_), std::end(enabled_element_set_),
 764                                         [](const Element& elem) { return elem.consumption_weight > 0; }));
 765 }
 766
 767 void Constraint::set_sharing_policy(SharingPolicy policy, const s4u::NonLinearResourceCb& cb)
 768 {
 769   xbt_assert(policy == SharingPolicy::NONLINEAR || not cb,
 770              "Invalid sharing policy for constraint. Callback should be used with NONLINEAR sharing policy");
 771   sharing_policy_    = policy;
 772   dyn_constraint_cb_ = cb;
 773 }
 774
 775 } // namespace lmm
 776 } // namespace kernel
 777 } // namespace simgrid