src/surf/ptask_L07.cpp

   1 /* Copyright (c) 2007-2010, 2013-2017. The SimGrid Team.
   2  * All rights reserved.                                                     */
   3
   4 /* This program is free software; you can redistribute it and/or modify it
   5  * under the terms of the license (GNU LGPL) which comes with this package. */
   6
   7 #include <cstdlib>
   8
   9 #include <algorithm>
  10 #include <unordered_set>
  11
  12 #include "ptask_L07.hpp"
  13
  14 #include "cpu_interface.hpp"
  15
  16 XBT_LOG_EXTERNAL_DEFAULT_CATEGORY(surf_host);
  17 XBT_LOG_EXTERNAL_CATEGORY(xbt_cfg);
  18
  19 /**************************************/
  20 /*** Resource Creation & Destruction **/
  21 /**************************************/
  22 void surf_host_model_init_ptask_L07()
  23 {
  24   XBT_CINFO(xbt_cfg,"Switching to the L07 model to handle parallel tasks.");
  25   xbt_assert(not surf_cpu_model_pm, "CPU model type already defined");
  26   xbt_assert(not surf_network_model, "network model type already defined");
  27
  28   surf_host_model = new simgrid::surf::HostL07Model();
  29   all_existing_models->push_back(surf_host_model);
  30 }
  31
  32
  33 namespace simgrid {
  34 namespace surf {
  35
  36 HostL07Model::HostL07Model() : HostModel() {
  37   maxminSystem_ = lmm_system_new(true /* lazy */);
  38   maxminSystem_->solve_fun = &bottleneck_solve;
  39   surf_network_model = new NetworkL07Model(this,maxminSystem_);
  40   surf_cpu_model_pm = new CpuL07Model(this,maxminSystem_);
  41 }
  42
  43 HostL07Model::~HostL07Model()
  44 {
  45   lmm_system_free(maxminSystem_);
  46   maxminSystem_ = nullptr;
  47   delete surf_network_model;
  48   delete surf_cpu_model_pm;
  49 }
  50
  51 CpuL07Model::CpuL07Model(HostL07Model *hmodel,lmm_system_t sys)
  52   : CpuModel()
  53   , hostModel_(hmodel)
  54 {
  55   maxminSystem_ = sys;
  56 }
  57
  58 CpuL07Model::~CpuL07Model()
  59 {
  60   maxminSystem_ = nullptr;
  61 }
  62
  63 NetworkL07Model::NetworkL07Model(HostL07Model *hmodel, lmm_system_t sys)
  64   : NetworkModel()
  65   , hostModel_(hmodel)
  66 {
  67   maxminSystem_ = sys;
  68   loopback_     = createLink("__loopback__", 498000000, 0.000015, SURF_LINK_FATPIPE);
  69 }
  70
  71 NetworkL07Model::~NetworkL07Model()
  72 {
  73   maxminSystem_ = nullptr;
  74 }
  75
  76 double HostL07Model::nextOccuringEvent(double now)
  77 {
  78   double min = HostModel::nextOccuringEventFull(now);
  79   ActionList::iterator it(getRunningActionSet()->begin());
  80   ActionList::iterator itend(getRunningActionSet()->end());
  81   for (; it != itend; ++it) {
  82     L07Action *action = static_cast<L07Action*>(&*it);
  83     if (action->latency_ > 0 && (min < 0 || action->latency_ < min)) {
  84       min = action->latency_;
  85       XBT_DEBUG("Updating min with %p (start %f): %f", action, action->getStartTime(), min);
  86     }
  87   }
  88   XBT_DEBUG("min value: %f", min);
  89
  90   return min;
  91 }
  92
  93 void HostL07Model::updateActionsState(double /*now*/, double delta) {
  94
  95   L07Action *action;
  96   ActionList *actionSet = getRunningActionSet();
  97   ActionList::iterator it(actionSet->begin());
  98   ActionList::iterator itNext = it;
  99   ActionList::iterator itend(actionSet->end());
 100
 101   for (; it != itend; it = itNext) {
 102     ++itNext;
 103     action = static_cast<L07Action*>(&*it);
 104     if (action->latency_ > 0) {
 105       if (action->latency_ > delta) {
 106         double_update(&(action->latency_), delta, sg_surf_precision);
 107       } else {
 108         action->latency_ = 0.0;
 109       }
 110       if ((action->latency_ <= 0.0) && (action->isSuspended() == 0)) {
 111         action->updateBound();
 112         lmm_update_variable_weight(maxminSystem_, action->getVariable(), 1.0);
 113       }
 114     }
 115     XBT_DEBUG("Action (%p) : remains (%g) updated by %g.",
 116            action, action->getRemains(), lmm_variable_getvalue(action->getVariable()) * delta);
 117     action->updateRemains(lmm_variable_getvalue(action->getVariable()) * delta);
 118
 119     if (action->getMaxDuration() > NO_MAX_DURATION)
 120       action->updateMaxDuration(delta);
 121
 122     XBT_DEBUG("Action (%p) : remains (%g).", action, action->getRemains());
 123
 124     /* In the next if cascade, the action can be finished either because:
 125      *  - The amount of remaining work reached 0
 126      *  - The max duration was reached
 127      * If it's not done, it may have failed.
 128      */
 129
 130     if (((action->getRemains() <= 0) && (lmm_get_variable_weight(action->getVariable()) > 0)) ||
 131         ((action->getMaxDuration() > NO_MAX_DURATION) && (action->getMaxDuration() <= 0))) {
 132       action->finish(Action::State::done);
 133     } else {
 134       /* Need to check that none of the model has failed */
 135       int i = 0;
 136       lmm_constraint_t cnst = lmm_get_cnst_from_var(maxminSystem_, action->getVariable(), i);
 137       while (cnst != nullptr) {
 138         i++;
 139         void *constraint_id = lmm_constraint_id(cnst);
 140         if (static_cast<simgrid::surf::Resource*>(constraint_id)->isOff()) {
 141           XBT_DEBUG("Action (%p) Failed!!", action);
 142           action->finish(Action::State::failed);
 143           break;
 144         }
 145         cnst = lmm_get_cnst_from_var(maxminSystem_, action->getVariable(), i);
 146       }
 147     }
 148   }
 149 }
 150
 151 Action *HostL07Model::executeParallelTask(int host_nb, sg_host_t *host_list,
 152                                           double *flops_amount, double *bytes_amount,double rate) {
 153   return new L07Action(this, host_nb, host_list, flops_amount, bytes_amount, rate);
 154 }
 155
 156 L07Action::L07Action(Model *model, int host_nb, sg_host_t *host_list,
 157                      double *flops_amount, double *bytes_amount, double rate)
 158   : CpuAction(model, 1, 0)
 159   , computationAmount_(flops_amount)
 160   , communicationAmount_(bytes_amount)
 161   , rate_(rate)
 162 {
 163   int nb_link = 0;
 164   int nb_used_host = 0; /* Only the hosts with something to compute (>0 flops) are counted) */
 165   double latency = 0.0;
 166
 167   this->hostList_->reserve(host_nb);
 168   for (int i = 0; i < host_nb; i++) {
 169     this->hostList_->push_back(host_list[i]);
 170     if (flops_amount[i] > 0)
 171       nb_used_host++;
 172   }
 173
 174   /* Compute the number of affected resources... */
 175   if(bytes_amount != nullptr) {
 176     std::unordered_set<const char*> affected_links;
 177
 178     for (int i = 0; i < host_nb; i++) {
 179       for (int j = 0; j < host_nb; j++) {
 180
 181         if (bytes_amount[i * host_nb + j] > 0) {
 182           double lat=0.0;
 183
 184           std::vector<LinkImpl*> route;
 185           hostList_->at(i)->routeTo(hostList_->at(j), route, &lat);
 186           latency = std::max(latency, lat);
 187
 188           for (auto const& link : route)
 189             affected_links.insert(link->getCname());
 190         }
 191       }
 192     }
 193
 194     nb_link = affected_links.size();
 195   }
 196
 197   XBT_DEBUG("Creating a parallel task (%p) with %d hosts and %d unique links.", this, host_nb, nb_link);
 198   latency_ = latency;
 199
 200   setVariable(lmm_variable_new(model->getMaxminSystem(), this, 1.0, (rate > 0 ? rate : -1.0), host_nb + nb_link));
 201
 202   if (latency_ > 0)
 203     lmm_update_variable_weight(model->getMaxminSystem(), getVariable(), 0.0);
 204
 205   for (int i = 0; i < host_nb; i++)
 206     lmm_expand(model->getMaxminSystem(), host_list[i]->pimpl_cpu->constraint(), getVariable(), flops_amount[i]);
 207
 208   if(bytes_amount != nullptr) {
 209     for (int i = 0; i < host_nb; i++) {
 210       for (int j = 0; j < host_nb; j++) {
 211         if (bytes_amount[i * host_nb + j] > 0.0) {
 212           std::vector<LinkImpl*> route;
 213           hostList_->at(i)->routeTo(hostList_->at(j), route, nullptr);
 214
 215           for (auto const& link : route)
 216             lmm_expand_add(model->getMaxminSystem(), link->constraint(), this->getVariable(),
 217                            bytes_amount[i * host_nb + j]);
 218         }
 219       }
 220     }
 221   }
 222
 223   if (nb_link + nb_used_host == 0) {
 224     this->setCost(1.0);
 225     this->setRemains(0.0);
 226   }
 227   delete[] host_list;
 228 }
 229
 230 Action* NetworkL07Model::communicate(s4u::Host* src, s4u::Host* dst, double size, double rate)
 231 {
 232   sg_host_t* host_list = new sg_host_t[2]();
 233   double* flops_amount = new double[2]();
 234   double* bytes_amount = new double[4]();
 235
 236   host_list[0]    = src;
 237   host_list[1]    = dst;
 238   bytes_amount[1] = size;
 239
 240   return hostModel_->executeParallelTask(2, host_list, flops_amount, bytes_amount, rate);
 241 }
 242
 243 Cpu *CpuL07Model::createCpu(simgrid::s4u::Host *host,  std::vector<double> *speedPerPstate, int core)
 244 {
 245   return new CpuL07(this, host, speedPerPstate, core);
 246 }
 247
 248 LinkImpl* NetworkL07Model::createLink(const std::string& name, double bandwidth, double latency,
 249                                       e_surf_link_sharing_policy_t policy)
 250 {
 251   return new LinkL07(this, name, bandwidth, latency, policy);
 252 }
 253
 254 /************
 255  * Resource *
 256  ************/
 257
 258 CpuL07::CpuL07(CpuL07Model* model, simgrid::s4u::Host* host, std::vector<double>* speedPerPstate, int core)
 259     : Cpu(model, host, lmm_constraint_new(model->getMaxminSystem(), this, speedPerPstate->front()), speedPerPstate,
 260           core)
 261 {
 262 }
 263
 264 CpuL07::~CpuL07()=default;
 265
 266 LinkL07::LinkL07(NetworkL07Model* model, const std::string& name, double bandwidth, double latency,
 267                  e_surf_link_sharing_policy_t policy)
 268     : LinkImpl(model, name, lmm_constraint_new(model->getMaxminSystem(), this, bandwidth))
 269 {
 270   bandwidth_.peak = bandwidth;
 271   latency_.peak   = latency;
 272
 273   if (policy == SURF_LINK_FATPIPE)
 274     lmm_constraint_shared(constraint());
 275
 276   s4u::Link::onCreation(this->piface_);
 277 }
 278
 279 Action *CpuL07::execution_start(double size)
 280 {
 281   sg_host_t* host_list = new sg_host_t[1]();
 282   double* flops_amount = new double[1]();
 283
 284   host_list[0] = getHost();
 285   flops_amount[0] = size;
 286
 287   return static_cast<CpuL07Model*>(model())->hostModel_->executeParallelTask(1, host_list, flops_amount, nullptr, -1);
 288 }
 289
 290 Action *CpuL07::sleep(double duration)
 291 {
 292   L07Action *action = static_cast<L07Action*>(execution_start(1.0));
 293   action->setMaxDuration(duration);
 294   action->suspended_ = 2;
 295   lmm_update_variable_weight(model()->getMaxminSystem(), action->getVariable(), 0.0);
 296
 297   return action;
 298 }
 299
 300 bool CpuL07::isUsed(){
 301   return lmm_constraint_used(model()->getMaxminSystem(), constraint());
 302 }
 303
 304 /** @brief take into account changes of speed (either load or max) */
 305 void CpuL07::onSpeedChange() {
 306   lmm_variable_t var = nullptr;
 307   lmm_element_t elem = nullptr;
 308
 309   lmm_update_constraint_bound(model()->getMaxminSystem(), constraint(), speed_.peak * speed_.scale);
 310   while ((var = lmm_get_var_from_cnst(model()->getMaxminSystem(), constraint(), &elem))) {
 311     Action* action = static_cast<Action*>(lmm_variable_id(var));
 312
 313     lmm_update_variable_bound(model()->getMaxminSystem(), action->getVariable(), speed_.scale * speed_.peak);
 314   }
 315
 316   Cpu::onSpeedChange();
 317 }
 318
 319
 320 bool LinkL07::isUsed(){
 321   return lmm_constraint_used(model()->getMaxminSystem(), constraint());
 322 }
 323
 324 void CpuL07::apply_event(tmgr_trace_event_t triggered, double value)
 325 {
 326   XBT_DEBUG("Updating cpu %s (%p) with value %g", getCname(), this, value);
 327   if (triggered == speed_.event) {
 328     speed_.scale = value;
 329     onSpeedChange();
 330     tmgr_trace_event_unref(&speed_.event);
 331
 332   } else if (triggered == stateEvent_) {
 333     if (value > 0)
 334       turnOn();
 335     else
 336       turnOff();
 337     tmgr_trace_event_unref(&stateEvent_);
 338
 339   } else {
 340     xbt_die("Unknown event!\n");
 341   }
 342 }
 343
 344 void LinkL07::apply_event(tmgr_trace_event_t triggered, double value)
 345 {
 346   XBT_DEBUG("Updating link %s (%p) with value=%f", getCname(), this, value);
 347   if (triggered == bandwidth_.event) {
 348     setBandwidth(value);
 349     tmgr_trace_event_unref(&bandwidth_.event);
 350
 351   } else if (triggered == latency_.event) {
 352     setLatency(value);
 353     tmgr_trace_event_unref(&latency_.event);
 354
 355   } else if (triggered == stateEvent_) {
 356     if (value > 0)
 357       turnOn();
 358     else
 359       turnOff();
 360     tmgr_trace_event_unref(&stateEvent_);
 361
 362   } else {
 363     xbt_die("Unknown event ! \n");
 364   }
 365 }
 366
 367 void LinkL07::setBandwidth(double value)
 368 {
 369   bandwidth_.peak = value;
 370   lmm_update_constraint_bound(model()->getMaxminSystem(), constraint(), bandwidth_.peak * bandwidth_.scale);
 371 }
 372
 373 void LinkL07::setLatency(double value)
 374 {
 375   lmm_variable_t var = nullptr;
 376   L07Action *action;
 377   lmm_element_t elem = nullptr;
 378
 379   latency_.peak = value;
 380   while ((var = lmm_get_var_from_cnst(model()->getMaxminSystem(), constraint(), &elem))) {
 381     action = static_cast<L07Action*>(lmm_variable_id(var));
 382     action->updateBound();
 383   }
 384 }
 385 LinkL07::~LinkL07() = default;
 386
 387 /**********
 388  * Action *
 389  **********/
 390
 391 L07Action::~L07Action(){
 392   delete hostList_;
 393   delete[] communicationAmount_;
 394   delete[] computationAmount_;
 395 }
 396
 397 void L07Action::updateBound()
 398 {
 399   double lat_current = 0.0;
 400
 401   int hostNb = hostList_->size();
 402
 403   if (communicationAmount_ != nullptr) {
 404     for (int i = 0; i < hostNb; i++) {
 405       for (int j = 0; j < hostNb; j++) {
 406
 407         if (communicationAmount_[i * hostNb + j] > 0) {
 408           double lat = 0.0;
 409           std::vector<LinkImpl*> route;
 410           hostList_->at(i)->routeTo(hostList_->at(j), route, &lat);
 411
 412           lat_current = std::max(lat_current, lat * communicationAmount_[i * hostNb + j]);
 413         }
 414       }
 415     }
 416   }
 417   double lat_bound = sg_tcp_gamma / (2.0 * lat_current);
 418   XBT_DEBUG("action (%p) : lat_bound = %g", this, lat_bound);
 419   if ((latency_ <= 0.0) && (suspended_ == 0)) {
 420     if (rate_ < 0)
 421       lmm_update_variable_bound(getModel()->getMaxminSystem(), getVariable(), lat_bound);
 422     else
 423       lmm_update_variable_bound(getModel()->getMaxminSystem(), getVariable(), std::min(rate_, lat_bound));
 424   }
 425 }
 426
 427 int L07Action::unref()
 428 {
 429   refcount_--;
 430   if (not refcount_) {
 431     if (action_hook.is_linked())
 432       stateSet_->erase(stateSet_->iterator_to(*this));
 433     if (getVariable())
 434       lmm_variable_free(getModel()->getMaxminSystem(), getVariable());
 435     delete this;
 436     return 1;
 437   }
 438   return 0;
 439 }
 440
 441 }
 442 }