Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
Improving the performance of the NS-3 bindings by:
[simgrid.git] / src / s4u / s4u_Host.cpp
1 /* Copyright (c) 2006-2019. The SimGrid Team. All rights reserved.          */
2
3 /* This program is free software; you can redistribute it and/or modify it
4  * under the terms of the license (GNU LGPL) which comes with this package. */
5
6 #include "simgrid/kernel/routing/NetPoint.hpp"
7 #include "simgrid/s4u/Actor.hpp"
8 #include "simgrid/s4u/Engine.hpp"
9 #include "simgrid/s4u/Exec.hpp"
10 #include "simgrid/s4u/VirtualMachine.hpp"
11 #include "src/plugins/vm/VirtualMachineImpl.hpp"
12 #include "src/simix/smx_private.hpp"
13 #include "src/surf/HostImpl.hpp"
14
15 #include <algorithm>
16 #include <string>
17
18 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(s4u_host, s4u, "Logging specific to the S4U hosts");
19 XBT_LOG_EXTERNAL_CATEGORY(surf_route);
20
21 int USER_HOST_LEVEL = -1;
22
23 namespace simgrid {
24 namespace xbt {
25 template class Extendable<s4u::Host>;
26 } // namespace xbt
27
28 namespace s4u {
29
30 xbt::signal<void(Host&)> Host::on_creation;
31 xbt::signal<void(Host const&)> Host::on_destruction;
32 xbt::signal<void(Host const&)> Host::on_state_change;
33 xbt::signal<void(Host const&)> Host::on_speed_change;
34
35 Host::Host(const std::string& name) : name_(name)
36 {
37   xbt_assert(Host::by_name_or_null(name_) == nullptr, "Refusing to create a second host named '%s'.", get_cname());
38   Engine::get_instance()->host_register(name_, this);
39   new surf::HostImpl(this);
40 }
41
42 Host::~Host()
43 {
44   xbt_assert(currently_destroying_, "Please call h->destroy() instead of manually deleting it.");
45
46   delete pimpl_;
47   if (pimpl_netpoint != nullptr) // not removed yet by a children class
48     Engine::get_instance()->netpoint_unregister(pimpl_netpoint);
49   delete pimpl_cpu;
50   delete mounts_;
51 }
52
53 /** @brief Fire the required callbacks and destroy the object
54  *
55  * Don't delete directly a host, call h->destroy() instead.
56  *
57  * This is cumbersome but this is the simplest solution to ensure that the onDestruction() callback receives a valid
58  * object (because of the destructor order in a class hierarchy).
59  */
60 void Host::destroy()
61 {
62   if (not currently_destroying_) {
63     currently_destroying_ = true;
64     on_destruction(*this);
65     Engine::get_instance()->host_unregister(std::string(name_));
66     delete this;
67   }
68 }
69
70 Host* Host::by_name(const std::string& name)
71 {
72   return Engine::get_instance()->host_by_name(name);
73 }
74 Host* Host::by_name_or_null(const std::string& name)
75 {
76   return Engine::get_instance()->host_by_name_or_null(name);
77 }
78
79 Host* Host::current()
80 {
81   kernel::actor::ActorImpl* self = SIMIX_process_self();
82   if (self == nullptr)
83     xbt_die("Cannot call Host::current() from the maestro context");
84   return self->get_host();
85 }
86
87 void Host::turn_on()
88 {
89   if (not is_on()) {
90     kernel::actor::simcall([this] {
91       this->pimpl_cpu->turn_on();
92       this->pimpl_->turn_on();
93       on_state_change(*this);
94     });
95   }
96 }
97
98 /** @brief Stop the host if it is on */
99 void Host::turn_off()
100 {
101   if (is_on()) {
102     kernel::actor::simcall([this] {
103       for (VirtualMachine* const& vm : vm::VirtualMachineImpl::allVms_)
104         if (vm->get_pm() == this) {
105           vm->shutdown();
106           vm->turn_off();
107         }
108       this->pimpl_cpu->turn_off();
109       this->pimpl_->turn_off();
110
111       on_state_change(*this);
112     });
113   }
114 }
115
116 bool Host::is_on() const
117 {
118   return this->pimpl_cpu->is_on();
119 }
120
121 int Host::get_pstate_count() const
122 {
123   return this->pimpl_cpu->get_pstate_count();
124 }
125
126 /**
127  * @brief Return a copy of the list of actors that are executing on this host.
128  *
129  * Daemons and regular actors are all mixed in this list.
130  */
131 std::vector<ActorPtr> Host::get_all_actors()
132 {
133   return pimpl_->get_all_actors();
134 }
135
136 /** @brief Returns how many actors (daemonized or not) have been launched on this host */
137 int Host::get_actor_count()
138 {
139   return pimpl_->get_actor_count();
140 }
141
142 /**
143  * @brief Find a route toward another host
144  *
145  * @param dest [IN] where to
146  * @param links [OUT] where to store the list of links (must exist, cannot be nullptr).
147  * @param latency [OUT] where to store the latency experienced on the path (or nullptr if not interested)
148  *                It is the caller responsibility to initialize latency to 0 (we add to provided route)
149  * @pre links!=nullptr
150  *
151  * walk through the routing components tree and find a route between hosts
152  * by calling each "get_route" function in each routing component.
153  */
154 void Host::route_to(Host* dest, std::vector<Link*>& links, double* latency)
155 {
156   std::vector<kernel::resource::LinkImpl*> linkImpls;
157   this->route_to(dest, linkImpls, latency);
158   for (kernel::resource::LinkImpl* const& l : linkImpls)
159     links.push_back(&l->piface_);
160 }
161
162 /** @brief Just like Host::routeTo, but filling an array of link implementations */
163 void Host::route_to(Host* dest, std::vector<kernel::resource::LinkImpl*>& links, double* latency)
164 {
165   kernel::routing::NetZoneImpl::get_global_route(pimpl_netpoint, dest->pimpl_netpoint, links, latency);
166   if (XBT_LOG_ISENABLED(surf_route, xbt_log_priority_debug)) {
167     XBT_CDEBUG(surf_route, "Route from '%s' to '%s' (latency: %f):", get_cname(), dest->get_cname(),
168                (latency == nullptr ? -1 : *latency));
169     for (auto const& link : links)
170       XBT_CDEBUG(surf_route, "Link %s", link->get_cname());
171   }
172 }
173
174 /** @brief Returns the networking zone englobing that host */
175 NetZone* Host::get_englobing_zone()
176 {
177   return pimpl_netpoint->get_englobing_zone()->get_iface();
178 }
179
180 void Host::send_to(Host* dest, double byte_amount)
181 {
182   std::vector<Host*> m_host_list   = {this, dest};
183   std::vector<double> flops_amount = {0, 0};
184   std::vector<double> bytes_amount = {0, byte_amount, 0, 0};
185   this_actor::parallel_execute(m_host_list, flops_amount, bytes_amount);
186 }
187
188 /** Get the properties assigned to a host */
189 const std::unordered_map<std::string, std::string>* Host::get_properties() const
190 {
191   return this->pimpl_->get_properties();
192 }
193
194 /** Retrieve the property value (or nullptr if not set) */
195 const char* Host::get_property(const std::string& key) const
196 {
197   return this->pimpl_->get_property(key);
198 }
199
200 void Host::set_property(const std::string& key, const std::string& value)
201 {
202   kernel::actor::simcall([this, &key, &value] { this->pimpl_->set_property(key, value); });
203 }
204
205 void Host::set_properties(const std::map<std::string, std::string>& properties)
206 {
207   kernel::actor::simcall([this, &properties] { this->pimpl_->set_properties(properties); });
208 }
209
210 /** Specify a profile turning the host on and off according to a exhaustive list or a stochastic law.
211  * The profile must contain boolean values. */
212 void Host::set_state_profile(kernel::profile::Profile* p)
213 {
214   return kernel::actor::simcall([this, p] { pimpl_cpu->set_state_profile(p); });
215 }
216 /** Specify a profile modeling the external load according to a exhaustive list or a stochastic law.
217  *
218  * Each event of the profile represent a peak speed change that is due to external load. The values are given as a rate
219  * of the initial value. This means that the actual value is obtained by multiplying the initial value (the peek speed
220  * at this pstate level) by the rate coming from the profile.
221  */
222 void Host::set_speed_profile(kernel::profile::Profile* p)
223 {
224   return kernel::actor::simcall([this, p] { pimpl_cpu->set_speed_profile(p); });
225 }
226
227 /** @brief Get the peak processor speed (in flops/s), at the specified pstate  */
228 double Host::get_pstate_speed(int pstate_index) const
229 {
230   return this->pimpl_cpu->get_pstate_peak_speed(pstate_index);
231 }
232
233 /** @brief Get the peak computing speed in flops/s at the current pstate, NOT taking the external load into account.
234  *
235  *  The amount of flops per second available for computing depends on several things:
236  *    - The current pstate determines the maximal peak computing speed (use @ref get_pstate_speed() to retrieve the
237  *      computing speed you would get at another pstate)
238  *    - If you declared an external load (with @ref simgrid::surf::Cpu::set_speed_profile()), you must multiply the
239  * result of get_speed() by get_available_speed() to retrieve what a new computation would get.
240  *
241  *  The remaining speed is then shared between the executions located on this host.
242  *  You can retrieve the amount of tasks currently running on this host with @ref get_load().
243  *
244  *  The host may have multiple cores, and your executions may be able to use more than a single core.
245  *
246  *  Finally, executions of priority 2 get twice the amount of flops than executions of priority 1.
247  */
248 double Host::get_speed() const
249 {
250   return this->pimpl_cpu->get_speed(1.0);
251 }
252 /** @brief Returns the current computation load (in flops per second)
253  *
254  * The external load (coming from an availability trace) is not taken in account.
255  * You may also be interested in the load plugin.
256  */
257 double Host::get_load() const
258 {
259   return this->pimpl_cpu->get_load();
260 }
261 /** @brief Get the available speed ratio, between 0 and 1.
262  *
263  * This accounts for external load (see @ref simgrid::surf::Cpu::set_speed_profile()).
264  */
265 double Host::get_available_speed() const
266 {
267   return this->pimpl_cpu->get_speed_ratio();
268 }
269
270 /** @brief Returns the number of core of the processor. */
271 int Host::get_core_count() const
272 {
273   return this->pimpl_cpu->get_core_count();
274 }
275
276 /** @brief Set the pstate at which the host should run */
277 void Host::set_pstate(int pstate_index)
278 {
279   kernel::actor::simcall([this, pstate_index] { this->pimpl_cpu->set_pstate(pstate_index); });
280 }
281 /** @brief Retrieve the pstate at which the host is currently running */
282 int Host::get_pstate() const
283 {
284   return this->pimpl_cpu->get_pstate();
285 }
286
287 /**
288  * @ingroup simix_storage_management
289  * @brief Returns the list of storages attached to a host.
290  * @return a vector containing all storages attached to the host
291  */
292 std::vector<const char*> Host::get_attached_storages() const
293 {
294   return kernel::actor::simcall([this] { return this->pimpl_->get_attached_storages(); });
295 }
296
297 std::unordered_map<std::string, Storage*> const& Host::get_mounted_storages()
298 {
299   if (mounts_ == nullptr) {
300     mounts_ = new std::unordered_map<std::string, Storage*>();
301     for (auto const& m : this->pimpl_->storage_) {
302       mounts_->insert({m.first, &m.second->piface_});
303     }
304   }
305   return *mounts_;
306 }
307
308 ExecPtr Host::exec_async(double flops)
309 {
310   return this_actor::exec_init(flops);
311 }
312
313 void Host::execute(double flops)
314 {
315   execute(flops, 1.0 /* priority */);
316 }
317
318 void Host::execute(double flops, double priority)
319 {
320   this_actor::exec_init(flops)->set_priority(1 / priority)->start()->wait();
321 }
322
323 } // namespace s4u
324 } // namespace simgrid
325
326 /* **************************** Public C interface *************************** */
327 size_t sg_host_count()
328 {
329   return simgrid::s4u::Engine::get_instance()->get_host_count();
330 }
331 /** @brief Returns the host list
332  *
333  * Uses sg_host_count() to know the array size.
334  *
335  * @return an array of @ref sg_host_t containing all the hosts in the platform.
336  * @remark The host order in this array is generally different from the
337  * creation/declaration order in the XML platform (we use a hash table
338  * internally).
339  * @see sg_host_count()
340  */
341 sg_host_t* sg_host_list()
342 {
343   xbt_assert(sg_host_count() > 0, "There is no host!");
344   std::vector<simgrid::s4u::Host*> hosts = simgrid::s4u::Engine::get_instance()->get_all_hosts();
345
346   sg_host_t* res = xbt_new(sg_host_t, hosts.size());
347   memcpy(res, hosts.data(), sizeof(sg_host_t) * hosts.size());
348
349   return res;
350 }
351
352 const char* sg_host_get_name(sg_host_t host)
353 {
354   return host->get_cname();
355 }
356
357 void* sg_host_extension_get(sg_host_t host, size_t ext)
358 {
359   return host->extension(ext);
360 }
361
362 size_t sg_host_extension_create(void (*deleter)(void*))
363 {
364   return simgrid::s4u::Host::extension_create(deleter);
365 }
366
367 sg_host_t sg_host_by_name(const char* name)
368 {
369   return simgrid::s4u::Host::by_name_or_null(name);
370 }
371
372 xbt_dynar_t sg_hosts_as_dynar()
373 {
374   std::vector<simgrid::s4u::Host*> list = simgrid::s4u::Engine::get_instance()->get_all_hosts();
375
376   auto last = std::remove_if(begin(list), end(list), [](const simgrid::s4u::Host* host) {
377     return not host || not host->pimpl_netpoint || not host->pimpl_netpoint->is_host();
378   });
379   std::sort(begin(list), last,
380             [](const simgrid::s4u::Host* a, const simgrid::s4u::Host* b) { return a->get_name() < b->get_name(); });
381
382   xbt_dynar_t res = xbt_dynar_new(sizeof(sg_host_t), nullptr);
383   std::for_each(begin(list), last, [res](sg_host_t host) { xbt_dynar_push_as(res, sg_host_t, host); });
384   return res;
385 }
386
387 // ========= Layering madness ==============*
388
389 // ========== User data Layer ==========
390 void* sg_host_user(sg_host_t host)
391 {
392   return host->extension(USER_HOST_LEVEL);
393 }
394 void sg_host_user_set(sg_host_t host, void* userdata)
395 {
396   host->extension_set(USER_HOST_LEVEL, userdata);
397 }
398 void sg_host_user_destroy(sg_host_t host)
399 {
400   host->extension_set(USER_HOST_LEVEL, nullptr);
401 }
402
403 // ========= storage related functions ============
404 xbt_dict_t sg_host_get_mounted_storage_list(sg_host_t host)
405 {
406   xbt_assert((host != nullptr), "Invalid parameters");
407   xbt_dict_t res = xbt_dict_new_homogeneous(nullptr);
408   for (auto const& elm : host->get_mounted_storages()) {
409     const char* mount_name = elm.first.c_str();
410     sg_storage_t storage   = elm.second;
411     xbt_dict_set(res, mount_name, (void*)storage->get_cname(), nullptr);
412   }
413
414   return res;
415 }
416
417 xbt_dynar_t sg_host_get_attached_storage_list(sg_host_t host)
418 {
419   xbt_dynar_t storage_dynar               = xbt_dynar_new(sizeof(const char*), nullptr);
420   std::vector<const char*> storage_vector = host->get_attached_storages();
421   for (auto const& name : storage_vector)
422     xbt_dynar_push(storage_dynar, &name);
423   return storage_dynar;
424 }
425
426 // =========== user-level functions ===============
427 // ================================================
428 /** @brief Returns the total speed of a host */
429 double sg_host_speed(sg_host_t host)
430 {
431   return host->get_speed();
432 }
433
434 /** @brief Return the speed of the processor (in flop/s) at a given pstate. See also @ref plugin_energy.
435  *
436  * @param  host host to test
437  * @param pstate_index pstate to test
438  * @return Returns the processor speed associated with pstate_index
439  */
440 double sg_host_get_pstate_speed(sg_host_t host, int pstate_index)
441 {
442   return host->get_pstate_speed(pstate_index);
443 }
444
445 /** @ingroup m_host_management
446  * @brief Return the number of cores.
447  *
448  * @param host a host
449  * @return the number of cores
450  */
451 int sg_host_core_count(sg_host_t host)
452 {
453   return host->get_core_count();
454 }
455
456 double sg_host_get_available_speed(sg_host_t host)
457 {
458   return host->get_available_speed();
459 }
460
461 /** @brief Returns the number of power states for a host.
462  *
463  *  See also @ref plugin_energy.
464  */
465 int sg_host_get_nb_pstates(sg_host_t host)
466 {
467   return host->get_pstate_count();
468 }
469
470 /** @brief Gets the pstate at which that host currently runs.
471  *
472  *  See also @ref plugin_energy.
473  */
474 int sg_host_get_pstate(sg_host_t host)
475 {
476   return host->get_pstate();
477 }
478 /** @brief Sets the pstate at which that host should run.
479  *
480  *  See also @ref plugin_energy.
481  */
482 void sg_host_set_pstate(sg_host_t host, int pstate)
483 {
484   host->set_pstate(pstate);
485 }
486
487 /** @ingroup m_host_management
488  *
489  * @brief Start the host if it is off
490  *
491  * See also #sg_host_is_on() to test the current state of the host and @ref plugin_energy
492  * for more info on DVFS.
493  */
494 void sg_host_turn_on(sg_host_t host)
495 {
496   host->turn_on();
497 }
498
499 /** @ingroup m_host_management
500  *
501  * @brief Stop the host if it is on
502  *
503  * See also #MSG_host_is_on() to test the current state of the host and @ref plugin_energy
504  * for more info on DVFS.
505  */
506 void sg_host_turn_off(sg_host_t host)
507 {
508   host->turn_off();
509 }
510
511 /** @ingroup m_host_management
512  * @brief Determine if a host is up and running.
513  *
514  * See also #sg_host_turn_on() and #sg_host_turn_off() to switch the host ON and OFF and @ref plugin_energy for more
515  * info on DVFS.
516  *
517  * @param host host to test
518  * @return Returns true if the host is up and running, and false if it's currently down
519  */
520 int sg_host_is_on(sg_host_t host)
521 {
522   return host->is_on();
523 }
524
525 /** @deprecated */
526 int sg_host_is_off(sg_host_t host)
527 {
528   return not host->is_on();
529 }
530
531 /** @brief Get the properties of a host */
532 xbt_dict_t sg_host_get_properties(sg_host_t host)
533 {
534   xbt_dict_t as_dict = xbt_dict_new_homogeneous(xbt_free_f);
535   const std::unordered_map<std::string, std::string>* props = host->get_properties();
536   if (props == nullptr)
537     return nullptr;
538   for (auto const& elm : *props) {
539     xbt_dict_set(as_dict, elm.first.c_str(), xbt_strdup(elm.second.c_str()), nullptr);
540   }
541   return as_dict;
542 }
543
544 /** @ingroup m_host_management
545  * @brief Returns the value of a given host property
546  *
547  * @param host a host
548  * @param name a property name
549  * @return value of a property (or nullptr if property not set)
550  */
551 const char* sg_host_get_property_value(sg_host_t host, const char* name)
552 {
553   return host->get_property(name);
554 }
555
556 void sg_host_set_property_value(sg_host_t host, const char* name, const char* value)
557 {
558   host->set_property(name, value);
559 }
560
561 /**
562  * @brief Find a route between two hosts
563  *
564  * @param from where from
565  * @param to where to
566  * @param links [OUT] where to store the list of links (must exist, cannot be nullptr).
567  */
568 void sg_host_route(sg_host_t from, sg_host_t to, xbt_dynar_t links)
569 {
570   std::vector<simgrid::s4u::Link*> vlinks;
571   from->route_to(to, vlinks, nullptr);
572   for (auto const& link : vlinks)
573     xbt_dynar_push(links, &link);
574 }
575 /**
576  * @brief Find the latency of the route between two hosts
577  *
578  * @param from where from
579  * @param to where to
580  */
581 double sg_host_route_latency(sg_host_t from, sg_host_t to)
582 {
583   std::vector<simgrid::s4u::Link*> vlinks;
584   double res = 0;
585   from->route_to(to, vlinks, &res);
586   return res;
587 }
588 /**
589  * @brief Find the bandwitdh of the route between two hosts
590  *
591  * @param from where from
592  * @param to where to
593  */
594 double sg_host_route_bandwidth(sg_host_t from, sg_host_t to)
595 {
596   double min_bandwidth = -1.0;
597
598   std::vector<simgrid::s4u::Link*> vlinks;
599   from->route_to(to, vlinks, nullptr);
600   for (auto const& link : vlinks) {
601     double bandwidth = link->get_bandwidth();
602     if (bandwidth < min_bandwidth || min_bandwidth < 0.0)
603       min_bandwidth = bandwidth;
604   }
605   return min_bandwidth;
606 }
607
608 void sg_host_send_to(sg_host_t from, sg_host_t to, double byte_amount)
609 {
610   from->send_to(to, byte_amount);
611 }
612
613 /** @brief Displays debugging information about a host */
614 void sg_host_dump(sg_host_t host)
615 {
616   XBT_INFO("Displaying host %s", host->get_cname());
617   XBT_INFO("  - speed: %.0f", host->get_speed());
618   XBT_INFO("  - available speed: %.2f", sg_host_get_available_speed(host));
619   const std::unordered_map<std::string, std::string>* props = host->get_properties();
620
621   if (not props->empty()) {
622     XBT_INFO("  - properties:");
623     for (auto const& elm : *props) {
624       XBT_INFO("    %s->%s", elm.first.c_str(), elm.second.c_str());
625     }
626   }
627 }
628
629 /** @brief Return the list of actors attached to a host.
630  *
631  * @param host a host
632  * @param whereto a dynar in which we should push actors living on that host
633  */
634 void sg_host_get_actor_list(sg_host_t host, xbt_dynar_t whereto)
635 {
636   auto actors = host->get_all_actors();
637   for (auto& actor : actors)
638     xbt_dynar_push(whereto, &actor);
639 }
640
641 sg_host_t sg_host_self()
642 {
643   smx_actor_t process = SIMIX_process_self();
644   return (process == nullptr) ? nullptr : process->get_host();
645 }
646
647 /* needs to be public and without simcall for exceptions and logging events */
648 const char* sg_host_self_get_name()
649 {
650   sg_host_t host = sg_host_self();
651   if (host == nullptr || SIMIX_process_self() == simix_global->maestro_process)
652     return "";
653
654   return host->get_cname();
655 }
656
657 double sg_host_load(sg_host_t host)
658 {
659   return host->get_load();
660 }