examples/simdag/scheduling/sd_scheduling.c

   1 /* Copyright (c) 2009-2016. The SimGrid Team.
   2  * All rights reserved.                                                     */
   3
   4 /* This program is free software; you can redistribute it and/or modify it
   5  * under the terms of the license (GNU LGPL) which comes with this package. */
   6
   7 /* simple test to schedule a DAX file with the Min-Min algorithm.           */
   8 #include <string.h>
   9 #include "simgrid/simdag.h"
  10
  11 #if HAVE_JEDULE
  12 #include "simgrid/jedule/jedule_sd_binding.h"
  13 #endif
  14
  15 XBT_LOG_NEW_DEFAULT_CATEGORY(test, "Logging specific to this SimDag example");
  16
  17 typedef struct _HostAttribute *HostAttribute;
  18 struct _HostAttribute {
  19   /* Earliest time at which a host is ready to execute a task */
  20   double available_at;
  21   SD_task_t last_scheduled_task;
  22 };
  23
  24 static void sg_host_allocate_attribute(sg_host_t host)
  25 {
  26   void *data;
  27   data = calloc(1, sizeof(struct _HostAttribute));
  28   sg_host_user_set(host, data);
  29 }
  30
  31 static void sg_host_free_attribute(sg_host_t host)
  32 {
  33   free(sg_host_user(host));
  34   sg_host_user_set(host, NULL);
  35 }
  36
  37 static double sg_host_get_available_at(sg_host_t host)
  38 {
  39   HostAttribute attr = (HostAttribute) sg_host_user(host);
  40   return attr->available_at;
  41 }
  42
  43 static void sg_host_set_available_at(sg_host_t host, double time)
  44 {
  45   HostAttribute attr = (HostAttribute) sg_host_user(host);
  46   attr->available_at = time;
  47   sg_host_user_set(host, attr);
  48 }
  49
  50 static SD_task_t sg_host_get_last_scheduled_task( sg_host_t host){
  51   HostAttribute attr = (HostAttribute) sg_host_user(host);
  52   return attr->last_scheduled_task;
  53 }
  54
  55 static void sg_host_set_last_scheduled_task(sg_host_t host, SD_task_t task){
  56   HostAttribute attr = (HostAttribute) sg_host_user(host);
  57   attr->last_scheduled_task=task;
  58   sg_host_user_set(host, attr);
  59 }
  60
  61 static xbt_dynar_t get_ready_tasks(xbt_dynar_t dax)
  62 {
  63   unsigned int i;
  64   xbt_dynar_t ready_tasks;
  65   SD_task_t task;
  66
  67   ready_tasks = xbt_dynar_new(sizeof(SD_task_t), NULL);
  68   xbt_dynar_foreach(dax, i, task) {
  69     if (SD_task_get_kind(task) == SD_TASK_COMP_SEQ && SD_task_get_state(task) == SD_SCHEDULABLE) {
  70       xbt_dynar_push(ready_tasks, &task);
  71     }
  72   }
  73   XBT_DEBUG("There are %lu ready tasks", xbt_dynar_length(ready_tasks));
  74
  75   return ready_tasks;
  76 }
  77
  78 static double finish_on_at(SD_task_t task, sg_host_t host)
  79 {
  80   double result;
  81   unsigned int i;
  82   double data_available = 0.;
  83   double redist_time = 0;
  84   double last_data_available;
  85
  86   xbt_dynar_t parents = SD_task_get_parents(task);
  87
  88   if (!xbt_dynar_is_empty(parents)) {
  89     /* compute last_data_available */
  90     SD_task_t parent;
  91     last_data_available = -1.0;
  92     xbt_dynar_foreach(parents, i, parent) {
  93       /* normal case */
  94       if (SD_task_get_kind(parent) == SD_TASK_COMM_E2E) {
  95         sg_host_t * parent_host= SD_task_get_workstation_list(parent);
  96         /* Estimate the redistribution time from this parent */
  97         if (SD_task_get_amount(parent) <= 1e-6){
  98           redist_time= 0;
  99         } else {
 100           redist_time = SD_route_get_latency(parent_host[0], host) +
 101                         SD_task_get_amount(parent) / SD_route_get_bandwidth(parent_host[0], host);
 102         }
 103         data_available = SD_task_get_start_time(parent) + redist_time;
 104       }
 105
 106       /* no transfer, control dependency */
 107       if (SD_task_get_kind(parent) == SD_TASK_COMP_SEQ) {
 108         data_available = SD_task_get_finish_time(parent);
 109       }
 110
 111       if (last_data_available < data_available)
 112         last_data_available = data_available;
 113     }
 114
 115     xbt_dynar_free_container(&parents);
 116
 117     result = MAX(sg_host_get_available_at(host), last_data_available) + SD_task_get_amount(task)/sg_host_speed(host);
 118   } else {
 119     xbt_dynar_free_container(&parents);
 120
 121     result = sg_host_get_available_at(host) + SD_task_get_amount(task)/sg_host_speed(host);
 122   }
 123   return result;
 124 }
 125
 126 static sg_host_t SD_task_get_best_host(SD_task_t task)
 127 {
 128   sg_host_t *hosts = sg_host_list();
 129   int nhosts = sg_host_count();
 130   sg_host_t best_host = hosts[0];
 131   double min_EFT = finish_on_at(task, hosts[0]);
 132
 133   for (int i = 1; i < nhosts; i++) {
 134     double EFT = finish_on_at(task, hosts[i]);
 135     XBT_DEBUG("%s finishes on %s at %f", SD_task_get_name(task), sg_host_get_name(hosts[i]), EFT);
 136
 137     if (EFT < min_EFT) {
 138       min_EFT = EFT;
 139       best_host = hosts[i];
 140     }
 141   }
 142   xbt_free(hosts);
 143   return best_host;
 144 }
 145
 146 int main(int argc, char **argv)
 147 {
 148   unsigned int cursor;
 149   double min_finish_time = -1.0;
 150   SD_task_t task, selected_task = NULL;
 151   xbt_dynar_t ready_tasks;
 152   sg_host_t selected_host = NULL;
 153   char * tracefilename = NULL;
 154
 155   /* initialization of SD */
 156   SD_init(&argc, argv);
 157
 158   /* Check our arguments */
 159   xbt_assert(argc > 2, "Usage: %s platform_file dax_file [jedule_file]\n"
 160              "\tExample: %s simulacrum_7_hosts.xml Montage_25.xml Montage_25.jed", argv[0], argv[0]);
 161
 162   if (argc == 4)
 163     tracefilename = xbt_strdup(argv[3]);
 164
 165   /* creation of the environment */
 166   SD_create_environment(argv[1]);
 167
 168   /*  Allocating the host attribute */
 169   int total_nhosts = sg_host_count();
 170   sg_host_t *hosts = sg_host_list();
 171
 172   for (cursor = 0; cursor < total_nhosts; cursor++)
 173     sg_host_allocate_attribute(hosts[cursor]);
 174
 175   /* load the DAX file */
 176   xbt_dynar_t dax = SD_daxload(argv[2]);
 177
 178   xbt_dynar_foreach(dax, cursor, task) {
 179     SD_task_watch(task, SD_DONE);
 180   }
 181
 182   /* Schedule the root first */
 183   xbt_dynar_get_cpy(dax, 0, &task);
 184   sg_host_t host = SD_task_get_best_host(task);
 185   SD_task_schedulel(task, 1, host);
 186
 187   while (!xbt_dynar_is_empty(SD_simulate(-1.0))) {
 188     /* Get the set of ready tasks */
 189     ready_tasks = get_ready_tasks(dax);
 190     if (xbt_dynar_is_empty(ready_tasks)) {
 191       xbt_dynar_free_container(&ready_tasks);
 192       /* there is no ready task, let advance the simulation */
 193       continue;
 194     }
 195     /* For each ready task:
 196      * get the host that minimizes the completion time.
 197      * select the task that has the minimum completion time on its best host.
 198      */
 199     xbt_dynar_foreach(ready_tasks, cursor, task) {
 200       XBT_DEBUG("%s is ready", SD_task_get_name(task));
 201       host = SD_task_get_best_host(task);
 202       double finish_time = finish_on_at(task, host);
 203       if (min_finish_time < 0 || finish_time < min_finish_time) {
 204         min_finish_time = finish_time;
 205         selected_task = task;
 206         selected_host = host;
 207       }
 208     }
 209
 210     XBT_INFO("Schedule %s on %s", SD_task_get_name(selected_task), sg_host_get_name(selected_host));
 211     SD_task_schedulel(selected_task, 1, selected_host);
 212
 213     /*
 214      * SimDag allows tasks to be executed concurrently when they can by default.
 215      * Yet schedulers take decisions assuming that tasks wait for resource availability to start.
 216      * The solution (well crude hack is to keep track of the last task scheduled on a host and add a special type of
 217      * dependency if needed to force the sequential execution meant by the scheduler.
 218      * If the last scheduled task is already done, has failed or is a predecessor of the current task, no need for a
 219      * new dependency
 220     */
 221
 222     SD_task_t last_scheduled_task = sg_host_get_last_scheduled_task(selected_host);
 223     if (last_scheduled_task && (SD_task_get_state(last_scheduled_task) != SD_DONE) &&
 224         (SD_task_get_state(last_scheduled_task) != SD_FAILED) &&
 225         !SD_task_dependency_exists(sg_host_get_last_scheduled_task(selected_host), selected_task))
 226       SD_task_dependency_add("resource", NULL, last_scheduled_task, selected_task);
 227
 228     sg_host_set_last_scheduled_task(selected_host, selected_task);
 229     sg_host_set_available_at(selected_host, min_finish_time);
 230
 231     xbt_dynar_free_container(&ready_tasks);
 232     /* reset the min_finish_time for the next set of ready tasks */
 233     min_finish_time = -1.;
 234   }
 235
 236   XBT_INFO("Simulation Time: %f", SD_get_clock());
 237   XBT_INFO("------------------- Produce the trace file---------------------------");
 238   XBT_INFO("Producing a jedule output (if active) of the run into %s", tracefilename?tracefilename:"minmin_test.jed");
 239 #if HAVE_JEDULE
 240   jedule_sd_dump(tracefilename);
 241 #endif
 242   free(tracefilename);
 243
 244   xbt_dynar_free_container(&ready_tasks);
 245
 246   xbt_dynar_foreach(dax, cursor, task) {
 247     SD_task_destroy(task);
 248   }
 249   xbt_dynar_free_container(&dax);
 250
 251   for (cursor = 0; cursor < total_nhosts; cursor++)
 252     sg_host_free_attribute(hosts[cursor]);
 253
 254   xbt_free(hosts);
 255   /* exit */
 256   SD_exit();
 257   return 0;
 258 }