src/gras/Msg/msg.c

   1 /* $Id$ */
   2
   3 /* messaging - Function related to messaging (code shared between RL and SG)*/
   4
   5 /* Copyright (c) 2003, 2004 Martin Quinson. All rights reserved.            */
   6
   7 /* This program is free software; you can redistribute it and/or modify it
   8  * under the terms of the license (GNU LGPL) which comes with this package. */
   9
  10
  11 #include "gras/Msg/msg_private.h"
  12 #include "gras/DataDesc/datadesc_interface.h"
  13 #include "gras/Transport/transport_interface.h" /* gras_trp_chunk_send/recv */
  14 #include "gras/Virtu/virtu_interface.h"
  15
  16 #define MIN(a,b) ((a) < (b) ? (a) : (b))
  17
  18 XBT_LOG_NEW_DEFAULT_SUBCATEGORY(gras_msg,gras,"High level messaging");
  19
  20 xbt_set_t _gras_msgtype_set = NULL;
  21 static char GRAS_header[6];
  22 static char *make_namev(const char *name, short int ver);
  23
  24 /*
  25  * Creating procdata for this module
  26  */
  27 static void *gras_msg_procdata_new() {
  28    gras_msg_procdata_t res = xbt_new(s_gras_msg_procdata_t,1);
  29
  30    res->msg_queue = xbt_dynar_new(sizeof(s_gras_msg_t),   NULL);
  31    res->cbl_list  = xbt_dynar_new(sizeof(gras_cblist_t *),gras_cbl_free);
  32    res->timers    = xbt_dynar_new(sizeof(s_gras_timer_t), NULL);
  33
  34    return (void*)res;
  35 }
  36
  37 /*
  38  * Freeing procdata for this module
  39  */
  40 static void gras_msg_procdata_free(void *data) {
  41    gras_msg_procdata_t res = (gras_msg_procdata_t)data;
  42
  43    xbt_dynar_free(&( res->msg_queue ));
  44    xbt_dynar_free(&( res->cbl_list ));
  45    xbt_dynar_free(&( res->timers ));
  46
  47    free(res);
  48 }
  49
  50 /*
  51  * Module registration
  52  */
  53 void gras_msg_register() {
  54    gras_procdata_add("gras_msg",gras_msg_procdata_new, gras_msg_procdata_free);
  55 }
  56
  57 /*
  58  * Initialize this submodule.
  59  */
  60 void gras_msg_init(void) {
  61   /* only initialize once */
  62   if (_gras_msgtype_set != NULL)
  63     return;
  64
  65   VERB0("Initializing Msg");
  66
  67   _gras_msgtype_set = xbt_set_new();
  68
  69   memcpy(GRAS_header,"GRAS", 4);
  70   GRAS_header[4]=GRAS_PROTOCOL_VERSION;
  71   GRAS_header[5]=(char)GRAS_THISARCH;
  72 }
  73
  74 /*
  75  * Finalize the msg module
  76  */
  77 void
  78 gras_msg_exit(void) {
  79   VERB0("Exiting Msg");
  80   xbt_set_free(&_gras_msgtype_set);
  81 }
  82
  83 /*
  84  * Reclamed memory
  85  */
  86 void gras_msgtype_free(void *t) {
  87   gras_msgtype_t msgtype=(gras_msgtype_t)t;
  88   if (msgtype) {
  89     free(msgtype->name);
  90     free(msgtype);
  91   }
  92 }
  93
  94 /**
  95  * make_namev:
  96  *
  97  * Returns the versionned name of the message. If the version is 0, that's
  98  * the name unchanged. Pay attention to this before free'ing the result.
  99  */
 100 static char *make_namev(const char *name, short int ver) {
 101   char *namev;
 102
 103   if (!ver)
 104     return (char *)name;
 105
 106   namev = (char*)xbt_malloc(strlen(name)+2+3+1);
 107
 108   if (namev)
 109       sprintf(namev,"%s_v%d",name,ver);
 110
 111   return namev;
 112 }
 113
 114 /** @brief declare a new message type of the given name. It only accepts the given datadesc as payload
 115  *
 116  * @param name: name as it should be used for logging messages (must be uniq)
 117  * @param payload: datadescription of the payload
 118  */
 119 void gras_msgtype_declare(const char           *name,
 120                           gras_datadesc_type_t  payload) {
 121    gras_msgtype_declare_v(name, 0, payload);
 122 }
 123
 124 /** @brief declare a new versionned message type of the given name and payload
 125  *
 126  * @param name: name as it should be used for logging messages (must be uniq)
 127  * @param version: something like versionning symbol
 128  * @param payload: datadescription of the payload
 129  *
 130  * Registers a message to the GRAS mechanism. Use this version instead of
 131  * gras_msgtype_declare when you change the semantic or syntax of a message and
 132  * want your programs to be able to deal with both versions. Internally, each
 133  * will be handled as an independent message type, so you can register
 134  * differents for each of them.
 135  */
 136 void
 137 gras_msgtype_declare_v(const char           *name,
 138                        short int             version,
 139                        gras_datadesc_type_t  payload) {
 140
 141   xbt_error_t   errcode;
 142   gras_msgtype_t msgtype;
 143   char *namev=make_namev(name,version);
 144
 145   errcode = xbt_set_get_by_name(_gras_msgtype_set,
 146                                  namev,(xbt_set_elm_t*)&msgtype);
 147
 148   if (errcode == no_error) {
 149     VERB2("Re-register version %d of message '%s' (same payload, ignored).",
 150           version, name);
 151     xbt_assert3(!gras_datadesc_type_cmp(msgtype->ctn_type, payload),
 152                  "Message %s re-registred with another payload (%s was %s)",
 153                  namev,gras_datadesc_get_name(payload),
 154                  gras_datadesc_get_name(msgtype->ctn_type));
 155
 156     return ; /* do really ignore it */
 157
 158   }
 159   xbt_assert_error(mismatch_error); /* expect this error */
 160   VERB3("Register version %d of message '%s' (payload: %s).",
 161         version, name, gras_datadesc_get_name(payload));
 162
 163   msgtype = xbt_new(s_gras_msgtype_t,1);
 164   msgtype->name = (namev == name ? strdup(name) : namev);
 165   msgtype->name_len = strlen(namev);
 166   msgtype->version = version;
 167   msgtype->ctn_type = payload;
 168
 169   xbt_set_add(_gras_msgtype_set, (xbt_set_elm_t)msgtype,
 170                &gras_msgtype_free);
 171 }
 172
 173 /** @brief retrive an existing message type from its name. */
 174 gras_msgtype_t gras_msgtype_by_name (const char *name) {
 175   return gras_msgtype_by_namev(name,0);
 176 }
 177
 178 /** @brief retrive an existing message type from its name and version. */
 179 gras_msgtype_t gras_msgtype_by_namev(const char      *name,
 180                                      short int        version) {
 181   gras_msgtype_t res;
 182
 183   xbt_error_t errcode;
 184   char *namev = make_namev(name,version);
 185
 186   errcode = xbt_set_get_by_name(_gras_msgtype_set, namev,
 187                                  (xbt_set_elm_t*)&res);
 188   if (errcode != no_error)
 189     res = NULL;
 190   if (!res)
 191      WARN1("msgtype_by_name(%s) returns NULL",namev);
 192   if (name != namev)
 193     free(namev);
 194
 195   return res;
 196 }
 197
 198 /** \brief Send the data pointed by \a payload as a message of type
 199  * \a msgtype to the peer \a sock */
 200 xbt_error_t
 201 gras_msg_send(gras_socket_t   sock,
 202               gras_msgtype_t  msgtype,
 203               void           *payload) {
 204
 205   xbt_error_t errcode;
 206   static gras_datadesc_type_t string_type=NULL;
 207
 208   if (!msgtype)
 209     RAISE0(mismatch_error,
 210            "Cannot send the NULL message (did msgtype_by_name fail?)");
 211
 212   if (!string_type) {
 213     string_type = gras_datadesc_by_name("string");
 214     xbt_assert(string_type);
 215   }
 216
 217   DEBUG3("send '%s' to %s:%d", msgtype->name,
 218          gras_socket_peer_name(sock),gras_socket_peer_port(sock));
 219   TRY(gras_trp_chunk_send(sock, GRAS_header, 6));
 220
 221   TRY(gras_datadesc_send(sock, string_type,   &msgtype->name));
 222   TRY(gras_datadesc_send(sock, msgtype->ctn_type, payload));
 223   TRY(gras_trp_flush(sock));
 224
 225   return no_error;
 226 }
 227 /*
 228  * receive the next message on the given socket.
 229  */
 230 xbt_error_t
 231 gras_msg_recv(gras_socket_t    sock,
 232               gras_msgtype_t  *msgtype,
 233               void           **payload,
 234               int             *payload_size) {
 235
 236   xbt_error_t errcode;
 237   static gras_datadesc_type_t string_type=NULL;
 238   char header[6];
 239   int cpt;
 240   int r_arch;
 241   char *msg_name=NULL;
 242
 243   if (!string_type) {
 244     string_type=gras_datadesc_by_name("string");
 245     xbt_assert(string_type);
 246   }
 247
 248   TRY(gras_trp_chunk_recv(sock, header, 6));
 249   for (cpt=0; cpt<4; cpt++)
 250     if (header[cpt] != GRAS_header[cpt])
 251       RAISE2(mismatch_error,"Incoming bytes do not look like a GRAS message (header='%.4s' not '%.4s')",header,GRAS_header);
 252   if (header[4] != GRAS_header[4])
 253     RAISE2(mismatch_error,"GRAS protocol mismatch (got %d, use %d)",
 254            (int)header[4], (int)GRAS_header[4]);
 255   r_arch = (int)header[5];
 256   DEBUG2("Handle an incoming message using protocol %d (remote is %s)",
 257          (int)header[4],gras_datadesc_arch_name(r_arch));
 258
 259   TRY(gras_datadesc_recv(sock, string_type, r_arch, &msg_name));
 260   errcode = xbt_set_get_by_name(_gras_msgtype_set,
 261                                  msg_name,(xbt_set_elm_t*)msgtype);
 262   if (errcode != no_error)
 263     RAISE2(errcode,
 264            "Got error %s while retrieving the type associated to messages '%s'",
 265            xbt_error_name(errcode),msg_name);
 266   /* FIXME: Survive unknown messages */
 267   free(msg_name);
 268
 269   *payload_size=gras_datadesc_size((*msgtype)->ctn_type);
 270   xbt_assert2(*payload_size > 0,
 271                "%s %s",
 272                "Dynamic array as payload is forbided for now (FIXME?).",
 273                "Reference to dynamic array is allowed.");
 274   *payload = xbt_malloc(*payload_size);
 275   TRY(gras_datadesc_recv(sock, (*msgtype)->ctn_type, r_arch, *payload));
 276
 277   return no_error;
 278 }
 279
 280 /** \brief Waits for a message to come in over a given socket.
 281  *
 282  * @param timeout: How long should we wait for this message.
 283  * @param msgt_want: type of awaited msg
 284  * @param[out] expeditor: where to create a socket to answer the incomming message
 285  * @param[out] payload: where to write the payload of the incomming message
 286  * @return the error code (or no_error).
 287  *
 288  * Every message of another type received before the one waited will be queued
 289  * and used by subsequent call to this function or gras_msg_handle().
 290  */
 291 xbt_error_t
 292 gras_msg_wait(double           timeout,
 293               gras_msgtype_t   msgt_want,
 294               gras_socket_t   *expeditor,
 295               void            *payload) {
 296
 297   gras_msgtype_t msgt_got;
 298   void *payload_got;
 299   int payload_size_got;
 300   xbt_error_t errcode;
 301   double start, now;
 302   gras_msg_procdata_t pd=(gras_msg_procdata_t)gras_libdata_get("gras_msg");
 303   int cpt;
 304   s_gras_msg_t msg;
 305   gras_socket_t expeditor_res = NULL;
 306
 307   payload_got = NULL;
 308
 309   if (!msgt_want)
 310     RAISE0(mismatch_error,
 311            "Cannot wait for the NULL message (did msgtype_by_name fail?)");
 312
 313   VERB1("Waiting for message '%s'",msgt_want->name);
 314
 315   start = now = gras_os_time();
 316
 317   xbt_dynar_foreach(pd->msg_queue,cpt,msg){
 318     if (msg.type->code == msgt_want->code) {
 319       if (expeditor)
 320         *expeditor = msg.expeditor;
 321       memcpy(payload, msg.payload, msg.payload_size);
 322       free(msg.payload);
 323       xbt_dynar_cursor_rm(pd->msg_queue, &cpt);
 324       VERB0("The waited message was queued");
 325       return no_error;
 326     }
 327   }
 328
 329   while (1) {
 330     TRY(gras_trp_select(timeout - now + start, &expeditor_res));
 331     TRY(gras_msg_recv(expeditor_res, &msgt_got, &payload_got, &payload_size_got));
 332     if (msgt_got->code == msgt_want->code) {
 333       if (expeditor)
 334         *expeditor=expeditor_res;
 335       memcpy(payload, payload_got, payload_size_got);
 336       free(payload_got);
 337       VERB0("Got waited message");
 338       return no_error;
 339     }
 340
 341     /* not expected msg type. Queue it for later */
 342     msg.expeditor = expeditor_res;
 343     msg.type      = msgt_got;
 344     msg.payload   = payload;
 345     msg.payload_size = payload_size_got;
 346     xbt_dynar_push(pd->msg_queue,&msg);
 347
 348     now=gras_os_time();
 349     if (now - start + 0.001 < timeout) {
 350       RAISE1(timeout_error,"Timeout while waiting for msg %s",msgt_want->name);
 351     }
 352   }
 353
 354   RAISE_IMPOSSIBLE;
 355 }
 356
 357 /** @brief Handle an incomming message or timer (or wait up to \a timeOut seconds)
 358  *
 359  * @param timeOut: How long to wait for incoming messages (in seconds)
 360  * @return the error code (or no_error).
 361  *
 362  * Messages are passed to the callbacks.
 363  */
 364 xbt_error_t
 365 gras_msg_handle(double timeOut) {
 366
 367   double          untiltimer;
 368
 369   xbt_error_t    errcode;
 370   int             cpt;
 371
 372   s_gras_msg_t    msg;
 373   gras_socket_t   expeditor;
 374   void           *payload=NULL;
 375   int             payload_size;
 376   gras_msgtype_t  msgtype;
 377
 378   gras_msg_procdata_t pd=(gras_msg_procdata_t)gras_libdata_get("gras_msg");
 379   gras_cblist_t  *list=NULL;
 380   gras_msg_cb_t       cb;
 381
 382   int timerexpected;
 383
 384   VERB1("Handling message within the next %.2fs",timeOut);
 385
 386   untiltimer = gras_msg_timer_handle();
 387   DEBUG2("[%.0f] Next timer in %f sec", gras_os_time(), untiltimer);
 388   if (untiltimer == 0.0) {
 389      /* A timer was already elapsed and handled */
 390      return no_error;
 391   }
 392   if (untiltimer != -1.0) {
 393      timerexpected = 1;
 394      timeOut = MIN(timeOut, untiltimer);
 395   } else {
 396      timerexpected = 0;
 397   }
 398
 399   /* get a message (from the queue or from the net) */
 400   if (xbt_dynar_length(pd->msg_queue)) {
 401     DEBUG0("Get a message from the queue");
 402     xbt_dynar_shift(pd->msg_queue,&msg);
 403     expeditor = msg.expeditor;
 404     msgtype   = msg.type;
 405     payload   = msg.payload;
 406     errcode   = no_error;
 407   } else {
 408     errcode = gras_trp_select(timeOut, &expeditor);
 409     if (errcode != no_error && errcode != timeout_error)
 410        return errcode;
 411     if (errcode != timeout_error)
 412        TRY(gras_msg_recv(expeditor, &msgtype, &payload, &payload_size));
 413   }
 414
 415   if (errcode == timeout_error ) {
 416      if (timerexpected) {
 417
 418         /* A timer elapsed before the arrival of any message even if we select()ed a bit */
 419         untiltimer = gras_msg_timer_handle();
 420         if (untiltimer == 0.0) {
 421            return no_error;
 422         } else {
 423            xbt_assert1(untiltimer>0, "Negative timer (%f). I'm puzzeled", untiltimer);
 424            ERROR1("No timer elapsed, in contrary to expectations (next in %f sec)",
 425                   untiltimer);
 426            return timeout_error;
 427         }
 428
 429      } else {
 430         /* select timeouted, and no timer elapsed. Nothing to do */
 431         return timeout_error;
 432      }
 433
 434   }
 435
 436   /* A message was already there or arrived in the meanwhile. handle it */
 437   xbt_dynar_foreach(pd->cbl_list,cpt,list) {
 438     if (list->id == msgtype->code) {
 439       break;
 440     } else {
 441       list=NULL;
 442     }
 443   }
 444   if (!list) {
 445     INFO1("No callback for the incomming '%s' message. Discarded.",
 446           msgtype->name);
 447     WARN0("FIXME: gras_datadesc_free not implemented => leaking the payload");
 448     return no_error;
 449   }
 450
 451   xbt_dynar_foreach(list->cbs,cpt,cb) {
 452     VERB3("Use the callback #%d (@%p) for incomming msg %s",
 453           cpt+1,cb,msgtype->name);
 454     if ((*cb)(expeditor,payload)) {
 455       /* cb handled the message */
 456       free(payload);
 457       return no_error;
 458     }
 459   }
 460
 461   INFO1("Message '%s' refused by all registered callbacks", msgtype->name);
 462   WARN0("FIXME: gras_datadesc_free not implemented => leaking the payload");
 463   return mismatch_error;
 464 }
 465
 466 void
 467 gras_cbl_free(void *data){
 468   gras_cblist_t *list=*(void**)data;
 469   if (list) {
 470     xbt_dynar_free(&( list->cbs ));
 471     free(list);
 472   }
 473 }
 474
 475 /** \brief Bind the given callback to the given message type
 476  *
 477  * Several callbacks can be attached to a given message type. The lastly added one will get the message first, and
 478  * if it returns false, the message will be passed to the second one.
 479  * And so on until one of the callbacks accepts the message.
 480  */
 481 void
 482 gras_cb_register(gras_msgtype_t msgtype,
 483                  gras_msg_cb_t cb) {
 484   gras_msg_procdata_t pd=(gras_msg_procdata_t)gras_libdata_get("gras_msg");
 485   gras_cblist_t *list=NULL;
 486   int cpt;
 487
 488   DEBUG2("Register %p as callback to '%s'",cb,msgtype->name);
 489
 490   /* search the list of cb for this message on this host (creating if NULL) */
 491   xbt_dynar_foreach(pd->cbl_list,cpt,list) {
 492     if (list->id == msgtype->code) {
 493       break;
 494     } else {
 495       list=NULL;
 496     }
 497   }
 498   if (!list) {
 499     /* First cb? Create room */
 500     list = xbt_new(gras_cblist_t,1);
 501     list->id = msgtype->code;
 502     list->cbs = xbt_dynar_new(sizeof(gras_msg_cb_t), NULL);
 503     xbt_dynar_push(pd->cbl_list,&list);
 504   }
 505
 506   /* Insert the new one into the set */
 507   xbt_dynar_insert_at(list->cbs,0,&cb);
 508 }
 509
 510 /** \brief Unbind the given callback from the given message type */
 511 void
 512 gras_cb_unregister(gras_msgtype_t msgtype,
 513                    gras_msg_cb_t cb) {
 514
 515   gras_msg_procdata_t pd=(gras_msg_procdata_t)gras_libdata_get("gras_msg");
 516   gras_cblist_t *list;
 517   gras_msg_cb_t cb_cpt;
 518   int cpt;
 519   int found = 0;
 520
 521   /* search the list of cb for this message on this host */
 522   xbt_dynar_foreach(pd->cbl_list,cpt,list) {
 523     if (list->id == msgtype->code) {
 524       break;
 525     } else {
 526       list=NULL;
 527     }
 528   }
 529
 530   /* Remove it from the set */
 531   if (list) {
 532     xbt_dynar_foreach(list->cbs,cpt,cb_cpt) {
 533       if (cb == cb_cpt) {
 534         xbt_dynar_cursor_rm(list->cbs, &cpt);
 535         found = 1;
 536       }
 537     }
 538   }
 539   if (!found)
 540     VERB1("Ignoring removal of unexisting callback to msg id %d",
 541           msgtype->code);
 542 }