Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
Change the prototype of xbt_thread_create(), sorry.
[simgrid.git] / ChangeLog
1 SimGrid (3.3.4) unstable; urgency=low
2
3  The "Desktop Grid needs love too" release.
4
5  Models improvements:
6  * Major speedup in the maxmin system solving by using lazy evaluation
7    Instead of solving completely the maxmin system at each iteration, 
8      only invalidate (and recompute) the modified parts. 
9    This new feature is enabled in default models but you can try to
10      turn it on with "--cfg:maxmin-selective-update=1" for other models.
11  * Cas01 IMproved as default CPU model
12    This CPU model is the same Cas01 model, but it uses the
13      maxmin-selective-update flag and a heap structure to manage
14      actions on SURF kernel. 
15    It reduces the complexity to find the next action to finish and,
16      consequently, it's faster than the old Cas01.
17    This is the new default CPU model (Cas01).   
18  * Rename the old Cas01 model to Cas01_fullupdate
19    Keep the old cpu model Cas01 with the new name of Cas01_fullupdate.
20    Use "--cfg=cpu_model:Cas01_fullupdate" to use the old default CPU model.
21  * CpuTI (CPU Trace Integration)
22    A new CPU model whose objective is simulate faster when using
23      availability trace files. 
24    Instead of using a full featured, over engineered maxmin system for
25      CPU modeling, this model does the pre-integration of traces files
26      to calculate the amount of CPU power available, and so, executes
27      faster than the old CPU models. 
28    Use "--cfg=cpu_model:CpuTI" to change to this CPU model.
29  * Use LV08 as default network model since it gives better accuracy
30     for small messages and shouldn't change things for big ones.
31    Use --cfg=network_model:CM02 to get the previous behavior.
32    
33    
34          ******************************************
35          *DO NOT MIX 3.3.4 RESULTS WITH OLDER ONES* 
36          ******************************************
37    * The new CPU model may changes simulations!
38      The point is that events occurring at the exact same timestamp
39         are not scheduled in the same order with the old and new 
40         version. This may be enough to completely change the execution
41         of simulations in some cases. 
42    * The new network model will change simulations!
43      This new model is more realistic than the previous one, so you
44        should consider redoing your old experiments with this model.
45      Sorry for the inconvenience.
46
47  MSG:
48  * Port of MSG's mailbox on top of SIMIX network
49    The put/get mechanism was greatly simplified thanks to the new SIMIX module.
50
51  SIMIX:
52  * New SIMIX network module
53    It provides a rendez-vous point (aka mailbox) based send/recv API to perform
54    synchronous communication. 
55    
56  SimDag:
57  * new function SD_daxload(char*) to load a DAX file 
58    (see http://vtcpc.isi.edu/pegasus/index.php/WorkflowGenerator)
59  * Introduce typed tasks. Specify its kind and cost at creation. 
60    At scheduling, just give where it should be placed, and the cost
61    for each involved resource is automatically computed.
62    Existing constructors so far (more to come of course):
63     - SD_task_create_comm_e2e() for end-to-end communication
64     - SD_task_create_comp_seq() for sequential computation
65    Use SD_task_schedulev() / SD_task_schedulel() to schedule them.
66  * new function SD_task_dump() for debuging display
67  * new function SD_task_dotty(task,FILE*) writing to file the info
68    about the task in dotty format
69  * SD_task_dependency_exists() can now cope with having one of its
70    arguments NULL. If so, it tests whether the other argument has any 
71    dependency.
72  * Add getters on list of preceding/following tasks:
73     SD_task_get_parents(task) and SD_task_get_children(task)
74  * Add getters on amount of workstations and list:
75     SD_task_get_workstation_count(t) and SD_task_get_workstation_list(t)
76  * Add getter on task kind: SD_task_get_kind(task)
77  * Update the start_time and finish_time of tasks on completion/failure
78  * Bugfix: Remove task from state swags when destroyed
79  
80  GRAS:
81  * New function: void gras_cpu_burn(double flops) -- a simple CPU burner
82
83  XBT:
84  * New function: xbt_dynar_dopar(dynar,fun) to map a function over the
85    dynar with one separate thread per value of the dynar.
86  * Change the prototype of xbt_thread_create(), sorry. 
87    Added a boolean parameter indicating whether we want to join this
88    thread (used in SG only for now)
89    
90  Bug fixes:
91  * GTNetS wrappers should now be usable again (and betterly tested too)
92  * Fix a major regression from 3.2 where the timeout provided to
93    MSG_task_put_with_timeout() was used as absolute time before which
94    the comm should be done.
95  * Start to fix the <cluster> tag. 
96    - Internal links should be good now (beside of the loopback, which
97      use the private link instead)
98    - paths to the external world is still rather broken
99    - the <route:multi> tag is just broken. Actually that's brain-dead.
100      We need sth like <route:multi src="myCluster" dst="$*-${myCluster}">
101      to make it less stupid
102    ** Check your platform with teshsuite/simdag/platforms/flatifier **
103  * Fix a source-level compatibility glitch from 3.2: after defining
104    MSG_USE_DEPRECATED, you can use the old name
105    MSG_task_put_with_time_out() for MSG_task_put_with_timeout()
106  * Allow to compile from the SVN with automake 1.11
107  * Fix some problems when using the "start_time" tag in deployment XMLs.
108
109  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> 
110
111 SimGrid (3.3.3) stable; urgency=low
112
113  The "Need for Speed" release.
114  
115  The timings done to validate the 3.3.2 were faulty. 
116  Instead of being 5% faster, it was 15% slower (compared to 3.3.1).
117    
118  The problem was a conversion from a manually handled vector to
119    xbt_dynar_t on the critical path. 
120  xbt_dynar_foreach calls functions, inducing stack management crap.
121
122  We inlined these functions and xbt_dynar_foreach is now breath taking.
123  We also inlined xbt_swag_belong on the way.
124
125  Here are some approximate speedup measurements (on master/slaves
126   simulations lasting between 10s and 20s each):
127    3.3.1                   -> 3.3.2: about same performance
128    3.3.2                   -> 3.3.3: 40% speedup
129    3.3.1                   -> 3.3.3: 40% speedup
130    3.3.1 with inline patch -> 3.3.3: 30% speedup
131    
132  Our reading is that the refactoring which occurred in 3.3.2 made us
133   suffer much more from the xbt_dynar_foreach low performance, but
134   once we solved this, this refactoring proved to be very performance
135   effective. From the 40% speedup, somehow, 10% are due to the
136   inlining and 30% to the refactoring.
137
138  That's a pitty that gcc cannot inline functions placed in other files
139   alone. We have to choose between:
140   - break the encapsulation (by putting private data structures and
141     accessors in headers files to help gcc)
142   - live with low performance 
143   - switch to a decent compiler such as icc (not quite possible).
144
145  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> Thu, 20 Aug 2009 21:21:33 +0200
146
147 SimGrid (3.3.2) stable; urgency=low
148
149  The "Simplicity does not preceed complexity, but follows it" release.
150
151  The main contributors of this release were (lexical order):
152    Silas De Munck, Stéphane Genaud, Martin Quinson, Cristian Rosa.
153        
154  SURF: 
155   * Extract the routing logic into its own object.
156     (was dupplicated in network.c and workstation_LV07.c;
157      Allows to implement other ways of storing that info)
158     => kill now useless network_card concept
159     - Use dynar to represent routes (instead of void** + int*)
160     - kill link_set (use surf_network_model->resource_set instead)
161     - Add a command-line option to choose the routing schema to use
162     - Add three new models: 
163       * Floyd (shortest path computed at initialization)
164       * Dijikstra (shortest path recomputed all the time)
165       * Cached Dijikstra (shortest path computed on need)
166       All these models where contributed by Silas De Munck, and are
167       described in his ICCS09 paper.
168
169   * Simplify model declaration
170     (less redirections, less function to write when defining a model)
171     - Factorize stuff between models:
172       - model_init/exit
173       - Set of resources:
174         surf_model_resource_set(model)
175         surf_model_resource_by_name(model, name)
176     - Unify the types of models in s_surf_model_t (using an union)
177     - Embeed fields of common_public directly into s_surf_model_t
178     - Rename model methods:
179       action_free ~> action_unref
180       action_change_state ~> action_state_set
181       action_get_state    ~> action_state_get
182     - Change model methods into functions :
183       (model)->common_public->action_use  ~> surf_action_ref
184       
185   * Implement a generic resource; use it as ancestor to specific ones
186     (allows to kill duplicated code in models)
187     Drawback: timer command don't need no name nor properties;
188               workstation_CLM03 don't need no properties
189     (but I guess we can live with those few bytes wasted)
190     
191   * Improve the action object model
192     - implement a constructor avoiding dupplicated code about field
193       initialization in generic_action part.
194       
195   * Kill the SDP model: it has an external dependency, is deprecated
196     in flavor of modern lmm models, and didn't compile since a while
197  
198  SIMIX:
199   * Relocation of the context module from XBT to SIMIX.
200     (the context were decoupled from the simix processes, duplicating a lot of code)
201     => a lot of code was factorized
202     - less overhead is introduced during scheduling
203     - simpler API for the context factory
204     - the logic for process creation,destruction and manipulation was simplified
205   * Simplification of the s_smx_process_t data structure.
206     => accesing the simix level data associated to a process is faster now, 
207        and the code is a lot more readable.
208        
209  SMPI:
210   * Implement some more MPI primitives: 
211     MPI_Bcast, MPI_Waitany, MPI_Waitall, MPI_Reduce, MPI_Allreduce, MPI_Scatter, MPI_Sendrecv, MPI_Alltoall
212     -implementation: Bcast: flat or 2-ary tree (default), 
213                      Barrier: 4-ary tree,
214                      Reduce: flat tree
215                      Allreduce: Reduce then Bcast
216                      Alltoall: "basic_linear" if data per proc < 3Kb, "otherwise pairwise". 
217                                Not yet implemented: "Bruck" for data per proc < 200b and comm size > 12
218                      Alltoallv: flat tree, like ompi
219                      Scatter: flat tree
220   * Add support for optimized collectives (Bcast is now binomial by default)
221   * Port smpirun and smpicc to OS X
222
223  SimDag:
224   * Kill SD_link_get_properties: hard to maintain and makes very little sense
225     Shout out if you used it.
226     
227  GRAS:
228   * Display the list of still queued messages in SG mode when existing
229     the process.
230
231  XBT:
232   * Add xbt_set_get_by_name_or_null() [Silas De Munck]
233   * Add xbt_graph_node_get_outedges() [Silas De Munck]
234   * Add xbt_str_from_file(FILE*)
235   * Add xbt_dict_get_key achieving a linear reverse search
236   * Remove the context module 
237
238  Portability report of this version:
239   * Main portability targets:
240     - Linux(debian)/x86/context   
241     - Linux(debian)/x86/pthreads 
242     - Linux(debian)/amd64/context 
243     - Linux(debian)/amd64/pthreads
244     On these, we still have the eratic breakages of gras/pmm and 
245       amok/saturate_sg reported in previous version. We still think
246       that the tests are the cause of the fault, not the tested code.
247       
248     - Mac OSX Leopard/x86/context
249     Still false negative in tesh autotesting.
250     Smpi still fails, but this time because readlink does not accept -f
251     Everything seems to work properly beside of that.
252     
253   * Exotic platforms:
254     - AIX version 5.3 (only tested contexts this time)
255       Smpi still fails there because mktemp is not installed. 
256       Everything seems to work properly beside of that.
257     - OpenSolaris 11
258       I managed to compile it for the first time, but several breakages.
259       Won't delay the release for this exotic platform.
260     
261   * Windows: it's still lagging behind. If you want to help, please
262     stand up.
263
264  Timing report of this version:
265   This version seem to be more than 5% faster than 3.3.1 (on linux
266     64bits with contextes). The gain is less than expected, we are
267     investigating this for next release.
268
269  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> Wed, 19 Aug 2009 17:07:12 +0200
270
271 SimGrid (3.3.1) stable; urgency=low
272
273  OVERALL CHANGES:
274   * Implement a --cfg-help to show existing configuration variables
275   * Build chain do not require doxygen in maintainer mode
276
277  GRAS:
278   * fix a bug on struct sizeof computation, which prevented the
279     exchange of arrays of structs in some conditions
280     - added a regression test about this in datadesc_usage
281   * Allow the exchange of 0-long dynamic vectors.
282     - for that, use -1 as indicator of dynamic size instead of 0
283     - This implied to change any size from unsigned long to long,
284       reducing a bit communication abilities, but I guess that with
285       64bits being quite common, this is more than enough.
286     - This also induce a protocol change, thus bumping network protocol
287       version from 0 to 1 (if we have external users, we have to get
288       clean on that point too ;)
289     - added two regression tests about this in datadesc_usage
290   * Be more verbose when propagating local exceptions
291     This helps debugging.
292   * Display the status of simulated processes when receiving SIGINT in
293     simulation mode
294
295  MSG:
296   * Allow to control the simulation from a trace file.
297     New functions MSG_action_register() and MSG_action_trace_run()
298     The first one allows to associate a function execution to each
299      kind of action while the second one parses a trace file and
300      triggers the corresponding actions within the system.
301     For now, only a toy example is provided in examples/msg/actions
302   * Add an exemple of process migration in examples/msg/migration
303   * Fix a bug in task exchange which broke MSG_task_get_sender()
304     Add a teshsuite regression test for that.
305     [Bug: if MSG_task_get_sender() is called after sender exit,
306      bad things happen]
307   * Fix a bug which prevented suspend/resume to work properly
308   * Display the status of simulated processes when receiving SIGINT
309     This fixes a regression of v3.3. due to the introduction of SIMIX
310   * Bug fixing in failure management:
311     - trace could not start by a failure at time 0
312     - failure during communications were not working
313         
314  SIMIX:
315   * Add SIMIX_process_set_name() to change the name of the current
316     process in the log messages.
317   * Store smx_hosts in a dict since we only retrieve them by name
318   * Move the configuration infrastructure to surf
319
320  SIMDAG:
321   * Move the configuration infrastructure to surf
322
323  SMPI: 
324   * Massive internal cleanups:
325     - Store internal structures on processes instead of hosts (allows
326       to have more than one process per host, in addition of being more 
327       logical)
328     - Cleanup the initialization/finalization process
329     - Kill a whole bunch of unneeded synchronization: 
330       processes run in exclusive manner within the simulator
331     - Move queues from global tables to process data fields
332   * Improve smpirun:
333     - now accept -platform and -hostfile arguments
334     - Pass the right rank value to processes according to the hostfile
335   * Compile the examples by default, and use them as regression tests
336   * Implement MPI_Wtime()
337   * Change the reference speed to a command line option
338   
339  SURF:
340   * TCP_gamma can now be specified as command line option using
341     --cfg=TCP_gamma:10000000.0
342   * Change the --surf-path cmd line option into --cfg=path:
343   
344  XBT:
345   * Also include strbuff from xbt.h public header
346   * xbt_ex_display(): do not free the exception after displaying 
347     This allows to do more with the given exception afterward.
348     Users should call xbt_ex_free() themselves.
349     
350     
351
352  Portability report of this version:
353   * Main portability targets:
354     - Linux(debian)/x86/context   
355     - Linux(debian)/x86/pthreads 
356     - Linux(debian)/amd64/context 
357     - Linux(debian)/amd64/pthreads
358     These targets fail about 1/10 of times on gras/pmm, but we believe
359       that this is because of the test, not because of simgrid.
360     amok/saturate_sg fails even more rarely, and the test may not be
361       the problem.
362       
363     - Mac OSX Leopard/x86/context
364     The test suite still spits tons of errors because some obscure
365       force prevents us from removing the temporary directories
366       arguing that they still contain some metadata I've never heard of.
367     Smpi fails because seq is not installed.
368     Everything seems to work properly beside of that.
369     
370   * Exotic platforms:
371     - AIX version 5.3 (both contexts and pthread)
372       Smpi still fails there because mktemp is not installed. 
373       XML inclusions seems rosty on AIX.
374     
375   * Windows: it's still lagging behind. If you want to help, please
376     stand up.
377
378  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr>  Sat, 27 Jun 2009 00:14:30 +0200
379
380 SimGrid (3.3) stable; urgency=high
381
382  OVERALL CHANGES:
383
384   * JAVA BINDINGS for MSG (you dreamt of them? We made them)
385     [Malek Cherier & Mt]
386
387   * Introduce the SIMIX module: factorize code between MSG and GRAS.
388     [Bruno Donassolo]
389   
390     Until now, GRAS were using MSG as an interface to SURF. It was
391     quite difficult because both interface have several differences
392     (MSG channels vs GRAS sockets were the most notable point).
393    
394     This also opens the gate to SMPI (which should occur soon) and speed
395     up simulations by to 40% (even if it were not the main goal).
396   
397     ************************************** 
398     *DO NOT MIX 3.2 RESULTS WITH 3.3 ONES* Simix may changes simulations!
399     **************************************
400     The point is that events occuring at the exact same timestamp are
401     not scheduled in the same order with the old and new version. This
402     may be enough to completely change the execution of simulations in
403     some cases. Sorry for the inconvenience.
404
405   * Cleanup and upgrade the XML format to push further scalability
406     issues (check http://hal.inria.fr/inria-00256883/ for more info)
407
408   * Improve the testing infrastructure with tesh. Now a very large part of
409     the code is tested not only by being run but also by checking that the
410     output match an expected output [Mt].
411
412   * Move on to FleXML v1.7 for the embeeded XML parsers. This version
413     is really less memory-demanding, which should allow you to use
414     larger files in SimGrid [AL].
415     
416   * Inform valgrind about our contextes, so that it becomes usable
417     with the default (and more effecient) version of SimGrid
418     [contributed by Sékou Diakite, many thanks]
419
420  GRAS:
421   * Introduce a listener thread in charge of receiving incomming
422     messages from the network. It allows to overlap communication and
423     computation but most notably, it removes some stupid deadlocks due
424     to the fact that so far, a process could not send and receive at
425     the same time. This made most non trivial communication schema
426     impossible.
427   * Convert the PIDs from long int to int to match the MSG ones (and
428     linux ones too) [Mt]
429   * New function: gras_agent_spawn() to launch a new process on
430     current host. Only working in simulation for now. [Mt]
431   * New function: gras_os_hostport() returning a constant form (ie,
432     not needing to be freed) of "gras_os_hostname():gras_os_myport()"
433
434  XBT:
435   * Make the backtrace of exceptions more human readable [Mt]
436   * New module: xbt/str [Mt]
437     a ton of string utility functions (split, join, printf to a newly
438     allocated buffer, trim, etc)
439   * New module: xbt/hash [Mt]
440     SHA1 hashing algorithm (more to come if needed)
441   * New module: xbt/synchro [Mt]
442     synchronization tools (mutex and conditions) working the same way
443     in simulation and in real life (mainly useful for GRAS, but not
444     only).
445   * New module: xbt/queue [Mt]
446     classical producer/consumer synchronization scheme
447   * xbt_dynar_new_sync() creates a synchronized dynar. All access
448     (using the classical functions will get serialized) [Mt]
449   * Make dictionary internal table dynamic. No need to specify its size
450     anymore; functions xbt_dict_new_ext() and xbt_dict_hashsize_set()
451     thus dropped. [Mt].
452   * Make sure the log channels are organized as a tree under windows
453     (because of ANSI C compatibility issue, any channel were child of
454      root directly) [Mt].
455
456  SURF:
457   * Cleaned many thing in surf and fixed a few bugs [AL].
458   * Add a nice command line configuration mechanism to compose models [AL].
459   * Add a new model for parallel tasks (ptask_L07) that is less buggy than
460     the previous one (KCCFLN05). It relies on something that looks like
461     a max-min sharing mechanism but cannot be written as such. A new solver
462     was thus designed [AL].
463   * Add a new solver to lmm. Based on Lagrange optimization and
464     gradient-based descent, it enables to efficiently maximise systems s.a
465   
466      sum f_i(x_i) s.t Ax<= b  with A_{i,j}>=0 and f_i a concave function.
467
468     This solver enables to propose two new network models for TCP Reno and
469     TCP Vegas based on Low's work. These models still need to be fully
470     tested though [Pedro Velho].
471
472  SIMDAG [AL]:
473   * Bug fix in SD_simulate. Now the time bound given as argument is
474     used.
475   * Use the new parallel task model (ptask_L07) as default.
476   * Use the SURF command line configuration mechanism.
477   * 0-size tasks (for synchronization) should now work.
478
479  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> Sun Apr 12 05:20:36 CEST 2009
480
481 SimGrid (3.2) stable; urgency=high
482
483   OVERALL CHANGES:
484    * Port to windows.
485      We still experience issues on this platform, but we believe that at
486      least MSG is usable.
487
488   GRAS API BREAKAGE (for simplification purpose, sorry):
489    * the gras_msgtype_by_name is not used anymore. Instead of 
490        gras_msg_send(toserver, gras_msgtype_by_name("request"), &request);
491      you can write (and must)
492        gras_msg_send(toserver, "request", &request);
493    - If you still want to pass a gras_msgtype_t to the function (to cache
494      the type and avoid the lookup time), use the gras_msg_send_() variant.
495    - Impacted functions:
496      gras_cb_register, gras_cb_unregister, gras_msg_send, gras_msg_wait,
497      gras_msg_rpccall, gras_msg_rpc_async_call, gras_msg_wait_ext
498    * The callbacks are now expected to return 0 when everything went well
499      (just like the main() function)
500
501   GRAS new features and improvements:
502   * New module mecanism where user code can use per process globals [Mt]
503     This is similar to gras_userdata_*() functions, but for libraries. It
504       factorize some code developped over and over in the examples and AMOK.
505     It has still to be documented and used (only amok/peermanagement is
506       converted for now).
507   * Fix a vicious bug in the TCP buffering mecanism which leaded to message
508     loss when they were small enough to fit into the buffer and sent quickly
509     enough so that they can all get received in one shoot.   
510   * gras_datadesc_by_name and gras_msgtype_by_name: now raise an exception
511     if not found. Use the *_or_null() variant for the old semantic.
512   * In gras_msg_handle, do not discard messages without callback.
513     They are probably messages to be explicitly awaited later (ie, proofs of
514     mis-synchronization in userland since they are sent before being awaited)
515     No big deal usually.
516   * gras_socket_meas_send/recv: semantic changed!
517     The numerical arguments used to be (1) the total amount of data to send
518     and (2) msg_size. This was changed to (1) msg_size and (2) amount of
519     messages. This was need for the fool willing to send more than MAXINT
520     bytes on quite fat pipes.       
521         
522   AMOK:
523   * Do really rename the hostmanagement module to peermanagement. [Mt]
524     Ie, rename functions from amok_hm_* to amok_pm_*. This breaks the API,
525     but this is rather new and this was documented in the module
526     documentation (poor excuses, I admit)
527   * Bandwidth measurement semantic changed! This follows the changes to
528     gras_socket_meas_send/recv explained above.
529     
530   SIMDAG:
531   * A sequential mode has been added to the workstations. When a workstation
532     is in sequential mode, it can execute only one task, and the other tasks
533     are waiting in a FIFO. [Christophe Thiery]
534
535   SURF:
536   * The KCCFLN05 workstation model now handles parallel tasks. It is the
537     model for SIMDAG. [Christophe Thiery]
538   * Bug fix in the maxmin solver: Some values were close to 0 instead of
539     equal to 0, which caused some bad behaviors in
540     saturated_constraint_set_update. I now use a threshold mechanism like in
541     surf. [AL]
542
543   XBT:
544   * When running manually src/testall, you select specific units [Mt]
545     testall is the result of our cunit mecanism, and should replace all
546     the scripty thingy around since bash don't run easily on billware.
547
548   * A mallocator system has been added. [Christophe Thiery]
549     Mallocators allow you to recycle your unused objects instead of freeing them
550     and allocating new ones.
551
552   Documentation update:
553   * FAQ reworking + New FAQs:
554     - "Valgrind spits tons of errors!" [Mt]
555     - "How to repport bugs" [Mt]
556     - "Cross-compiling a Windows DLL of SimGrid from Linux" [Mt]
557     - "What is the difference between MSG, SimDag, and GRAS?" [Mt]
558     - Communication time measurement within MSG [AL]
559     - I experience weird communication times when I change the latency [AL]
560   * GRAS tutorial [Mt]
561     It contains:
562      - an introduction to the framework and to the used communication model
563      - an initiatic tour introducing the most proheminent features:
564        o Part 1: Bases
565          . Lesson 0: Installing GRAS
566          . Lesson 1: Setting up your own project
567        o Part 2: Message passing
568          . Lesson 2: Exchanging simple messages
569          . Lesson 3: Passing arguments to the processes (in SG)
570          . Lesson 4: Attaching callbacks to messages
571          . Lesson 5: Using globals in processes
572          . Lesson 6: Logging informations properly
573          . Lesson 7: Using internal timers
574          . Lesson 8: Handling errors through exceptions
575          . Lesson 9: Exchanging simple data
576          . Lesson 10: Remote Procedure Calling (RPC)
577          . Lesson 11: Explicitely waiting for messages
578          . Recapping of message passing features in GRAS
579      - A HOWTO section containing:
580        o HOWTO design a GRAS application
581        More are due, of course. They will come latter. In the meanwhile, you can 
582        check the examples which are still here.
583
584  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> Fri Mar 16 21:11:46 CET 2007
585
586 SimGrid (3.1) stable; urgency=high
587
588   General:
589   * Port to gcc 4.x   
590     There was a stack corruption somewhere, visible only when optimizing
591     with these versions. [Vince]
592
593   SIMDAG:
594   * This is a NEW module! SimDAG (SD for short) is a revival of the old SG
595     module that enabled to play with Directed Acyclic Graphs. It is built
596     directly on top of SURF and provides an API rather close to the old
597     SG. Some old codes using SG are currently under rewrite to check that
598     all needful functions are provided. [Christophe Thiery]
599         
600   SURF:
601   * Complete rewrite of the KCCFLN05 workstation model. It is now an
602     extension of the classical CLM03 model that gracefully handles
603     failures. This is now the default model for MSG and GRAS. It doesn't
604     handle parallel tasks yet though. [AL]
605   * Bug fix: Weights were not correctly set in the network part. 
606     WARNING: This may have resulted in incorrect results with simulations
607     where there are more than one flow on a given link. [AL]
608
609   SURF, MSG, GRAS:
610   * After a (long ?) discussion on simgrid-devel, we have decided that the
611     convention we had on units was stupid. That is why it has been decided
612     to move from (MBits, MFlops, seconds) to (Bits, Flops, seconds). 
613     WARNING : This means that all previous platform files will not work as
614     such with this version! A warning is issued to ask users to update
615     their files. [AL]
616     A conversion script can be found in the contrib module of the CVS, under
617     the name contrib/platform_generation/surfxml_update.pl [MQ]
618
619   MSG,GRAS:
620   * Bug fix: Processes were started in reverse order, wrt deployment file.
621     WARNING: if your code relies on this bug, please fix it.    [AL]
622   * Bug fix: Add a test in MSG_task_execute to stop whenever a task is
623     being executed on two different locations.                  [AL]
624   * Bug fix: Failures are now better supported thanks to Derrick's tests
625     (there was many failure situations I hadn't thought of and that weren't
626     correctly handled). [AL]
627   * New function: MSG_host_is_avail indicates you whether a given m_host_t
628     is up or down. [AL]
629
630   GRAS:
631   * New! a real RPC mecanism, as it ought to be since too long. [MQ]
632       Exception occurring on server-side are propagated back to client (!).
633       
634     API CHANGE: the callback changed their prototype. Change:
635         int my_handler(gras_socket_t expeditor, void *payload_data) {
636       to:
637         int my_handler(gras_msg_cb_ctx_t ctx  , void *payload_data) {
638           gras_socket_t expeditor=gras_msg_cb_ctx_from(ctx);
639       and you're set.
640   * New! function: gras_msg_handleall to deal with all messages arriving
641       within a given period.
642   * New! function: gras_socket_server_range to get a server socket in a
643     range of port numbers (ease to avoid port number conflicts) [MQ]
644   * New! gras processes display their backtrace when they get a SIGUSR1
645       or when Ctrl-C is pressed. Use Ctrl-C Ctrl-C to exit.
646       Sweet to debug RL processes [MQ]
647
648   AMOK:
649   * Bandwidth module: 
650     - Do not force experiment sizes to be expressed in kb, or it becomes
651       impossible to measure the latency this way (needs one byte-long tests)
652     WARNING: this changes the amok_bw_* function semantic. [MQ]
653     - Implements the link saturation stuff. [MQ]
654   * Peer management module: 
655     New! module factorizing code that we wrote over and over [MQ].
656       
657   XBT:
658   * New module: cunit (my jUnit implementation in ansi C) [MQ]
659     - Test units are placed directly into the library code, they get extracted
660       automatically and placed into the src/testall binary.
661     - Convert most of the XBT tests to this system.
662   * New functions: xbt_dynar_getfirst_as() and xbt_dynar_getlast_as() [MQ]
663   * XML parsing: rewrote parts of flexml to enable multiple xml parsers to
664     live in the same C code. This required to change a little bit the API
665     of surfxml parsing but shouldn't be an issue for end-users. [AL]
666   * New module: sparse graph structure with basic algorithms (this is work
667     in progress and the API is not considered to be frozen yet). [AL]
668   * Display more information on backtraces: source line & function names are
669     now displayed just like valgrind does (rely on addr2line tool) [MQ]
670   * New function: xbt_backtrace_display(). Sweet while debuging [MQ]
671   * Reworked a little bit some #include statements to load only required
672     headers. Some user code that relied on SimGrid to include stdlib or
673     stdio may need to include it by themselves. [AL]
674   * Fixed xbt/log.h. A missing SG_BEGIN_DECL prevented compilation with
675     g++. [AL]
676   * Renamed xbt_host_t into xbt_peer_t since it betterly describes what I
677     meant. This breaks the API of AMOK and of xbt/config. Sorry about this,
678     but I guess that almost nobody used those parts. [MQ]
679
680  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr> Fri, 14 Jul 2006 01:32:27 +0200
681
682 SimGrid (3.0.1) stable; urgency=low
683
684   XBT:
685   * Unfortunately, I had missed 5 misnamed functions:
686       xbt_fifo_item_t xbt_fifo_newitem(void);
687       void xbt_fifo_freeitem(xbt_fifo_item_t);
688       xbt_fifo_item_t xbt_fifo_getFirstItem(xbt_fifo_t l);
689       xbt_fifo_item_t xbt_fifo_getNextItem(xbt_fifo_item_t i);
690       xbt_fifo_item_t xbt_fifo_getPrevItem(xbt_fifo_item_t i);
691     They're now deprecated. Please use their new versions:
692       xbt_fifo_item_t xbt_fifo_new_item(void);
693       void xbt_fifo_free_item(xbt_fifo_item_t);
694       xbt_fifo_item_t xbt_fifo_get_first_item(xbt_fifo_t l);
695       xbt_fifo_item_t xbt_fifo_get_next_item(xbt_fifo_item_t i);
696       xbt_fifo_item_t xbt_fifo_get_prev_item(xbt_fifo_item_t i);
697     [AL]
698   * Bugfix: really disconnect fifo items which are remove_item()ed [AL]
699   * Documentation: xbt_log module unmercifully reworked [MQ]
700   * Bugfix: there was a problem with the ending of contexts with 
701     the pthread backend. It caused some weird deadlock or behavior
702     depending on the pthread implementation. [AL]
703   * Bugfix: get the exceptions raised in the simulator repport where
704     and why they come from when they are not catched in time [AL, MQ]
705
706   SURF:
707   * Bugfix: Do repport the error when two non-connected hosts try to
708     exchange data (Thanks to Flavien for stumbling into this one) [AL]
709   
710   SURF:
711   * Add additionnal checkings on communications. Assert that two
712     communicating hosts are connected by a set of links... [AL]
713         
714   MSG:
715   * Add additionnal checkings on channel values in communication [AL]
716   * New: MSG_task_get_source to see on which host a task was generated [HC]
717   * New: int MSG_task_probe_from_host(int channel, m_host_t host): returns
718     the number of tasks waiting to be received on channel and sent
719     by host. [AL]
720   * New: MSG_error_t MSG_task_get_from_host(m_task_t * task, int channel, m_host_t host); 
721     waits for the first task coming from a given host.. [AL]
722         
723   GRAS new functionnalities: [MQ]
724   * Enhance the parsing macro to allow the size of multidimentional objects
725     to be given thru annotations.
726   * New example (and documentation): Matrix Multiplication a la RPC 
727     (as when I was young!) and fix a bunch of bugs found on the way.
728
729   GRAS performance improvements: [MQ]
730   [DataDesc]
731   * Reduce the amount of cbps creation/destruction by making it static to 
732     datadesc_send/recv() and using a (newly created) cbps_reset (based on 
733     dynar_reset ())
734   [Virtu]
735   * Change libdata to a set so that we can search for stuff by ID (and thus 
736     reduce the insane amount of dict lookups)     
737   
738   [Transport]
739   * Actually implement gras_datadesc_copy() so that we don't have to mimick
740     RL communication on top of SG since it's so uneffective. 
741     It may also be used for inter-thread communication in RL, one day. 
742   * Use gras_datadesc_copy() to exchange messages on top of SG 
743     Allows to:
744     - improve message exchange performance on top of SG
745     - deprecate transport_plugin_sg.c:gras_trp_sg_chunk_send() & recv()
746   * Don't exchange on the network the size of the used part of buffer,
747     instead, specify the possible buffer size to read(). 
748     Advantages:
749      - reduces the amount of read/write calls (one pair per exchange)
750      - reduces the amount of exchanged data (the size)
751      - allows to retrieve all arrived data on receiver side, if we don't need
752        it right now (subsequent read will peek the buffer)
753      - allows the receiver to proceed with the begining of the stream before
754        everything is arrived
755      - make it possible to build an iov transport (using readv/writev)
756     Extra difficulty: 
757      - take care of the data with non-stable storage (like stacked data),
758        and bufferize them.
759   * If possible, TCP send uses vector I/O (when writev() is here) 
760      - Don't use it for receive since we send data sizes and data on the
761        same stream, so we wouldn't be able to chain large amount of chunks
762        before having to flush the stuff to read the size.
763   * Rework the transport plugin mecanism to simplify it and reduce the
764     amount of pointer dereferencement when searching for the right function 
765     to use. 
766
767   * I guess that now, we do almost as few system calls as possible while
768     doing as few data copy as possible.
769
770     To improve it further, we could try to send all the sizes first and then
771     all the data (to use iov on receiving size), but it's only a partial
772     solution: when you have 2 dimensional data, the sizes of the second
773     dimension is data of the first dimension, so you need 3 streams.
774
775     I'm not sure the potential performance gains justify the coding burden.
776
777  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr>  Fri, 21 Oct 2005 14:42:20 +0200
778
779 SimGrid (3.00) stable; urgency=high
780   
781  SURF:
782   * New! Give the possibility to hijack the surf parser and thus bypass 
783     MSG_create_environment and MSG_launch_application. Have a look at
784     examples/msg/msg_test_surfxml_bypassed.c to see how it can be done.
785         
786  -- Arnaud Legrand <simgrid-devel@lists.gforge.inria.fr>  Sat, 20 Aug 2005 23:25:25 -0700
787
788 SimGrid (2.96) unstable; urgency=low
789
790   AKA SimGrid 3 rc 2.
791   
792   XBT:
793   * New! Exception handling with setjmp or such (code from OSSP ex) [MQ]
794     This deprecates the xbt_error_t mecanisms. 
795     It modifies (simplifies) all XBT and GRAS API.
796     MSG API keeps unchanged (exceptions raised by XBT are catched from 
797      within MSG and masked with existing error handling facilities)
798
799   SURF:
800   * New! Add a FATPIPE model. [AL]
801   * New! Add a parallel task model. [AL]
802   * New! Add automatically a loopback interface (in the default
803     network model) if none was precised.
804
805   MSG
806   * Bugfix: MSG_process_resume now works with the current running process. 
807     [AL]
808   * New! Add MSG_parallel_task_create and MSG_parallel_task_execute. [AL]
809   * Modification of MSG_task_get_compute_duration. Once a task has been
810     processed, the value returned by this function is now equal to 0. [AL]
811   * New! Add double MSG_task_get_remaining_computation(m_task_t task) and
812     MSG_error_t MSG_task_cancel(m_task_t task). Add a state
813     (MSG_TASK_CANCELLED) to MSG_error_t corresponding to the cancelation
814     of a m_task. For now, MSG_task_cancel only works with computation
815     tasks. [AL]
816   * New! Add double MSG_get_host_speed(m_host_t h) that returns the speed
817     of the processor (in Mflop/s) regardless of the current load on the
818     machine. [AL]
819   * API Change: use proper naming convention for MSG_getClock and 
820     MSG_process_isSuspended: MSG_get_clock and MSG_process_is_suspended.
821     [AL]
822   * New! Add void MSG_task_set_priority(m_task_t task, double priority). 
823     This function changes the priority of a computation task. This priority
824     doesn't affect the transfer rate. A priority of 2 will make a task 
825     receive two times more cpu power than the other ones. This function 
826     has been added to suit the needs of Nguyen The Loc and hasn't been that
827     much tested yet. So if it fails, please report it and send me your code. 
828     [AL]
829   * API Change: removed all functions and types that were marked "deprecated" 
830     since many months. Renamed MSG_global_init_args to MSG_global_init.
831
832  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr>  Mon,  8 Aug 2005 17:58:47 -0700
833
834 SimGrid (2.95) unstable; urgency=low
835
836   XBT
837   * Steal some nice code to GNU pth to fix context detection and usage [AL]
838   * Cleanup in the xbt_config API; add configuration callbacks. [MQ]
839   * Cleanup in the initialization API: the unused "defaultlog" is dead. [MQ]
840
841   SURF
842   * Bugfix: Allow absolute paths for platform description files [MQ]
843   * Bugfix: do free the variables after use. Leads to drastic performance 
844     improvement [AL] 
845   * Implement max_duration (ie, timeouts) on resources [AL]
846
847   MSG
848   * Implement MSG_config to configure MSG at runtime. xbt_cfg test on a real
849     case ;) [MQ]
850   * Implement MSG_channel_select_from() to help GRAS now that SURF provide
851     the needed support (timeouts) [AL]
852
853   GRAS (new features)
854   * Implement measurement sockets. You can now get the bandwidth between two
855     hosts thanks to AMOK (see below). [MQ]
856   * gras_datadesc_dynar() builds a dynar type descriptor, allowing to send
857     dynar over the network (yeah) [MQ]
858   * Real (even if simplistic) implementation of gras_os_myname() on RL [MQ]
859   * simple/static token-ring example. [Alexandre Colucci and MQ]
860   * Use MSG_channel_select_from() and remove the *slow* hack we had to put
861     in place before [MQ]
862   
863   GRAS (bug fixes)
864   * Differentiate the types "char[22]" and "unsigned char[22]" in automatic
865     type parsing. "short" and "long" modifiers were also ignored; other
866     modifier (such as reference level) are still ignored. [MQ] 
867   * Embeed the buffer size within the buffer itself on SG. [MQ]
868     That way, send() are atomic and cannot get intermixed anymore (at least
869     the ones which are less than 100k; bigger messages still have the issue)
870   * Array size pushed by the field, not by the field type (or each
871     and every long int will push stuff to the cbps) [MQ]
872   * use select() to sleep since it allows to portably sleep less than one
873     second. [MQ]
874
875   GRAS (minor cleanups)
876   * <project>.Makefile.local (generated from gras_stub_generator) |MQ]:
877     - Do clean .o files
878     - Compile with -g
879   * Type Callbacks now receive the gras_datadesc_type_t they work on as argument.
880   * type category 'ignored' killed as it was never used and were difficult
881     to transmit.
882   * whether a type can cycle or not is now a flag, leaving room for more
883     flags (as "ignored", if we feel the need one day ;)
884   * Rename raw sockets to measurement sockets since "raw" has another
885     meaning in networking community. 
886   
887   AMOK 
888   * Advanced Metacomputing Overlay Kit introduction. It is based over GRAS
889     and offers features not belonging to GRAS but that most applications
890     need. One day, it may be a set of plugins loadable at runtime.
891   * New module: bandwidth 
892     bandwidth measurement between arbitrary nodes running this module. [MQ]
893
894  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr>  Thu, 30 Jun 2005 16:29:20 -0700
895
896 SimGrid (2.94) unstable; urgency=low
897
898   The first beta release of SimGrid 3 !
899
900   >>>Arnaud<<<
901   (documentation)
902   * Update the main page and the FAQ. Adding references to gforge.
903
904   (gras)
905   * Add a gras_os_getpid function.
906
907   (msg)
908   * Add MSG_task_get_compute_duration() and MSG_task_get_data_size()
909   * Extend the logs so that they also print PID, hostname, date, ... if
910     available.
911   * Convert the MSG example to the use of xbt_logs instead of PRINT_MESSAGE,
912     and kill the old version which were in testsuite/
913   * Rewrite tools/MSG_visualization/colorize.pl for using with logs instead
914     of PRINT_MESSAGE
915
916   (xbt)
917   * Add xbt_os_time(). As the rest of xbt/portability, this is not public
918     for users. Instead, each programming environment (GRAS, MSG,...) use it
919     when needed to provide such a feature to users.
920     Don't shortcut the mecanism or you will also shortcut the virtualization
921     you need on the simulator.
922
923   >>>Martin<<<
924   (infrastructure)
925   * Cleanups in configury with regard to compile optimization/warning flags.
926     Also add -fno-loop-optimize to any powerpc since it's the optimization
927     killing gcc (< 3.4.0).
928   * Doxygen cleanups: move MSG examples, kill the second Doxygen phase
929     needed by MSG examples complications
930   * Borrow configury beautifications from PHP
931
932   (xbt)
933   * Bugfix: XBT_LOG_NEW_DEFAULT_CATEGORY now compiles without compiler
934     warning (thanks loris for stumbling into this one).
935   * Bugfix: stop loading private headers (gras_config.h) from the public
936     ones (xbt/swag.h).
937
938   (gras)
939   * Change SIMGRID_INSTALL_PATH to GRAS_ROOT in Makefiles generated for user.
940   * Rename gras_get_my_fqdn to gras_os_myname and implement it in the simulator
941     RL would imply a DNS resolver, which is *hard* to do in a portable way
942     (and therefore delayed).
943   * Implement a real timer mecanism and use it in timing macros. This allows
944     to avoid rounding errors and get a 0.000005 sec precision in timing
945     macros. While I was at it, various cleanups:
946      - allow to declare more than one timed section per file (fix a stupid bug)
947      - move some private declaration to the right place
948      - merge conditional execution and timing macros into emulation module
949      - document the module
950      - make sure the module cleanups its mess on gras_exit
951   * Documentation improvements:
952      - (new) how to compile applications using GRAS
953      - (new) emulation support (timing macros)
954
955  -- Da SimGrid team <simgrid-devel@lists.gforge.inria.fr>  Fri, 13 May 2005 10:49:31 +0200
956
957 SimGrid (2.93) unstable; urgency=low
958
959   Alpha 4 on the path to SimGrid 3 (aka the "neuf-trois" version)
960
961   [Arnaud]
962    - Use Paje properly where used. Still to be sanitized properly.
963    - Portability fix: Add an implementation of the contexts using pthread
964
965   [Martin]
966   (misc)
967    - Add xbt_procname(): returns the name of the current process.
968      Use it to show the current process's name in all logging.
969   (infrastructure)
970    - fix detection of older flex version and the reaction, since we do
971      depend on modern ones (we use lex_destroy)
972    - Better separation of SG and RL in the libs: remove all simulation code
973      from libgras. As a result, this lib is now only 200k when stripped.
974      Some of the xbt modules may also be duplicated (two sets and such) and
975      should be cleaned/killed before SG3.
976    - Insist on using xlC on AIX because of weird problems involving gcc there.
977    - Cleanup the make remote stuff. This is now done by scripts
978      tools/graspe-{master,slave} (GRAS Platform Expender). This is still
979      mainly for our private use, but we're working on changing them to user
980      tools, too.
981   (gras)
982    - Bugfix: flush the socket on close only if there is some *output*.
983    - Bugfix: flush idempotent when there's nothing to send (don't send size=0)
984   (msg)
985    - Add MSG_task_get_name. The task names are mainly for debugging purpose,
986      but anyway.
987
988  -- SimGrid team <simgrid2-users@listes.ens-lyon.fr>  Fri,  4 Mar 2005 14:32:37 -0800
989
990 SimGrid (2.92) unstable; urgency=low
991
992   Alpha 3 on the path to SimGrid 3
993   
994   [Arnaud]
995   (gras)
996    - New! First try of benchmarking macros.
997    - New! First try so that gras_stub_generator generate deployment and
998      remote compilation helpers.
999   (msg)
1000    - Bugfix: Initialization fix in msg_test.
1001
1002   [Martin]
1003   (surf)
1004    - Bugfix: applied patch to lexer so that it doesn't need a huge heap.
1005   (xbt)
1006    - Bugfix: let dicts work with NULL content (_foreach didn't) and cleanups
1007   (gras)
1008    - API Change: gras_os_sleep to take the amount of seconds as a double.
1009      Accepting an int was error prone since it was the only location where
1010      seconds were coded as such. It leaded to damn rounding errors.
1011    - Bugfix: Hard to belive that timers ever worked before this.
1012
1013  -- SimGrid team <simgrid2-users@listes.ens-lyon.fr>  Wed, 23 Feb 2005 22:09:21 +0100
1014
1015 SimGrid (2.91) unstable; urgency=low
1016
1017   Alpha 2 on the path to SimGrid 3
1018   
1019   [Arnaud]
1020   (surf)
1021    - Bug fix in the lmm_solver.
1022   (msg)
1023    - New! Interface to Paje (see http://www-id.imag.fr/Logiciels/paje/) 
1024      through the function MSG_paje_output.
1025    - New! Introducing two new functions MSG_process_kill() and MSG_process_killall().
1026    - It is possible to bound the rate of a communication in MSG with 
1027      MSG_task_put_bounded() (was already in the previous version but I had forgotten 
1028      to write it in the changelog).
1029    - Bug fix to let GRAS run on top of MSG until we move it directly on top
1030      of the SURF.
1031     
1032   [Martin]
1033   (infrastructure)
1034    - Various cleanups to the autotools stuff
1035    - Begin to move Gras examples to examples/gras/
1036    - Let make distcheck work again (yeah!)
1037   (documentation)
1038    - documentation overhauled using doxygen. 
1039      gtk-doc-tools is dead in SimGrid now.
1040    - Automatically extract all existing logging categories, and add the list
1041      to the documentation (long standing one, to say the less)
1042   (gras)
1043    - Cleanup the known architecture table. Reorder the entries to group what
1044      should be, and use a more consistent naming scheme.
1045      (some of the test dataset are still to be regenerated)
1046    - New! Allow library to register globals on each process just as userdata
1047      does. 
1048       This is implemented using a xbt_dict and not a xbt_set, so we loose the
1049        lookup time (for now).
1050       Use it in msg and trp.
1051       This cleans a lot the internals and helps enforcing privacy of the
1052        headers between the gras components.
1053    - New! Add a timer mechanism, not unlike cron(8) and at(1). 
1054    - Bugfix: gras_os_time was delirious in RL.
1055    - Bugfix: gras_trp_select/RL don't run into the wall when asked to select
1056      onto 0 sockets.
1057    - Reenable GRAS now that it works.
1058
1059  -- Arnaud Legrand <Arnaud.Legrand@imag.fr>  Mon, 14 Feb 2005 14:02:13 -0800
1060
1061 SimGrid (2.90) unstable; urgency=low
1062
1063   Alpha 1 on the path to SimGrid 3
1064
1065   * It is a long time since the last release of SimGrid. I'm sorry about
1066     that but as I had told you, I was rewriting a lot of things. I apologize 
1067     to those who had been reporting bugs to me and that I had not answered. 
1068     If your bug is still in the new version, please tell me. Here is a 
1069     summary of the main changes.
1070
1071   * REVOLUTION 1: The SimGrid project has merged with the GRAS project
1072     lead by Martin Quinson. As a consequence SimGrid gains a lot in
1073     portability, speed, and a lot more but you'll figure it out later. 
1074     SimGrid now comprises 3 different projects : MSG, GRAS and SMPI. 
1075     I wanted to release the new MSG as soon as possible and I have 
1076     broken GRAS, which is the reason why, for now, only MSG is fully 
1077     functional. A laconic description of these projects is available 
1078     in the documentation.
1079   
1080   * REVOLUTION 2: I have removed SG and I am now using a new simulation
1081     kernel optimized for our needs (called SURF but only the developers
1082     should use it). Hence, MSG is now roughly 30 times faster and I think
1083     that by rewriting a little bit MSG, I could event speed it up a little
1084     bit more. Beside the gain in speed, it is also much easier to encode a
1085     new platform model with SURF than it was with SG. More to come...
1086   
1087   * REVOLUTION 3: I have tried to change a little as possible the API of
1088     MSG but a few things really had to disappear. The main differences
1089     with the previous version are :
1090        1) no more m_links_t and the corresponding functions. Platforms are
1091          directly read from a XML description and cannot be hard-coded
1092          anymore. The same format is used for application deployment
1093          description. The new format is described in the documentation. 
1094          Have a look in tools/platform_generation. There is a tiny script 
1095          that converts from the old platform format to the new one. Concerning
1096          the application deployment format, parsing the old one is tricky.  
1097          I think most of you should however be able to convert your files.  If 
1098          it is really an issue, I can write a C code that does the conversion. 
1099          Let me know.
1100        2) the toolbox tbx does not exist anymore. We now have a library
1101           with much more data-structures but without the hash-tables (we have 
1102           dictionaries that are much faster).
1103
1104  -- Arnaud Legrand <Arnaud.Legrand@imag.fr>  Mon, 31 Jan 2005 10:45:53 -0800
1105
1106 *****************************************************************************
1107 * Follows the old GRAS changelog. It does not follow the same syntax, but I *
1108 * don't feel like converting the oldies. (Mt)                                *
1109 *****************************************************************************
1110
1111 2005-01-31 Arnaud
1112   Version 2.90: "the long awaited one"
1113   - Finished rewriting and debugging MSG. Rewrote the documentation.
1114   - disable GRAS for now since it needs to be ported to the newest SG
1115
1116 2004-12-16 Martin
1117   - Finish the port to windows (using mingw32 for cross-compile)
1118
1119 2004-11-28 Arnaud
1120   - Main loop and datastructures of SURF. A cpu resource object is
1121     functional. Surf can thus be used to create cpu's with variable
1122     performance on which you can execute some actions.
1123         
1124 2004-11-15 Martin Quinson
1125   - Port to ARM. Simply added the alignment and size descriptions. Should
1126     work, but the ARM machines are so slow that I didn't had the opportunity
1127     to 'make check' over there yet.
1128
1129 2004-11-15 Arnaud Legrand
1130   - Trace manager now written. It uses a heap structure and is therefore
1131     expected to be efficient. It may however be speeded up (particularly
1132     when many events occur at the same date) by using red and black
1133     trees. One day maybe... 
1134   - Max-min linear system solver written. It uses a sparse matrix
1135     structure taking advantage of its expected use. Most operations are
1136     O(1) and free/calloc are called as few as possible. The computation of
1137     the minimum could however be improved by using a red and black tree
1138     (again ! ;).
1139
1140 2004-11-03 Arnaud Legrand
1141   - Rename every gras_* function that was in xbt/ to its xbt_
1142     counterpart.
1143   - Add a heap and a doubly-linked list to xbt
1144   - Added a dichotomy to the dictionaries. make check works as well before
1145     so I assume that the patch is correct. I do not know however if things
1146     run effectively faster than before now. :)
1147
1148   Inclusion of the SimGrid tree in the GRAS one. The archive is renamed to
1149   SimGrid, and the version number is bumped to 2.x
1150
1151 2004-10-29 Martin Quinson
1152   - Introduction of the remote errors. 
1153     They are the result of a RMI/RPC on the remote machine.
1154     ErrCodes being scalar values, you can't get the host on which those
1155     errors did happen. Extending the error mechanism as in Gnome is possible.
1156     No idea yet whether it is a good idea.
1157     
1158 2004-10-28 Martin Quinson
1159   - Interface revolution: the Starred Structure Eradication.
1160     I used to do typedef struct {} toto_t; and then handle *toto_t.
1161     Arnaud (and Oli) didn't like it, and I surrendered. Now, you have:
1162       - ???_t is a valid type (builded with typedef)
1163       - s_toto_t is a structure (access to fields with .)
1164       - s_toto   is a structure needing 'struct' keyword to be used
1165       - e_toto_t is an enum
1166       -   toto_t is an 'object' (struct*)
1167     Exemple:
1168       typedef struct s_toto {} s_toto_t, *toto_t;
1169       typedef enum {} e_toto_t;
1170     Moreover, only toto_t (and e_toto_t) are public. The rest (mainly
1171      s_toto_t) is private.
1172     
1173   - While I was at it, all gras_<obj>_free() functions want a gras_<obj>_t*
1174     so that it can set the variable to NULL. It was so for dicts and sets,
1175     it changed for dynars.
1176     
1177   - Fix a bunch of memleaks in dict_remove
1178   - Fix a bug in sg/server_socket opening: it failed all the time.
1179
1180 2004-10-07 Martin Quinson
1181   - Speed up dynar lookup operation a bit.
1182   
1183     gras_dynar_get is dead. 
1184     
1185     Now, you can choose between gras_dynar_get_cpy (the old gras_dynar_get
1186     but should be avoided for efficiency reasons) and gras_dynar_get_ptr
1187     (which gives you the address of the stored data).
1188     
1189     gras_dynar_get_as is an helpful macro which allows you to retrieve a
1190     copy of the data using an affectation to do the job and not a memcpy.
1191     
1192     int toto = gras_dynar_get_as(dyn,0,int); rewrites itself to
1193     int toto = *(int*)gras_dynar_get_ptr(dyn,0);
1194     
1195     It does not really speedup the dynar test because they are
1196     setting elements all the time (and look them seldom). But the dict does
1197     far more lookup than setting.
1198
1199     So, this brings the dict_crash test from ~33s to ~25s (200000 elms).
1200
1201 2004-10-05 Martin Quinson
1202   - Allow to (en/dis)able the cycle detection at run time.
1203   
1204     Whether we should check for cycle or not is now a property of each
1205     datatype. When you think there may be some cycle, use datadesc_cycle_set.
1206     datadesc_cycle_unset allow to remove this property when previously set.
1207     
1208     Note that the cycle detection is off by default since it impacts the 
1209     performance. Watch the data you feed GRAS with ;)
1210     
1211     This property is hereditary. Any element embedded in a structure having it
1212     set have it set for the time of this data exchange.
1213     
1214     You should set it both on sender and receiver side. If you don't set it on
1215     sender side, it will enter an endless loop. If you forget on receiver
1216     side, the cycles won't be recreated after communication.
1217     
1218   - Header reorganization.
1219     Kill gras_private.h, each submodule must load the headers it needs.
1220
1221 2004-10-04 Martin Quinson
1222   - Interface revolution: do not try to survive to malloc failure.
1223   
1224     Now, gras_malloc and friends call gras_abort() on failure.
1225     As a conclusion, malloc_error is not a valid error anymore, and all
1226       functions for which it was the only gras_error_t return value are
1227       changed. They now return void, or there result directly. 
1228     This simplify the API a lot.
1229
1230 2004-09-29 Martin Quinson
1231   - Re-enable raw sockets.
1232     Created by gras_socket_{client,server}_ext;
1233     Used with gras_raw_{send,recv}
1234     No select possible.
1235     
1236     It should allow to kill the last bits of gras first version soon.
1237   
1238     This is not completely satisfactory yet (duplicate code with
1239      chunk_{send,recv}; a bit out of the plugin mechanism), but it should
1240      work. 
1241
1242   - Simplify transport plugin (internal) interface by not passing any
1243     argument to _server and _client, but embedding them in the socket
1244     struct directly. 
1245
1246 2004-09-28 Martin Quinson
1247   - Finish the port to AIX.
1248     autoconf was my problem (segfault within the malloc replacement
1249     function. No idea why)
1250         
1251 2004-09-16 Martin Quinson
1252   - Fix some size_t madness on 64bit architectures.
1253   
1254 2004-09-08 Martin Quinson
1255   - Reduce the number of system headers loaded, overload some more system
1256     calls (such as malloc to cast the result of the system one, and work
1257     properly on AIX)
1258   - Fix and reintroduce the config support
1259
1260 2004-09-07 Martin Quinson
1261   - Source code reorganization to allow Arnaud to surf all over there.
1262   - Allow to document the logging categories.
1263   - Remove all uppercase from logging categories and useless cleanup in names.
1264
1265 2004-08-18 Martin Quinson
1266   Version 0.6.2 (protocol not changed; API changed)
1267   - Interface cleanup: gras_msgtype_by_name returns the type (instead of a
1268      gras_error_t), and NULL when not found. Functions expecting a msgtype
1269      as argument (msg_wait; msg_send) deal with NULL argument by providing a
1270      hopefully usefull message.
1271   - Portability to prehistoric sparcs again
1272
1273 2004-08-17 Martin Quinson
1274   Version 0.6.1 (protocol not changed; ABI not changed)
1275   - prealloc some buffers to speed things up
1276
1277 2004-08-11 Martin Quinson
1278   Version 0.6 (protocol not changed; ABI expended)
1279   - The parsing macro can deal with the references, provided that you add
1280     the relevant annotations (using GRAS_ANNOTE(size,field_name))
1281
1282 2004-08-09 Martin Quinson
1283   Version 0.5 (protocol not changed; ABI changed)
1284   - Allow to off turn the cycle detection code in data exchange at
1285     compilation time. It should be at run time, but I'm short of time (and
1286     the config stuff is still broken). That way, we keep dict out of the
1287     critical path, which is good because the performance is poor:
1288      - search not dichotomial yet
1289      - dynar give no way to access their content and memcpy everytime
1290   - In composed data description (struct, ref and so on), stop foolness of
1291     keeping the subtype's ID, but store the type itself. This keeps sets out
1292     of the critical path, which is good since they rely on dynar and
1293     dictionnaries. The only loose of that is that we cannot detect the
1294     redeclaration of a structure/union with another content (but I'm not sure 
1295     the code detected well this error before anyway). We still can detect
1296     the redefinition discrepancy for the other types.
1297   - Use a whole bunch of optimisation flags (plus -fno-strict-aliasing since
1298     it breaks the code because of type-punning used all over the place).
1299     This breaks on all non-gcc architectures (for now).
1300     
1301   All those changes (plus the buffer of last time) allow me to gain 2 order
1302   of magnitude on cruel tests consisting of 800000 array of integers on two
1303   level of a hierarchical structure (200 secondes -> 4 secondes)
1304   
1305   API change:
1306     - the selector of reference must now return the type it points to, not
1307       the ID of this type.
1308
1309 2004-08-06 Martin Quinson
1310   Version 0.4 (protocol changed; ABI not changed)
1311   - Allow to pass --gras-log argument to processes in simulation mode. Really.
1312   - New debugging level: trace (under debug) to see effect of GRAS_IN/OUT
1313   - Implement a buffer transport, and use it by default (it relies on tcp in
1314      real life and on sg in simulation).
1315     That's a bit hackish since I had a new field to the structure to store
1316      its data without interfering with the subtype ones. Inheritance
1317      is tricky in C. And that's a kind of reverse inheritance with one class
1318      derivating two classes. Or maybe a game with java interfaces. Anyway,
1319      that's damn hard in C (at least).
1320     Moreover, I got tired while trying to ensure plugin separation and
1321      genericity in SG mode. MSG wants me to do weird things, so let's go for
1322      cruel hacks (temporarily of course ;).
1323      See comment in transport_private.h:71
1324   - do not include all the _interface headers in private but in the files
1325     which really need them (to cut the compilation time when they are
1326     modified) 
1327
1328 2004-07-26 Martin Quinson
1329   Version 0.3 (protocol not changed; ABI changed)
1330   - Major overhault of the datadesc interface to simplify it:
1331     - shorted the function names:
1332       s/gras_datadesc_declare_struct/gras_datadesc_struct/ and so on
1333     - add a trivial way to push/pop integers into the cbps without malloc.
1334       This allows to make really generic sub_type description, which simply
1335         pop their size of the stack.
1336     - add a function gras_datadesc_ref_pop_arr() which does what users want
1337       most of the time: Declare a dynamic array (which pops its size of the
1338       stack) and declare a reference to it. Poor name, but anyway.
1339     - kill the post-send callback, add a post-receive one
1340     
1341 2004-07-23 Martin Quinson
1342   Version 0.2 (protocol changed; ABI changed)
1343   - add some testing for cpbs in the test cases, and fix some more bugs.
1344     This invalidate again the little64 data file, since I cannot regenerate
1345     it myself.
1346   - remove an awfull optimization in the logging stuff, allowing me to:
1347     - understand it again
1348     - learn gcc how to check that the argument match the provided format
1349     - fix all errors revealed by gcc after that
1350   - internal keys of dict are not \0 terminated. Deal with it properly in
1351     loggings instead of segfaulting when the user want to see the logs :-/
1352
1353 2004-07-22 Martin Quinson
1354   - Fix some stupid bug preventing cbps (callback postit) from working
1355
1356 2004-07-21 Martin Quinson
1357   - Some documentation cleanups
1358   - remove the useless last argument of msgtype_declare
1359   - rename the Virtu functions to fit into the 'os' namespace
1360   - move headers src/include -> src/include/gras/ and stop fooling with 
1361     gras -> . symbolic link
1362   - make distcheck is now successful
1363
1364 2004-07-19 Martin Quinson
1365   Version 0.1.1
1366   - Build shared library also
1367   - Install html doc to the right location
1368   - stop removing maintainer files in make clean
1369   - build tests only on make check
1370   
1371 2004-07-13 Martin Quinson
1372   version 0.1
1373   - No major issue in previous version => change versionning schema
1374   - Re-enable little64 convertion test now that Abdou kindly regenerated the
1375     corresponding dataset.
1376   
1377 2004-07-11 Martin Quinson
1378   version 0.0.4
1379   - Get it working with any kind of structure (we can compute the padding
1380     bytes remotely for all the architectures I have access to)
1381   - Implement the structure parsing macro (still not quite robust/complete)
1382   - Improvement to the remote testing toysuite
1383   
1384 2004-07-10 Martin Quinson
1385  [autoconf mechanism]
1386   - get ride of a bunch of deprecated macros
1387   - actually run the test for two-compliment, not only compile it :-/
1388   - test whether the structures get packed (and bail out if yes. Damn.
1389     Alignment is a serious matter)
1390   - test whether the structures get compacted (but respecting the alignment
1391     constraints of each types)
1392   - test whether the array fields of structures can straddle alignment boundaries
1393  [base]
1394   - Damnit, double are bigger than float (typo in creation of 'double' datadesc)
1395     (took me 2 hours to find that bug, looking at the wrong place)
1396   - Add gras_datadesc_declare_{union,struct}_close(). They must be used
1397     before sending/receiving and are used to compute the offsets of fields
1398   - Given that padding size depend even on compiler options, keep track of
1399     alignment and aligned_size only for the current architecture. Not a big
1400     deal since we send structure fields one after the other (seems
1401     reasonable).    
1402   - Add the datastructure used for IEEE paper by the PBIO guys to the test
1403     program, let it work on linux/gcc/little32. portability todo.
1404
1405 2004-07-08 Martin Quinson
1406   - import and improve remote compilation support from FAST
1407   - make sure make check works on half a dozen of machines out there
1408
1409 2004-07-07 Martin Quinson
1410  Let's say it's version 0.0.3 ;)
1411   - Implement conversions (yuhu!)
1412   - Let it work on solaris (beside conversion, of course)
1413   - Stupid me, using rand() to generate the conversion datatests in not wise.
1414
1415 2004-07-06 Martin Quinson
1416   - Let make dist work, since I'm gonna need it to compile on remote hosts
1417   - Let Tests/datadesc_usage write the architecture on which the file was
1418     generated as first byte.
1419   - Add PowerPC (being also IRIX64), SPARC (also power4) and ALPHA
1420     architecture descriptions. 
1421   - Add datadesc_usage.{i386,ppc,sparc} files being the result of execution
1422     on those architectures.
1423   - Optimization: send/recv array of scalar in one shoot
1424
1425 2004-07-05 Martin Quinson
1426   - YEAH! GRAS/SG and GRAS/RL are both able to run the ping example !
1427   
1428   - Plug a whole bunch of memleaks
1429   - each process now have to call gras_{init,exit}. One day, their log
1430     settings will be separated
1431   - Continue the code factorisation between SG, RL and common in Transport.
1432
1433 2004-07-04 Martin Quinson
1434  [Transport]
1435   - Redistribution between SG and RL. 
1436     We wanna have to accept in SG, so move accepted related parts of RL in
1437     the common part. (more precisely, the dynar of all known sockets is no
1438     more a static in transport.c, but part of the process_data)
1439  [Core/module.c] 
1440  [gras_stub_generator]
1441   - Bug fix: Do call gras_process_init from gras_init (wasnt called in RL).
1442
1443 2004-07-03 Martin Quinson
1444   - Create a new log channel tbx containing dict, set, log, dynar (to shut
1445     them all up in one shot)
1446  [DataDesc]
1447   - Fix the ugly case of reference to dynamic array.
1448   - New (semi-public) function gras_datadesc_size to allow the messaging
1449     layer to malloc the needed space for the buffer.
1450  [Transport]
1451   - gras_socket_close now expect the socket to close (and not its address to
1452     put NULL in it after it). This is because the socket passed to handlers
1453     is one of their argument (=> not writable).
1454  [Messaging]
1455   - propagate the interface cleanup from last week in datadesc, ie remove a
1456     superfluous level of indirection. User pass adress of variable
1457     containing data (both when sending and receiving), and not of a variable
1458     being a pointer to the data. Let's say that I like it better ;)
1459       The price for that is constructs like "int msg=*(int*)payload" in
1460     handlers, but it's a fine price, IMHO.
1461  [examples/ping]
1462   - Let it work in RL (yuhu)
1463
1464 2004-06-21 Martin Quinson
1465  [Transport]
1466    - porting SG plugin and SG select to new standards (works almost).
1467    - plug memleaks and fix bugs around.
1468    
1469  [DataDesc] 
1470    - cleanup the prototype of data recv and force users to specify when they 
1471      want to handle references to objects. Test case working even for cycles.
1472    - plug memleaks. Valgrind is perfectly ok with this.
1473
1474 2004-06-12 Martin Quinson
1475  [Transport] 
1476    - cleanup the separation between plugin and main code in plugin creation 
1477
1478 2004-06-11 Martin Quinson
1479  [Transport]
1480    - Reput hook for raw sockets, needed for BW experiments
1481    - kill a few lines of dead code
1482  [Data description] Interface cleanup
1483    - gras_datadesc_by_name returns the searched type or NULL.
1484      That way, no variable is needed to use a type desc once, which makes
1485       the code clearer.
1486    - gras_datadesc_declare_[struct|union]_append_name is removed. The last
1487       two parameters were strings (field name, type name), leading to
1488       common errors.
1489  [Dicos] Interface cleanup
1490    - gras_dico_retrieve -> gras_dico_get ; gras_dico_insert -> gras_dico_set 
1491      This is consistant with the dynar API.
1492
1493 2004-04-21 Martin Quinson
1494  [Messaging]
1495    - Porting to new standards.
1496  [Data description]
1497    - interface cleanup. 
1498      There is no bag anymore, no need to take extra provision to mask the
1499        pointers behind "ID". 
1500      Better splitup of functions between files create/exchange/convert.
1501        This is still a bit artificial since convert and receive are so
1502        interleaved, but anyway.
1503  [Virtu(process)]
1504    - add a queued message list to procdata (the ones not matching criteria
1505      in msg_wait)
1506    - factorize some more code between SG and RL wrt procdata
1507  [Tests]
1508    - use gras_exit in example to track memleaks
1509    - get rid of gs_example now that GS is properly integrated into gras
1510    - update run_test to integrate the lastest tests (datadesc)
1511  [Logging]
1512    - rename WARNINGn macros to WARNn since it prooved error-prone
1513      
1514 2004-04-19 Martin Quinson
1515  [Data description]
1516    - register init/exit functions within gras module mechanism   
1517    - send/receive function. 
1518    Convertion is not implemented, but short-cutted if not needed.
1519    struct/array elements are sent one by one (instead of block-wise), but
1520      nobody really cares (yet). Get a prototype before optimizing.
1521    - tests (using a file socket) for DD send/receive on:
1522      - base types: int, float
1523      - array: fixed size, string (ie ref to dynamic string)
1524      - structure: homogeneous, heterogeneous
1525      - chained list, graph with cycle
1526    Believe it or not, valgrind is not too unhappy with the results. The
1527     cycle happily segfaults, but the others are ok. And I'm sick of pointers
1528     for now.
1529  [Transport]
1530    [File plugin] 
1531      - Bugfix when using a filename explicitely (instead of '-')
1532
1533 2004-04-09 Martin Quinson
1534  [Transport plugins]
1535    - factorize more code between RL and SG in socket creation
1536    - Complete the implementation and tests of:
1537      o TCP
1538      o file (only in RL, and mainly for debugging)
1539      
1540      I lost 3 days to design a portable address resolver, and then decided
1541        that the prototype mainly have to run on my box.
1542      Addressing portability too early may be like optimizing too early :-/
1543  [Tests]
1544    - use gras_init in the Tests instead of the crappy parse_log_opt 
1545      (the latter function is removed)
1546  [Conditional execution]
1547    - New functions: gras_if_RL/gras_if_SG (basic support for this)
1548  [Code reorganisation]
1549   - Get rid of libgrasutils.a since it makes more trouble than it solves.
1550     Build examples against the RL library, since there is no way to disable
1551     its creation for now.
1552
1553 For information, the beginning of coding on GRAS was back in june
1554 2003. I guess that every line has been rewritten at least twice since
1555 then.