Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
c49d8b3fcbdc3c248f6ec2a98d676dcab1683d1c
[simgrid.git] / doc / doxygen / platform.doc
1 /*! \page platform Platform Description
2
3 @tableofcontents
4
5 In order to run any simulation, SimGrid must be provided with three things:
6 something to run (i.e., your code), a description of the platform on which you
7 want to simulate your application and lastly information about the deployment
8 process: Which process should be deployed to which processor/core?
9
10 For the last two items, there are essentially two possible ways you can provide
11 this information as an input:
12 \li You can program it, either by using the Lua console (
13     \ref MSG_Lua_funct) or, if you're using MSG, some of MSG's platform and
14     deployment functions (\ref msg_simulation). If you want to use this,
15     check the particular documentation. (You can also check the section
16     \ref pf_flexml_bypassing, however, this documentation is deprecated;
17     there is a new, but undocumented, way to do it properly).
18 \li You can use two XML files: one contains the platform description while
19     the other contains the deployment instructions.
20
21 For more information on SimGrid's deployment features, please refer to
22 the \ref deployment documentation.
23
24 The platform description may be intricate. This documentation is all
25 about how to write this file: The basic concepts are introduced. Furthermore,
26 advanced options are explained. Additionally, some hints and tips on how to
27 write a good platform description are given.
28
29 \section pf_overview Some words about XML and DTD
30
31 We chose to use XML not only because it's extensible but also because many
32 tools (and plugins for existing tools) are available that facilitate editing and
33 validating XML files. Furthermore, libraries that parse XML are often already
34 available and very well tested.
35
36 The XML checking is done based on the Document Type Definition (DTD) file,
37 available at
38 <a href="http://simgrid.gforge.inria.fr/simgrid.dtd">http://simgrid.gforge.inria.fr/simgrid.dtd</a>.
39
40 If you read the DTD, you should notice the following:
41 \li The platform tags contain a version attribute; the current version is 3.
42     This property might be used in the future to provide backwards
43     compatibility.
44 \li The DTD contains definitions for the two files used by SimGrid (i.e.,
45     platform description and deployment).
46
47 \section pf_basics Basic concepts
48
49 Nowadays, the Internet is composed of a bunch of independently managed
50 networks. Within each of those networks, there are entry and exit
51 points (most of the time, you can both enter and exit through the same
52 point); this allows to leave the current network and reach other
53 networks, possibly even in other locations.
54 At the upper level, such a network is called
55 <b>Autonomous System (AS)</b>, while at the lower level it is named
56 sub-network, or LAN (local area network).
57 They are indeed autonomous: routing is defined
58 (within the limits of his network) by the administrator, and so, those
59 networks can operate without a connection to other
60 networks. So-called gateways allow you to go from one network to
61 another, if such a (physical) connection exists. Every node in one network
62 that can be directly reached (i.e., without traversing other nodes) from
63 another network is called a gateway.
64 Each autonomous system consists of equipment such as cables (network links),
65 routers and switches as well as computers.
66
67 The structure of the SimGrid platform description relies exactly on the same
68 concept as a real-life platform (see above).  Every resource (computers,
69 network equipment etc.) belongs to an AS, which can be defined by using the
70 \<AS\> tag. Within an AS, the routing between its elements can be defined
71 abitrarily. There are several modes for routing, and exactly one mode must be
72 selected by specifying the routing attribute in the AS tag:
73
74 \verbatim
75 <AS id="AS0" routing="Full">
76 \endverbatim
77
78 \remark
79   Other supported values for the routing attribute can be found below, Section
80   \ref pf_raf.
81
82 There is also the ``<route>`` tag; this tag takes two attributes, ``src`` (source)
83 and ``dst`` (destination). Both source and destination must be valid identifiers
84 for routers (these will be introduced later). Contained by the ``<route>`` are
85 network links; these links must be used in order to communicate from the source
86 to the destination specified in the tag. Hence, a route merely describes
87 how to reach a router from another router.
88
89 \remark
90   More information and (code-)examples can be found in Section \ref pf_rm.
91
92 An AS can also contain itself one or more AS; this allows you to
93 model the hierarchy of your platform.
94
95 ### Within each AS, the following types of resources exist:
96
97 %Resource        | Documented in Section | Description
98 --------------- | --------------------- | -----------
99 AS              |                       | Every Autonomous System (AS) may contain one or more AS.
100 host            | \ref pf_host          | This entity carries out the actual computation. For this reason, it contains processors (with potentially multiple cores).
101 router          | \ref pf_router        | In SimGrid, routers are used to provide helpful information to routing algorithms.  Routers may also act as gateways, connecting several autonomous systems with each other.
102 link            | \ref pf_link          | In SimGrid, (network)links define a connection between two or potentially even more resources. Every link has a bandwidth and a latency and may potentially experience congestion.
103 cluster         | \ref pf_cluster       | In SimGrid, clusters were introduced to model large and homogenous environments. They are not really a resource by themselves - technically, they are only a shortcut, as they will internally set up all the hosts, network and routing for you, i.e., using this resource, one can easily setup thousands of hosts and links in a few lines of code. Each cluster is itself an AS.
104
105 %As it is desirable to interconnect these resources, a routing has to be
106 defined. The AS is supposed to be Autonomous, hence this has to be done at the
107 AS level. The AS handles two different types of entities (<b>host/router</b>
108 and <b>AS</b>). However, the user is responsible to define routes between those resources,
109 otherwise entities will be unconnected and therefore unreachable from other
110 entities. Although several routing algorithms are built into SimGrid (see
111 \ref pf_rm), you might encounter a case where you want to define routes
112 manually (for instance, due to specific requirements of your platform).
113
114 There are three tags to use:
115 \li <b>ASroute</b>: to define routes between two  <b>AS</b>
116 \li <b>route</b>: to define routes between two <b>host/router</b>
117 \li <b>bypassRoute</b>: to define routes between two <b>AS</b> that
118     will bypass default routing (as specified by the ``routing`` attribute
119     supplied to ``<AS>``, see above).
120
121 Here is an illustration of these concepts:
122
123 ![An illustration of an AS hierarchy. Here, AS1 contains 5 other AS' who in turn may contain other AS' as well.](AS_hierarchy.png)
124  Circles represent processing units and squares represent network routers. Bold
125     lines represent communication links. AS2 models the core of a national
126     network interconnecting a small flat cluster (AS4) and a larger
127     hierarchical cluster (AS5), a subset of a LAN (AS6), and a set of peers
128     scattered around the world (AS7).
129
130 \section pf_pftags Resource description
131
132 \subsection  pf_As Platform: The &lt;AS&gt; tag
133
134 The concept of an AS was already outlined above (Section \ref pf_basics);
135 recall that the AS is so important because it groups other resources (such
136 as routers/hosts) together (in fact, these resources must be contained by
137 an AS).
138
139 Available attributes :
140
141 Attribute name  | Mandatory | Values | Description
142 --------------- | --------- | ------ | -----------
143 id              | yes       | String | The identifier of an AS; facilitates referring to this AS. ID must be unique.
144 routing         | yes       | Full\| Floyd\| Dijkstra\| DijkstraCache\| none\| Vivaldi\| Cluster | See Section \ref pf_rm for details.
145
146
147 <b>Example:</b>
148 \verbatim
149 <AS id="AS0" routing="Full">
150    <host id="host1" power="1000000000"/>
151    <host id="host2" power="1000000000"/>
152    <link id="link1" bandwidth="125000000" latency="0.000100"/>
153    <route src="host1" dst="host2"><link_ctn id="link1"/></route>
154 </AS>
155 \endverbatim
156
157 In this example, AS0 contains two hosts (host1 and host2). The route
158 between the hosts goes through link1.
159
160 \subsection pf_Cr Computing resources: hosts, clusters and peers.
161
162 \subsubsection pf_host &lt;host/&gt;
163
164 A <b>host</b> represents a computer/node card. Every host is able to execute
165 code and it can send and receive data to/from other hosts. Most importantly,
166 a host can contain more than 1 core.
167
168 ### Attributes: ###
169
170 Attribute name  | Mandatory | Values | Description
171 --------------- | --------- | ------ | -----------
172 id              | yes       | String | The identifier of the host. facilitates referring to this AS.
173 power           | yes       | double (must be > 0.0) | Computational power of every core of this host in FLOPS. Must be larger than 0.0.
174 core            | no        | int (Default: 1) | The number of cores of this host. If more than one core is specified, the "power" parameter refers to every core, i.e., the total computational power is #cores*power.<br /> If 6 cores are specified, up to 6 tasks can be executed without sharing the computational power; if more than 6 tasks are executed, computational power will be shared among these tasks. <br /> <b>Warning:</b> Although functional, this model was never scientifically assessed.
175 availability    | no        | int    | <b>Specify if the percentage of power available.</b> (What? TODO)
176 availability_file| no       | string | (Relative or absolute) filename to use as input; must contain availability traces for this host. The syntax of this file is defined below. <br /> <b>Note:</b> The filename must be specified with your system's format.
177 state           | no        | ON\|OFF<br/> (Default: ON) | Is this host running or not?
178 state_file      | no        | string |  Same mechanism as availability_file.<br /> <b>Note:</b> The filename must be specified with your system's format.
179 coordinates     | no        | string | Must be provided when choosing the Vivaldi, coordinate-based routing model for the AS the host belongs to. More details can be found in the Section \ref pf_P2P_tags.
180
181 ### Possible children: ###
182
183 Tag name        | Description | Documentation
184 ------------    | ----------- | -------------
185 \<mount/\>        | Defines mounting points between some storage resource and the host. | \ref pf_sto_mo
186 \<prop/\>         | The prop tag allows you to define additional information on this host following the attribute/value schema. You may want to use it to give information to the tool you use for rendering your simulation, for example. | N/A
187
188 ### Example ###
189
190 \verbatim
191    <host id="host1" power="1000000000"/>
192    <host id="host2" power="1000000000">
193         <prop id="color" value="blue"/>
194         <prop id="rendershape" value="square"/>
195    </host>
196 \endverbatim
197
198
199 \anchor pf_host_dynamism
200 ### Expressing dynamism ###
201
202 SimGrid provides mechanisms to change a hosts' availability over
203 time, using the ``availability_file`` attribute to the ``\<host\>`` tag
204 and a separate text file whose syntax is exemplified below.
205
206 #### Adding a trace file ####
207
208 \verbatim
209 <platform version="1">
210   <host id="bob" power="500000000" availability_file="bob.trace" />
211 </platform>
212 \endverbatim
213
214 #### Example of "bob.trace" file ####
215
216 ~~~~~~~~~~~~~~{.py}
217 PERIODICITY 1.0
218   0.0 1.0
219   11.0 0.5
220   20.0 0.8
221 ~~~~~~~~~~~~~~
222
223 Let us begin to explain this example by looking at line 2. (Line 1 will become clear soon).
224 The first column describes points in time, in this case, time 0. The second column
225 describes the relative amount of power this host is able to deliver (relative
226 to the maximum performance specified in the ``\<host\>`` tag). (Clearly, the
227 second column needs to contain values that are not smaller than 0 and not larger than 1).
228 In this example, our host will deliver 500 Mflop/s at time 0, as 500 Mflop/s is the
229 maximum performance of this host. At time 11.0, it will
230 deliver half of its maximum performance, i.e., 250 Mflop/s until time 20.0 when it will
231 will start delivering 80\% of its power. In this example, this amounts to 400 Mflop/s.
232
233 Since the periodicity in line 1 was set to be 1.0, i.e., 1 timestep, this host will
234 continue to provide 500 Mflop/s from time 21. From time 32 it will provide 250 MFlop/s and so on.
235
236 ### Changing initial state ###
237
238 It is also possible to specify whether the host is up or down by setting the
239 ``state`` attribute to either <b>ON</b> (default value) or <b>OFF</b>.
240
241 #### Example: Expliciting the default value "ON" ####
242
243 \verbatim
244 <platform version="1">
245    <host id="bob" power="500000000" state="ON" />
246 </platform>
247 \endverbatim
248
249 If you want this host to be unavailable, simply substitute ON with OFF.
250
251 ### Expressing churn ###
252
253 To express the fact that a host can change state over time (as in P2P
254 systems, for instance), it is possible to use a file describing the time
255 at which the host is turned on or off. An example of the content
256 of such a file is presented below.
257
258 #### Adding a state file ####
259
260 \verbatim
261 <platform version="1">
262   <host id="bob" power="500000000" state_file="bob.fail" />
263 </platform>
264 \endverbatim
265
266 #### Example of "bob.fail" file ####
267
268 ~~~{.py}
269   PERIODICITY 10.0
270   1.0 -1.0
271   2.0 1.0
272 ~~~
273
274 A negative value means <b>down</b> (i.e., OFF) while a positive one means <b>up and
275   running</b> (i.e., ON). From time 0.0 to time 1.0, the host is on. At time 1.0, it is
276 turned off and at time 2.0, it is turned on again until time 12 (2.0 plus the
277 periodicity 10.0). It will be turned on again at time 13.0 until time 23.0, and
278 so on.
279
280
281
282 \subsubsection pf_cluster &lt;cluster&gt;
283
284 ``<cluster />`` represents a machine-cluster. It is most commonly used
285 when one wants to define many hosts and a network quickly. Technically,
286 ``cluster`` is a meta-tag: <b>from the inner SimGrid point of
287 view, a cluster is an AS where some optimized routing is defined</b>.
288 The default inner organization of the cluster is as follow:
289
290 \verbatim
291                  __________
292                 |          |
293                 |  router  |
294     ____________|__________|_____________ backbone
295       |   |   |              |     |   |
296     l0| l1| l2|           l97| l96 |   | l99
297       |   |   |   ........   |     |   |
298       |                                |
299     c-0.me                             c-99.me
300 \endverbatim
301
302 Here, a set of <b>host</b>s is defined. Each of them has a <b>link</b>
303 to a central backbone (backbone is a link itself, as a link can
304 be used to represent a switch, see the switch / link section
305 below for more details about it). A <b>router</b> allows to connect a
306 <b>cluster</b> to the outside world. Internally,
307 SimGrid treats a cluster as an AS containing all hosts: the router is the default
308 gateway for the cluster.
309
310 There is an alternative organization, which is as follows:
311 \verbatim
312                  __________
313                 |          |
314                 |  router  |
315                 |__________|
316                     / | \
317                    /  |  \
318                l0 / l1|   \l2
319                  /    |    \
320                 /     |     \
321             host0   host1   host2
322 \endverbatim
323
324 The principle is the same, except that there is no backbone. This representation
325 can be obtained easily: just do not set the bb_* attributes.
326
327
328 Attribute name  | Mandatory | Values | Description
329 --------------- | --------- | ------ | -----------
330 id              | yes       | string | The identifier of the cluster. Facilitates referring to this cluster.
331 prefix          | yes       | string | Each node of the cluster has to have a name. This name will be prefixed with this prefix.
332 suffix          | yes       | string | Each node of the cluster will be suffixed with this suffix
333 radical         | yes       | string | Regexp used to generate cluster nodes name. Syntax: "10-20" will give you 11 machines numbered from 10 to 20, "10-20;2" will give you 12 machines, one with the number 2, others numbered as before. The produced number is concatenated between prefix and suffix to form machine names.
334 power           | yes       | int    | Same as the ``power`` attribute of the ``\<host\>`` tag.
335 core            | no        | int (default: 1) | Same as the ``core`` attribute of the ``\<host\>`` tag.
336 bw              | yes       | int    | Bandwidth for the links between nodes and backbone (if any). <b>See <b>link</b> section for syntax/details.</b>
337 lat             | yes       | int    | Latency for the links between nodes and backbone (if any). See <b>link</b> section for syntax/details.
338 sharing_policy  | no        | string | Sharing policy for the links between nodes and backbone (if any). See <b>link</b> section for syntax/details.
339 bb_bw           | no        | int    | Bandwidth for backbone (if any). See <b>link</b> section for syntax/details. If bb_bw and bb_lat (see below) attributes are omitted, no backbone is created (alternative cluster architecture <b>described before</b>).
340 bb_lat          | no        | int    | Latency for backbone (if any). See <b>link</b> section for syntax/details. If bb_lat and bb_bw (see above) attributes are omitted, no backbone is created (alternative cluster architecture <b>described before</b>).
341 bb_sharing_policy | no      | string | Sharing policy for the backbone (if any). See <b>link</b> section for syntax/details.
342 availability_file | no      | string | Allows you to use a file as input for availability. Similar to <b>hosts</b> attribute.
343 state_file        | no      | string | Allows you to use a file as input for states.  Similar to <b>hosts</b> attribute.
344 loopback_bw       | no      | int    | Bandwidth for loopback (if any). See <b>link</b> section for syntax/details. If loopback_bw and loopback_lat (see below) attributes are omitted, no loopback link is created and all intra-node communication will use the main network link of the node. Loopback link is a \ref sharing_policy_fatpipe "\b FATPIPE".
345 loopback_lat      | no      | int    | Latency for loopback (if any). See <b>link</b> section for syntax/details. See loopback_bw for more info.
346 topology          | no      | FLAT\|TORUS\|FAT_TREE (default: FLAT) | Network topology to use. SimGrid currently supports FLAT (with or without backbone, as described before), <a href="http://en.wikipedia.org/wiki/Torus_interconnect">TORUS </a> and FAT_TREE attributes for this tag.
347 topo_parameters   | no      | string | Specific parameters to pass for the topology defined in the topology tag. For torus networks, comma-separated list of the number of nodes in each dimension of the torus. For fat trees, refer to \ref AsClusterFatTree "AsClusterFatTree documentation".
348
349 TODO
350
351 the router name is defined as the resulting String in the following
352 java line of code:
353
354 @verbatim
355 router_name = prefix + clusterId + _router + suffix;
356 @endverbatim
357
358
359 #### Cluster example ####
360
361 Consider the following two (and independent) uses of the ``cluster`` tag:
362
363 \verbatim
364 <cluster id="my_cluster_1" prefix="" suffix="" radical="0-262144"
365          power="1e9" bw="125e6" lat="5E-5"/>
366
367 <cluster id="my_cluster_2" prefix="c-" suffix=".me" radical="0-99"
368          power="1e9" bw="125e6" lat="5E-5"
369          bb_bw="2.25e9" bb_lat="5E-4"/>
370 \endverbatim
371
372 The second example creates one router and 100 machines with the following names:
373 \verbatim
374 c-my_cluster_2_router.me
375 c-0.me
376 c-1.me
377 c-2.me
378 ...
379 c-99.me
380 \endverbatim
381
382 \subsubsection pf_peer The &lt;peer&gt; tag
383
384 This tag represents a peer, as in Peer-to-Peer (P2P) networks. However, internally,
385 SimGrid transforms a peer into an AS (similar to Cluster). Hence, this tag
386 is virtually only a shortcut that comes with some pre-defined resources
387 and values. These are:
388
389 \li A tiny AS whose routing type is cluster is created
390 \li A host
391 \li Two links: One for download and one for upload. This is
392     convenient to use and simulate stuff under the last mile model (e.g., ADSL peers).
393 \li It connects the two links to the host
394 \li It creates a router (a gateway) that serves as an entry point for this peer zone.
395     This router has coordinates.
396
397 #### Attributes ####
398
399 Attribute name  | Mandatory | Values | Description
400 --------------- | --------- | ------ | -----------
401 id              | yes       | string | The identifier of the peer. Facilitates referring to this peer.
402 power           | yes       | int    | See the description of the ``host`` tag for this attribute
403 bw_in           | yes       | int    | Bandwidth downstream
404 bw_out          | yes       | int    | Bandwidth upstream
405 lat             | yes       | double | Latency for both up- and downstream, in seconds.
406 coordinates     | no        | string | Coordinates of the gateway for this peer. Example value: 12.8 14.4 6.4
407 sharing_policy  | no        | SHARED\|FULLDUPLEX (default: FULLDUPLEX) | Sharing policy for links. See <b>link</b> description for details.
408 availability_file| no       | string | Availability file for the peer. Same as host availability file. See <b>host</b> description for details.
409 state_file      | no        | string | State file for the peer. Same as host state file. See <b>host</b> description for details.
410
411 Internally, SimGrid transforms any ``\<peer/\>`` construct such as
412 \verbatim
413 <peer id="FOO"
414   coordinates="12.8 14.4 6.4"
415   power="1.5Gf"
416   bw_in="2.25GBps"
417   bw_out="2.25GBps"
418   lat="500us" />
419 \endverbatim
420 into an ``\<AS\>`` (see Sections \ref pf_basics and \ref pf_As). In fact, this example of the ``\<peer/\>`` tag
421 is completely equivalent to the following declaration:
422
423 \verbatim
424 <AS id="as_FOO" routing="Cluster">
425    <host id="peer_FOO" power="1.5Gf"/>
426    <link id="link_FOO_UP" bandwidth="2.25GBps" latency="500us"/>
427    <link id="link_FOO_DOWN" bandwidth="2.25GBps" latency="500us"/>
428    <router id="router_FOO" coordinates="25.5 9.4 1.4"/>
429    <host_link id="peer_FOO" up="link_FOO_UP" down="link_FOO_DOWN"/>
430 </AS>
431 \endverbatim
432
433
434 \subsection pf_ne Network equipments: links and routers
435
436 There are two tags at all times available to represent network entities and
437 several other tags that are available only in certain contexts.
438 1. ``<link>``: Represents a entity that has a limited bandwidth, a
439     latency, and that can be shared according to TCP way to share this
440     bandwidth.
441 \remark
442   The concept of links in SimGrid may not be intuitive, as links are not limited
443   to connecting (exactly) two entities; in fact, you can have more than two equipments
444   connected to it. (In graph theoretical terms: A link in SimGrid is not an edge,
445   but a hyperedge)
446
447 2. ``<router/>``: Represents an entity that a message can be routed
448     to, but that is unable to execute any code. In SimGrid, routers have also
449     no impact on the performance: Routers do not limit any bandwidth nor
450     do they increase latency. As a matter of fact, routers are (almost) ignored
451     by the simulator when the simulation has begun.
452
453 3. ``<backbone/>``: This tag is only available when the containing AS is
454                     used as a cluster (i.e., mode="Cluster")
455
456 \remark
457     If you want to represent an entity like a switch, you must use ``<link>`` (see section). Routers are used
458     to run some routing algorithm and determine routes (see Section \ref pf_routing for details).
459
460 \subsubsection pf_router &lt;router/&gt;
461
462 %As said before, <b>router</b> is used only to give some information
463 for routing algorithms. So, it does not have any attributes except :
464
465 #### Attributes ####
466
467 Attribute name  | Mandatory | Values | Description
468 --------------- | --------- | ------ | -----------
469 id              | yes       | string | The identifier of the router to be used when referring to it.
470 coordinates     | yes       | string | Must be provided when choosing the Vivaldi, coordinate-based routing model for the AS the router belongs to. More details can be found in the Section \ref pf_P2P_tags.
471
472 #### Example ####
473
474 \verbatim
475  <router id="gw_dc1_horizdist"/>
476 \endverbatim
477
478 \subsubsection pf_link &lt;link/&gt;
479
480 Network links can represent one-hop network connections. They are
481 characterized by their id and their bandwidth; links can (but may not) be subject
482 to latency.
483
484 #### Attributes ####
485
486 Attribute name  | Mandatory | Values | Description
487 --------------- | --------- | ------ | -----------
488 id              | yes       | string | The identifier of the link to be used when referring to it.
489 bandwidth       | yes       | int    | Maximum bandwidth for this link, given in bytes/s
490 latency         | no        | double (default: 0.0) | Latency for this link.
491 sharing_policy  | no        | \ref sharing_policy_shared "SHARED"\|\ref sharing_policy_fatpipe "FATPIPE"\|\ref sharing_policy_fullduplex "FULLDUPLEX" (default: SHARED) | Sharing policy for the link.
492 state           | no        | ON\|OFF (default: ON) | Allows you to to turn this link on or off (working / not working)
493 bandwidth_file  | no        | string | Allows you to use a file as input for bandwidth.
494 latency_file    | no        | string | Allows you to use a file as input for latency.
495 state_file      | no        | string | Allows you to use a file as input for states.
496
497
498 #### Possible shortcuts for ``latency`` ####
499
500 When using the latency attribute, you can specify the latency by using the scientific
501 notation or by using common abbreviations. For instance, the following three tags
502 are equivalent:
503
504 \verbatim
505  <link id="LINK1" bandwidth="125000000" latency="5E-6"/>
506  <link id="LINK1" bandwidth="125000000" latency="5us"/>
507  <link id="LINK1" bandwidth="125000000" latency="0.000005"/>
508 \endverbatim
509
510 Here, the second tag uses "us", meaning "microseconds". Other shortcuts are:
511
512 Name | Abbreviation | Time (in seconds)
513 ---- | ------------ | -----------------
514 Week | w | 7 * 24 * 60 * 60
515 Day  | d | 24 * 60 * 60
516 Hour | h | 60 * 60
517 Minute | m | 60
518 Second | s | 1
519 Millisecond | ms | 0.001 = 10^(-3)
520 Microsecond | us | 0.000001 = 10^(-6)
521 Nanosecond  | ns | 0.000000001 = 10^(-9)
522 Picosecond  | ps | 0.000000000001 = 10^(-12)
523
524 #### Sharing policy ####
525
526 \anchor sharing_policy_shared
527 By default a network link is \b SHARED, i.e., if two or more data flows go
528 through a link, the bandwidth is shared fairly among all data flows. This
529 is similar to the sharing policy TCP uses.
530
531 \anchor sharing_policy_fatpipe
532 On the other hand, if a link is defined as a \b FATPIPE,
533 each flow going through this link will be provided with the complete bandwidth,
534 i.e., no sharing occurs and the bandwidth is only limiting each flow individually.
535 Please note that this is really on a per-flow basis, not only on a per-host basis!
536 The complete bandwidth provided by this link in this mode
537 is ``#flows*bandwidth``, with at most ``bandwidth`` being available per flow.
538
539 Using the FATPIPE mode allows to model backbones that won't affect performance
540 (except latency).
541
542 \anchor sharing_policy_fullduplex
543 The last mode available is \b FULLDUPLEX. This means that SimGrid will
544 automatically generate two links (one carrying the suffix _UP and the other the
545 suffix _DOWN) for each ``<link>`` tag. This models situations when the direction
546 of traffic is important.
547
548 \remark
549   Transfers from one side to the other will interact similarly as
550   TCP when ACK returning packets circulate on the other direction. More
551   discussion about it is available in the description of link_ctn description.
552
553 In other words: The SHARED policy defines a physical limit for the bandwidth.
554 The FATPIPE mode defines a limit for each application,
555 with no upper total limit.
556
557 \remark
558   Tip: By using the FATPIPE mode, you can model big backbones that
559   won't affect performance (except latency).
560
561 #### Example ####
562
563 \verbatim
564  <link id="SWITCH" bandwidth="125000000" latency="5E-5" sharing_policy="FATPIPE" />
565 \endverbatim
566
567 #### Expressing dynamism and failures ####
568
569 Similar to hosts, it is possible to declare links whose state, bandwidth
570 or latency changes over time (see Section \ref pf_hosts_dynamism for details).
571
572 In the case of network links, the ``bandwidth`` and ``latency`` attributes are
573 replaced by the ``bandwidth_file`` and ``latency_file`` attributes.
574 The following XML snippet demonstrates how to use this feature in the platform
575 file. The structure of the files "link1.bw" and "link1.lat" is shown below.
576
577 \verbatim
578 <link id="LINK1" state_file="link1.fail" bandwidth="80000000" latency=".0001" bandwidth_file="link1.bw" latency_file="link1.lat" />
579 \endverbatim
580
581 \note
582   Even if the syntax is the same, the semantic of bandwidth and latency
583   trace files differs from that of host availability files. For bandwidth and
584   latency, the corresponding files do not
585   express availability as a fraction of the available capacity but directly in
586   bytes per seconds for the bandwidth and in seconds for the latency. This is
587   because most tools allowing to capture traces on real platforms (such as NWS)
588   express their results this way.
589
590 ##### Example of "link1.bw" file #####
591
592 ~~~{.py}
593 PERIODICITY 12.0
594 4.0 40000000
595 8.0 60000000
596 ~~~
597
598 In this example, the bandwidth changes repeatedly, with all changes
599 being repeated every 12 seconds.
600
601 At the beginning of the the simulation, the link's bandwidth is 80,000,000
602 B/s (i.e., 80 Mb/s); this value was defined in the XML snippet above.
603 After four seconds, it drops to 40 Mb/s (line 2), and climbs
604 back to 60 Mb/s after another 4 seconds (line 3). The value does not change any
605 more until the end of the period, that is, after 12 seconds have been simulated).
606 At this point, periodicity kicks in and this behavior is repeated: Seconds
607 12-16 will experience 80 Mb/s, 16-20 40 Mb/s etc.).
608
609 ##### Example of "link1.lat" file #####
610
611 ~~~{.py}
612 PERIODICITY 5.0
613 1.0 0.001
614 2.0 0.01
615 3.0 0.001
616 ~~~
617
618 In this example, the latency varies with a period of 5 seconds.
619 In the xml snippet above, the latency is initialized to be 0.0001s (100µs). This
620 value will be kept during the first second, since the latency_file contains
621 changes to this value at second one, two and three.
622 At second one, the value will be 0.001, i.e., 1ms. One second later it will
623 be adjusted to 0.01 (or 10ms) and one second later it will be set again to 1ms. The
624 value will not change until second 5, when the periodicity defined in line 1
625 kicks in. It then loops back, starting at 100µs (the initial value) for one second.
626
627
628 #### The ``<prop/>`` tag ####
629
630 Similar to ``\<host\>``, the link may also contain the ``<prop/>`` tag; see the host
631 documentation (Section \ref pf_host) for an example.
632
633
634 TODO
635
636 \subsubsection pf_backbone <backbone/>
637
638 \note
639   This tag is <b>only available</b> when the containing AS uses the "Cluster" mode!
640
641 Using this tag, you can designate an already existing link to be a backbone.
642
643 Attribute name  | Mandatory | Values | Description
644 --------------- | --------- | ------ | -----------
645 id              | yes       | string | Name of the link that is supposed to act as a backbone.
646
647 \subsection pf_storage Storage
648
649 \note
650   This is a prototype version that should evolve quickly, this
651   is just some doc valuable only at the time of writing this doc
652   This section describes the storage management under SimGrid ; nowadays
653   it's only usable with MSG. It relies basically on linux-like concepts.
654   You also may want to have a look to its corresponding section in \ref
655   msg_file_management ; functions access are organized as a POSIX-like
656   interface.
657
658 \subsubsection pf_sto_conc Storage Main concepts
659 Basically there is 3 different entities to know :
660 \li the <b>storage_type</b>: here you define some kind of storage that
661     you will instantiate many type on your platform. Think of it like
662     a definition of throughput of a specific disk.
663 \li the <b>storage</b>: instance of a <b>storage_type</b>. Defines a
664     new storage of <b>storage_type</b>
665 \li the <b>mount</b>: says that the storage is located into this
666     specific resource.
667
668 the content of a storage has to be defined in a content file that
669 contains the content. The path to this file has to be passed within
670 the <b>content</b> attribute . Here is a way to generate it:
671
672 \verbatim
673 find /path/you/want -type f -exec ls -l {} \; 2>/dev/null > ./content.txt
674 \endverbatim
675
676 \subsubsection pf_sto_sttp storage_type
677
678
679 <b>storage_type</b> attributes :
680 \li <b>id (mandatory)</b>: the identifier of the storage_type to be
681     used when referring to it.
682 \li <b>model (mandatory)</b>: Unused for now by the simulator (but
683     mandatory, ok)
684 \li <b>content</b>: default value 0. The file containing the disk
685     content. (may be moved soon or later to <b>storage</b> tag.
686
687 The tag must contains some predefined model prop, as may do some other
688 resources tags.
689 <b>storage_type</b> mandatory <b>model_prop</b> :
690 \li <b>Bwrite</b>: value in B/s. Write throughput
691 \li <b>Bread</b>: value in B/s. Read throughput
692 \li <b>Bconnexion</b>: value in B/s. Connection throughput (i.e. the
693     throughput of the storage connector).
694
695 A storage_type can also contain the <b>prop</b> tag. The prop tag allows you
696 to define additional information on this storage_type following the
697 attribute/value schema. You may want to use it to give information to
698 the tool you use for rendering your simulation, for example.
699
700 \verbatim
701 <storage_type id="single_HDD" model="linear_no_lat" size="4000" content_type="txt_unix">
702   <model_prop id="Bwrite" value="30MBps" />
703   <model_prop id="Bread" value="100MBps" />
704   <model_prop id="Bconnection" value="150MBps" />
705   <b><prop id="Brand" value="Western Digital" /></b>
706 </storage_type>
707 \endverbatim
708
709 \subsubsection pf_sto_st storage
710
711 <b>storage_type</b> attributes :
712 \li <b>id (mandatory)</b>: the identifier of the storage to be used
713     when referring to it.
714 \li <b>typeId (mandatory)</b>: the identifier of the storage_type that
715     this storage belongs to.
716 \li <b>attach (mandatory)</b>: the host (name) to which the storage is
717         attached to.
718
719 \subsubsection pf_sto_mo mount
720
721 <b>mount</b> attributes :
722 \li <b>id (mandatory)</b>: the id of the <b>storage</b> that must be
723     mounted on that computer.
724 \li <b>name (mandatory)</b>: the name that will be the logical
725     reference to this disk (the mount point).
726
727 \subsubsection pf_sto_mst mstorage
728 <b>Note : unused for now</b>
729 <b>mstorage</b> attributes :
730 \li <b>typeId (mandatory)</b>: the id of the <b>storage</b> that must
731     be mounted on that computer.
732 \li <b>name (mandatory)</b>: the name that will be the logical
733     reference to this disk (the mount point).
734
735 \section pf_routing Routing
736
737 To achieve high performance, the routing tables used within SimGrid are
738 static. This means that routing between two nodes is calculated once
739 and will not change during execution. The SimGrid team chose to use this
740 approach as it is rare to have a real deficiency of a resource;
741 most of the time, a communication fails because the links experience too much
742 congestion and hence, your connection stops before the timeout or
743 because the computer designated to be the destination of that message
744 is not responding.
745
746 We also chose to use shortest paths algorithms in order to emulate
747 routing. Doing so is consistent with the reality: RIP, OSPF, BGP are
748 all calculating shortest paths. They have some convergence time, but
749 at the end, so when the platform is stable (and this should be the
750 moment you want to simulate something using SimGrid) your packets will
751 follow the shortest paths.
752
753 \subsection pf_rm Routing models
754
755 Within each AS, you have to define a routing model to use. You have
756 basically 3 main kind of routing models :
757
758 \li Shortest-path based models: you let SimGrid calculates shortest
759     paths and manage it. Behaves more or less as most real life
760     routing.
761 \li Manually-entered route models: you'll have to define all routes
762     manually by yourself into the platform description file.
763     Consistent with some manually managed real life routing.
764 \li Simple/fast models: those models offers fast, low memory routing
765     algorithms. You should consider to use it if you can make some
766     assumptions about your AS. Routing in this case is more or less
767     ignored
768
769 \subsubsection pf_raf The router affair
770
771 Expressing routers becomes mandatory when using shortest-path based
772 models or when using ns-3 or the bindings to the GTNetS packet-level
773 simulator instead of the native analytical network model implemented
774 in SimGrid.
775
776 For graph-based shortest path algorithms, routers are mandatory,
777 because both algorithms need a graph, and so we need to have source
778 and destination for each edge.
779
780 Routers are naturally an important concept in GTNetS or ns-3 since the
781 way they run the packet routing algorithms is actually simulated.
782 Instead, the SimGrid’s analytical models aggregate the routing time
783 with the transfer time. Rebuilding a graph representation only from
784 the route information turns to be a very difficult task, because of
785 the missing information about how routes intersect. That is why we
786 introduced a \<router\> tag, which is simply used to express these
787 intersection points. The only attribute accepted by this tag an id. It
788 is important to understand that the \<router\> tag is only used to
789 provide topological information.
790
791 To express those topological information, some <b>route</b> have to be
792 defined saying which link is between which routers. Description or the
793 route syntax is given below, as well as example for the different
794 models.
795
796 \subsubsection pf_rm_sh Shortest-path based models
797
798 Here is the complete list of such models, that computes routes using
799 classic shortest-paths algorithms. How to choose the best suited
800 algorithm is discussed later in the section devoted to it.
801
802 \li <b>Floyd</b>: Floyd routing data. Pre-calculates all routes once.
803 \li <b>Dijkstra</b>: Dijkstra routing data ,calculating routes when
804     necessary.
805 \li <b>DijkstraCache</b>: Dijkstra routing data. Handle some cache for
806     already calculated routes.
807
808 All those shortest-path models are instanciated the same way. Here are
809 some example of it:
810
811 Floyd example :
812 \verbatim
813 <AS  id="AS0"  routing="Floyd">
814
815   <cluster id="my_cluster_1" prefix="c-" suffix=""
816                 radical="0-1"   power="1000000000"    bw="125000000"     lat="5E-5"
817         router_id="router1"/>
818
819  <AS id="AS1" routing="none">
820     <host id="host1" power="1000000000"/>
821  </AS>
822
823   <link id="link1" bandwidth="100000" latency="0.01"/>
824
825   <ASroute src="my_cluster_1" dst="AS1"
826     gw_src="router1"
827     gw_dst="host1">
828     <link_ctn id="link1"/>
829   </ASroute>
830
831 </AS>
832 \endverbatim
833
834 ASroute given at the end gives a topological information: link1 is
835 between router1 and host1.
836
837 Dijsktra example :
838 \verbatim
839  <AS id="AS_2" routing="Dijsktra">
840      <host id="AS_2_host1" power="1000000000"/>
841      <host id="AS_2_host2" power="1000000000"/>
842      <host id="AS_2_host3" power="1000000000"/>
843      <link id="AS_2_link1" bandwidth="1250000000" latency="5E-4"/>
844      <link id="AS_2_link2" bandwidth="1250000000" latency="5E-4"/>
845      <link id="AS_2_link3" bandwidth="1250000000" latency="5E-4"/>
846      <link id="AS_2_link4" bandwidth="1250000000" latency="5E-4"/>
847      <router id="central_router"/>
848      <router id="AS_2_gateway"/>
849      <!-- routes providing topological information -->
850      <route src="central_router" dst="AS_2_host1"><link_ctn id="AS_2_link1"/></route>
851      <route src="central_router" dst="AS_2_host2"><link_ctn id="AS_2_link2"/></route>
852      <route src="central_router" dst="AS_2_host3"><link_ctn id="AS_2_link3"/></route>
853      <route src="central_router" dst="AS_2_gateway"><link_ctn id="AS_2_link4"/></route>
854   </AS>
855 \endverbatim
856
857 DijsktraCache example :
858 \verbatim
859 <AS id="AS_2" routing="DijsktraCache">
860      <host id="AS_2_host1" power="1000000000"/>
861      ...
862 (platform unchanged compared to upper example)
863 \endverbatim
864
865 \subsubsection pf_rm_me Manually-entered route models
866
867 \li <b>Full</b>: You have to enter all necessary routes manually
868
869 Full example :
870 \verbatim
871 <AS  id="AS0"  routing="Full">
872    <host id="host1" power="1000000000"/>
873    <host id="host2" power="1000000000"/>
874    <link id="link1" bandwidth="125000000" latency="0.000100"/>
875    <route src="host1" dst="host2"><link_ctn id="link1"/></route>
876  </AS>
877 \endverbatim
878
879 \subsubsection pf_rm_sf Simple/fast models
880
881 \li <b>none</b>: No routing (Unless you know what you are doing, avoid
882 using this mode in combination with a non Constant network model).
883 None Example :
884 \verbatim
885 <AS id="exitAS"  routing="none">
886         <router id="exit_gateway"/>
887 </AS>\endverbatim
888
889 \li <b>Vivaldi</b>: Vivaldi routing, so when you want to use
890     coordinates. See the corresponding section P2P below for details.
891 \li <b>Cluster</b>: Cluster routing, specific to cluster tag, should
892     not be used, except internally.
893
894 \subsection ps_dec Defining routes
895
896 The principle of route definition is the same for the 4 available tags
897 for doing it. Those for tags are:
898
899 \li <b>route</b>: to define route between host/router
900 \li <b>ASroute</b>: to define route between AS
901 \li <b>bypassRoute</b>: to bypass normal routes as calculated by the
902     network model between host/router
903 \li <b>bypassASroute</b>: same as bypassRoute, but for AS
904
905 Basically all those tags will contain an (ordered) list of references
906 to link that compose the route you want to define.
907
908 Consider the example below:
909
910 \verbatim
911 <route src="Alice" dst="Bob">
912         <link_ctn id="link1"/>
913         <link_ctn id="link2"/>
914         <link_ctn id="link3"/>
915    </route>
916 \endverbatim
917
918 The route here from host Alice to Bob will be first link1, then link2,
919 and finally link3. What about the reverse route ? <b>route</b> and
920 <b>ASroute</b> have an optional attribute <b>symmetrical</b>, that can
921 be either YES or NO. YES means that the reverse route is the same
922 route in the inverse order, and is set to YES by default. Note that
923 this is not the case for bypass*Route, as it is more probable that you
924 want to bypass only one default route.
925
926 For an ASroute, things are just slightly more complicated, as you have
927 to give the id of the gateway which is inside the AS you're talking
928 about you want to access ... So it looks like this :
929
930
931 \verbatim
932   <ASroute src="AS1" dst="AS2"
933     gw_src="router1" gw_dst="router2">
934     <link_ctn id="link1"/>
935   </ASroute>
936 \endverbatim
937
938 gw == gateway, so when any message are trying to go from AS1 to AS2,
939 it means that it must pass through router1 to get out of the AS, then
940 pass through link1, and get into AS2 by being received by router2.
941 router1 must belong to AS1 and router2 must belong to AS2.
942
943 \subsubsection pf_linkctn link_ctn
944
945 a <b>link_ctn</b> is the tag that is used in order to reference a
946 <b>link</b> in a route. Its id is the link id it refers to.
947
948 <b>link_ctn</b> attributes :
949 \li <b>id (mandatory)</b>: Id of the link this tag refers to
950 \li <b>direction</b>: if the link referenced by <b>id</b> has been
951     declared as FULLDUPLEX, this is used to indicate in which
952     direction the route you're defining is going through this link.
953     Possible values "UP" or "DOWN".
954
955 \subsubsection pf_asro ASroute
956
957 ASroute tag purpose is to let people write manually their routes
958 between AS. It's useful when you're in Full model.
959
960 <b>ASroute</b> attributes :
961 \li <b>src (mandatory)</b>: the source AS id.
962 \li <b>dst (mandatory)</b>: the destination AS id.
963 \li <b>gw_src (mandatory)</b>: the gateway to be used within the AS.
964     Can be any <b>host</b> or \b router defined into the \b src AS or
965     into one of the AS it includes.
966 \li <b>gw_dst (mandatory)</b>: the gateway to be used within the AS.
967     Can be any <b>host</b> or \b router defined into the \b dst AS or
968     into one of the AS it includes.
969 \li <b>symmetrical</b>: if the route is symmetric, the reverse route
970     will be the opposite of the one defined. Can be either YES or NO,
971     default is YES.
972
973 <b>Example of ASroute with Full</b>
974 \verbatim
975 <AS  id="AS0"  routing="Full">
976   <cluster id="my_cluster_1" prefix="c-" suffix=".me"
977                 radical="0-149" power="1000000000"    bw="125000000"     lat="5E-5"
978         bb_bw="2250000000" bb_lat="5E-4"/>
979
980   <cluster id="my_cluster_2" prefix="c-" suffix=".me"
981             radical="150-299" power="1000000000"        bw="125000000"  lat="5E-5"
982             bb_bw="2250000000" bb_lat="5E-4"/>
983
984      <link id="backbone" bandwidth="1250000000" latency="5E-4"/>
985
986      <ASroute src="my_cluster_1" dst="my_cluster_2"
987          gw_src="c-my_cluster_1_router.me"
988          gw_dst="c-my_cluster_2_router.me">
989                 <link_ctn id="backbone"/>
990      </ASroute>
991      <ASroute src="my_cluster_2" dst="my_cluster_1"
992          gw_src="c-my_cluster_2_router.me"
993          gw_dst="c-my_cluster_1_router.me">
994                 <link_ctn id="backbone"/>
995      </ASroute>
996 </AS>
997 \endverbatim
998
999 \subsubsection pf_ro route
1000 The principle is the same as ASroute : <b>route</b> contains list of
1001 links that are in the path between src and dst, except that it is for
1002 routes between a src that can be either <b>host</b> or \b router and a
1003 dst that can be either <b>host</b> or \b router. Useful for Full
1004 as well as for the shortest-paths based models, where you
1005 have to give topological information.
1006
1007
1008 <b>route</b> attributes :
1009 \li <b>src (mandatory)</b>: the source id.
1010 \li <b>dst (mandatory)</b>: the destination id.
1011 \li <b>symmetrical</b>: if the route is symmetric, the reverse route
1012     will be the opposite of the one defined. Can be either YES or NO,
1013     default is YES.
1014
1015 <b>route example in Full</b>
1016 \verbatim
1017  <route src="Tremblay" dst="Bourassa">
1018      <link_ctn id="4"/><link_ctn id="3"/><link_ctn id="2"/><link_ctn id="0"/><link_ctn id="1"/><link_ctn id="6"/><link_ctn id="7"/>
1019    </route>
1020 \endverbatim
1021
1022 <b>route example in a shortest-path model</b>
1023 \verbatim
1024  <route src="Tremblay" dst="Bourassa">
1025      <link_ctn id="3"/>
1026    </route>
1027 \endverbatim
1028 Note that when using route to give topological information, you have
1029 to give routes with one link only in it, as SimGrid needs to know
1030 which host are at the end of the link.
1031
1032 \subsubsection pf_byASro bypassASroute
1033
1034 <b>Note : bypassASroute and bypassRoute are under rewriting to perform
1035 better ; so you may not use it yet</b> As said before, once you choose
1036 a model, it (if so) calculates routes for you. But maybe you want to
1037 define some of your routes, which will be specific. You may also want
1038 to bypass some routes defined in lower level AS at an upper stage :
1039 <b>bypassASroute</b> is the tag you're looking for. It allows to
1040 bypass routes defined between already defined between AS (if you want
1041 to bypass route for a specific host, you should just use byPassRoute).
1042 The principle is the same as ASroute : <b>bypassASroute</b> contains
1043 list of links that are in the path between src and dst.
1044
1045 <b>bypassASroute</b> attributes :
1046 \li <b>src (mandatory)</b>: the source AS id.
1047 \li <b>dst (mandatory)</b>: the destination AS id.
1048 \li <b>gw_src (mandatory)</b>: the gateway to be used within the AS.
1049     Can be any <b>host</b> or \b router defined into the \b src AS or
1050     into one of the AS it includes.
1051 \li <b>gw_dst (mandatory)</b>: the gateway to be used within the AS.
1052     Can be any <b>host</b> or \b router defined into the \b dst AS or
1053     into one of the AS it includes.
1054 \li <b>symmetrical</b>: if the route is symmetric, the reverse route
1055     will be the opposite of the one defined. Can be either YES or NO,
1056     default is YES.
1057
1058 <b>bypassASroute Example</b>
1059 \verbatim
1060     <bypassASRoute src="my_cluster_1" dst="my_cluster_2"
1061      gw_src="my_cluster_1_router"
1062      gw_dst="my_cluster_2_router">
1063         <link_ctn id="link_tmp"/>
1064      </bypassASroute>
1065 \endverbatim
1066
1067 \subsubsection pf_byro bypassRoute
1068 <b>Note : bypassASRoute and bypassRoute are under rewriting to perform
1069 better ; so you may not use it yet</b> As said before, once you choose
1070 a model, it (if so) calculates routes for you. But maybe you want to
1071 define some of your routes, which will be specific. You may also want
1072 to bypass some routes defined in lower level AS at an upper stage :
1073 <b>bypassRoute</b> is the tag you're looking for. It allows to bypass
1074 routes defined between <b>host/router</b>. The principle is the same
1075 as route : <b>bypassRoute</b> contains list of links references of
1076 links that are in the path between src and dst.
1077
1078 <b>bypassRoute</b> attributes :
1079 \li <b>src (mandatory)</b>: the source AS id.
1080 \li <b>dst (mandatory)</b>: the destination AS id.
1081 \li <b>symmetrical</b>: if the route is symmetric, the reverse route
1082     will be the opposite of the one defined. Can be either YES or NO,
1083     default is YES.
1084
1085 <b>bypassRoute Example</b>
1086 \verbatim
1087     <bypassRoute src="host_1" dst="host_2">
1088         <link_ctn id="link_tmp"/>
1089      </bypassRoute>
1090 \endverbatim
1091
1092
1093 \subsection pb_baroex Basic Routing Example
1094
1095 Let's say you have an AS named AS_Big that contains two other AS, AS_1
1096 and AS_2. If you want to make a host (h1) from AS_1 with another one
1097 (h2) from AS_2 then you'll have to proceed as follows:
1098 \li First, you have to ensure that a route is defined from h1 to the
1099     AS_1's exit gateway and from h2 to AS_2's exit gateway.
1100 \li Then, you'll have to define a route between AS_1 to AS_2. As those
1101     AS are both resources belonging to AS_Big, then it has to be done
1102     at AS_big level. To define such a route, you have to give the
1103     source AS (AS_1), the destination AS (AS_2), and their respective
1104     gateway (as the route is effectively defined between those two
1105     entry/exit points). Elements of this route can only be elements
1106     belonging to AS_Big, so links and routers in this route should be
1107     defined inside AS_Big. If you choose some shortest-path model,
1108     this route will be computed automatically.
1109
1110 As said before, there are mainly 2 tags for routing :
1111 \li <b>ASroute</b>: to define routes between two  <b>AS</b>
1112 \li <b>route</b>: to define routes between two <b>host/router</b>
1113
1114 As we are dealing with routes between AS, it means that those we'll
1115 have some definition at AS_Big level. Let consider AS_1 contains 1
1116 host, 1 link and one router and AS_2 3 hosts, 4 links and one router.
1117 There will be a central router, and a cross-like topology. At the end
1118 of the crosses arms, you'll find the 3 hosts and the router that will
1119 act as a gateway. We have to define routes inside those two AS. Let
1120 say that AS_1 contains full routes, and AS_2 contains some Floyd
1121 routing (as we don't want to bother with defining all routes). As
1122 we're using some shortest path algorithms to route into AS_2, we'll
1123 then have to define some <b>route</b> to gives some topological
1124 information to SimGrid. Here is a file doing it all :
1125
1126 \verbatim
1127 <AS  id="AS_Big"  routing="Dijsktra">
1128   <AS id="AS_1" routing="Full">
1129      <host id="AS_1_host1" power="1000000000"/>
1130      <link id="AS_1_link" bandwidth="1250000000" latency="5E-4"/>
1131      <router id="AS_1_gateway"/>
1132      <route src="AS_1_host1" dst="AS_1_gateway">
1133             <link_ctn id="AS_1_link"/>
1134      </route>
1135   </AS>
1136   <AS id="AS_2" routing="Floyd">
1137      <host id="AS_2_host1" power="1000000000"/>
1138      <host id="AS_2_host2" power="1000000000"/>
1139      <host id="AS_2_host3" power="1000000000"/>
1140      <link id="AS_2_link1" bandwidth="1250000000" latency="5E-4"/>
1141      <link id="AS_2_link2" bandwidth="1250000000" latency="5E-4"/>
1142      <link id="AS_2_link3" bandwidth="1250000000" latency="5E-4"/>
1143      <link id="AS_2_link4" bandwidth="1250000000" latency="5E-4"/>
1144      <router id="central_router"/>
1145      <router id="AS_2_gateway"/>
1146      <!-- routes providing topological information -->
1147      <route src="central_router" dst="AS_2_host1"><link_ctn id="AS_2_link1"/></route>
1148      <route src="central_router" dst="AS_2_host2"><link_ctn id="AS_2_link2"/></route>
1149      <route src="central_router" dst="AS_2_host3"><link_ctn id="AS_2_link3"/></route>
1150      <route src="central_router" dst="AS_2_gateway"><link_ctn id="AS_2_link4"/></route>
1151   </AS>
1152     <link id="backbone" bandwidth="1250000000" latency="5E-4"/>
1153
1154      <ASroute src="AS_1" dst="AS_2"
1155          gw_src="AS_1_gateway"
1156          gw_dst="AS_2_gateway">
1157                 <link_ctn id="backbone"/>
1158      </ASroute>
1159 </AS>
1160 \endverbatim
1161
1162 \section pf_other_tags Tags not (directly) describing the platform
1163
1164 There are 3 tags, that you can use inside a \<platform\> tag that are
1165 not describing the platform:
1166 \li random: it allows you to define random generators you want to use
1167     for your simulation.
1168 \li config: it allows you to pass some configuration stuff like, for
1169     example, the network model and so on. It follows the
1170 \li include: simply allows you to include another file into the
1171     current one.
1172
1173 \subsection pf_conf config
1174 <b>config</b> attributes :
1175 \li <b>id (mandatory)</b>: the identifier of the config to be used
1176     when referring to it.
1177
1178
1179 <b>config</b> tag only purpose is to include <b>prop</b> tags. Valid
1180 id are basically the same as the list of possible parameters you can
1181 use by command line, except that "/" are used for namespace
1182 definition. See the \ref options config and options page for more
1183 information.
1184
1185
1186 <b>config example</b>
1187 \verbatim
1188 <?xml version='1.0'?>
1189 <!DOCTYPE platform SYSTEM "http://simgrid.gforge.inria.fr/simgrid.dtd">
1190 <platform version="3">
1191 <config id="General">
1192         <prop id="maxmin/precision" value="0.000010"></prop>
1193         <prop id="cpu/optim" value="TI"></prop>
1194         <prop id="workstation/model" value="compound"></prop>
1195         <prop id="network/model" value="SMPI"></prop>
1196         <prop id="path" value="~/"></prop>
1197         <prop id="smpi/bw_factor" value="65472:0.940694;15424:0.697866;9376:0.58729"></prop>
1198 </config>
1199
1200 <AS  id="AS0"  routing="Full">
1201 ...
1202 \endverbatim
1203
1204
1205 \subsection pf_rand random
1206 Not yet in use, and possibly subject to huge modifications.
1207
1208 \subsection pf_incl include
1209 <b>include</b> tag allows to import into a file platform parts located
1210 in another file. This is done with the intention to help people
1211 combine their different AS and provide new platforms. Those files
1212 should contains XML part that contains either
1213 <b>include,cluster,peer,AS,trace,trace_connect</b> tags.
1214
1215 <b>include</b> attributes :
1216 \li <b>file (mandatory)</b>: filename of the file to include. Possible
1217     values: absolute or relative path, syntax similar to the one in
1218     use on your system.
1219
1220 <b>Note</b>: due to some obscure technical reasons, you have to open
1221 and close tag in order to let it work.
1222 <b>include Example</b>
1223 \verbatim
1224 <?xml version='1.0'?>
1225 <!DOCTYPE platform SYSTEM "http://simgrid.gforge.inria.fr/simgrid.dtd">
1226 <platform version="3">
1227         <AS id="main" routing="Full">
1228                 <include file="clusterA.xml"></include>
1229                 <include file="clusterB.xml"></include>
1230         </AS>
1231 </platform>
1232 \endverbatim
1233
1234 \subsection pf_tra trace and trace_connect
1235 Both tags are an alternate way to passe availability, state, and so on
1236 files to entity. Instead of referring to the file directly in the host,
1237 link, or cluster tag, you proceed by defining a trace with an id
1238 corresponding to a file, later a host/link/cluster, and finally using
1239 trace_connect you say that the file trace must be used by the entity.
1240 Get it ? Let's have a look at an example :
1241
1242 \verbatim
1243 <AS  id="AS0"  routing="Full">
1244   <host id="bob" power="1000000000"/>
1245 </AS>
1246   <trace id="myTrace" file="bob.trace" periodicity="1.0"/>
1247   <trace_connect trace="myTrace" element="bob" kind="POWER"/>
1248 \endverbatim
1249
1250 All constraints you have is that <b>trace_connect</b> is after
1251 <b>trace</b> and <b>host</b> definitions.
1252
1253
1254 <b>trace</b> attributes :
1255 \li <b>id (mandatory)</b>: the identifier of the trace to be used when
1256     referring to it.
1257 \li <b>file</b>: filename of the file to include. Possible values :
1258     absolute or relative path, syntax similar to the one in use on
1259     your system. If omitted, the system expects that you provide the
1260     trace values inside the trace tags (see below).
1261 \li <b>trace periodicity (mandatory)</b>: trace periodicity, same
1262     definition as in hosts (see upper for details).
1263
1264 Here is an example  of trace when no file name is provided:
1265
1266 \verbatim
1267  <trace id="myTrace" periodicity="1.0">
1268     0.0 1.0
1269     11.0 0.5
1270     20.0 0.8
1271   </trace>
1272 \endverbatim
1273
1274 <b>trace_connect</b> attributes :
1275 \li <b>kind</b>: the type of trace, possible values
1276     <b>HOST_AVAIL|POWER|LINK_AVAIL|BANDWIDTH|LATENCY,</b>  default:
1277     <b>HOST_AVAIL</b>
1278 \li <b>trace (mandatory)</b>: the identifier of the trace referenced.
1279 \li <b>element (mandatory)</b>: the identifier of the entity referenced.
1280
1281
1282
1283 \section pf_hints Hints and tips, or how to write a platform efficiently
1284
1285 Now you should know at least the syntax and be able to create a
1286 platform by your own. However, after having ourselves wrote some platforms, there
1287 are some best practices you should pay attention to in order to
1288 produce good platform and some choices you can make in order to have
1289 faster simulations. Here's some hints and tips, then.
1290
1291 \subsection pf_as_h AS Hierarchy
1292 The AS design allows SimGrid to go fast, because computing route is
1293 done only for the set of resources defined in this AS. If you're using
1294 only a big AS containing all resource with no AS into it and you're
1295 using Full model, then ... you'll loose all interest into it. On the
1296 other hand, designing a binary tree of AS with, at the lower level,
1297 only one host, then you'll also loose all the good AS hierarchy can
1298 give you. Remind you should always be "reasonable" in your platform
1299 definition when choosing the hierarchy. A good choice if you try to
1300 describe a real life platform is to follow the AS described in
1301 reality, since this kind of trade-off works well for real life
1302 platforms.
1303
1304 \subsection pf_exit_as Exit AS: why and how
1305 Users that have looked at some of our platforms may have notice a
1306 non-intuitive schema ... Something like that :
1307
1308
1309 \verbatim
1310 <AS id="AS_4"  routing="Full">
1311 <AS id="exitAS_4"  routing="Full">
1312         <router id="router_4"/>
1313 </AS>
1314 <cluster id="cl_4_1" prefix="c_4_1-" suffix="" radical="1-20" power="1000000000" bw="125000000" lat="5E-5" bb_bw="2250000000" bb_lat="5E-4"/>
1315 <cluster id="cl_4_2" prefix="c_4_2-" suffix="" radical="1-20" power="1000000000" bw="125000000" lat="5E-5" bb_bw="2250000000" bb_lat="5E-4"/>
1316 <link id="4_1" bandwidth="2250000000" latency="5E-5"/>
1317 <link id="4_2" bandwidth="2250000000" latency="5E-5"/>
1318 <link id="bb_4" bandwidth="2250000000" latency="5E-4"/>
1319 <ASroute src="cl_4_1"
1320         dst="cl_4_2"
1321         gw_src="c_4_1-cl_4_1_router"
1322         gw_dst="c_4_2-cl_4_2_router"
1323         symmetrical="YES">
1324                 <link_ctn id="4_1"/>
1325                 <link_ctn id="bb_4"/>
1326                 <link_ctn id="4_2"/>
1327 </ASroute>
1328 <ASroute src="cl_4_1"
1329         dst="exitAS_4"
1330         gw_src="c_4_1-cl_4_1_router"
1331         gw_dst="router_4"
1332         symmetrical="YES">
1333                 <link_ctn id="4_1"/>
1334                 <link_ctn id="bb_4"/>
1335 </ASroute>
1336 <ASroute src="cl_4_2"
1337         dst="exitAS_4"
1338         gw_src="c_4_2-cl_4_2_router"
1339         gw_dst="router_4"
1340         symmetrical="YES">
1341                 <link_ctn id="4_2"/>
1342                 <link_ctn id="bb_4"/>
1343 </ASroute>
1344 </AS>
1345 \endverbatim
1346
1347 In the AS_4, you have an exitAS_4 defined, containing only one router,
1348 and routes defined to that AS from all other AS (as cluster is only a
1349 shortcut for an AS, see cluster description for details). If there was
1350 an upper AS, it would define routes to and from AS_4 with the gateway
1351 router_4. It's just because, as we did not allowed (for performances
1352 issues) to have routes from an AS to a single host/router, you have to
1353 enclose your gateway, when you have AS included in your AS, within an
1354 AS to define routes to it.
1355
1356 \subsection pf_P2P_tags P2P or how to use coordinates
1357 SimGrid allows you to use some coordinated-based system, like vivaldi,
1358 to describe a platform. The main concept is that you have some peers
1359 that are located somewhere: this is the function of the
1360 <b>coordinates</b> of the \<peer\> or \<host\> tag. There's nothing
1361 complicated in using it, here is an example of it:
1362
1363 \verbatim
1364 <?xml version='1.0'?>
1365 <!DOCTYPE platform SYSTEM "http://simgrid.gforge.inria.fr/simgrid.dtd">
1366 <platform version="3">
1367
1368 <config id="General">
1369         <prop id="network/coordinates" value="yes"></prop>
1370 </config>
1371  <AS  id="AS0"  routing="Vivaldi">
1372         <host id="100030591" coordinates="25.5 9.4 1.4" power="1500000000.0" />
1373         <host id="100036570" coordinates="-12.7 -9.9 2.1" power="730000000.0" />
1374         ...
1375         <host id="100429957" coordinates="17.5 6.7 18.8" power="830000000.0" />
1376         </AS>
1377 </platform>
1378 \endverbatim
1379
1380 Coordinates are then used to calculate latency between two hosts by
1381 calculating the euclidean distance between the two hosts coordinates.
1382 The results express the latency in ms.
1383
1384 Note that the previous example defines a routing directly between hosts but it could be also used to define a routing between AS.
1385 That is for example what is commonly done when using peers (see Section \ref pf_peer).
1386 \verbatim
1387 <?xml version='1.0'?>
1388 <!DOCTYPE platform SYSTEM "http://simgrid.gforge.inria.fr/simgrid.dtd">
1389 <platform version="3">
1390
1391 <config id="General">
1392         <prop id="network/coordinates" value="yes"></prop>
1393 </config>
1394  <AS  id="AS0"  routing="Vivaldi">
1395    <peer id="peer-0" coordinates="173.0 96.8 0.1" power="730Mf" bw_in="13.38MBps" bw_out="1.024MBps" lat="500us"/>
1396    <peer id="peer-1" coordinates="247.0 57.3 0.6" power="730Mf" bw_in="13.38MBps" bw_out="1.024MBps" lat="500us" />
1397    <peer id="peer-2" coordinates="243.4 58.8 1.4" power="730Mf" bw_in="13.38MBps" bw_out="1.024MBps" lat="500us" />
1398 </AS>
1399 </platform>
1400 \endverbatim
1401 In such a case though, we connect the AS created by the <b>peer</b> tag with the Vivaldi routing mechanism.
1402 This means that to route between AS1 and AS2, it will use the coordinates of router_AS1 and router_AS2.
1403 This is currently a convention and we may offer to change this convention in the DTD later if needed.
1404 You may have noted that conveniently, a peer named FOO defines an AS named FOO and a router named router_FOO, which is why it works seamlessly with the <b>peer</b> tag.
1405
1406
1407 \subsection pf_wisely Choosing wisely the routing model to use
1408
1409
1410 Choosing wisely the routing model to use can significantly fasten your
1411 simulation/save your time when writing the platform/save tremendous
1412 disk space. Here is the list of available model and their
1413 characteristics (lookup : time to resolve a route):
1414
1415 \li <b>Full</b>: Full routing data (fast, large memory requirements,
1416     fully expressive)
1417 \li <b>Floyd</b>: Floyd routing data (slow initialization, fast
1418     lookup, lesser memory requirements, shortest path routing only).
1419     Calculates all routes at once at the beginning.
1420 \li <b>Dijkstra</b>: Dijkstra routing data (fast initialization, slow
1421     lookup, small memory requirements, shortest path routing only).
1422     Calculates a route when necessary.
1423 \li <b>DijkstraCache</b>: Dijkstra routing data (fast initialization,
1424     fast lookup, small memory requirements, shortest path routing
1425     only). Same as Dijkstra, except it handles a cache for latest used
1426     routes.
1427 \li <b>none</b>: No routing (usable with Constant network only).
1428     Defines that there is no routes, so if you try to determine a
1429     route without constant network within this AS, SimGrid will raise
1430     an exception.
1431 \li <b>Vivaldi</b>: Vivaldi routing, so when you want to use coordinates
1432 \li <b>Cluster</b>: Cluster routing, specific to cluster tag, should
1433     not be used.
1434
1435 \subsection pf_switch Hey, I want to describe a switch but there is no switch tag !
1436
1437 Actually we did not include switch tag, ok. But when you're trying to
1438 simulate a switch, the only major impact it has when you're using
1439 fluid model (and SimGrid uses fluid model unless you activate GTNetS,
1440 ns-3, or constant network mode) is the impact of the upper limit of
1441 the switch motherboard speed that will eventually be reached if you're
1442 using intensively your switch. So, the switch impact is similar to a
1443 link one. That's why we are used to describe a switch using a link tag
1444 (as a link is not an edge by a hyperedge, you can connect more than 2
1445 other links to it).
1446
1447 \subsection pf_platform_multipath How to express multipath routing in platform files?
1448
1449 It is unfortunately impossible to express the fact that there is more
1450 than one routing path between two given hosts. Let's consider the
1451 following platform file:
1452
1453 \verbatim
1454 <route src="A" dst="B">
1455    <link_ctn id="1"/>
1456 </route>
1457 <route src="B" dst="C">
1458   <link_ctn id="2"/>
1459 </route>
1460 <route src="A" dst="C">
1461   <link_ctn id="3"/>
1462 </route>
1463 \endverbatim
1464
1465 Although it is perfectly valid, it does not mean that data traveling
1466 from A to C can either go directly (using link 3) or through B (using
1467 links 1 and 2). It simply means that the routing on the graph is not
1468 trivial, and that data do not following the shortest path in number of
1469 hops on this graph. Another way to say it is that there is no implicit
1470 in these routing descriptions. The system will only use the routes you
1471 declare (such as &lt;route src="A" dst="C"&gt;&lt;link_ctn
1472 id="3"/&gt;&lt;/route&gt;), without trying to build new routes by aggregating
1473 the provided ones.
1474
1475 You are also free to declare platform where the routing is not
1476 symmetric. For example, add the following to the previous file:
1477
1478 \verbatim
1479 <route src="C" dst="A">
1480   <link_ctn id="2"/>
1481   <link_ctn id="1"/>
1482 </route>
1483 \endverbatim
1484
1485 This makes sure that data from C to A go through B where data from A
1486 to C go directly. Don't worry about realism of such settings since
1487 we've seen ways more weird situation in real settings (in fact, that's
1488 the realism of very regular platforms which is questionable, but
1489 that's another story).
1490
1491 \section pf_flexml_bypassing Bypassing the XML parser with your own C functions
1492 <b>NOTE THAT THIS DOCUMENTATION, WHILE STILL WORKING, IS STRONGLY DEPRECATED</b>
1493
1494 So you want to bypass the XML files parser, uh? Maybe doing some parameter
1495 sweep experiments on your simulations or so? This is possible, and
1496 it's not even really difficult (well. Such a brutal idea could be
1497 harder to implement). Here is how it goes.
1498
1499 For this, you have to first remember that the XML parsing in SimGrid is done
1500 using a tool called FleXML. Given a DTD, this gives a flex-based parser. If
1501 you want to bypass the parser, you need to provide some code mimicking what
1502 it does and replacing it in its interactions with the SURF code. So, let's
1503 have a look at these interactions.
1504
1505 FleXML parser are close to classical SAX parsers. It means that a
1506 well-formed SimGrid platform XML file might result in the following
1507 "events":
1508
1509   - start "platform_description" with attribute version="2"
1510   - start "host" with attributes id="host1" power="1.0"
1511   - end "host"
1512   - start "host" with attributes id="host2" power="2.0"
1513   - end "host"
1514   - start "link" with ...
1515   - end "link"
1516   - start "route" with ...
1517   - start "link_ctn" with ...
1518   - end "link_ctn"
1519   - end "route"
1520   - end "platform_description"
1521
1522 The communication from the parser to the SURF code uses two means:
1523 Attributes get copied into some global variables, and a surf-provided
1524 function gets called by the parser for each event. For example, the event
1525   - start "host" with attributes id="host1" power="1.0"
1526
1527 let the parser do something roughly equivalent to:
1528 \verbatim
1529   strcpy(A_host_id,"host1");
1530   A_host_power = 1.0;
1531   STag_host();
1532 \endverbatim
1533
1534 In SURF, we attach callbacks to the different events by initializing the
1535 pointer functions to some the right surf functions. Since there can be
1536 more than one callback attached to the same event (if more than one
1537 model is in use, for example), they are stored in a dynar. Example in
1538 workstation_ptask_L07.c:
1539 \verbatim
1540   /* Adding callback functions */
1541   surf_parse_reset_parser();
1542   surfxml_add_callback(STag_surfxml_host_cb_list, &parse_cpu_init);
1543   surfxml_add_callback(STag_surfxml_prop_cb_list, &parse_properties);
1544   surfxml_add_callback(STag_surfxml_link_cb_list, &parse_link_init);
1545   surfxml_add_callback(STag_surfxml_route_cb_list, &parse_route_set_endpoints);
1546   surfxml_add_callback(ETag_surfxml_link_c_ctn_cb_list, &parse_route_elem);
1547   surfxml_add_callback(ETag_surfxml_route_cb_list, &parse_route_set_route);
1548
1549   /* Parse the file */
1550   surf_parse_open(file);
1551   xbt_assert(!surf_parse(), "Parse error in %s", file);
1552   surf_parse_close();
1553 \endverbatim
1554
1555 So, to bypass the FleXML parser, you need to write your own version of the
1556 surf_parse function, which should do the following:
1557    - Fill the A_<tag>_<attribute> variables with the wanted values
1558    - Call the corresponding STag_<tag>_fun function to simulate tag start
1559    - Call the corresponding ETag_<tag>_fun function to simulate tag end
1560    - (do the same for the next set of values, and loop)
1561
1562 Then, tell SimGrid that you want to use your own "parser" instead of the stock one:
1563 \verbatim
1564   surf_parse = surf_parse_bypass_environment;
1565   MSG_create_environment(NULL);
1566   surf_parse = surf_parse_bypass_application;
1567   MSG_launch_application(NULL);
1568 \endverbatim
1569
1570 A set of macros are provided at the end of
1571 include/surf/surfxml_parse.h to ease the writing of the bypass
1572 functions. An example of this trick is distributed in the file
1573 examples/msg/masterslave/masterslave_bypass.c
1574
1575
1576 */