Logo AND Algorithmique Numérique Distribuée

Public GIT Repository
54ff191ccf937c91d8f34b087257285c38207d07
[simgrid.git] / doc / ref_guide / doxygen / modules.doc
1
2 /** \defgroup XBT_API      XBT
3     \brief The core toolbox of SimGrid, containing usefull datatypes,
4            portability support and so on.
5
6 */
7
8 /** \defgroup MSG_API      MSG
9     \brief Simple programming environment
10
11       MSG was the first distributed programming environment provided within
12       SimGrid. While almost realistic, it remains quite simple (simplistic?).
13
14       \section MSG_who Who should use this (and who shouldn't)
15
16       You should use this module if you want to study some heuristics for a
17       given problem you don't really want to implement.
18       If you want to use DAGs, have a look at the \ref SD_API programming
19       environment.
20       If you want to get a real (but experimental) implementation of your solution, have a look
21       at the \ref GRAS_API one. If you want to study an existing MPI program,
22       have a look at the \ref SMPI_API one. If none of those programming
23       environments fits your needs, you may consider implementing your own
24       directly on top of \ref SURF_API (but you probably want to contact us
25       before).
26 */
27
28
29 /** \defgroup SIMIX_API      SIMIX
30     \brief POSIX-like interface for building simulation
31
32     This is a developer-level interface that should be useful only if you
33     plan to design a new interface for SimGrid.
34 */
35
36
37 /** \defgroup GRAS_API      GRAS
38     \brief Realistic programming environment (Grid Reality And Simulation)
39
40     GRAS provides a complete API to implement distributed application on top
41     of heterogeneous plateforms. In addition to the SimGrid implementation
42     of this interface (allowing you to work on your application within the
43     comfort of the simulator), an implementation suited to real platforms is
44     also provided (allowing you to really use your application once you're
45     done with developing it). It may still contain rought corners as
46     GRAS is not the most used part of SimGrid, however.
47
48     GRAS thus constitute a complete grid application developement framework,
49     encompassing both developer helping tools (the simulator and associated
50     tools) and an efficient while portable execution runtime.
51
52     \section GRAS_who Who should use this (and who shouldn't)
53
54     You should use this programming environment if you want to develop real
55     applications, ie if the final result of your work is a program which
56     may eventually be distributed. Rember however that GRAS is
57     considered as experimental at this point. Help would be welcomed
58     to improve this sorry situation...
59
60     If you just want to study some heuristics for a given problem you don't
61     want to implement really (ie, if your result would be a theorem), have a
62     look at the \ref MSG_API one, or the \ref SD_API one if you need to use DAGs.
63     If you want to study an existing MPI program, have a look at the
64     \ref SMPI_API one.
65     If none of those programming environments fits your needs, you may
66     consider implementing your own directly on top of \ref SURF_API (but you
67     probably want to contact us before).
68 */
69
70 /** \defgroup AMOK_API AMOK
71     \brief Distributed toolkit built over \ref GRAS_API (Advanced Metacomputing Overlay Kit)
72
73     AMOK provides several tools useful to most applications built on top of GRAS,
74     but yet not belonging to GRAS itself. It is planned that those modules will be
75     changed to real plugins one day, allowing users to load only the needed parts at
76     run time. For now, they live in another library against which you should link your
77     programs explicitly.
78 */
79
80 /** \defgroup SMPI_API      SMPI
81     \brief Programming environment for the simulation of MPI applications
82
83 This programming environment permits to study existing MPI application
84 by emulating them on top of the SimGrid simulator. In other words, it
85 will constitute an emulation solution for parallel codes. You don't
86 even have to modify your code for that, although that may help, as
87 detailed below.
88
89 \section SMPI_who Who should use SMPI (and who shouldn't)
90
91 You should use this programming environment of the SimGrid suite if
92 you want to study existing MPI applications. If you want to create a
93 distributed application, you may be interested in the \ref GRAS_API
94 environment instead (but note that GRAS is not very actively
95 maintained nowadays). If you want to study some heuristics for a given
96 problem (and if your goal is to produce theorems and publications, not
97 code), have a look at the \ref MSG_API environment, or the \ref SD_API
98 one if you need to use DAGs. If none of those programming environments
99 fits your needs, you may consider implementing your own directly on
100 top of \ref SURF_API (but you probably want to contact us before).
101
102 \section SMPI_what What can run within SMPI?
103
104 You can run unmodified MPI applications (both C and Fortran) within
105 SMPI, provided you only use MPI calls that we implemented in MPI. Our
106 coverage of the interface is not bad, but will probably never be
107 complete. One sided communications and I/O primitives are not targeted
108 for now. The full list of not yet implemented functions is available
109 in file <tt>include/smpi/smpi.h</tt> of the archive, between two lines
110 containing the <tt>FIXME</tt> marker. If you really need a missing
111 feature, please get in touch with us: we can guide you though the
112 SimGrid code to help you implementing it, and we'd glad to integrate
113 it in the main project afterward if you contribute them back.
114
115 \section SMPI_adapting Adapting your MPI code to the use of SMPI
116
117 As detailed in the reference article (available at
118 http://hal.inria.fr/inria-00527150), you may want to adapt your code
119 to improve the simulation performance. But these tricks may seriously
120 hinder the result qualtity (or even prevent the app to run) if used
121 wrongly. We assume that if you want to simulate an HPC application,
122 you know what you are doing. Don't prove us wrong!
123
124 If you get short on memory (the whole app is executed on a single node
125 when simulated), you should have a look at the SMPI_SHARED_MALLOC and
126 SMPI_SHARED_FREE macros. It allows to share memory areas between
127 processes. For example, matrix multiplication code may want to store
128 the blocks on the same area. Of course, the resulting computations
129 will useless, but you can still study the application behavior this
130 way. Of course, if your code is data-dependent, this won't work.
131
132 If your application is too slow, try using SMPI_SAMPLE_LOCAL,
133 SMPI_SAMPLE_GLOBAL and friends to indicate which computation loops can
134 be sampled. Some of the loop iterations will be executed to measure
135 their duration, and this duration will be used for the subsequent
136 iterations. These samples are done per processor with
137 SMPI_SAMPLE_LOCAL, and shared between all processors with
138 SMPI_SAMPLE_GLOBAL. Of course, none of this will work if the execution
139 time of your loop iteration are not stable.
140
141 Yes, that's right, these macros are not documented yet, but we'll fix
142 it as soon as time permits. Sorry about that -- patch welcomed!
143 Meanwhile, grep for them on the examples for more information.
144
145 \section SMPI_compiling Compiling your code
146
147 This is very simply done with the <tt>smpicc</tt> script. If you
148 already compiled any MPI code before, you already know how to use it.
149 If not, you should try to get your MPI code running on top of MPI
150 before giving SMPI a spin. Actually, that's very simple even if it's
151 the first time you use MPI code: just use smpicc as a compiler (in
152 replacement of gcc or your usual compiler), and you're set.
153
154 \section SMPI_executing Executing your code on top of the simulator
155
156 This is done though the <tt>smpirun</tt> script as follows.
157 <tt>my_hostfile.txt</tt> is a classical MPI hostfile (that is, this
158 file lists the machines on which the processes must be dispatched, one
159 per line)  <tt>my_platform.xml</tt> is a classical SimGrid platform
160 file. Of course, the hosts of the hostfile must exist in the provided
161 platform. <tt>./program</tt> is the MPI program that you want to
162 simulate (must be compiled by <tt>smpicc</tt>) while <tt>-arg</tt> is
163 a command-line parameter passed to this program.
164
165 \verbatim
166 smpirun -hostfile my_hostfile.txt -platform my_platform.xml ./program -arg
167 \endverbatim
168
169 smpirun accepts other parameters, such as <tt>-np</tt> if you don't
170 want to use all the hosts defined in the hostfile, <tt>-map</tt> to
171 display on which host each rank gets mapped of <tt>-trace</tt> to
172 activate the tracing during the simulation. You can get the full list
173 by running
174 \verbatim
175 smpirun -help
176 \endverbatim
177
178
179 */
180
181
182 /** \defgroup SD_API      SimDag
183     \brief Programming environment for DAG applications
184
185     SimDag provides some functionnalities to simulate parallel task scheduling
186     with DAGs models (Direct Acyclic Graphs).
187     The old versions of SimGrid were based on DAGs. But the DAG part (named SG)
188     was removed in SimGrid 3 because the new kernel (\ref SURF_API) was implemented. \ref SURF_API
189     was much faster and more flexible than SG and did not use DAGs.
190     SimDag is a new implementation of DAGs handling and it is built on top of \ref SURF_API.
191
192     \section SD_who Who should use this (and who shouldn't)
193
194     You should use this programming environment of the SimGrid suite if you want
195     to study algorithms and heuristics with DAGs of parallel tasks.
196     If you don't need to use DAGs for your simulation, have a look at the
197     \ref MSG_API programming environment.
198     If you want to implement a real distributed application, have a look at the
199     \ref GRAS_API programming environment.
200     If you want to study an existing MPI program, have a look at the
201     \ref SMPI_API one.
202     If none of those programming environments fits your needs, you may
203     consider implementing your own directly on top of \ref SURF_API (but you
204     probably want to contact us before).
205
206 */
207
208 /**
209 @defgroup SURF_API SURF
210 @brief Internal kernel of all the simulators used in SimGrid, and associated models.
211
212 SURF provides the core functionnalities to simulate a virtual
213 platform. It is very low-level and is not intended to be used by end
214 users, but rather to serve as a basis for higher-level simulators. Its
215 interface are not frozen (and will probably never be), and the
216 structure emphasis on performance over ease of use. This module
217 contains the platform models. If you need a model that is not encoded
218 yet, please come to the devel mailing list so that we can discuss on
219 the feasibility of your idea.
220
221 Please note that as it is not really intended for public use, this
222 module is only partially documented.
223 */
224
225
226 /**
227 @defgroup TRACE_API TRACE
228 @brief Tracing mechanism and its functions.
229
230 SimGrid can trace the resource (of hosts and links) utilization using
231 any of its programming interfaces (MSG, SimDAG and SMPI). This means
232 that the tracing will register how much power is used for each host
233 and how much bandwidth is used for each link of the platform.
234
235 The idea of the tracing facilities is to give SimGrid users to
236 possibility to classify MSG and SimDAG tasks by category, tracing the
237 platform utilization (hosts and links) for each of the categories.
238 The API enables the declaration of categories and a function to
239 associate them to the tasks (MSG and SD). The tasks that are not
240 classified according to a category are not traced. If no categories
241 are specified, simulations can still be traced using a special
242 parameter in the command line (see \ref tracing for details).
243 */
244