examples/smpi/replay_multiple/ti_traces_32_1/ti_trace20.txt

   1 20 init 1
   2 20 compute 127151
   3 20 compute 2652
   4 20 compute 336861
   5 20 compute 13040669
   6 20 comm_size 32
   7 20 bcast 1
   8 20 compute 25799
   9 20 barrier
  10 20 compute 22468
  11 20 comm_size 32
  12 20 bcast 1
  13 20 compute 23736
  14 20 barrier
  15 20 compute 22686
  16 20 comm_size 32
  17 20 bcast 1
  18 20 compute 23580
  19 20 barrier
  20 20 compute 22604
  21 20 comm_size 32
  22 20 bcast 1
  23 20 compute 23664
  24 20 barrier
  25 20 compute 22690
  26 20 comm_size 32
  27 20 bcast 1
  28 20 compute 23697
  29 20 barrier
  30 20 compute 22762
  31 20 comm_size 32
  32 20 bcast 1
  33 20 compute 23666
  34 20 barrier
  35 20 compute 22550
  36 20 comm_size 32
  37 20 bcast 1
  38 20 compute 23438
  39 20 barrier
  40 20 compute 426
  41 20 barrier
  42 20 compute 165468
  43 20 barrier
  44 20 compute 30329790
  45 20 barrier
  46 20 compute 97259
  47 20 comm_size 32
  48 20 bcast 1
  49 20 compute 378446
  50 20 barrier
  51 20 compute 12856
  52 20 comm_size 32
  53 20 bcast 1
  54 20 compute 46339
  55 20 barrier
  56 20 compute 1017110
  57 20 barrier
  58 20 compute 124204
  59 20 gather 795 795 0
  60 20 compute 244616488
  61 20 allToAll 1746 1746
  62 20 compute 276028
  63 20 barrier
  64 20 compute 409313968
  65 20 comm_size 32
  66 20 allReduce 32 5510267 1
  67 20 compute 3038130868
  68 20 compute 1525
  69 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
  70 20 compute 1058646421
  71 20 barrier
  72 20 compute 7748
  73 20 compute 332
  74 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
  75 20 compute 915154401
  76 20 barrier
  77 20 compute 1445555133
  78 20 allToAll 13824 13824
  79 20 compute 72648538
  80 20 allToAll 13824 13824
  81 20 compute 20518471
  82 20 comm_size 32
  83 20 allReduce 1 9691440
  84 20 compute 1374455267
  85 20 comm_size 32
  86 20 allReduce 795 51860
  87 20 compute 1491203354
  88 20 comm_size 32
  89 20 allReduce 2 3286786
  90 20 compute 21530547
  91 20 allToAll 13824 13824
  92 20 compute 72648392
  93 20 allToAll 13824 13824
  94 20 compute 20517562
  95 20 comm_size 32
  96 20 allReduce 1 2308549
  97 20 compute 68196979
  98 20 comm_size 32
  99 20 allReduce 32 6148766 1
 100 20 compute 60481269975
 101 20 compute 1717
 102 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2715960861
 103 20 compute 25214410
 104 20 comm_size 32
 105 20 allReduce 2 137369178
 106 20 compute 21530375
 107 20 allToAll 13824 13824
 108 20 compute 72647120
 109 20 allToAll 13824 13824
 110 20 compute 20697224
 111 20 comm_size 32
 112 20 allReduce 1 1682233
 113 20 compute 1070135
 114 20 compute 1377
 115 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 116 20 compute 175827297068
 117 20 comm_size 32
 118 20 allReduce 4 10326
 119 20 compute 128288765
 120 20 compute 332
 121 20 allToAllV 25641510 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801270 801270 801270  25834985  828930 828930 828930 828930 828930 828930 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299
 122 20 compute 128241556
 123 20 compute 332
 124 20 allToAllV 25641510 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801270 801270 801270  25834985  828930 828930 828930 828930 828930 828930 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299
 125 20 compute 10047183
 126 20 comm_size 32
 127 20 allReduce 1729832 659147118
 128 20 compute 10273001760
 129 20 comm_size 32
 130 20 bcast 934 31 0
 131 20 compute 337
 132 20 barrier
 133 20 compute 19408
 134 20 comm_size 32
 135 20 bcast 1729832
 136 20 compute 1565838
 137 20 comm_size 32
 138 20 allReduce 223729 122067124
 139 20 compute 10190300
 140 20 compute 346
 141 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 142 20 compute 66461500
 143 20 compute 1218
 144 20 gather 133 133 0
 145 20 compute 31346732382
 146 20 compute 336
 147 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2356693515
 148 20 compute 25255383
 149 20 comm_size 32
 150 20 allReduce 2 156033588
 151 20 compute 21530874
 152 20 allToAll 13824 13824
 153 20 compute 72648318
 154 20 allToAll 13824 13824
 155 20 compute 20697844
 156 20 comm_size 32
 157 20 allReduce 1 3842321
 158 20 compute 1064474
 159 20 compute 344
 160 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 161 20 compute 91012107433
 162 20 comm_size 32
 163 20 allReduce 4 546265463
 164 20 compute 66332588
 165 20 compute 346
 166 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 167 20 compute 917680
 168 20 comm_size 32
 169 20 allReduce 223729 94891538
 170 20 compute 11379
 171 20 comm_size 32
 172 20 allReduce 1 10499
 173 20 compute 10976
 174 20 compute 346
 175 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 176 20 compute 289400924944
 177 20 comm_size 32
 178 20 allReduce 2 1501047661
 179 20 compute 66336044
 180 20 compute 346
 181 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 182 20 compute 116083443
 183 20 comm_size 32
 184 20 allReduce 7 13185464
 185 20 compute 210073247
 186 20 comm_size 32
 187 20 allReduce 223729 111454285
 188 20 compute 10178102
 189 20 compute 346
 190 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 191 20 compute 31413037755
 192 20 compute 336
 193 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2493142132
 194 20 compute 25263701
 195 20 comm_size 32
 196 20 allReduce 2 154419957
 197 20 compute 21530874
 198 20 allToAll 13824 13824
 199 20 compute 72648318
 200 20 allToAll 13824 13824
 201 20 compute 20697845
 202 20 comm_size 32
 203 20 allReduce 1 6443319
 204 20 compute 1064475
 205 20 compute 344
 206 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 207 20 compute 91012107347
 208 20 comm_size 32
 209 20 allReduce 4 389089309
 210 20 compute 66332587
 211 20 compute 346
 212 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 213 20 compute 917678
 214 20 comm_size 32
 215 20 allReduce 223729 99311539
 216 20 compute 11379
 217 20 comm_size 32
 218 20 allReduce 1 3786600
 219 20 compute 10976
 220 20 compute 346
 221 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 222 20 compute 289400908461
 223 20 comm_size 32
 224 20 allReduce 2 1619659274
 225 20 compute 66336038
 226 20 compute 346
 227 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 228 20 compute 194474851
 229 20 comm_size 32
 230 20 allReduce 7 392044
 231 20 compute 445335185
 232 20 comm_size 32
 233 20 allReduce 223729 679614231
 234 20 compute 10178129
 235 20 compute 346
 236 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 237 20 compute 31413037760
 238 20 compute 336
 239 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 5054610451
 240 20 compute 25240911
 241 20 comm_size 32
 242 20 allReduce 2 433668196
 243 20 compute 21530874
 244 20 allToAll 13824 13824
 245 20 compute 72648319
 246 20 allToAll 13824 13824
 247 20 compute 20697844
 248 20 comm_size 32
 249 20 allReduce 1 3700662
 250 20 compute 1064474
 251 20 compute 344
 252 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 253 20 compute 91012107334
 254 20 comm_size 32
 255 20 allReduce 4 364636165
 256 20 compute 66332586
 257 20 compute 346
 258 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 259 20 compute 917678
 260 20 comm_size 32
 261 20 allReduce 223729 217765574
 262 20 compute 11379
 263 20 comm_size 32
 264 20 allReduce 1 8534357
 265 20 compute 10976
 266 20 compute 346
 267 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 268 20 compute 289400908445
 269 20 comm_size 32
 270 20 allReduce 2 1037337598
 271 20 compute 66336038
 272 20 compute 346
 273 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 274 20 compute 272891777
 275 20 comm_size 32
 276 20 allReduce 7 14558699
 277 20 compute 602163728
 278 20 comm_size 32
 279 20 allReduce 223729 712693963
 280 20 compute 10178072
 281 20 compute 346
 282 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 283 20 compute 31413037755
 284 20 compute 336
 285 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 5554948434
 286 20 compute 25256447
 287 20 comm_size 32
 288 20 allReduce 2 201608648
 289 20 compute 21530862
 290 20 allToAll 13824 13824
 291 20 compute 72648318
 292 20 allToAll 13824 13824
 293 20 compute 20697851
 294 20 comm_size 32
 295 20 allReduce 1 3181437
 296 20 compute 1064475
 297 20 compute 344
 298 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 299 20 compute 91012107332
 300 20 comm_size 32
 301 20 allReduce 4 539471501
 302 20 compute 66332587
 303 20 compute 346
 304 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 305 20 compute 917678
 306 20 comm_size 32
 307 20 allReduce 223729 83179574
 308 20 compute 11371
 309 20 comm_size 32
 310 20 allReduce 1 8815759
 311 20 compute 10976
 312 20 compute 346
 313 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 314 20 compute 289400908445
 315 20 comm_size 32
 316 20 allReduce 2 1170953086
 317 20 compute 66336038
 318 20 compute 346
 319 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 320 20 compute 351308697
 321 20 comm_size 32
 322 20 allReduce 7 24142147
 323 20 compute 758999113
 324 20 comm_size 32
 325 20 allReduce 223729 139783965
 326 20 compute 10177723
 327 20 compute 346
 328 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 329 20 compute 31413037766
 330 20 compute 336
 331 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2010531953
 332 20 compute 25527443
 333 20 comm_size 32
 334 20 allReduce 2 157403783
 335 20 compute 21530845
 336 20 allToAll 13824 13824
 337 20 compute 72648318
 338 20 allToAll 13824 13824
 339 20 compute 20697926
 340 20 comm_size 32
 341 20 allReduce 1 3098134
 342 20 compute 1064474
 343 20 compute 344
 344 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 345 20 compute 91010828006
 346 20 comm_size 32
 347 20 allReduce 4 394679674
 348 20 compute 66332587
 349 20 compute 346
 350 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 351 20 compute 917549
 352 20 comm_size 32
 353 20 allReduce 223729 90380190
 354 20 compute 11356
 355 20 comm_size 32
 356 20 allReduce 1 9344638
 357 20 compute 11010
 358 20 compute 346
 359 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 360 20 compute 289400909428
 361 20 comm_size 32
 362 20 allReduce 2 1088523696
 363 20 compute 66336038
 364 20 compute 346
 365 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 366 20 compute 429725627
 367 20 comm_size 32
 368 20 allReduce 7 21804765
 369 20 compute 915834502
 370 20 comm_size 32
 371 20 allReduce 223729 84420729
 372 20 compute 10177611
 373 20 compute 346
 374 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 375 20 compute 31413037771
 376 20 compute 336
 377 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 1928502385
 378 20 compute 25256622
 379 20 comm_size 32
 380 20 allReduce 2 157551599
 381 20 compute 21530845
 382 20 allToAll 13824 13824
 383 20 compute 72648318
 384 20 allToAll 13824 13824
 385 20 compute 20697926
 386 20 comm_size 32
 387 20 allReduce 1 2666997
 388 20 compute 1064474
 389 20 compute 344
 390 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 391 20 compute 91010828010
 392 20 comm_size 32
 393 20 allReduce 4 438947550
 394 20 compute 66332588
 395 20 compute 346
 396 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 397 20 compute 917549
 398 20 comm_size 32
 399 20 allReduce 223729 97694488
 400 20 compute 11356
 401 20 comm_size 32
 402 20 allReduce 1 1846562
 403 20 compute 11010
 404 20 compute 346
 405 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 406 20 compute 289400909394
 407 20 comm_size 32
 408 20 allReduce 2 895644292
 409 20 compute 66336038
 410 20 compute 346
 411 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 412 20 compute 508142542
 413 20 comm_size 32
 414 20 allReduce 7 38701873
 415 20 compute 1020352605
 416 20 comm_size 32
 417 20 allReduce 223729 147242422
 418 20 compute 10177595
 419 20 compute 346
 420 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 421 20 compute 31413037770
 422 20 compute 336
 423 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 1972716098
 424 20 compute 25260547
 425 20 comm_size 32
 426 20 allReduce 2 160966127
 427 20 compute 21530845
 428 20 allToAll 13824 13824
 429 20 compute 72648318
 430 20 allToAll 13824 13824
 431 20 compute 20697933
 432 20 comm_size 32
 433 20 allReduce 1 7643923
 434 20 compute 1064475
 435 20 compute 344
 436 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 437 20 compute 91010828028
 438 20 comm_size 32
 439 20 allReduce 4 405694169
 440 20 compute 66332587
 441 20 compute 346
 442 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 443 20 compute 917551
 444 20 comm_size 32
 445 20 allReduce 223729 118400460
 446 20 compute 11364
 447 20 comm_size 32
 448 20 allReduce 1 4932771
 449 20 compute 11010
 450 20 compute 346
 451 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 452 20 compute 289400909418
 453 20 comm_size 32
 454 20 allReduce 2 914619086
 455 20 compute 66336037
 456 20 compute 346
 457 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 458 20 compute 508117609
 459 20 comm_size 32
 460 20 allReduce 7 40194901
 461 20 compute 1020352766
 462 20 comm_size 32
 463 20 allReduce 223729 143195033
 464 20 compute 10177554
 465 20 compute 346
 466 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 467 20 compute 31413037774
 468 20 compute 336
 469 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 1944045416
 470 20 compute 25258395
 471 20 comm_size 32
 472 20 allReduce 2 159270887
 473 20 compute 21530845
 474 20 allToAll 13824 13824
 475 20 compute 72648324
 476 20 allToAll 13824 13824
 477 20 compute 20697929
 478 20 comm_size 32
 479 20 allReduce 1 1130412
 480 20 compute 1064474
 481 20 compute 344
 482 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 483 20 compute 91010828006
 484 20 comm_size 32
 485 20 allReduce 4 580816252
 486 20 compute 66332588
 487 20 compute 346
 488 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 489 20 compute 917549
 490 20 comm_size 32
 491 20 allReduce 223729 86284194
 492 20 compute 11364
 493 20 comm_size 32
 494 20 allReduce 1 14471762
 495 20 compute 11010
 496 20 compute 346
 497 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 498 20 compute 289400909397
 499 20 comm_size 32
 500 20 allReduce 2 1348370919
 501 20 compute 66336037
 502 20 compute 346
 503 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 504 20 compute 508117620
 505 20 comm_size 32
 506 20 allReduce 7 57986390
 507 20 compute 1020352623
 508 20 comm_size 32
 509 20 allReduce 223729 105142925
 510 20 compute 10177614
 511 20 compute 346
 512 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 513 20 compute 31413037761
 514 20 compute 336
 515 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 1941680433
 516 20 compute 25260694
 517 20 comm_size 32
 518 20 allReduce 2 160781269
 519 20 compute 21530845
 520 20 allToAll 13824 13824
 521 20 compute 72648318
 522 20 allToAll 13824 13824
 523 20 compute 20697926
 524 20 comm_size 32
 525 20 allReduce 1 3208578
 526 20 compute 1064474
 527 20 compute 344
 528 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 529 20 compute 91010828016
 530 20 comm_size 32
 531 20 allReduce 4 441350014
 532 20 compute 66332587
 533 20 compute 346
 534 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 535 20 compute 917550
 536 20 comm_size 32
 537 20 allReduce 223729 92241036
 538 20 compute 11364
 539 20 comm_size 32
 540 20 allReduce 1 1369917
 541 20 compute 11010
 542 20 compute 346
 543 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 544 20 compute 289400909394
 545 20 comm_size 32
 546 20 allReduce 2 946040489
 547 20 compute 66336038
 548 20 compute 346
 549 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 550 20 compute 508117627
 551 20 comm_size 32
 552 20 allReduce 7 16180772
 553 20 compute 1020352769
 554 20 comm_size 32
 555 20 allReduce 223729 146730643
 556 20 compute 10177635
 557 20 compute 346
 558 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 559 20 compute 66332484
 560 20 compute 1216
 561 20 gather 133 133 0
 562 20 compute 31346707449
 563 20 compute 336
 564 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2041461372
 565 20 compute 25260389
 566 20 comm_size 32
 567 20 allReduce 2 157829447
 568 20 compute 21530639
 569 20 allToAll 13824 13824
 570 20 compute 72648145
 571 20 allToAll 13824 13824
 572 20 compute 20697681
 573 20 comm_size 32
 574 20 allReduce 1 3694578
 575 20 compute 1064414
 576 20 compute 344
 577 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 578 20 compute 91010827708
 579 20 comm_size 32
 580 20 allReduce 4 520295194
 581 20 compute 66332424
 582 20 compute 346
 583 20 allToAllV 13262850 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450  13097094  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834
 584 20 compute 910076
 585 20 comm_size 32
 586 20 allReduce 223729 122093727
 587 20 compute 1567909888
 588 20 comm_size 32
 589 20 allReduce 1 212206272
 590 20 compute 9854
 591 20 compute 346
 592 20 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834  13262850  414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414450 414450 414450
 593 20 compute 66332272
 594 20 comm_size 32
 595 20 bcast 473 31 0
 596 20 compute 337
 597 20 barrier
 598 20 compute 31293666990
 599 20 compute 336
 600 20 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 2136737565
 601 20 compute 21790932
 602 20 allToAll 13824 13824
 603 20 compute 72648058
 604 20 allToAll 13824 13824
 605 20 compute 20516729
 606 20 comm_size 32
 607 20 allReduce 1 2524010
 608 20 compute 987
 609 20 comm_size 32
 610 20 allReduce 6 678740
 611 20 compute 4214
 612 20 compute 344
 613 20 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
 614 20 compute 10296595934
 615 20 comm_size 32
 616 20 allReduce 795 12855836
 617 20 compute 993
 618 20 comm_size 32
 619 20 allReduce 1 1610213
 620 20 compute 47113
 621 20 barrier
 622 20 compute 503996
 623 20 compute 1063
 624 20 gather 133 133 0
 625 20 compute 2464
 626 20 compute 451
 627 20 gather 3 3 0
 628 20 compute 87459
 629 20 barrier
 630 20 compute 20462
 631 20 barrier
 632 20 compute 346
 633 20 barrier
 634 20 compute 2654
 635 20 finalize