66 27 allReduce 32 20892423 1
69 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
74 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
78 27 allToAll 13824 13824
80 27 allToAll 13824 13824
83 27 allReduce 1 11959015
86 27 allReduce 795 64450365
89 27 allReduce 2 73325118
91 27 allToAll 13824 13824
93 27 allToAll 13824 13824
96 27 allReduce 1 2864414
99 27 allReduce 32 8761373 1
100 27 compute 60481269758
102 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 4671907713
105 27 allReduce 2 48215424
107 27 allToAll 13824 13824
109 27 allToAll 13824 13824
112 27 allReduce 1 3165116
115 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
116 27 compute 175829004110
118 27 allReduce 4 4842983246
121 27 allToAllV 25641510 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801270 801270 801270 0 801299 1602598 2403897 3205196 4006495 4807794 5609093 6410392 7211691 8012990 8814289 9615588 10416887 11218186 12019485 12820784 13622083 14423382 15224681 16025980 16827279 17628578 18429877 19231176 20032475 20833774 21635073 22436372 23237671 24038941 24840211 25834985 828930 828930 828930 828930 828930 828930 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 0 828930 1657860 2486790 3315720 4144650 4973580 5774879 6576178 7377477 8178776 8980075 9781374 10582673 11383972 12185271 12986570 13787869 14589168 15390467 16191766 16993065 17794364 18595663 19396962 20198261 20999560 21800859 22602158 23403457 24204756 25006055
124 27 allToAllV 25641510 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801270 801270 801270 0 801299 1602598 2403897 3205196 4006495 4807794 5609093 6410392 7211691 8012990 8814289 9615588 10416887 11218186 12019485 12820784 13622083 14423382 15224681 16025980 16827279 17628578 18429877 19231176 20032475 20833774 21635073 22436372 23237671 24038941 24840211 25834985 828930 828930 828930 828930 828930 828930 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 801299 0 828930 1657860 2486790 3315720 4144650 4973580 5774879 6576178 7377477 8178776 8980075 9781374 10582673 11383972 12185271 12986570 13787869 14589168 15390467 16191766 16993065 17794364 18595663 19396962 20198261 20999560 21800859 22602158 23403457 24204756 25006055
127 27 allReduce 1729832 1251986628
128 27 compute 10272913195
138 27 allReduce 223729 260297381
141 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
145 27 compute 29258373464
147 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 4241944725
150 27 allReduce 2 50924097
152 27 allToAll 13824 13824
154 27 allToAll 13824 13824
157 27 allReduce 1 2432801
160 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
161 27 compute 84960712049
163 27 allReduce 4 5371208052
166 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
169 27 allReduce 223729 195644420
172 27 allReduce 1 41215260
175 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
176 27 compute 270537760591
178 27 allReduce 2 16532726456
181 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
184 27 allReduce 7 25695615
187 27 allReduce 223729 144754141
190 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
191 27 compute 29320257045
193 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 4287094806
196 27 allReduce 2 51991423
198 27 allToAll 13824 13824
200 27 allToAll 13824 13824
203 27 allReduce 1 5615791
206 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
207 27 compute 84960711926
209 27 allReduce 4 5311430200
212 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
215 27 allReduce 223729 183958050
218 27 allReduce 1 49472467
221 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
222 27 compute 270537744091
224 27 allReduce 2 16437108925
227 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
230 27 allReduce 7 30078106
233 27 allReduce 223729 762661074
236 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
237 27 compute 29320257056
239 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 6913694770
242 27 allReduce 2 173455395
244 27 allToAll 13824 13824
246 27 allToAll 13824 13824
249 27 allReduce 1 4414104
252 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
253 27 compute 84960711941
255 27 allReduce 4 5320947307
258 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
261 27 allReduce 223729 291478967
264 27 allReduce 1 43960507
267 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
268 27 compute 270537744086
270 27 allReduce 2 15915726430
273 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
276 27 allReduce 7 49373066
279 27 allReduce 223729 813051076
282 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
283 27 compute 29320257076
285 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 7352865336
288 27 allReduce 2 64843104
290 27 allToAll 13824 13824
292 27 allToAll 13824 13824
295 27 allReduce 1 4216865
298 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
299 27 compute 84960711938
301 27 allReduce 4 5263191024
304 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
307 27 allReduce 223729 174886160
310 27 allReduce 1 48185898
313 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
314 27 compute 270537744099
316 27 allReduce 2 15919936648
319 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
322 27 allReduce 7 66212537
325 27 allReduce 223729 252530316
328 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
329 27 compute 29320257065
331 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3874976781
334 27 allReduce 2 50272530
336 27 allToAll 13824 13824
338 27 allToAll 13824 13824
341 27 allReduce 1 6401153
344 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
345 27 compute 84960711939
347 27 allReduce 4 5244433737
350 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
353 27 allReduce 223729 171189611
356 27 allReduce 1 73329324
359 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
360 27 compute 270537744102
362 27 allReduce 2 16201919734
365 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
368 27 allReduce 7 29214044
371 27 allReduce 223729 207433498
374 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
375 27 compute 29320257068
377 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3740460117
380 27 allReduce 2 54696357
382 27 allToAll 13824 13824
384 27 allToAll 13824 13824
387 27 allReduce 1 1281596
390 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
391 27 compute 84960711936
393 27 allReduce 4 5271578683
396 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
399 27 allReduce 223729 141093246
402 27 allReduce 1 72563809
405 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
406 27 compute 270537744095
408 27 allReduce 2 15882220339
411 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
414 27 allReduce 7 62913352
415 27 compute 1020352916
417 27 allReduce 223729 262298404
420 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
421 27 compute 29320257051
423 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3890445537
426 27 allReduce 2 51952222
428 27 allToAll 13824 13824
430 27 allToAll 13824 13824
433 27 allReduce 1 4675898
436 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
437 27 compute 84960711938
439 27 allReduce 4 5260314314
442 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
445 27 allReduce 223729 158563605
448 27 allReduce 1 78172362
451 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
452 27 compute 270537744114
454 27 allReduce 2 15614440054
457 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
460 27 allReduce 7 24568020
461 27 compute 1020353080
463 27 allReduce 223729 247961424
466 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
467 27 compute 29320257054
469 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3746337602
472 27 allReduce 2 51763401
474 27 allToAll 13824 13824
476 27 allToAll 13824 13824
479 27 allReduce 1 2482406
482 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
483 27 compute 84960711943
485 27 allReduce 4 5448101700
488 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
491 27 allReduce 223729 201168249
494 27 allReduce 1 56708904
497 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
498 27 compute 270537744089
500 27 allReduce 2 16273913643
503 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
506 27 allReduce 7 86357165
507 27 compute 1020352939
509 27 allReduce 223729 209887080
512 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
513 27 compute 29320257046
515 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3833744800
518 27 allReduce 2 54923406
520 27 allToAll 13824 13824
522 27 allToAll 13824 13824
525 27 allReduce 1 995083
528 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
529 27 compute 84960711937
531 27 allReduce 4 5349902336
534 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
537 27 allReduce 223729 183718408
540 27 allReduce 1 68743910
543 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
544 27 compute 270537744112
546 27 allReduce 2 15712901466
549 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
552 27 allReduce 7 30804010
553 27 compute 1020353082
555 27 allReduce 223729 250316720
558 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
562 27 compute 29258349026
564 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 3906402277
567 27 allReduce 2 51871042
569 27 allToAll 13824 13824
571 27 allToAll 13824 13824
574 27 allReduce 1 2860494
577 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
578 27 compute 84960712429
580 27 allReduce 4 5366774722
583 27 allToAllV 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629
586 27 allReduce 223729 200574518
587 27 compute 1568054610
589 27 allReduce 1 45667836
592 27 allToAllV 13097094 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 414465 386834 386834 386834 386834 386834 386834 386834 0 414465 828930 1243395 1657860 2072325 2486790 2901255 3315720 3730185 4144650 4559115 4973580 5388045 5802510 6216975 6631440 7045905 7460370 7874835 8289300 8703765 9118230 9532695 9947160 10361625 10748459 11135293 11522127 11908961 12295795 12682629 12378660 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386834 386820 386820 386820 0 386834 773668 1160502 1547336 1934170 2321004 2707838 3094672 3481506 3868340 4255174 4642008 5028842 5415676 5802510 6189344 6576178 6963012 7349846 7736680 8123514 8510348 8897182 9284016 9670850 10057684 10444518 10831352 11218186 11605006 11991826
598 27 compute 29208848430
600 27 reduceScatter 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 4092779158
602 27 allToAll 13824 13824
604 27 allToAll 13824 13824
607 27 allReduce 1 2956649
610 27 allReduce 6 787565
613 27 allGatherV 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 176256 0 0 0 176256 352512 528768 705024 881280 1057536 1233792 1410048 1586304 1762560 1938816 2115072 2291328 2467584 2643840 2820096 2996352 3172608 3348864 3525120 3701376 3877632 4053888 4230144 4406400 4582656 4758912 4935168 5111424 5258304 5258304
614 27 compute 9838027443
616 27 allReduce 795 843777180
619 27 allReduce 1 1849554