p0 comm_size 3 p0 allReduce 5e8 5e8 p1 allReduce 5e8 5e8 p2 allReduce 5e8 5e8 p0 compute 5e8 p1 compute 5e8 p2 compute 5e8