Gọi số tuổi của 3 anh em lần lượt là a,b,c(tuổi)

Ta có: a+b+c=54(1)

c=5/13(a+b)(2)

b=20%c(3)

Từ (2);(3), ta được: c=5/13*(a+20%c)=5/13a+1/13c

                                 c-1/13c=5/13a

                                12/13c=5/13a

                                c=5/13a:12/13=5/12a(4)

Từ (3);(4) , ta được: b=20%*5/12a=1/12a(5)

Từ (1);(4);(5), ta được: a+1/12a+5/12a=54

                                        a(1+1/12+5/12)=54

                                        a*3/2=54

                                        a=54:3/2

                                        a=36(6)

Từ (5);(6), ta được: b=1/12*36=3

      (4);(6) , ta được: c=5/12*36=15

Vậy tuổi của 3 anh em lần lượt là: 36;3;15(tuổi