Gọi số học sinh nam của trường là x (x thuộc N,300<x<600)

Vì mỗi khi xếp hàng 18, hàng 20,hàng 27 thì vừa đủ

=>x chia hết cho 18,20,27

=> x thuộc BC(18,20,27)

Ta có:18=2.32

           20=22 . 5

           27=33

=>BCNN(18,20,17)=22.5.33=540

=>BC(18,20,27)={0;540;1080;...}

=> x thuộc {0,540,1080;...}

mà 300<x<600

=>x=540

Vậy số học sinh nam của trường đó là 540