Gọi x (học sinh) là số học sinh của trường (x ∈ ℕ*; 500 < x < 600).

Theo bài ra, số học sinh của một trường khi xếp thành 12 hàng, 18 hàng, 21 hàng đều thừa 1 học sinh nên x – 1 chia hết cho 12; 18; 21

Hay x – 1 là ƯC(12, 18, 21).

Ta có: 12 = 2².3; 18 = 2.3²; 21 = 3.7.

BCNN(12, 18, 21) = 2².3².7 = 252

x – 1 = 252k (k ∈ ℕ*)

x = 252k +1

Mà 500 < x < 600

500 < 252k + 1 < 600

1,98 < k < 2,38

k = 2

Do đó x = 2.252 + 1

x = 505

Vậy số học sinh của trường là 505.