Để tìm số học sinh của trường, ta có thể dựa vào các điều kiện sau:

1. Số học sinh là số tự nhiên có 3 chữ số, lớn hơn 500 và bé hơn 600. Vậy số học sinh là một trong các số từ 501 đến 599.
2. Khi xếp hàng 3, 4, 5 đều không lẻ hàng, tức là số học sinh phải chia hết cho 3, 4 và 5.

Ta sẽ tìm số học sinh thỏa mãn điều kiện trên.

### Bước 1: Tìm bội chung nhỏ nhất của 3, 4 và 5.
- Bội chung nhỏ nhất (BCNN) của 3, 4, 5 là:
\[
BCNN(3, 4, 5) = 60
\]

### Bước 2: Tìm các bội số của 60 trong khoảng từ 501 đến 599.
- Bắt đầu từ số 60, các bội số sẽ là: 60, 120, 180, …, cho đến khi lớn hơn 600.

Ta tìm bội số đầu tiên lớn hơn 500:
\[
60 \times 9 = 540
\]
Ta cũng kiểm tra bội số tiếp theo:
\[
60 \times 10 = 600 \quad \text{(Không thỏa mãn vì lớn hơn 599)}
\]

### Bước 3: Các số học sinh thỏa mãn:
- Số học sinh có thể là:
- 540
- 600 (không thỏa mãn vì không nằm trong khoảng 501 đến 599)

### Kết luận:
Số học sinh của trường là **540**.