Gọi số học sinh dự thi là x.

Theo đề bài, khi xếp 24 học sinh một phòng thi thì dư 5 học sinh, điều này có thể viết thành phương trình: x ≡ 5 (mod 24).

Tương tự, khi xếp 27 học sinh một phòng thi thì phòng thi cuối cùng có 17 học sinh, điều này có thể viết thành phương trình: x ≡ 17 (mod 27).

Ta có thể giải hệ phương trình tìm x bằng cách sử dụng định lý Bézout.

Gọi a = 24 và b = 27. Ta cần tìm số nguyên dương x thỏa mãn:

ax + by = 1.

Áp dụng thuật toán Euclid mở rộng, ta có:

27 = 24 × 1 + 3
24 = 3 × 8 + 0.

Do đó, ước chung lớn nhất của a và b là 3.

Tiếp theo, ta áp dụng thuật toán Euclid mở rộng để tìm số nguyên dương x và y thỏa mãn:

ax + by = 3.

3 = 27 - 24 × 1.

Do đó, x = -1 và y = 1 là một cặp nghiệm của phương trình.

Để tìm nghiệm x thỏa mãn x ≡ 5 (mod 24), ta có thể thay thế x = -1 + 24k vào phương trình trên, với k là số nguyên.

-1 + 24k ≡ 5 (mod 24)
24k ≡ 6 (mod 24)
k ≡ 6 (mod 24).

Vậy, k = 6 + 24m, với m là số nguyên.

Thay k = 6 + 24m vào x = -1 + 24k, ta có:

x = -1 + 24(6 + 24m)
x = -1 + 144 + 576m
x = 143 + 576m.

Để tìm nghiệm x thỏa mãn x ≡ 17 (mod 27), ta có thể thay thế x = 143 + 576m vào phương trình trên, với m là số nguyên.

143 + 576m ≡ 17 (mod 27)
576m ≡ -126 (mod 27)
576m ≡ 9 (mod 27).

Vậy, m = 9 + 27n, với n là số nguyên.

Thay m = 9 + 27n vào x = 143 + 576m, ta có:

x = 143 + 576(9 + 27n)
x = 143 + 5184 + 15552n
x = 5327 + 15552n.

Vậy, số học sinh dự thi là x = 5327 + 15552n, với n là số nguyên.