Để giải bài toán này, ta sẽ sử dụng định lý Fermat nhỏ:

Nếu p là số nguyên tố và a là một số nguyên không chia hết cho p, thì a^(p-1) ≡ 1 (mod p).

Giả sử 4p+1 là hợp số, tức là có một số nguyên tố q chia hết cho 4p+1. Ta có:

(2p+1)^2 ≡ 1 (mod q)

(2p+1)^(q-1) ≡ 1 (mod q) (theo định lý Fermat nhỏ)

Vì q chia hết cho 4p+1, nên q-1 chia hết cho 4p. Do đó, ta có:

(2p+1)^(4p) ≡ 1 (mod q)

(2p+1)^(4p) - 1 ≡ 0 (mod q)

((2p+1)^(2p))^2 - 1 ≡ 0 (mod q)

((2p+1)^(2p) - 1)((2p+1)^(2p) + 1) ≡ 0 (mod q)

Vì q chia hết cho 4p+1, nên q không chia hết cho 2p+1. Do đó, (2p+1)^(2p) + 1 không chia hết cho q. Vì vậy, phải có:

(2p+1)^(2p) - 1 ≡ 0 (mod q)

(2p+1)^(2p) ≡ 1 (mod q)

Từ đây, ta có:

(2p+1)^(q-1) ≡ 1 (mod q)

Vì q là số nguyên tố, nên q-1 không chia hết cho 2p. Do đó, (2p+1) không chia hết cho q. Điều này mâu thuẫn với giả định ban đầu rằng q chia hết cho 4p+1.

Vì vậy, giả định ban đầu là sai. Tức là 4p+1 không thể là hợp số.