Gọi số hạng nhỏ nhất trong các số cần tìm là u và công sai của cấp số cộng là d.

Khi đó, năm số hạng liên tiếp là u, u + d, u + 2d, u + 3d, u + 4d.

Vì tổng của chúng bằng 40 nên u + u + d + u + 2d + u + 3d + u + 4d = 40

⇔ 5u + 10d = 40 ⇔ u + 2d = 8.

⇔ u = 8 – 2d. (1)

Lại có tổng bình phương của chúng bằng 480 nên

u² + (u + d)² + (u + 2d)² + (u + 3d)² + (u + 4d)² = 480. (2)

Thế (1) vào (2) ta được:

(8 – 2d)² + (8 – 2d + d)² + (8 – 2d + 2d)² + (8 – 2d + 3d)² + (8 – 2d + 4d)² = 480

⇔ (8 – 2d)² + (8 – d)² + 8² + (8 + d)² + (8 + 2d)² = 480

⇔ 64 – 32d + 4d² + 64 – 2d + d² + 64 + 64 + 2d + d² + 64 + 32d + 4d² = 480

⇔ 10d² + 320 = 480

⇔ 10d² = 160

⇔ d² = 16

⇔ d = ±4

+ Với d = 4, ta có u = 8 – 2 . 4 = 0.

+ Với d = – 4, ta có u = 8 – 2 . (– 4) = 16.

Vậy năm số hạng liên tiếp cần tìm là 0, 4, 8, 12, 16.