Gọi x (cm) là độ dài cạnh của hình vuông đáy. Điều kiện: x > 0.

Do tổng diện tích xung quanh và diện tích đáy là 800 cm² nên ta có phương trình:

4.x.10 + x² = 800, hay x² + 40x – 800 = 0.

Giải phương trình bậc hai trên ta được \(x = 20\sqrt 3 - 20\) (thỏa mãn điều kiện của ẩn) hoặc \(x = - 20 - 20\sqrt 3 < 0\) (loại).

Vậy chiếc hộp có độ dài cạnh đáy là \(20\sqrt 3 - 20\) (cm).