Ta thấy độ dài x (dm) của cạnh hình vuông bị cắt phải thỏa mãn điều kiện 0 < x < 3.

Từ giả thiết suy ra kích thước của khối hộp chữ nhật là x, 6 – 2x, 6 – 2x (dm).

Thể tích của khối hộp là V(x) = x(6 – 2x)² (dm²)    với 0 < x < 3.

Ta phải tìm x₀ ∈ (0; 3) sao cho V(x₀) có giá trị lớn nhất.

Ta có V'(x) = (6 – 2x)² – 4x(6 – 2x) = (6 – 2x)(6 – 6x) = 12(3 – x)(1 – x).

Trên khoảng (0; 3), V'(x) = 0 khi x = 1.

Bảng biến thiên của hàm số V'(x) như sau:

Căn cứ bảng biến thiên, ta thấy: Trên khoảng (0; 3), hàm số V(x) đạt giá trị lớn nhất bằng 16 tại x = 1.

Vậy để khối hộp tạo thành có thể tích lớn nhất thì x = 1 (dm).