Giả sử diện tích mảnh vườn cũ là x m².

Sau khi mở rộng, mảnh vườn hình vuông mới có cạnh là (x+4) m.

Diện tích mảnh vườn mới là (x+4)² m².

Theo đề bài, diện tích mảnh vườn mới tăng thêm 96 m², ta có phương trình:

(x+4)² - x = 96

Mở rộng và giải phương trình ta có:

x² + 8x + 16 - x = 96

x² + 7x - 80 = 0

(x + 16)(x - 5) = 0

Vì diện tích không thể là số âm, nên x = 5.

Vậy diện tích mảnh vườn cũ là 5 m².