Gọi chiều dài và chiều rộng của sân gạch ban đầu lần lượt là a và b.

Theo đề bài, ta có hệ thức:

(a + 4) x (b + 4) = 84

Mở ngoặc và đưa các thuộc tính về cùng một phía ta được:

a x b + 4a + 4b + 16 = 84

a x b + 4a + 4b - 68 = 0

(a + 4) x (b + 4) - 52 = 0

(a + 4) x (b + 4) = 52

Ta cũng biết rằng nếu giảm chiều dài của sân gạch đi 2m, tăng chiều rộng lên 3m thì được một hình vuông, tức là:

(a - 2) x 3 = b

Thay bằng (a - 2) x 3 vào hệ thức trên, ta được:

(a + 4) x ((a - 2) x 3 + 4) = 52

(a + 4) x (3a - 2) = 52

3a^2 + 10a - 52 = 0

Giải phương trình bậc hai này ta được:

a = 4 hoặc a = -4.3333

Vì a và b là độ dài của sân gạch nên không thể có giá trị âm. Vậy ta chỉ có a = 4.

Từ đó, ta tính được:

b = (a + 4) x (b + 4) / a - 4 = 6

Diện tích sàn nhà hình chữ nhật ban đầu là:

a x b = 4 x 6 = 24 m^2.