Gọi chiều dài và chiều rộng của hình chữ nhật ABCD lần lượt là a và b, diện tích của nó là S1 = ab.
Gọi chiều dài và chiều rộng của hình chữ nhật AMNP lần lượt là c và d, diện tích của nó là S2 = cd.
Ta có: S1 - S2 = 120cm^2 và 2(a + b) - 2(c + d) = 20cm.
Từ đó, ta có hệ phương trình:
a + b - c - d = 10cm (1)
ab - cd = 120cm^2 (2)
Vì hình vuông AMOD là phần chung của hai hình chữ nhật ABCD và AMNP, nên ta có:
a = c + d (3)
b = c + d (4)
Thay (3) và (4) vào (1), ta có:
2(c + d) - c - d = 10cm
c + d = 10cm
Thay c + d = 10cm vào (3) và (4), ta có:
a = 10cm
b = 10cm
Thay a = 10cm và b = 10cm vào (2), ta có:
100cm^2 - cd = 120cm^2
cd = -20cm^2
Vì diện tích không thể âm, nên không tồn tại hình chữ nhật ABCD và AMNP thỏa mãn yêu cầu bài toán.
Vậy không có hình chữ nhật ABCD và AMNP thỏa mãn yêu cầu bài toán.