Cho hình vuông ABCD với cạnh là \( a \). Trên tia đối của DC lấy điểm M, trên tia đối của CD lấy điểm N sao cho \( DM = CN \) và \( AM \) vuông góc với \( AN \). Biết rằng \( MN = 10 \) cm. Ta cần tính diện tích của hình vuông ABCD.

Đầu tiên, ta đặt \( DM = CN = x \). Vì \( M \) và \( N \) nằm trên tia đối của DC và CD tương ứng, nên \( M \) và \( N \) nằm trên đường thẳng kéo dài của cạnh DC và CD.

Gọi \( A(0, 0) \), \( B(a, 0) \), \( C(a, a) \), và \( D(0, a) \). Điểm \( M \) có tọa độ \( (a, a + x) \) và điểm \( N \) có tọa độ \( (a + x, a) \).

Do \( AM \) vuông góc với \( AN \), ta có:
\[ \overrightarrow{AM} \cdot \overrightarrow{AN} = 0 \]

Tính các vector:
\[ \overrightarrow{AM} = (a - 0, a + x - 0) = (a, a + x) \]
\[ \overrightarrow{AN} = (a + x - 0, a - 0) = (a + x, a) \]

Tích vô hướng của hai vector này là:
\[ \overrightarrow{AM} \cdot \overrightarrow{AN} = a(a + x) + (a + x)a = a^2 + ax + ax + a^2 = 2a^2 + 2ax \]

Do \( AM \) vuông góc với \( AN \), ta có:
\[ 2a^2 + 2ax = 0 \]
\[ a^2 + ax = 0 \]
\[ a(a + x) = 0 \]

Vì \( a \neq 0 \), nên \( a + x = 0 \) hay \( x = -a \).

Từ đó, ta có \( DM = CN = -a \), điều này không hợp lý vì độ dài không thể âm. Do đó, ta cần xem xét lại điều kiện \( DM = CN \) và tính toán lại.

Xét tam giác vuông \( AMN \) với \( AM \perp AN \) và \( MN = 10 \) cm. Ta có:
\[ AM^2 + AN^2 = MN^2 \]
\[ (a + x)^2 + (a + x)^2 = 10^2 \]
\[ 2(a + x)^2 = 100 \]
\[ (a + x)^2 = 50 \]
\[ a + x = \sqrt{50} \]
\[ a + x = 5\sqrt{2} \]

Do \( x = -a \), ta có:
\[ a - a = 5\sqrt{2} \]
\[ 2a = 5\sqrt{2} \]
\[ a = \frac{5\sqrt{2}}{2} \]

Diện tích hình vuông ABCD là:
\[ a^2 = \left(\frac{5\sqrt{2}}{2}\right)^2 = \frac{25 \cdot 2}{4} = \frac{50}{4} = 12.5 \, \text{cm}^2 \]

Vậy diện tích hình vuông ABCD là \( 12.5 \, \text{cm}^2 \).