Ta có hình vuông \( ABCD \) với các đỉnh lần lượt là \( A(0, 0) \), \( B(a, 0) \), \( C(a, a) \), và \( D(0, a) \), với \( a \) là cạnh của hình vuông.

Điểm \( M \) nằm trên cạnh \( AD \) sao cho \( AM = MD \). Vì \( AM = MD \), nên \( M \) chia cạnh \( AD \) thành hai đoạn bằng nhau, tức là \( M\) sẽ có tọa độ \( \left(0, \frac{a}{2}\right) \).

Giờ ta tìm phương trình của các đường thẳng \( BM \) và \( AC \).

**Đường thẳng \( BM \)**:

Tọa độ điểm \( B \) là \( (a, 0) \) và tọa độ điểm \( M \) là \( \left(0, \frac{a}{2}\right) \).
Độ dốc của \( BM \) được tính như sau:

\[
\text{Độ dốc} = \frac{\frac{a}{2} - 0}{0 - a} = -\frac{1}{4}
\]

Phương trình đường thẳng \( BM \) là:

\[
y - 0 = -\frac{1}{4}(x - a) \implies y = -\frac{1}{4}x + \frac{a}{4}
\]

**Đường thẳng \( AC \)**:

Tọa độ điểm \( A \) là \( (0, 0) \) và tọa độ điểm \( C \) là \( (a, a) \).
Độ dốc của \( AC \) là:

\[
\text{Độ dốc} = \frac{a - 0}{a - 0} = 1
\]

Phương trình đường thẳng \( AC \) là:

\[
y - 0 = 1(x - 0) \implies y = x
\]

**Tìm giao điểm \( N \) của \( BM \) và \( AC \)**:

Ta giải hệ phương trình:

1. \( y = -\frac{1}{4}x + \frac{a}{4} \)
2. \( y = x \)

Thay phương trình thứ hai vào phương trình thứ nhất:

\[
x = -\frac{1}{4}x + \frac{a}{4}
\]

Thêm \( \frac{1}{4}x\) vào cả hai vế:

\[
x + \frac{1}{4}x = \frac{a}{4} \implies \frac{5}{4}x = \frac{a}{4}
\]

Giải ra được:

\[
x = \frac{a}{5}
\]

Thay lại vào \( y = x \):

\[
y = \frac{a}{5}
\]

Vậy tọa độ điểm \( N \) là \( \left(\frac{a}{5}, \frac{a}{5}\right) \).

**Tính diện tích tam giác \( ANB \)**:

Diện tích của tam giác \( ANB \) được tính bằng công thức:

\[
S = \frac{1}{2} \times \text{độ dài đáy} \times \text{chiều cao}
\]

Đáy \( AB = a \).

Chiều cao từ \( N \) đến \( AB \) là khoảng cách từ điểm \( N\) đến đường thẳng \( y=0\):

\[
\text{Chiều cao} = \frac{a}{5}
\]

Vì diện tích \( S \) của tam giác \( ANB \) là:

\[
S = \frac{1}{2} \times a \times \frac{a}{5} = \frac{a^2}{10}
\]

Theo đề bài, diện tích tam giác \( ANB = 15 \text{ cm}^2\):

\[
\frac{a^2}{10} = 15 \implies a^2 = 150 \implies a = \sqrt{150} = 5\sqrt{6}
\]

**Diện tích hình vuông \( ABCD \)**:

Diện tích hình vuông là \( a^2\):

\[
S_{ABCD} = a^2 = 150 \text{ cm}^2
\]

Vậy, diện tích hình vuông \( ABCD \) là:

\[
\boxed{150} \text{ cm}^2
\]