Để chứng minh rằng \( BM^2 = BC^2 - \frac{3}{4} AC^2 \) trong tam giác vuông \( ABC \) tại \( A \), ta có thể sử dụng hệ tọa độ.

1. **Xét hệ tọa độ**:
- Đặt điểm \( A(0, 0) \).
- Điểm \( B(0, b) \) (b là độ dài cạnh \( AB \)).
- Điểm \( C(c, 0) \) (c là độ dài cạnh \( AC \)).

2. **Tính tọa độ điểm M** (trung điểm của AC):
- Tọa độ điểm \( M \) có tọa độ \( M\left(\frac{c}{2}, 0\right) \).

3. **Tính độ dài các cạnh**:
- Độ dài \( AC = c \).
- Độ dài \( BC = \sqrt{(c - 0)^2 + (0 - b)^2} = \sqrt{c^2 + b^2} \).

4. **Tính \( BM \)**:
- Độ dài \( BM = \sqrt{\left(0 - \frac{c}{2}\right)^2 + (b - 0)^2} = \sqrt{\frac{c^2}{4} + b^2} \).

5. **Tính \( BM^2 \)**:
\[
BM^2 = \frac{c^2}{4} + b^2
\]

6. **Sử dụng định lý Pythagoras** trong tam giác vuông:
\[
BC^2 = AC^2 + AB^2 \Rightarrow BC^2 = c^2 + b^2
\]

7. **Thay \( BC^2 \) vào phương trình**:
\[
BM^2 = \frac{c^2}{4} + b^2 = (c^2 + b^2) - \frac{3}{4}c^2
\]
\[
BM^2 = BC^2 - \frac{3}{4} AC^2
\]

Như vậy, ta đã chứng minh được yêu cầu:

\[
BM^2 = BC^2 - \frac{3}{4} AC^2
\]

đúng với điều kiện của bài toán đã nêu.