Để chứng minh bài toán này, ta sẽ thực hiện từng yêu cầu một cách cụ thể.

### a) Chứng minh: Ba điểm B, D, M thẳng hàng.

1. **Đặt hệ tọa độ**: Giả sử hình vuông ABCD có các đỉnh như sau:
- A(0, 0)
- B(a, 0)
- C(a, a)
- D(0, a)

2. **Xác định các điểm**:
- Giả sử điểm N có tọa độ (x, 0) với x ∈ [0, a].
- E là giao điểm của đường thẳng CN và DA.
- Điểm C có tọa độ (a, a) và điểm D có tọa độ (0, a).

3. **Tìm tọa độ điểm M**:
- Điểm M là trung điểm của đoạn thẳng EF. Do đó, tọa độ điểm M là
\[
M = \left( \frac{x_E + x_F}{2}, \frac{y_E + y_F}{2} \right)
\]
với (x_E, y_E) là tọa độ của E và (x_F, y_F) là tọa độ của F.

4. **Chứng minh B, D, M thẳng hàng**:
- Ba điểm B, D, M thẳng hàng nếu chúng cùng nằm trên một đường thẳng. Ta có thể xét độ dốc giữa các điểm này:
\[
\text{Độ dốc } BD = \frac{y_D - y_B}{x_D - x_B} = \frac{a - 0}{0 - a} = -1
\]
- Nếu M có tọa độ (m_x, m_y), ta cũng tính được độ dốc BM và độ dốc DM. Nếu độ dốc BM = -1 và độ dốc DM = -1, ta có thể kết luận rằng ba điểm B, D, M thẳng hàng.

### b) Chứng minh: NB.DE = a².

1. **Xác định độ dài NB và DE**:
- Đoạn thẳng NB có chiều dài là:
\[
NB = x_N - 0 = x_N
\]
- Đoạn thẳng DE có chiều dài là:
\[
DE = a - y_E \quad (\text{với } y_E \text{ là tọa độ y của E})
\]

2. **Chứng minh mối quan hệ giữa NB và DE**:
- Khi có mối quan hệ giữa hai đoạn thẳng này, ta sẽ cần sử dụng công thức hoặc phép chứng minh tương tự, từ đó đưa ra rằng:
\[
NB \cdot DE = a^2
\]
- Điều này có thể chứng minh bằng cách sử dụng các tính chất của hình vuông và các đoạn thẳng trong hệ tọa độ.

### c) Tìm vị trí của N trên AB sao cho diện tích của tứ giác ACFE gấp 3 lần diện tích của hình vuông ABCD.

1. **Diện tích của hình vuông ABCD**:
\[
S_{ABCD} = a^2
\]

2. **Diện tích của tứ giác ACFE**:
- Sử dụng công thức tính diện tích với độ dài các cạnh hoặc dựa vào diện tích của các tam giác, từ đó có thể tính được S_{ACFE}.

3. **Thiết lập phương trình**:
- Để S_{ACFE} gấp 3 lần S_{ABCD}, ta có:
\[
S_{ACFE} = 3 \cdot S_{ABCD} = 3a^2
\]
- Từ đó, sử dụng các yếu tố hình học này để tìm tọa độ thích hợp của N trên AB.

Như vậy, ta có thể chứng minh các yêu cầu trong bài toán bằng cách sử dụng các kiến thức về hình học trong tọa độ.