Để giải bài toán này, ta cần phân tích điều kiện đã cho:

Ta có hai điểm A và B với khoảng cách giữa chúng là \( AB = a \). Điều kiện \( AN \cdot AB = 2a^2 \) có thể được viết lại như sau:

\[
AN \cdot a = 2a^2 \implies AN = 2a
\]

Điều này có nghĩa là điểm N sẽ nằm trên một đường tròn có tâm tại A với bán kính \( 2a \).

Tập hợp các điểm N thỏa mãn điều kiện trên là đường tròn, cụ thể là:

**A. một điểm** (không đúng, vì tập hợp là một đường tròn).

**B. đường thẳng** (không đúng, vì tập hợp không phải là đường thẳng).

**C. đoạn thẳng** (không đúng, vì tập hợp là một đường tròn không phải đoạn thẳng).

**D. đường tròn** (đúng, bởi vì N sẽ nằm trên một đường tròn có bán kính \( 2a \) từ A).

Vậy đáp án đúng là **D. đường tròn**.