Để tính tích vô hướng \(AB \cdot CM\), ta cần tìm vector của \(AB\) và \(CM\), sau đó tính tích vô hướng của chúng.

Trong tứ diện đều \(ABCD\), ta có:
- \(AB = AD\) vì \(ABCD\) là tứ diện đều.
- \(CM\) là đoạn thẳng nối trung điểm \(M\) của \(BD\) với \(C\).

Do \(AB = AD = a\), ta có \(AB \cdot CM = a \cdot CM\).

Để tính \(CM\), ta cần tìm độ dài của đoạn \(BD\). Trong một tứ diện đều, đường chéo \(BD\) chia tam giác đều \(BCD\) thành hai tam giác đều nhỏ hơn với cạnh bằng nửa cạnh của tứ diện đều \(ABCD\), do đó \(BD = \frac{a}{2}\).

Suy ra \(CM = \frac{1}{2} BD = \frac{1}{2} \times \frac{a}{2} = \frac{a}{4}\).

Vậy, \(AB \cdot CM = a \cdot \frac{a}{4} = \frac{a^2}{4}\).

Do đó, đáp án là A. \(a^2\).