Do BN = \(\frac{a}{3}\) và BC = a nên BN = \(\frac{1}{3}\)BC.

Mà N thuộc cạnh BC nên vectơ \(\overrightarrow {BN} \) và \(\overrightarrow {BC} \) cùng hướng. Do đó, \(\overrightarrow {BN} = \frac{1}{3}\overrightarrow {BC} \).

Ta có \(\overrightarrow {AN} = \overrightarrow {AB} + \overrightarrow {BN} = \overrightarrow {AB} + \frac{1}{3}(\overrightarrow {AC} - \overrightarrow {AB} ) = \frac{2}{3}\overrightarrow {AB} + \frac{1}{3}\overrightarrow {AC} \).

Lại có: CM = \(\frac{3}\), mà AC = a và M thuộc cạnh AC nên AM = \(a - \frac{3} = \frac{a}{3} = \frac{1}{3}AC\).

Suy ra \(\overrightarrow {AM} = \frac{1}{3}\overrightarrow {AC} \).

Và AP = x (0 < x < a), AB = a, P thuộc cạnh AB nên AP = \(\frac{x}{a}AB\).

Suy ra \(\overrightarrow {AP} = \frac{x}{a}\overrightarrow {AB} \).

Do đó, ta có: \(\overrightarrow {PM} = \overrightarrow {AM} - \overrightarrow {AP} = \frac{1}{3}\overrightarrow {AC} - \frac{x}{a}\overrightarrow {AB} \).

Khi đó, \(AN \bot PM \Leftrightarrow \overrightarrow {AN} \cdot \overrightarrow {PM} = 0\)

\( \Leftrightarrow \left( {\frac{2}{3}\overrightarrow {AB} + \frac{1}{3}\overrightarrow {AC} } \right) \cdot \left( {\frac{1}{3}\overrightarrow {AC} - \frac{x}{a}\overrightarrow {AB} } \right) = 0\)

\( \Leftrightarrow \frac{2}{9}\overrightarrow {AB} \cdot \overrightarrow {AC} - \frac{\overrightarrow {AB} ^2} - \frac{x}\overrightarrow {AB} \cdot \overrightarrow {AC} + \frac{1}{9}{\overrightarrow {AC} ^2} = 0\)

\( \Leftrightarrow \left( {\frac{2}{9} - \frac{x}} \right)\overrightarrow {AB} \cdot \overrightarrow {AC} - \frac.{a^2} + \frac{1}{9}.{a^2} = 0\) (do AB = AC = a)

\( \Leftrightarrow \left( {\frac{2}{9} - \frac{x}} \right) \cdot \left| {\overrightarrow {AB} } \right| \cdot \left| {\overrightarrow {AC} } \right| \cdot cos\left( {\overrightarrow {AB} ,\,\,\overrightarrow {AC} } \right) - \frac{3} + \frac{{{a^2}}}{9} = 0\)

\( \Leftrightarrow \left( {\frac{2}{9} - \frac{x}} \right) \cdot a \cdot a \cdot cos60^\circ - \frac{3} + \frac{{{a^2}}}{9} = 0\)

\( \Leftrightarrow \frac \cdot \frac{{{a^2}}}{2} - \frac{3} + \frac{{{a^2}}}{9} = 0\)

\( \Leftrightarrow \frac{{\left( {2a - 3x} \right)a}} - \frac + \frac{{2{a^2}}} = 0\)

\( \Leftrightarrow \frac{{2{a^2} - 3xa - 12xa + 2{a^2}}} = 0\)

⇔ 4a² – 15xa = 0

⇔ a(4a – 15x) = 0

⇔ 4a – 15x = 0 (do a > 0).

⇔ \(x = \frac\).

Vậy \(x = \frac\) thì đường thẳng AN vuông góc với đường thẳng PM.