Hướng dẫn giải

Giả sử tâm của đường tròn là điểm I(a; b).

Ta có IA = IB = IC ⇔ IA² = IB² = IC².

Vì IA² = IB², IB² = IC² nên

\(\left\{ \begin{array}{l}{\left( {1 - a} \right)^2} + {\left( {2 - b} \right)^2} = {\left( {5 - a} \right)^2} + {\left( {2 - b} \right)^2}\\{\left( {5 - a} \right)^2} + {\left( {2 - b} \right)^2} = {\left( {1 - a} \right)^2} + {\left( { - 3 - b} \right)^2}\end{array} \right.\)

\( \Leftrightarrow \left\{ \begin{array}{l}{a^2} - 2a + 1 = {a^2} - 10a + 25\\{a^2} - 10a + 25 + {b^2} - 4b + 4 = {a^2} - 2a + 1 + {b^2} + 6b + 9\end{array} \right.\)

\( \Leftrightarrow \left\{ \begin{array}{l}8a = 24\\8a + 10b = 19\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}a = 3\\b = - \frac{1}{2}\end{array} \right.\)

Đường tròn tâm I\(\left( {3;\,\, - \frac{1}{2}} \right)\) bán kính R = IA = \(\sqrt {{{\left( {1 - a} \right)}^2} + {{\left( {2 - b} \right)}^2}} \)\( = \sqrt {{{\left( {1 - 3} \right)}^2} + {{\left( {2 - \left( { - \frac{1}{2}} \right)} \right)}^2}} = \sqrt {\frac{4}} \).

Phương trình đường tròn là \({\left( {x - 3} \right)^2} + {\left( {y - \left( { - \frac{1}{2}} \right)} \right)^2} = {\left( {\sqrt {\frac{4}} } \right)^2}\).

Vậy phương trình đường tròn là \({\left( {x - 3} \right)^2} + {\left( {y + \frac{1}{2}} \right)^2} = \frac{4}\).