Đặt \[\left\{ \begin{array}{l}\frac{{{a^2} + {b^2} - {c^2}}} = x\\\frac{{{b^2} + {c^2} - {a^2}}} = y\\\frac{{{c^2} + {a^2} - {b^2}}} = z\end{array} \right.\].

a) Ta chứng minh x + y + z > 1 hay x + y + z - 1 > 0       (1)

Ta có BĐT (1) Û (x + 1) + (y - 1) + (z - 1) > 0     (2)

Ta có: x + 1 = \[\frac{{{a^2} + {b^2} - {c^2}}} + 1 = \frac{{{{\left( {a + b} \right)}^2} - {c^2}}} = \frac{{\left( {a + b - c} \right)\left( {a + b + c} \right)}}\]

và y - 1 = \[\frac{{{b^2} + {c^2} - {a^2}}} - 1 = \frac{{{{\left( {b - c} \right)}^2} - {a^2}}} = \frac{{\left( {b - c - a} \right)\left( {b - c + a} \right)}}\]

và z - 1 = \[\frac{{{c^2} + {a^2} - {b^2}}} - 1 = \frac{{{{\left( {c - a} \right)}^2} - {b^2}}} = \frac{{\left( {c - a - b} \right)\left( {c - a + b} \right)}}\]

(2) Û \[\left( {a + b - c} \right)\left[ {\frac{{c\left( {a + b + c} \right) + a\left( {b - c - a} \right) - b\left( {c - a + b} \right)}}} \right] > 0\]

Û (a + b - c)[c² - (a - b)²] > 0 (abc > 0)

Û (a + b - c)(a - b + c)(-a + b + c) > 0

BĐT cuối đúng vì a, b, c thoả mãn BĐT D (đpcm).

b) Để M = 1 Û (z + 1) + (y - 1) + (z - 1) = 0

Û (a + b - c)(a - b + c)(-a + b + c) = 0

Từ trên ta suy ra được 3 trường hợp:

• Trường hợp 1: a + b - c = 0

 Khi đó \[\left\{ \begin{array}{l}x + 1 = 0\\y - 1 = 0\\z - 1 = 0\end{array} \right. \Rightarrow \left\{ \begin{array}{l}x = - 1\\y = - 1\\z = 1\end{array} \right.\]

• Trường hợp 2: a - b + c = 0

Khi đó \[\left\{ \begin{array}{l}x - 1 = \frac{{\left( {a - b - c} \right)\left( {a - b + c} \right)}} = 0\\y - 1 = 0\\z + 1 = \frac{{\left( {c + a - b} \right)\left( {c + a + b} \right)}}\end{array} \right. \Rightarrow \left\{ \begin{array}{l}x = 1\\y = 1\\z = - 1\end{array} \right.\]

• Trường hợp 3: -a + b + c = 0

Khi đó \[\left\{ \begin{array}{l}x - 1 = 0\\y + 1 = \frac{{\left( {b + c - a} \right)\left( {b + c + a} \right)}}\\z - 1 = 0\end{array} \right. \Rightarrow \left\{ \begin{array}{l}x = 1\\y = - 1\\z = 1\end{array} \right.\].

Từ các trường hợp trên ta thấy trường hợp nào cũng có 2 trong 3 phân thức x, y, z = 1 và còn lại đều bằng −1 (đpcm).

Vậy M = 1 thì hai trong ba phân thức đã cho của M = 1, phân thức còn lại bằng -1.