Xét phương trình x² – 3x – 40 = 0.

Ta có ∆ = (–3)² – 4.1.(–40) = 9 + 160 = 169 > 0, nên phương trình đã cho có hai nghiệm phân biệt x₁, x₂.

Theo định lí Viète, ta có:

\(S = {x_1} + {x_2} = - \frac{b}{a} = - \frac{{ - 3}}{1} = 3;\,\,\,P = {x_1}{x_2} = \frac{c}{a} = \frac{{ - 40}}{1} = - 40.\)

a) \[A = x_1^2 + x_2^2 - x_1^2{x_2} - {x_1}x_2^2\]

\[ = x_1^2 + x_2^2 + 2{x_1}{x_2} - 2{x_1}{x_2} - {x_1}{x_2}\left( {{x_1} + {x_2}} \right)\]

\[ = {\left( {{x_1} + {x_2}} \right)^2} - 2{x_2}{x_2} - {x_1}{x_2}\left( {{x_1} + {x_2}} \right)\]

Thay x₁ + x₂ = 3 và x₁x₂ = ‒ 40 vào biểu thức trên, ta được:

A = 3² ‒ 2.(‒40) ‒ (‒40).3

    = 9 + 80 + 120 = 209.

b) \[B = 3{x_1} + 3{x_2} - 2x_1^2 - 2x_2^2\]

\[ = 3\left( {{x_1} + {x_2}} \right) - 2\left( {x_1^2 + x_2^2} \right)\]

\[ = 3\left( {{x_1} + {x_2}} \right) - 2\left( {x_1^2 + x_2^2 + 2{x_1}{x_2} - 2{x_1}{x_2}} \right)\]

\[ = 3\left( {{x_1} + {x_2}} \right) - 2\left[ {{{\left( {{x_1} + {x_2}} \right)}^2} - 2{x_1}{x_2}} \right]\]

Thay x₁ + x₂ = 3 và x₁x₂ = ‒ 40 vào biểu thức trên, ta được:

B = 3.3 ‒ 2[3² ‒ 2.(‒40)]

   = 9 ‒ 2(9 + 80) = 9 – 2.89

   = 9 ‒ 178 = ‒ 169.

c) \(C = \frac{}{{{x_1} + 3}} + \frac{}{{{x_2} + 3}} = \frac{{{x_2}\left( {{x_2} + 3} \right) + {x_1}\left( {{x_1} + 3} \right)}}{{\left( {{x_1} + 3} \right)\left( {{x_2} + 3} \right)}}\)

\[ = \frac{{x_2^2 + 3{x_2} + x_1^2 + 3{x_1}}}{{{x_1}{x_2} + 3{x_1} + 3{x_2} + 9}}\]

\[ = \frac{{x_2^2 + x_1^2 + 2{x_1}{x_2} - 2{x_1}{x_2} + 3\left( {{x_2} + {x_1}} \right)}}{{{x_1}{x_2} + 3\left( {{x_1} + {x_2}} \right) + 9}}\]

\[ = \frac{{{{\left( {{x_1} + {x_2}} \right)}^2} - 2{x_1}{x_2} + 3\left( {{x_2} + {x_1}} \right)}}{{{x_1}{x_2} + 3\left( {{x_1} + {x_2}} \right) + 9}}\]

Thay x₁ + x₂ = 3 và x₁x₂ = ‒ 40 vào biểu thức trên, ta được

\[C = \frac{{{3^2} - 2 \cdot \left( { - 40} \right) + 3 \cdot 3}}{{ - 40 + 3 \cdot 3 + 9}}\]

   \[ = \frac{{ - 40 + 9 + 9}} = \frac{{ - 22}} = - \frac.\]