Tìm giá trị nhỏ nhất của biểu thức \[P = 3\left( {\frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}}} \right) - 8\left( {\frac{a}{b} + \frac{b}{a}} \right)\].

Ta có :

\[{\left( {\frac{a}{b} + \frac{b}{a}} \right)^2} = \frac{{{a^2}}}{{{b^2}}} + 2\frac{a}{b}.\frac{b}{a} + \frac{{{b^2}}}{{{a^2}}} = \frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}} + 2 \Rightarrow \frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}} = {\left( {\frac{a}{b} + \frac{b}{a}} \right)^2} - 2\]

Biến đổi biểu thức P về dạng

\[P = 3{\left( {\frac{a}{b} + \frac{b}{a}} \right)^2} - 6 - 8\left( {\frac{a}{b} + \frac{b}{a}} \right) = 3{\left( {\frac{a}{b} + \frac{b}{a}} \right)^2} - 8\left( {\frac{a}{b} + \frac{b}{a}} \right) - 6\]

Đặt \[t = \frac{a}{b} + \frac{b}{a} \Rightarrow {t^2} = {\left( {\frac{a}{b} + \frac{b}{a}} \right)^2}\]

Áp dụng bất đẳng thức \[{\left( {x + y} \right)^2} \ge 4xy\,\,\forall x,y\] với hai số \[\frac{a}{b}\]  và \[\frac{b}{a}\] ta có :

\[{t^2} = {(\frac{a}{b} + \frac{b}{a})^2} \ge 4\frac{a}{b}.\frac{b}{a} = 4 \Leftrightarrow |t| \ge 2 \Leftrightarrow \left[ {\begin{array}{*{20}{c}}{t \ge 2}\\{t \le - 2}\end{array}} \right.\]

Biểu thức P trở thành \[P = 3{t^2} - 8t - 6\]Trục đối xứng \[x = - \frac{b} = \frac{4}{3}\] và hệ số \[a = 3 >0.\]

Suy ra hàm số \[f\left( t \right) = 3{t^2} - 8t - 6\]  nghịch biến trên khoảng \[\left( { - \infty ;\frac{4}{3}} \right)\] và đồng biến trên khoảng \[\left( {\frac{4}{3}; + \infty } \right)\]BBT :

Từ đây suy ra hàm số f(t) đạt giá trị nhỏ nhất tại t = 2

Ta có f(2 )= −10.

Vậy minP = minf(t) = −10.

Đáp án cần chọn là: D