Với số nguyên dương \(n\), gọi \({a_{3n - 3}}\) là hệ số của \({x^{3n - 3}}\) trong khai triển thành đa thức của \({\left( {{x^2} + 1} \right)^n}{(x + 2)^n}\). Tìm \(n\) để \({a_{3n - 3}} = 26n\).

Ta có:

\({\left( {{x^2} + 1} \right)^n} = C_n^0{x^{2n}} + C_n^1{x^{2n - 2}} + C_n^2{x^{2n - 4}} +  \ldots  + C_n^n\)

\({(x + 2)^n} = C_n^0{x^n} + 2C_n^1{x^{n - 1}} + {2^2}C_n^2{x^{n - 2}} +  \ldots  + {2^n}C_n^n\)

Ta thấy \[n = 1,n = 2\] không thoả mãn điều kiện bài toán.

Với \(n \ge 3\) ta có: \({x^{3n - 3}} = {x^{2n}}.{x^{n - 3}} = {x^{2n - 2}}.{x^{n - 1}}\)

Do đó hệ số của \({x^{3n - 3}}\) trong khai triển thành đa thức của \({\left( {{x^2} + 1} \right)^n}{(x + 2)^n}\).

\({a_{3n - 3}} = {2^3}.C_n^0.C_n^3 + 2.C_n^1.C_n^1\).

\( \Rightarrow {a_{3n - 3}} = 26n \Leftrightarrow \frac{{2n\left( {2{n^2} - 3n + 4} \right)}}{3} = 26n \Leftrightarrow \left[ {\begin{array}{*{20}{c}}{n = 0\,\,(L)\,\,\,\,\,}\\{n =  - \frac{7}{2}\,\,(L).}\\{n = 5\,\,(t/m)}\end{array}} \right.\)