Giả sử \[F\left( x \right) = \left( {a{x^2} + bx + c} \right){e^x}\] là một nguyên hàm của hàm số \[f\left( x \right) = {x^2}{e^x}.\] Tính tích \[P = abc\].

Đáp án đúng là: B

Ta có: \[F\left( x \right) = \int {f\left( x \right)dx} = \int {{x^2}{e^x}dx} \]

Đặt \[\left\{ \begin{array}{l}u = {x^2}\\dv = {e^x}dx\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}du = 2xdx\\v = {e^x}\end{array} \right.\]

Suy ra \[F\left( x \right) = {x^2}{e^x} - 2\int {x{e^x}dx} \] (1)

Đặt \[\left\{ \begin{array}{l}u = x\\dv = {e^x}dx\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}du = dx\\v = {e^x}\end{array} \right.\]

Do đó, \[\int {x{e^x}dx} = x{e^x} - \int {{e^x}} dx = x{e^x} - {e^x}\] (2).

Thay (2) vào (1), ta được: \[F\left( x \right) = {x^2}{e^x} - 2\left( {x{e^x} - {e^x}} \right)\]

\[F\left( x \right) = \left( {{x^2} - 2{e^x} + 2} \right){e^x}\].

Do đó, \[a = 1,b = - 2,c = 2\].

Vậy \[P = abc = - 4.\]