Cho hàm số fx=x3−2ax2+a2x+ba,b∈ℝ có 2 điểm cực trị A và B. Biết tam giác ABC vuông cân tại O (O là gốc tọa độ), giá trị của biểu thức P=a2+b2 bằng

Đáp án D

Ta có: f'x=3x2−4ax+a2; f'x=0⇔3x2−4ax+a2=0*

Để hàm số có 2 điểm cực trị thì Δ'=a2>0⇔a≠0

Khi đó (*) ⇔x=2a+a3=a⇒y=bx=2a−a3=a3⇒y=4a327+b⇒Aa;bBa3;4a327+b

Đặt c=a3≠0⇒A3c;bBc;4c3+b⇒AB2=4c2+16c6OA2=9c2+b2OB2=c2+16c6+8c3b+b2

Tam giác OAB vuông cân ⇔OA2=OB2AB2=2OA2⇔c2=2c6+c3b8c6=7c2+b2

⇔2c4+bc=18c6=7c2+b2⇔b=1;c=−1b=−1;c=1⇒b=1;a=−3b=−1;a=3⇒T=a2+b2=10