Cho hàm số y=2x3−3m+1x2+6mx. . Tìm m để đồ thị hàm số có hai điểm cực trị là A,B sao cho đường thẳng AB vuông góc với d:x−y−9=0

y'=6x2−6m+1x+6m

Đồ thị hàm số có hai điểm cực trị A,B ⇔ phương trình y'=0  có hai nghiệm phân biệt

⇔=9m+12−36m>0⇔9m2−18m+9>0⇔9m−12>0⇔m≠1

Khi đó,

y=y'.13x−m+16+4m−m+12x+mm+1

Đường thẳng AB:y=4m−m+12x+mm+1  có hệ số góc k=4m−m+12

Đường thẳng d: y=x−9 có hệ số góc k=1

AB⊥d⇔[4m−m + 12].1=−1⇔4m−m2−2m−1=−1⇔−m2+2m=0⇔m=0m=2

Đáp án cần chọn là: C