Để đa thức f(x) chia hết cho x^2 - 2x - 3, ta cần phải thỏa mãn hai điều kiện sau:

1) f(x) chia hết cho x - 3
2) f(x) chia hết cho x + 1

1) Xét điều kiện f(x) chia hết cho x - 3:
Để f(x) chia hết cho x - 3, ta cần f(3) = 0.
Thay x = 3 vào f(x), ta có:

f(3) = 4(3)^4 - 11(3)^3 - 2a(3)^2 + 5b(3) - 6
      = 4(81) - 11(27) - 18a + 15b - 6
      = 324 - 297 - 18a + 15b - 6
      = 21 - 18a + 15b

Để f(3) = 0, ta có:
21 - 18a + 15b = 0
18a - 15b = 21        --(1)

2) Xét điều kiện f(x) chia hết cho x + 1:
Để f(x) chia hết cho x + 1, ta cần f(-1) = 0.
Thay x = -1 vào f(x), ta có:

f(-1) = 4(-1)^4 - 11(-1)^3 - 2a(-1)^2 + 5b(-1) - 6
       = 4(1) - 11(-1) - 2a(1) - 5b - 6
       = 4 + 11 - 2a - 5b - 6
       = 9 - 2a - 5b

Để f(-1) = 0, ta có:
9 - 2a - 5b = 0
2a + 5b = 9            --(2)

Giải hệ phương trình (1) và (2) để tìm các giá trị của a và b.

Nhân phương trình (1) với 2 và phương trình (2) với 3, ta có:

36a - 30b = 42      --(3)
6a + 15b = 27        --(4)

Cộng hai phương trình (3) và (4), ta có:

42a - 15b = 69      --(5)

Nhân phương trình (2) với 2, ta có:

4a + 10b = 18        --(6)

Trừ phương trình (6) từ (5), ta có:

42a - 15b - 4a - 10b = 69 - 18
38a - 25b = 51

Giải hệ phương trình (38a - 25b = 51) và (2a + 5b = 9), ta tìm được giá trị của a và b:

a = 3/4
b = 9/5

Vậy, để đa thức f(x) = 4x^4 - 11x^3 - 2ax^2 + 5bx - 6 chia hết cho x^2

 - 2x - 3, ta cần a = 3/4 và b = 9/5.