Để tìm tập xác định \( D \) của hàm số \( y = \frac{5x - 2}{3x^2 - 5x - 8} \), chúng ta cần xác định các giá trị \( x \) mà tại đó mẫu số khác 0, vì hàm số không xác định tại những điểm mà mẫu số bằng 0.

**Bước 1: Tính mẫu số**

Mẫu số là \( 3x^2 - 5x - 8 \).

**Bước 2: Tìm nghiệm của phương trình \( 3x^2 - 5x - 8 = 0 \)**

Sử dụng công thức nghiệm:

\[
x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a}
\]

Trong đó \( a = 3 \), \( b = -5 \), và \( c = -8 \):

\[
D = (-5)^2 - 4 \cdot 3 \cdot (-8) = 25 + 96 = 121
\]

Nghiệm là:

\[
x = \frac{5 \pm \sqrt{121}}{2 \cdot 3} = \frac{5 \pm 11}{6}
\]

Tính các nghiệm:

1. \( x_1 = \frac{16}{6} = \frac{8}{3} \)
2. \( x_2 = \frac{-6}{6} = -1 \)

**Bước 3: Xác định tập xác định**

Hàm số xác định cho tất cả \( x \) trừ cho hai giá trị \( x_1 = \frac{8}{3} \) và \( x_2 = -1 \).

Vậy, tập xác định \( D \) của hàm số là:

\[
D = \mathbb{R} \setminus \left\{-1, \frac{8}{3}\right\}
\]

Hay có thể viết dưới dạng khoảng:

\[
D = (-\infty, -1) \cup (-1, \frac{8}{3}) \cup (\frac{8}{3}, +\infty)
\]

Do đó, đáp án đúng là:

\[
D = \mathbb{R} \backslash \left\{-1, \frac{8}{3}\right\}
\]