Để giải bài toán này, chúng ta sẽ sử dụng các công thức lượng giác và các biến thể của nguyên tắc. Bài toán yêu cầu tìm giá trị của \( \alpha \) dựa vào các biểu thức \( G \) và \( H \).

### Bước 1: Tìm \( G \)

Ta có:

\[
G = \frac{\cot a + 3 \tan a}{2 \cot a + \tan a} \quad \text{với } \cos a = -\frac{2}{3}
\]

Sử dụng công thức:

- \( \tan a = \frac{\sin a}{\cos a} \)
- \( \cot a = \frac{\cos a}{\sin a} \)

Vì \( \cos a = -\frac{2}{3} \), ta có thể tìm \( \sin a \) bằng định lý Pythagore:

\[
\sin^2 a + \left(-\frac{2}{3}\right)^2 = 1 \implies \sin^2 a + \frac{4}{9} = 1 \implies \sin^2 a = 1 - \frac{4}{9} = \frac{5}{9} \implies \sin a = \pm \frac{\sqrt{5}}{3}
\]

### Bước 2: Tính \( G \)

Duy trì 2 trường hợp cho \( \sin a \):

1. \( \sin a = \frac{\sqrt{5}}{3} \)
2. \( \sin a = -\frac{\sqrt{5}}{3} \)

Tính \( G \) cho cả trường hợp trên.

### Bước 3: Tìm \( H \)

\[
H = \frac{\sin a + \cos a}{\cos a - \sin a} \quad \text{với } \tan a = 5
\]

Từ \( \tan a = 5 \), ta đặt:

\[
\sin a = 5x \quad \text{và} \quad \cos a = x
\]

Từ đó ta có:

\[
5^2x^2 + x^2 = 1 \implies 26x^2 = 1 \implies x^2 = \frac{1}{26}
\]

### Bước 4: Giải hệ phương trình

Sử dụng các giá trị vừa tìm được để giải hệ phương trình \( G \) và \( H \). Nên nhớ rằng bạn phải kiểm tra lại các điều kiện của \( a \) và tìm ra giá trị cụ thể cho \( \alpha \).

Trong trường hợp cụ thể này, bạn sẽ cần xử lý bằng các tính toán lượng giác và có thể sử dụng máy tính hoặc phần mềm để xác minh. Sau cùng, từ giá trị của \( G \) và \( H \), bạn có thể tìm ra \( \alpha \).