Để tìm điều kiện của tham số \( m \) để phương trình \( 2\cos 2x - \sin x + m - 1 = 0 \) có 5 nghiệm trong khoảng \( \left( -\frac{\pi}{6}, \frac{5\pi}{6} \right) \), ta tiến hành như sau:

1. **Chuyển đổi phương trình**:
\[
2\cos 2x - \sin x = 1 - m
\]

2. **Bờ xác định hàm**:
Gọi \( f(x) = 2\cos 2x - \sin x \). Chúng ta cần khảo sát hàm \( f(x) \) trong khoảng \( \left( -\frac{\pi}{6}, \frac{5\pi}{6} \right) \).

3. **Phân tích hàm số**:
- Tìm đạo hàm \( f'(x) \) để xác định các điểm cực trị:

\[
f'(x) = -4\sin 2x - \cos x
\]

4. **Giải phương trình \( f'(x) = 0 \)**:

- Tìm các giá trị \( x \) cho mà \( f'(x) = 0 \).

5. **Tính giá trị cực trị**:
- Dựa vào các giá trị của \( x \) tìm được từ bước trên, tính \( f(x) \) để tìm giá trị lớn nhất và nhỏ nhất của hàm trong khoảng đã cho.

6. **Điều kiện để có 5 nghiệm**:
- Đặt \( c = 1 - m \). Để phương trình có 5 nghiệm, giá trị \( c \) phải nằm giữa giá trị lớn nhất và nhỏ nhất của hàm \( f(x) \).

Cụ thể, nếu \( f_{min} < c < f_{max} \) thì phương trình sẽ có 5 nghiệm.

7. **Giải hệ bất phương trình**:
- Giải bất phương trình để tìm điều kiện cho \( m \).

Do đó, điều kiện cho tham số \( m \) được biểu diễn như sau:

\[
f_{min} < 1 - m < f_{max}
\]

Từ đó, chúng ta sẽ tìm ra giá trị của \( m \). Sau đó sẽ dựa vào các giá trị cụ thể của \( f_{min} \) và \( f_{max} \) để tính được điều kiện của \( m \).