Để tính diện tích hình viên phân giới hạn bởi cung MN và dây MN của đường tròn bán kính \( R = 5 \) với góc ở tâm \( \angle MON = 120^\circ \), ta thực hiện các bước sau:

1. **Tính diện tích của hình quạt tròn MON:**

Diện tích hình quạt tròn được tính bằng công thức:
\[
A_{\text{quạt}} = \frac{\theta}{360^\circ} \times \pi R^2
\]
Trong đó, \(\theta = 120^\circ\) và \(R = 5\).

Thay các giá trị vào công thức:
\[
A_{\text{quạt}} = \frac{120^\circ}{360^\circ} \times \pi \times 5^2 = \frac{1}{3} \times \pi \times 25 = \frac{25\pi}{3}
\]

2. **Tính diện tích tam giác MON:**

Tam giác MON là tam giác cân với hai cạnh bằng bán kính \(R = 5\) và góc ở đỉnh \( \angle MON = 120^\circ \).

Diện tích tam giác cân có thể tính bằng công thức:
\[
A_{\text{tam giác}} = \frac{1}{2} R^2 \sin(\theta)
\]
Trong đó, \(\theta = 120^\circ\) và \(R = 5\).

Thay các giá trị vào công thức:
\[
A_{\text{tam giác}} = \frac{1}{2} \times 5^2 \times \sin(120^\circ) = \frac{1}{2} \times 25 \times \frac{\sqrt{3}}{2} = \frac{25\sqrt{3}}{4}
\]

3. **Tính diện tích hình viên phân:**

Diện tích hình viên phân là diện tích của hình quạt tròn trừ đi diện tích của tam giác MON:
\[
A_{\text{viên phân}} = A_{\text{quạt}} - A_{\text{tam giác}}
\]

Thay các giá trị đã tính được vào:
\[
A_{\text{viên phân}} = \frac{25\pi}{3} - \frac{25\sqrt{3}}{4}
\]

Vậy diện tích hình viên phân giới hạn bởi cung MN và dây MN là:
\[
A_{\text{viên phân}} = \frac{25\pi}{3} - \frac{25\sqrt{3}}{4}
\]