Để giải bài toán, ta sẽ đi từng mục một.

### a) Tính độ dài cung nhỏ AB

Ta có đường tròn \((O; R)\) và điểm \(M\) sao cho \(OM = 2R\). Từ \(M\) vẽ các tiếp tuyến \(MA\) và \(MB\) tới đường tròn, với \(A\) và \(B\) là các tiếp điểm.

Theo tính chất của các tiếp tuyến, ta có:

\[
MA = MB
\]

Xét tam giác \(OMA\), theo định lý Pythagore, ta có:

\[
OM^2 = OA^2 + MA^2
\]

Trong đó \(OA = R\) (bán kính đường tròn). Do đó:

\[
(2R)^2 = R^2 + MA^2 \implies 4R^2 = R^2 + MA^2 \implies MA^2 = 3R^2 \implies MA = \sqrt{3}R
\]

Gọi \(\alpha\) là góc giữa các tiếp tuyến \(MA\) và \(MB\). Ta có một tam giác nhọn \(OMA\) với góc \(OMC = 90^\circ\) (với \(C\) là giao điểm của đường thẳng \(OM\) với đường tròn) và:

\[
\tan{\alpha} = \frac{OA}{OM} = \frac{R}{2R} = \frac{1}{2}
\]

Từ đó, chúng ta có thể tính \(\alpha\):

\[
\alpha = \tan^{-1}\left(\frac{1}{2}\right)
\]

Để tính độ dài cung nhỏ \(AB\), ta biết rằng cung \(AB\) tương ứng với góc \(AOB\). Góc \(AOB\) bằng \(2\alpha\) (do \(MA\) và \(MB\) là các tiếp tuyến). Suy ra:

\[
\theta = 2\alpha
\]

Độ dài cung \(AB\) được tính theo công thức:

\[
l_{AB} = R \cdot \theta = R \cdot 2\alpha
\]

Để tính \(\theta\) cụ thể, ta làm như sau:

Góc \(AOB\):

\[
\frac{AOB}{360^\circ} = \frac{l_{AB}}{2\pi R}
\]

### b) Tính diện tích giới hạn bởi hai tiếp tuyến AM, MB và cung nhỏ AB

Diện tích giới hạn bởi hai tiếp tuyến \(AM\), \(MB\) và cung nhỏ \(AB\) là diện tích của hình quạt \(OAB\) trừ diện tích của tam giác \(OAB\).

1. **Diện tích hình quạt \(OAB\)**:

Diện tích quạt được tính bởi công thức:

\[
S_{quạt} = \frac{1}{2} R^2 \cdot \theta
\]

Ở đây, \(\theta = 2\alpha\) nên:

\[
S_{quạt} = \frac{1}{2} R^2 \cdot 2\alpha = R^2 \cdot \alpha
\]

2. **Diện tích tam giác \(OAB\)**:

Diện tích tam giác có thể tính theo công thức:

\[
S_{tam giác} = \frac{1}{2} OA \cdot OB \cdot \sin(AOB) = \frac{1}{2} R \cdot R \cdot \sin(2\alpha) = \frac{R^2}{2} \cdot 2 \sin \alpha \cos \alpha = R^2 \sin \alpha \cos \alpha
\]

Như vậy, diện tích giới hạn được tính như sau:

\[
S = S_{quạt} - S_{tam giác} = R^2 \cdot \alpha - R^2 \sin \alpha \cos \alpha
\]

Như vậy, bạn đã có được cách tính độ dài cung nhỏ \(AB\) và diện tích giới hạn giữa hai tiếp tuyến và đường tròn.