Để giải bài toán trên, ta thực hiện theo hai phần như đã đề bài.

### Phần 1: Tính độ dài cung nhỏ AB
1. **Tính độ dài cung nhỏ AB**:
- Đường tròn có bán kính \( R = 5 \) cm.
- Góc ở tâm \( O \) là \( AOB = 90^\circ \).
- Độ dài cung được tính theo công thức:
\[
L_{AB} = \frac{\alpha}{360^\circ} \cdot 2\pi R
\]
- Với \( \alpha = 90^\circ \):
\[
L_{AB} = \frac{90^\circ}{360^\circ} \cdot 2\pi \cdot 5 = \frac{1}{4} \cdot 10\pi = \frac{5\pi}{2} \text{ cm}
\]

### Phần 2: Tính diện tích viên phấn giới hạn bởi cung nhỏ AB và dây AB
2. **Tính diện tích viên phấn (có hình dạng hình quạt) giới hạn bởi cung AB và dây AB**:
- Diện tích của phần hình quạt:
\[
S_{quạt} = \frac{\alpha}{360^\circ} \cdot \pi R^2
\]
- Với \( R = 5 \) cm và \( \alpha = 90^\circ \):
\[
S_{quạt} = \frac{90^\circ}{360^\circ} \cdot \pi \cdot 5^2 = \frac{1}{4} \cdot 25\pi = \frac{25\pi}{4} \text{ cm}^2
\]

3. **Diện tích tam giác OAB**:
- Cạnh OA (và OB) đều bằng bán kính \( R = 5 \) cm.
- Diện tích tam giác này tính theo công thức:
\[
S_{OAB} = \frac{1}{2} \cdot OA \cdot OB \cdot \sin(AOB)
\]
- Với \( AOB = 90^\circ \):
\[
S_{OAB} = \frac{1}{2} \cdot 5 \cdot 5 \cdot \sin(90^\circ) = \frac{25}{2} \text{ cm}^2
\]

4. **Tính diện tích viên phấn**:
- Diện tích viên phấn giới hạn bởi cung nhỏ AB và dây AB là:
\[
S = S_{quạt} - S_{OAB} = \frac{25\pi}{4} - \frac{25}{2}
\]
- Đưa về cùng mẫu số:
\[
S = \frac{25\pi}{4} - \frac{50}{4} = \frac{25\pi - 50}{4} \text{ cm}^2
\]

### Kết quả
- Độ dài cung nhỏ AB: \( \frac{5\pi}{2} \) cm
- Diện tích viên phấn giới hạn bởi cung nhỏ AB và dây AB: \( \frac{25\pi - 50}{4} \) cm².