Để giải quyết bài toán này, ta sẽ dùng tính chất của tam giác đều và một số công cụ hình học.

1. **Kí hiệu vị trí các điểm**:
- Gọi \( A \), \( B \), \( C \) là các đỉnh của tam giác đều \( ABC \) với cạnh \( a \).
- Đặt \( A = (0, 0) \), \( B = \left( \frac{a}{2}, \frac{a \sqrt{3}}{2} \right) \) và \( C = (a, 0) \).

2. **Tìm tọa độ điểm M**:
- Theo đề bài, chúng ta có \( AM = 4MC \).
- Gọi \( MC = x \), thì \( AM = 4x \).
- Tổng chiều dài của đoạn \( AC \) là \( AM + MC = 4x + x = 5x \).
- Do đó, \( x = \frac{AC}{5} = \frac{a}{5} \).
- Suy ra \( AM = 4x = \frac{4a}{5} \) và \( MC = \frac{a}{5} \).

3. **Tọa độ của điểm M**:
- M nằm trên cạnh AC, nên tọa độ của \( M \) sẽ là:
\[
M = \left( \frac{4}{5} a, 0 \right)
\]

4. **Tính độ dài BM**:
- Ta sử dụng công thức khoảng cách giữa hai điểm trong mặt phẳng:
\[
BM = \sqrt{ \left( x_B - x_M \right)^2 + \left( y_B - y_M \right)^2 }
\]
- Trong đó:
- \( B = \left( \frac{a}{2}, \frac{a \sqrt{3}}{2} \right) \)
- \( M = \left( \frac{4a}{5}, 0 \right) \)
- Thay vào công thức:
\[
BM = \sqrt{ \left( \frac{a}{2} - \frac{4a}{5} \right)^2 + \left( \frac{a \sqrt{3}}{2} - 0 \right)^2 }
\]

5. **Tính toán**:
- Tính \( x_B - x_M \):
\[
x_B - x_M = \frac{a}{2} - \frac{4a}{5} = \frac{5a - 8a}{10} = -\frac{3a}{10}
\]
- Tính \( y_B - y_M \):
\[
y_B - y_M = \frac{a \sqrt{3}}{2} - 0 = \frac{a \sqrt{3}}{2}
\]
- Tính khoảng cách:
\[
BM = \sqrt{ \left( -\frac{3a}{10} \right)^2 + \left( \frac{a \sqrt{3}}{2} \right)^2 }
\]
\[
= \sqrt{ \frac{9a^2}{100} + \frac{3a^2}{4} }
\]
\[
= \sqrt{ \frac{9a^2}{100} + \frac{75a^2}{100} } = \sqrt{ \frac{84a^2}{100}} = \sqrt{ \frac{21a^2}{25}} = \frac{a\sqrt{21}}{5}
\]

Vậy độ dài \( BM = \frac{a \sqrt{21}}{5} \).