Để tính độ dài AB và BC trong tam giác ABC với góc B = 60 độ, AC = 5 cm và AB + BC = 8 cm (với AB < BC), ta có thể sử dụng định lý cos để giải quyết vấn đề này.

Trong tam giác ABC, hãy gọi AB = x và BC = y. Ta có hệ phương trình:

1. \( x + y = 8 \)
2. Sử dụng định lý cosin ở góc B: \( AC^2 = AB^2 + BC^2 - 2 \cdot AB \cdot BC \cdot \cos(60^\circ) \)

Thay số vào, ta có:
\[ 5^2 = x^2 + y^2 - xy \]

Bây giờ giải hệ phương trình:
1. \( x + y = 8 \) -> \( y = 8 - x \)
2. \( 25 = x^2 + y^2 - xy \)

Thay y = 8 - x vào phương trình (2):
\[ 25 = x^2 + (8 - x)^2 - x(8 - x) \]

Khai triển và giải phương trình:
\[ 25 = x^2 + (64 - 16x + x^2) - (8x - x^2) \]
\[ 25 = 2x^2 - 16x + 64 - 8x + x^2 \]
\[ 25 = 2x^2 - 24x + 64 \]
\[ 2x^2 - 24x + 64 - 25 = 0 \]
\[ 2x^2 - 24x + 39 = 0 \]

Giải phương trình bậc hai này ta có:
\[ x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a} \]
Với \( a = 2, b = -24, c = 39 \):

\[ x = \frac{24 \pm \sqrt{(-24)^2 - 4 \cdot 2 \cdot 39}}{2 \cdot 2} \]
\[ x = \frac{24 \pm \sqrt{576 - 312}}{4} \]
\[ x = \frac{24 \pm \sqrt{264}}{4} \]
\[ x = \frac{24 \pm 2\sqrt{66}}{4} \]
\[ x = 6 \pm \frac{\sqrt{66}}{2} \]

Vì AB < BC, chọn giá trị nhỏ hơn cho x:
\[ x = 6 - \frac{\sqrt{66}}{2} \]

Do đó, độ dài AB là:
\[ AB = 6 - \frac{\sqrt{66}}{2} \]

Và độ dài BC:
\[ BC = 8 - \left(6 - \frac{\sqrt{66}}{2}\right) \]
\[ BC = 2 + \frac{\sqrt{66}}{2} \]

Vậy độ dài AB là \( 6 - \frac{\sqrt{66}}{2} \) cm và BC là \( 2 + \frac{\sqrt{66}}{2} \) cm.