Điểm A nằm trên tia Ox và điểm B thuộc tia OA nên ba điểm O, A, B cùng nằm trên một đường thẳng. 

a) Vì AB > OA nên A nằm giữa O và B. Khi đó:

OB = AB + AO

OB = 6 + 5

OB =11 (cm).

Vậy OB =11 cm.

Hình minh họa:

b) Vì AB < OA nên có hai trường hợp của điểm B:

- Trường hợp 1: điểm B nằm giữa hai điểm O và A.

Khi đó, OB + BA = OA

OB = OA – BA

OB = 5 – 3

OB = 2 (cm).

Hình minh họa:

- Trường hợp 2: điểm A nằm giữa hai điểm O và B

Khi đó, OB = OA + AB

OB = 5 + 3

OB = 8 (cm).

Hình minh họa: