Đặt AM = x (0 < x < 13).

Xét tam giác ABM vuông tại A, áp dụng định lí Pythagore ta có:

AM² + AB² = BM²

⇒BM=AM2+AB2=36+x2 và MD =13 – x.

Theo giả thiết ta có: BM = 2MD ⇒36+x2=2.13−x⇔36+x2=26−2x (*)

Bình phương hai vế của (*) ta có:

36 + x² = 26² – 104x + 4x²

⇔ 3x² – 104x + 640 = 0

⇔ x = 8 (thỏa mãn) hoặc x = 803> 13 (loại)

Vậy AM = 8 cm hay điểm M nằm trên cạnh AD sao cho AM = 8 cm thì thỏa mãn yêu cầu bài toán.