Để tính bán kính đường tròn ngoại tiếp tam giác ABM, ta cần tìm độ dài đoạn thẳng BM.

Vì M là trung điểm của cạnh BC, ta có BM = MC = BC/2 = 7/2 = 3.5.

Tiếp theo, ta sử dụng định lý cosin trong tam giác ABC để tính độ dài đoạn thẳng AM:

AM² = AB² + BM² - 2 * AB * BM * cos(∠ABM)

Với ∠ABM là góc tại đỉnh B trong tam giác ABM.

Ta có cos(∠ABM) = cos(∠ABC) = (AC² + AB² - BC²) / (2 * AC * AB) = (6² + 5² - 7²) / (2 * 6 * 5) = 0.6.

Thay vào công thức trên, ta có:

AM² = 5² + 3.5² - 2 * 5 * 3.5 * 0.6 = 25 + 12.25 - 21 = 16.25.

Vậy AM = √16.25 = 4.04.

Bán kính đường tròn ngoại tiếp tam giác ABM là độ dài đoạn thẳng AM, nên bán kính đường tròn ngoại tiếp tam giác ABM là 4.04.