Để tính bán kính đường tròn ngoại tiếp tam giác ABC, ta cần tìm được tọa độ của đỉnh B và C.

Vì H là trực tâm của tam giác ABC, ta có:
H = (x1 + x2 + x3)/3 ; (y1 + y2 + y3)/3
Với A(-1;2), H(3;0) và M(6;1), ta có:
3 = (-1 + x2 + x3)/3 => -1 + x2 + x3 = 9 => x2 + x3 = 10 (1)
0 = (2 + y2 + y3)/3 => 2 + y2 + y3 = 0 => y2 + y3 = -2 (2)

Vì M là trung điểm của BC, ta có:
M = (x2 + x3)/2 ; (y2 + y3)/2
Với M(6;1), ta có:
6 = (x2 + x3)/2 => x2 + x3 = 12 (3)
1 = (y2 + y3)/2 => y2 + y3 = 2 (4)

Từ (1) và (3), ta có hệ phương trình:
x2 + x3 = 10
x2 + x3 = 12

Giải hệ phương trình trên, ta được x2 = 11 và x3 = -1.

Từ (2) và (4), ta có hệ phương trình:
y2 + y3 = -2
y2 + y3 = 2

Giải hệ phương trình trên, ta được y2 = -1 và y3 = -1.

Vậy tọa độ của B là (11;-1) và tọa độ của C là (-1;-1).

Để tính bán kính đường tròn ngoại tiếp tam giác ABC, ta dùng công thức:
R = AB/2sinA = BC/2sinB = AC/2sinC

Với A(-1;2), B(11;-1) và C(-1;-1), ta có:
AB = √[(x2 - x1)^2 + (y2 - y1)^2] = √[(11 - (-1))^2 + (-1 - 2)^2] = √[12^2 + (-3)^2] = √[144 + 9] = √153
BC = √[(x3 - x2)^2 + (y3 - y2)^2] = √[(-1 - 11)^2 + (-1 - (-1))^2] = √[(-12)^2 + 0^2] = √[144] = 12
AC = √[(x3 - x1)^2 + (y3 - y1)^2] = √[(-1 - (-1))^2 + (-1 - 2)^2] = √[0^2 + (-3)^2] = √[9] = 3

Vậy bán kính đường tròn ngoại tiếp tam giác ABC là R = AB/2sinA = BC/2sinB = AC/2sinC = √153/2sinA = 12/2sinB = 3/2sinC.