Để tìm tọa độ điểm M thuộc trục hoành sao cho góc AMB bằng 90 độ, trước tiên ta gọi tọa độ điểm M là \((x; 0)\) (vì M thuộc trục hoành, tức là y = 0).

Theo định nghĩa của góc vuông, ta có thể sử dụng tính chất về độ dốc của hai đường thẳng. Hai đoạn thẳng AM và MB sẽ vuông góc với nhau nếu tích của độ dốc của AM và độ dốc của MB bằng -1.

1. **Tính độ dốc của đoạn thẳng AM:**
- Độ dốc của đoạn thẳng AM được tính theo công thức:
\[
k_{AM} = \frac{y_M - y_A}{x_M - x_A} = \frac{0 - 5}{x - 1} = \frac{-5}{x - 1}
\]

2. **Tính độ dốc của đoạn thẳng MB:**
- Độ dốc của đoạn thẳng MB được tính giống như trên:
\[
k_{MB} = \frac{y_B - y_M}{x_B - x_M} = \frac{3 - 0}{9 - x} = \frac{3}{9 - x}
\]

3. **Thiết lập phương trình từ điều kiện góc vuông:**
- Để AM vuông góc với MB, ta có:
\[
k_{AM} \cdot k_{MB} = -1
\]
- Thay các độ dốc vào phương trình trên:
\[
\frac{-5}{x - 1} \cdot \frac{3}{9 - x} = -1
\]

4. **Giải phương trình:**
- Nhân chéo và đơn giản hóa:
\[
-5 \cdot 3 = (x - 1)(9 - x)
\]
\[
-15 = 9x - x^2 - 9 + x
\]
\[
-15 = -x^2 + 10x - 9
\]
\[
x^2 - 10x - 6 = 0
\]

5. **Sử dụng công thức nghiệm để giải phương trình bậc hai:**
- Công thức nghiệm: \( x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a} \)
- Áp dụng vào phương trình:
\[
x = \frac{10 \pm \sqrt{(-10)^2 - 4 \cdot 1 \cdot (-6)}}{2 \cdot 1}
\]
\[
= \frac{10 \pm \sqrt{100 + 24}}{2}
\]
\[
= \frac{10 \pm \sqrt{124}}{2}
\]
\[
= \frac{10 \pm 2\sqrt{31}}{2}
\]
\[
= 5 \pm \sqrt{31}
\]

6. **Tọa độ điểm M:**
- Vậy, tọa độ của điểm M là:
\[
M(5 + \sqrt{31}; 0) \quad \text{hoặc} \quad M(5 - \sqrt{31}; 0)
\]

Do đó, tọa độ của điểm M là \( (5 + \sqrt{31}, 0) \) hoặc \( (5 - \sqrt{31}, 0) \).