Để tìm công thức hóa học của hợp chất mà nguyên tử M kết hợp với 3 nguyên tử H, ta cần sử dụng thông tin về tỷ lệ khối lượng của hydrogen trong hợp chất.

1. Gọi khối lượng nguyên tử của M là \( M_m \) và khối lượng nguyên tử của H (hydrogen) là 1 g/mol.

2. Trong hợp chất có 3 nguyên tử H, tổng khối lượng của H sẽ là:
\[
m_H = 3 \times 1 = 3 \text{ g/mol}
\]

3. Tổng khối lượng của hợp chất sẽ là:
\[
m_{hợp \, chất} = M_m + m_H = M_m + 3
\]

4. Tỷ lệ khối lượng của H trong hợp chất được cho là 17,65%, tức là:
\[
\frac{m_H}{m_{hợp \, chất}} = 0,1765
\]
Thay vào công thức, ta có:
\[
\frac{3}{M_m + 3} = 0,1765
\]

5. Giải phương trình trên:
\[
3 = 0,1765 \times (M_m + 3)
\]
\[
3 = 0,1765 M_m + 0,5295
\]
\[
3 - 0,5295 = 0,1765 M_m
\]
\[
2,4705 = 0,1765 M_m
\]
\[
M_m = \frac{2,4705}{0,1765} \approx 14
\]

6. Vậy, khối lượng nguyên tử M gần bằng 14 g/mol, mà nguyên tố có khối lượng nguyên tử gần nhất là nitơ (N) với giá trị khoảng 14 g/mol.

Kết luận: Hợp chất được tạo thành có công thức hóa học là \(\text{NH}_3\) (Amoniac).