Để giải bài toán về tứ giác lồi \( S.ABCD \) với điểm \( M \) nằm trong tam giác \( SCD \), ta sẽ lần lượt thực hiện các yêu cầu a và b.

### a. Xác định giao tuyến của (SAM) và (SBD)

Giao tuyến của hai mặt phẳng \((SAM)\) và \((SBD)\) sẽ là một đoạn thẳng, nếu hai mặt phẳng này cắt nhau. Để xác định giao tuyến này, ta cần làm rõ mối liên hệ giữa các mặt phẳng:

1. **Mặt phẳng (SAM)** được xác định bởi ba điểm \( S, A, M \).
2. **Mặt phẳng (SBD)** được xác định bởi ba điểm \( S, B, D \).

Để hai mặt phẳng này giao nhau, điểm \( M \) cần được chiếu lên mặt phẳng \((SBD)\), nghĩa là phải tìm điểm trên mặt phẳng này mà nằm trên đường thẳng \( AM \).

### Giao tuyến

Giả sử đoạn thẳng \( AM \) cắt mặt phẳng \((SBD)\) tại điểm \( N \), thì \( N \) là điểm trên giao tuyến của \((SAM)\) và \((SBD)\).

### b. Xác định giao điểm của AM và (SBD)

Để tìm giao điểm của đoạn thẳng \( AM \) với mặt phẳng \((SBD)\), ta thực hiện các bước sau:

1. **Lập phương trình mặt phẳng (SBD)**: Mặt phẳng này được xác định bởi ba điểm \( S, B, D \). Ta có thể xác định phương trình mặt phẳng này bằng cách tìm véc tơ pháp tuyến của nó từ các bất đẳng thức giữa các điểm.

2. **Lập phương trình của đường thẳng AM**: Đường thẳng này có thể được xác định bởi \( S \) và \( M \). Ta viết phương trình tham số của đường thẳng \( AM \) dưới dạng:
\[
\vec{AM} = \vec{A} + t(\vec{M} - \vec{A}), \quad t \in \mathbb{R}
\]

3. **Giải hệ phương trình**: Để tìm giao điểm, ta thay \( \vec{AM} \) vào phương trình của mặt phẳng \((SBD)\) và giải cho \( t \). Nếu tìm được một giá trị \( t \), giao điểm \( N \) có thể tính được bằng cách thế vào phương trình của đường thẳng \( AM \):

\[
\vec{N} = \vec{A} + t(\vec{M} - \vec{A})
\]

Nếu không tìm thấy giá trị \( t \) nào thỏa mãn phương trình mặt phẳng, thì không có giao điểm giữa \( AM \) và mặt phẳng \((SBD)\).

Như vậy, ta đã xác định được giao tuyến của hai mặt phẳng và cách tìm giao điểm giữa đoạn thẳng và mặt phẳng. Chúc bạn thành công trong việc thực hiện các tính toán cụ thể!