Để giải bài toán xác suất, ta sẽ tiến hành theo các bước dưới đây.

**1. Xác định tổng số cách chọn 4 học sinh từ nhóm:**

Nhóm gồm 5 nam và 8 nữ, tổng cộng có 13 học sinh. Số cách chọn 4 học sinh từ 13 học sinh là:

\[
C(13, 4) = \frac{13!}{4!(13-4)!} = \frac{13 \times 12 \times 11 \times 10}{4 \times 3 \times 2 \times 1} = 715.
\]

**2. Xác định các nhóm học sinh thỏa mãn điều kiện:**

Chúng ta cần chọn 4 học sinh sao cho:
- Phải có nam và nữ.
- Phải có mặt X hoặc Y nhưng không đồng thời có cả X và Y.

Để đơn giản hóa, ta sẽ giải quyết 2 trường hợp:
- Trường hợp 1: Chọn X và không chọn Y.
- Trường hợp 2: Chọn Y và không chọn X.

**Trường hợp 1: Chọn X và không chọn Y**

Khi chọn X, ta cần chọn thêm 3 học sinh từ 4 nam còn lại và 8 nữ. Chúng ta cần ít nhất 1 nữ, nên có thể có các tình huống như sau:

- **1 nam và 2 nữ:**

Cách chọn 1 nam từ 4 nam:

\[
C(4, 1) = 4.
\]

Cách chọn 2 nữ từ 8 nữ:

\[
C(8, 2) = \frac{8!}{2!(8-2)!} = \frac{8 \times 7}{2 \times 1} = 28.
\]

Vậy số cách chọn là:

\[
4 \times 28 = 112.
\]

- **2 nam và 1 nữ:**

Cách chọn 2 nam từ 4 nam:

\[
C(4, 2) = \frac{4!}{2!(4-2)!} = \frac{4 \times 3}{2 \times 1} = 6.
\]

Cách chọn 1 nữ từ 8 nữ:

\[
C(8, 1) = 8.
\]

Vậy số cách chọn là:

\[
6 \times 8 = 48.
\]

Tổng số cách chọn trong trường hợp 1:

\[
112 + 48 = 160.
\]

**Trường hợp 2: Chọn Y và không chọn X**

Tương tự với trường hợp trên, chúng ta sẽ có kết quả số cách chọn cũng sẽ là 160 (bởi vì tình huống là tương tự, chỉ thay X bằng Y).

**3. Tính tổng số cách chọn thỏa mãn:**

Tổng số cách chọn thỏa mãn cả 2 trường hợp trên:

\[
160 + 160 = 320.
\]

**4. Tính xác suất:**

Xác suất để chọn được 4 học sinh thỏa mãn điều kiện là:

\[
P = \frac{\text{số cách chọn thỏa mãn}}{\text{số cách chọn tổng cộng}} = \frac{320}{715}.
\]

Do đó, xác suất cần tìm là:

\[
P = \frac{320}{715} \approx 0.447
\]

Hay nó có thể được biểu diễn dưới dạng phân số.

Vậy, xác suất để chọn được cả nam và nữ trong đó có mặt X hoặc Y nhưng không đồng thời có cả X và Y là \(\frac{320}{715}\) hoặc khoảng 44.7%.