Để giải bài toán này, ta cần thực hiện một số bước để tính toán dựa vào thông tin cho sẵn.

1. **Tính số mol C** trong 120g than:
\[
n_C = \frac{m_C}{M_C} = \frac{120 \text{ g}}{12 \text{ g/mol}} = 10 \text{ mol}
\]

2. **Giả thuyết về sự phân bố sản phẩm**:
- Gọi \( n_{CO} \) là số mol CO, \( n_{CO2} \) là số mol CO2.
\[
n_{C} = n_{CO} + n_{CO2}
\]
\[
10 = n_{CO} + n_{CO2} \quad \text{(1)}
\]

3. **Tính khối lượng phân tử hỗn hợp khí X**:
- Khối lượng mol trung bình của X:
\[
\text{Khối lượng mol trung bình } M_X = 20,4 \times 2 = 40,8 \text{ g/mol}
\]

- Tính k (tỉ lệ của các sản phẩm):
\[
M_{CO} = 28 \text{ g/mol}, \quad M_{CO2} = 44 \text{ g/mol}
\]

- Ta có công thức tính khối lượng mol trung bình:
\[
M_X = \frac{n_{CO} \cdot M_{CO} + n_{CO2} \cdot M_{CO2}}{n_{CO} + n_{CO2}}
\]
Thay số vào và sử dụng công thức (1):
\[
40,8 = \frac{n_{CO} \cdot 28 + n_{CO2} \cdot 44}{10}
\]
\[
408 = n_{CO} \cdot 28 + n_{CO2} \cdot 44 \quad \text{(2)}
\]

4. **Giải hệ phương trình (1) và (2)**:
Từ (1), ta có:
\[
n_{CO2} = 10 - n_{CO}
\]
Thay vào phương trình (2):
\[
408 = n_{CO} \cdot 28 + (10 - n_{CO}) \cdot 44
\]
\[
408 = 28n_{CO} + 440 - 44n_{CO}
\]
\[
408 = -16n_{CO} + 440
\]
\[
-16n_{CO} = 408 - 440
\]
\[
-16n_{CO} = -32 \Rightarrow n_{CO} = 2 \text{ mol}
\]
Sử dụng (1) để tìm \( n_{CO2} \):
\[
n_{CO2} = 10 - 2 = 8 \text{ mol}
\]

5. **Tính số mol O2 trong phản ứng**:
- Phản ứng cháy C thành CO và CO2:
\[
C + \frac{1}{2} O2 \rightarrow CO
\]
\[
C + O2 \rightarrow CO2
\]

Từ cân bằng, số mol O2 đã phản ứng sẽ là:
\[
n_{O2} = \frac{1}{2} n_{CO} + n_{CO2} = \frac{1}{2} \cdot 2 + 8 = 1 + 8 = 9 \text{ mol}
\]

**Kết luận**:
Số mol O2 đã phản ứng là \( 9 \text{ mol} \), nên đáp án là **B. 9 mol**.