Để giải bài toán này, ta sẽ tìm số tổ lớn nhất mà thầy có thể chia số học sinh nam và nữ sao cho số học sinh nam và nữ ở mỗi tổ đều bằng nhau và cả hai đều dư 3 học sinh.

Đầu tiên, ta xác định số học sinh nam và nữ:

- Số học sinh nam: \( N_m = 198 \)
- Số học sinh nữ: \( N_n = 120 \)

Khi chia thành các tổ, nếu thầy chia được \( k \) tổ thì số học sinh ở mỗi tổ sẽ là \( a \) (có số học sinh nam là \( a \) và số học sinh nữ cũng là \( a \)). Lúc này, ta có thể viết các phương trình sau:

1. Số học sinh nam chia hết cho \( k \) tổ với điều kiện dư 3:
\[
198 - 3 = 195 \text{ chia cho } k
\]
tức là \( 195 \equiv 0 \mod k \).

2. Số học sinh nữ chia hết cho \( k \) tổ với điều kiện dư 3:
\[
120 - 3 = 117 \text{ chia cho } k
\]
tức là \( 117 \equiv 0 \mod k \).

Vậy ta cần tìm \( k \) là ước chung lớn nhất (UCLN) của 195 và 117.

- Tìm ước số của 195: \( 195 = 3 \times 5 \times 13 \)
- Tìm ước số của 117: \( 117 = 3 \times 39 = 3 \times 3 \times 13 \)

Bây giờ ta tính UCLN:
- \( UCLN(195, 117) = 3 \times 13 = 39 \)

Vậy UCLN là 39.

Như vậy, thầy có thể chia tối đa thành \( k = 39 \) tổ.

Kết luận, thầy có thể chia thành **39 tổ**.