a) Gọi số học sinh xuất sắc là x, số học sinh giỏi là y, số học sinh khá là z.

Theo đề bài, ta có hệ phương trình:
x + y + z = 40 (1)
x = 2y (2)
y = 3z (3)

Thay (2) và (3) vào (1), ta có:
2y + 3y + y = 40
6y = 40
y = 40/6
y ≈ 6.67

Vì số học sinh phải là số nguyên, nên ta có thể xấp xỉ y = 7.

Thay y = 7 vào (2) và (3), ta có:
x = 2y = 2 * 7 = 14
z = y/3 = 7/3 ≈ 2.33

Vì số học sinh phải là số nguyên, nên ta có thể xấp xỉ z = 2.

Vậy số học sinh xuất sắc là 14, số học sinh giỏi là 7, số học sinh khá là 2.

b) Số học sinh lớp 6a bằng 5% số học sinh trường. Gọi số học sinh trường là T.

Số học sinh lớp 6a = 5% * Số học sinh trường
40 = 0.05T
T = 40/0.05
T = 800

Vậy trường đó có 800 học sinh.