Gọi số học sinh nam là x đk (15>x >0 )

gọi số học sinh nữ là y đk y>0 

ta có 

x+y = 15 

⇒y = 15 - x (x<15 )

nam trồng 30 cây 

⇒ mỗi học sinh nam 30/x (cây )

tương tự vậy mỗi học sinh nữ 36/y ( cây )

theo đề mỗi nam trồng được nhiều hơn nữ một cây , thì 

30/x - 36 /y = 1

⇒ 30 /y - 36 /x = 1 

⇒ 30 ( 15 - x ) - 36 x = x ( 15 - x )

⇒x^2- 81x +450 = 0 

⇒ x=75 loại 

hoặc x=6 nhận 

⇒ y = 9 

vậy nhóm có 6 học sinh nam và 9 học sinh nữ