1) Goi số học sinh khối 6 trường đó là x (x ∈ N;x ≤ 600)
Vì nếu xếp vào mỗi hàng 6 em , 8 em ,10 em thì vừa đủ ; xếp hàng 7 thì dư 3 em
=> x chia hết cho 6,8,10
x-3 chia hết cho 7
Vì x chia hết cho 6,8,10
=>x∈BC(6;8;10)
Mà BCNN(6;8;10)=120
=>BC(6.,8,10)={0;120;240;360;480;...........}
Mà x-3 chia hết cho 7 ; x<501
=>x=360
Vậy số học sinh khối 6 trường đó là 360 em

2) gọi a là số học sinh của trường đó.(a thuộc N,a<900,a là số có 3 chữ số)
vì khi xếp hàng 3;4;5 đều vừa đủ nên
=>a chia hết cho 3;4;5
=>a thuộc BC(3,4,5)
3=3
4=2^2
5=5
=>BCNN(3,4,5)=2^2*3*5=60
=>BC(3,4,5)=B(60)={0;60;120;180;240;300;360;420;480;540;600;660;720;780;840;900;960;1020;....}
vì a thuộc BC(3,4,5) và a<900 . a có 3 chữ số
=> a = 960
vậy số học sinh trường đó là 960 học sinh