Gọi số cây mà 3 lớp đã trồng là x.

Theo đề bài, lớp 5a trồng 30% số cây, lớp 5b trồng 40% số cây, lớp 5c trồng 168 cây.

Số cây mà lớp 5a trồng là 30% của x, hay 0.3x.
Số cây mà lớp 5b trồng là 40% của x, hay 0.4x.
Số cây mà lớp 5c trồng là 168 cây.

Từ đó, ta có phương trình:
0.3x + 0.4x + 168 = x

Kết hợp các thành phần giống nhau, ta có:
0.7x + 168 = x

Dịch chuyển các thành phần, ta có:
0.3x = 168

Giải phương trình trên, ta có:
x = 168 / 0.3
x ≈ 560

Vậy, số cây mà 3 lớp đã trồng là 560 cây.