Tìm a và b

Mấy bạn giúp mình giải bài 4 với ạ! mong giải chi tiết ạ, cảm ơn trước.