Tháng 1/1288, Thoát Hoan chia làm 3 đạo quân tiến vào Thăng Long. Tại đây, ta thực hiện kế hoạch “Vườn không nhà trống”. Quân Nguyên rơi vào thế bị động, thiếu lương thực, nhiều nơi xung yếu bị quân ta chiếm lại, lương thực ngày càng cạn kiệt. Trước tình hình đó, Thoát Hoan quyết định rút quân về nước theo 2 đường thủy, bộ.

Nhân cơ hội này, vua Trần và Trần Quốc Tuấn mở cuộc phản công và tiến hành bố trí quân mai phục ở sông Bạch Đằng.

Tháng 4/1288, đoàn quân Ô Mã Nhi rút theo đường thủy trên sông Bạch Đằng. Khi quân Ô Mã Nhi tiến đến bãi cọ, quân Tràn ra khiêu chiến rồi giả vờ thua chạy, chờ khi nước thủy triều xuống mới tổ chức phản công. Toàn bộ cánh quân thủy của giặc bị tiêu diệt. Ô Mã Nhi bị bắt sống. Cánh quân Thoát Hoan từ Vạn Kiếp ngược lên Lạng Sơn rút qua Quảng Tây, Trung Quốc cũng bị truy kích và tiêu diệt.