Ngày 3 tháng 9 âm lịch, Thoát Hoan khởi binh từ đất Ngạc tiến về phía nam, mượn tiếng đưa "An Nam quốc vương" Trần Ích Tắc về nước. Quân Nguyên chia làm 3 cánh:
- Cánh thứ nhất theo đường Vân Nam tiến xuống sông Thao và sông Lô như 2 lần trước do Aruq chỉ huy
- Cánh thứ hai là quân chủ lực đi đường châu Khâm, châu Liêm do Thoát Hoan cùng Trình Bằng Phi, Áo Lỗ Xích, dẫn theo Trần Ích Tắc tiến vào biên giới đông bắc.
- Cánh thứ 3 là thủy quân do Ô Mã Nhi, Phàn Tiếp chỉ huy 500 chiến thuyền cùng đoàn vận lương do Trương Văn Hổ phụ trách kéo theo sau.
Phía Đại Việt, Trần Quốc Tuấn thống lĩnh các vương hầu chia quân chống giữ các nơi. Trần Quốc Tuấn, Nguyễn Khoái mang 3 vạn quân giữ Lạng Sơn;Lê Phụ Trần mang 3 vạn quân vào giữ Thanh – Nghệ; Trần Khánh Dư giữ Vân Đồn; tự Trần Quốc Tuấn đóng binh ở Quảng Yên. Mặt khác, Hưng Đạo Vương sai quân biên giới giáp châu Tư Minh, chia ra đóng các đồn Sa, Từ, Trúc để chống bộ binh địch xâm nhập; lại sai một tướng khác ra giữ Bình Than.