Ngô Văn Sở bèn nhóm các quan văn võ lại, bàn biện pháp đối phó. Nhiều người đề nghị dùng phục binh đánh địch. Ngô Thì Nhậm nói:

- Quân địch mới tới, sức còn mạnh, khí đương hăng, lại khoa trương thanh thế làm kinh động nhân tâm. Nếu ta đem quân ra khỏi thành sẽ bị chúng sát hại. Cựu binh sĩ của Bắc Hà, nhuệ khí vốn đã nhụt, thừa cơ trốn hết. Chừng ấy ta mới đánh thì không hơn, mà muốn giữ cũng không được. Chi bằng rút hết quân thủy bộ vào đóng giữ từ Tam Điệp ra đến biển, để bảo toàn lực lượng, rồi cấp báo về Phú Xuân. Lúc ấy ta sẽ quyết chiến cũng không muộn.

Cuối cùng, mọi người đều thống nhất ý kiến của Ngô Thì Nhậm, rồi thừa đêm tối đem quân ra đi. Từ Thăng Long, Ngô Văn Sở theo đường bộ lui quân về giữ núi Tam Điệp (Ninh Bình). Quân thủy chở lương thực theo đường biển rút về đóng ở Biện Sơn (Thanh Hóa).