Nhu cầu bảo vệ đất nước và bảo vệ chính quyền cai trị cần một lực lượng quân đội hùng hậu. Tuy nhiên, nhu cầu nhân lực để sản xuất nông nghiệp cho đời sống cũng rất lớn. Vì vậy việc đưa quân về địa phương luân phiên cày cấy giúp lực lượng này tự túc được về lương thực, bớt gánh nặng về lương thực nuôi quân cho triều đình.
Ngụ binh ư nông là việc liên kết hài hoà giữa việc quân sự và nông nghiệp, giữa kinh tế và quân sự, chuyển hóa nhanh từ thời bình và sang thời chiến khi cần. Nhờ chính sách này, triều đình có được lực lượng quân đội hùng mạnh, đông đảo trong khi sản xuất nông nghiệp vẫn được duy trì. Thời Lý có số quân tham chiến chống nhà Tống khoảng 10 vạn người, thời Trần khi có chiến tranh chống quân Nguyên có hơn 20 vạn quân, sang thời Lê sơ khi có chiến tranh có thể huy động 26-30 vạn quân.
Chính sách ngụ binh ư nông phản ánh tư duy nông binh bất phân (không phân biệt quân đội và nông dân), đâu có dân là đó có quân, phù hợp với điều kiện xây dựng nền quốc phòng của một nước đất không rộng, người không đông, cần phải huy động tiềm lực cả nước vừa sản xuất, vừa đánh giặc.
Tới những thời đại sau thời Lê sơ, chính sách này không còn được áp dụng do tình trạng cát cứ và chiến tranh triền miên trong cả nước. Ngay như thời Tây Sơn, thời đại mà trình độ quân sự phát triển rất cao, yêu cầu tác chiến thường xuyên không cho phép những người lãnh đạo duy trì chính sách này.