Cuối năm 979, nội bộ triều Đinh xảy ra một số biến cố. Đinh Tiên Hoàng và con trai là Đinh Liễn bị ám hại. Vua mới còn nhỏ, Lê Hoàn được cử làm phụ chính. Một số tướng dấy binh chống lại, đã bị Lê Hoàn đánh bại. Nhân cơ hội đó, nhà Tống (ờ Trung Quốc) lăm le xâm phạm bờ cõi Đại cồ Việt. Trước tình thế hiểm nghèo, các tướng lĩnh và quân đội đồng lòng suy tôn Lê Hoàn lên làm vua để chỉ huy kháng chiến.
Lê Hoàn (Lê Đại Hành) đổi niên hiệu là Thiên Phúc, lập nên nhà Lê, sử cũ Triều đình trung ương do vua đứng đầu, nắm mọi quyền hành về quân sự và dân sự. Giúp Lê Hoàn bàn việc nước có thái sư (quan đầu triều) và đại sư (nhà sư có danh tiếng). Dưới vua là các chức quan văn, quan võ ; các con vua được phong vương và trân giữ các vùng hiểm yếu.
Về đơn vị hành chính, cả nước được chia làm 10 lộ. Dưới lộ có phủ và châu. Hầu hết quan lại đều là võ tướng. Các quan lại địa phương chưa được sắp xếp đầy đủ. Nhà Lê chú ý xây dựng một đội quân mạnh để bảo vệ chính quyền trung ương. Quân đội gồm 10 đạo và hai bộ phận : cấm quân (quân của triều đình) bảo vệ vua và kinh thành ; quân địa phương đóng tại các lộ, luân phiên nhau vừa luyện tập vừa làm ruộng.