Sau khi Đinh Tiên Hoàng và con là Đinh Liễn bị ám hại Vệ Vương Toàn lên ngôi, Lê Hoàn làm phụ chính, xưng là Phó vương. Triều thần sợ Lê Hoàn cướp ngôi vị Thiếu đế, nên các công thần là Định Quốc công Nguyễn Bắc và Ngoại giáp Đinh Điền dẫn quân về kinh đô định giết Lê Hoàn. Lực lượng này thua trận và bị Lê Hoàn giết.
Năm 980, quân Tống nhân cơ hội đem quân sang muốn cướp nước. Khi triều đình đang bàn kế hoạch xuất quân. Phạm Cự Lang cùng các tướng quân khác đều mặc áo trận đi thẳng vào Nội phủ, nói với mọi người: "Thưởng người có công, giết kẻ trái lệnh là phép sáng để thi hành việc quân. Nay chúa thượng còn trẻ thơ, chúng ta dẫu hết sức liều chết để chặn giặc ngoài, may có chút công lao, thì có ai biết cho ? Chi bằng trước hãy tôn lập ông Thập đạo làm Thiên tử, sau đó sẽ xuất quân thì hơn". Quân sĩ đều hô vạn tuế.
Lúc đó, người đứng đầu triều đình là Dương Thái hậu không còn cách nào khác do mọi quân sĩ đều tôn lập Lê Hoàn, bèn thuận theo, sai lấy áo long cổn khoác lên người Lê Hoàn, đưa Lê Hoàn lên làm Hoàng đế. Đây chính là thời khắc lập ra nhà Tiền Lê.

Cuối năm 979, nội bộ triều Đinh xảy ra một số biến cố. Đinh Tiên Hoàng và con trai là Đinh Liễn bị ám hại. Vua mới còn nhỏ, Lê Hoàn được cử làm phụ chính. Một số tướng dấy binh chống lại, đã bị Lê Hoàn đánh bại. Nhân cơ hội đó, nhà Tống (ờ Trung Quốc) lăm le xâm phạm bờ cõi Đại cồ Việt. Trước tình thế hiểm nghèo, các tướng lĩnh và quân đội đồng lòng suy tôn Lê Hoàn lên làm vua để chỉ huy kháng chiến.
Lê Hoàn (Lê Đại Hành) đổi niên hiệu là Thiên Phúc, lập nên nhà Lê, sử cũ Triều đình trung ương do vua đứng đầu, nắm mọi quyền hành về quân sự và dân sự. Giúp Lê Hoàn bàn việc nước có thái sư (quan đầu triều) và đại sư (nhà sư có danh tiếng). Dưới vua là các chức quan văn, quan võ ; các con vua được phong vương và trân giữ các vùng hiểm yếu.
Về đơn vị hành chính, cả nước được chia làm 10 lộ. Dưới lộ có phủ và châu. Hầu hết quan lại đều là võ tướng. Các quan lại địa phương chưa được sắp xếp đầy đủ. Nhà Lê chú ý xây dựng một đội quân mạnh để bảo vệ chính quyền trung ương. Quân đội gồm 10 đạo và hai bộ phận : cấm quân (quân của triều đình) bảo vệ vua và kinh thành ; quân địa phương đóng tại các lộ, luân phiên nhau vừa luyện tập vừa làm ruộng.