Từ cuối thế kỉ IX, ở Trung Quốc, nhiều cuộc khởi nghĩa nông dân đã nổ ra (đỉnh cao là cuộc khởi nghĩa Hoàng Sào). Nhà Đường suy yếu. Lợi dụng thời cơ đó, Khúc Thừa Dụ đã tập hợp nhân dân nổi dậy.

Khúc Thừa Dụ quê ở Hồng Châu (Ninh Giang – Hải Dương), thuộc một dòng họ lớn lâu đời. Ông sống khoan hoà, hay thương người, được dân chúng mến phục.

Giữa năm 905, Tiết độ sứ An Nam là Độc Cô Tổn bị giáng chức. Khúc Thừa Dụ, được sự ủng hộ của nhân dân, đã đánh chiếm Tống Bình rồi tự xưng là Tiết độ sứ, xây dựng một chính quyền tự chủ.

Đầu năm 906, vua Đường buộc phải phong Khúc Thừa Dụ làm Tiết độ sứ An Nam đô hộ.

Khúc Thừa Dụ làm Tiết độ sứ được hai năm thì mất (907), con trai là Khúc Hạo lên thay. Khúc Hạo quyết định xây dựng đất nước tự chủ theo đường lối “Chính sự cốt chuộng khoan dung, giản dị, nhân dân đều được yên vui”. Ông đã làm được nhiều việc lớn: đặt lại các khu vực hành chính, cử người trông coi mọi việc đến tận xã ; xem xét và định lại mức thuế, bãi bỏ các thứ lao dịch của thời Bắc thuộc ; lập lại sổ hộ khẩu.