Sách Đại Việt sử lược và Đại Việt sử ký toàn thư đều chép Lý Công Uẩn người ở Cổ Pháp, Bắc Giang (nay thuộc huyện Từ Sơn, Bắc Ninh), mẹ họ Phạm. Tuy nhiên, tên cha ông không được chép rõ, mà chỉ biết là sau khi ông lên ngôi đã truy tôn cha mình tước Hiển Khánh vương. Sách Đại Việt sử lược cũng chép ông có một người anh trai (sau được phong Vũ Uy vương) và một người em (sau phong Thánh Dực vương). Sách Đại Việt sử ký toàn thư cũng chép anh ông sau được phong làm Vũ Uy vương và một người chú (được phong Vũ Đạo vương).

Lúc 3 tuổi, bà mẹ Lý Công Uẩn ẵm ông đến nhà Lý Khánh Văn, Khánh Văn bèn nhận làm con nuôi, từ nhỏ đã thông minh, vẻ người tuấn tú khác thường. Lúc còn nhỏ đi học, nhà sư ở chùa Lục Tổ là Vạn Hạnh thấy, khen rằng: Đứa bé này không phải người thường, sau này lớn lên ắt có thể giải nguy gỡ rối, làm bậc minh chủ trong thiên hạ. Lớn lên, không chăm việc sản nghiệp, chỉ học kinh sử qua loa, khảng khái có chí lớn.

Theo sách Việt sử tiêu án: Mẹ Lý Công Uẩn năm 20 tuổi nghèo hèn không có chồng, nương tựa người lão Sa môn ở chùa Ứng Thiên, làm việc thổi nấu, khi lửa tắt và bà đương ngủ lơ mơ, lão Sa môn ngẫu nhiên chạm phải, giật mình trở dậy rồi có thai mà sinh ra. Về sau Lý Thái Tổ nương nhờ cửa Phật, Khánh Vân nuôi lớn, Vạn Hạnh dạy dỗ.

Lý Công Uẩn lớn lên thời Lê Hoàn, ông theo giúp hoàng tử Lê Long Việt. Năm 1005, Lê Hoàn mất, các con tranh giành ngôi vua. Năm 1006, Lê Long Việt giành được ngôi vua, trở thành vua Lê Trung Tông. Nhưng chỉ được 3 ngày Trung Tông bị em là Lê Long Đĩnh giết hại giành ngôi. Lúc đó các quan đều sợ hãi bỏ chạy, chỉ có Lý Công Uẩn đến ôm xác Trung Tông khóc.

Lê Long Đĩnh không những không trị tội mà khen Lý Công Uẩn là người trung nghĩa, tiếp tục trọng dụng ông vào chức cho làm .

Tháng 7 năm 1010 (tức năm Thuận Thiên thứ nhất) thì khởi sự dời đô. Khi thuyền mới đến đậu ở dưới thành, thấy có con rồng vàng hiện ra, nhân thế đặt tên là Thăng Long, liền lập nhiều cung điện, cộng 13 sở, xây thành lũy, sửa sang phủ khố; thăng châu Cổ Pháp làm phủ Thiên Đức, Bắc Giang gọi là Thiên Đức Giang, thành Hoa Lư gọi là phủ Tràng An, trong phủ Thiên Đức lập ra tám ngôi chùa, đều có lập bia ghi chép công đức.