Bài thơ này vốn không có tên, tên gọi
Nam quốc sơn hà là do những người biên soạn cuốn sách
Hợp tuyển thơ văn Việt Nam, tập 2 (sách do Nhà Xuất bản Văn học xuất bản năm 1976) đặt ra, lấy từ bốn chữ đầu trong câu thơ đầu tiên của bài thơ này (
Nam quốc sơn hà Nam đế cư).
Hiện nay, sơ bộ thống kê đã thấy có khoảng 30 dị bản bài thơ Nam quốc sơn hà nằm trong các văn bản Hán Nôm chép tay hoặc khắc gỗ. Cụ thể là 8 bản Việt điện u linh, 10 bản
Lĩnh Nam chích quái: Thần phả đền cửa sông Ngũ Huyện (Quả Cảm, Hoà Long, Yên Phong, Bắc Ninh), Biển khắc bài thơ
Nam quốc sơn hà ở Phù Khê Đông (Tiên Sơn, Bắc Ninh), Trương tôn thần sự tích, Thiên Nam vân lục liệt truyện, Dư địa chí, Đại Nam nhất thống chí; Bằng trình thản bộ.
Theo sách Lĩnh Nam chích quái:[14]
Năm Thiên Phúc nguyên niên hiệu vua Lê Đại Hành; Tống Thái Tổ sai Hầu Nhân Bảo, Tôn Toàn Hưng cất quân xâm lược nước Nam. Hai bên đối lũy cùng cầm cự với nhau ở sông Đồ Lỗ. Vua Lê Đại Hành mộng thấy hai anh thần nhân ở trên sông vái mà nói rằng họ là Trương Hống, Trương Hát xưa theo Triệu Việt Vương; nay xin cùng nhà vua đánh giặc để cứu sinh linh. Vua Lê Đại Hành tỉnh dậy liền đốt hương khấn cầu thần giúp. Đêm ấy thấy một người dẫn đoàn âm binh áo trắng và một người dẫn đoàn âm binh áo đỏ từ phía Bắc sông Như Nguyệt mà lại cùng xông vào trại quân Tống mà đánh. Quân Tống kinh hoàng, thần nhân tàng hình trên không, lớn tiếng ngâm rằng:
Nam quốc sơn hà Nam đế cư
Hoàng thiên dĩ định tại thiên thư
Như hà Bắc Lỗ lai xâm lược
Bạch nhận phiên thành phá trúc dư.
Nam quốc sơn hà Nam đế cư
Hoàng thiên dĩ định tại thiên thư
Như hà Bắc Lỗ lai xâm lược
Bạch nhận phiên thành phá trúc dư...