Nỗi băn khoăn về một ngôi chùa có tên gắn với câu tục ngữ quen thuộc, mà không lí giải được căn do, hình như cứ tạm nằm yên trong tâm trí nhiều người. Cho đến một ngày cuối xuân 1995, trong chuyến “điền dã” của Hội Văn Nghệ dân gian Hà Nội về huyện Kim Bảng, tỉnh Hà Nam qua khảo sát thực địa, câu kia mới có lời đáp. Mục đích chuyến đi ấy, chúng tôi lại chỉ nhằm tìm hiểu về danh thắng “Ngũ động thì sơn” nơi có ngọn núi nổi tiếng, có đến năm hang động trong lòng núi, mỗi hang chứa sức cả ngàn người. Tương truyền, đây là chỗ giấu quân lí tưởng của Lý Thường Kiệt, một danh tướng của triều Lý từ thời phạt Tống. Hiện nay, tại chân núi phía bờ sông, còn đền thờ vị danh tướng này, đền tuy nhỏ nhưng lại uy nghi, thơ mộng… Điều thú vị lần ấy, do tìm hiểu qua nhân dân địa phương, chúng tôi phát hiện tại một làng nhỏ bên kia sông có một ngôi chùa không lớn lắm song rất đẹp. Muốn đến chùa, khách phải xuống đò đi xuôi xuống chừng nửa cây số, chếch với đền thờ Lý Thường Kiệt. Ngôi chùa được dựng lên từ thời Lý (thế kỉ thứ 11) do một người đàn bà giàu có trong làng cung tiến..Làng có tên là Đinh Xá, tên nôm gọi là làng Đanh; vì vậy ngôi chùa được gọi là “chùa Bà Đanh”. Khuôn viên của chùa tuy khiêm tốn, nhưng nội tự rất khang trang, Đặc biệt khác với tất tả các ngôi chùa toàn miền Bắc thường có chỉ cửa “Tam quan” (ba cửa) riêng chùa Bà Đanh lại có cửa “Ngũ quản” (năm cửa). Còn sở dĩ “chùa vắng” vì đây cũng là vùng bán sơn địa, không phải nơi buôn bán sầm uất, chùa lại nằm cách con sông, muốn sang phải lụy đò, bởi thế nên ít người lui tới. Từ cảnh huống đó, mới nảy sinh câu tục ngữ “Vắng như Chùa Bà Đanh” mà dân địa phương khẳng định, đó là nơi xuất xứ.