Sau 4 lần tiến công vẫn không chiếm được đồi, đại tướng Võ Nguyên Giáp đã nhiều lần trao đổi trong cơ quan tham mưu về cao điểm A1. Một người dân địa phương ngày trước đã tham gia xây dựng ngôi nhà trên đồi này, kể lại đó là một ngôi nhà tuy kiên cố, nhưng không có gì là đặc biệt, khi mới xây, không có hầm ngầm. Nghe bộ đội tả lại căn hầm, người này cho rằng có thể quân Nhật trong thời gian đóng ở Điện Biên Phủ đã xây dựng căn hầm này đề phòng máy bay Mỹ ném bom, hoặc có thể quân Pháp đã cải tạo hầm đựng rượu cũ thành hầm ngầm. Về sau mới biết, trong hai tháng xây dựng công sự, quân Pháp đã dùng những gạch, đá từ ngôi nhà trên đồi, biến hầm rượu thành một căn hầm trú ẩn tương đối kiên cố với rất nhiều đất đổ bên trên...
Công binh đề nghị đào một đường hào men theo đường 41, tách rời A1 với A3, cũng là cắt đứt đường tăng viện của quân Pháp. Trung đoàn 174 đề nghị đào thêm một đường hầm từ trận địa tại A1 tới dưới hầm ngầm, đưa bộc phá với số lượng lớn vào đặt rồi cho nổ. Công binh của đơn vị tính toán sẽ hoàn thành công trình này trong vòng 14 ngày, và bảo đảm đào đúng hướng.
Đơn vị thực hiện nhiệm vụ đào hầm ngầm và đánh bộc phá là Đại đội công binh M83 của Trung đoàn công binh 151 thuộc Đại đoàn 351. Một đội đặc biệt gồm 25 cán bộ, chiến sĩ do Nguyễn Phú Xuyên Khung, cán bộ công binh của Bộ, trực tiếp chỉ huy, đã tiến hành công việc ngay trước mũi súng quân Pháp, trong tầm kiểm soát của lựu đạn.
Đêm 20/4, công việc đào hầm ngầm bắt đầu. Mọi người phải làm trong tư thế ngồi nghiêng như móc hàm ếch. Để đảm bảo bí mật, an toàn cho hầm ngầm, công việc ngụy trang cửa hầm được làm rất công phu; ngoài cửa hầm có mái che phủ đất để vừa chống lựu đạn và mảnh pháo từ trên cao ném xuống vừa che mắt Pháp; đất đá đào ra đều cho vào bao dù đưa ra ngoài, sau khi đổ còn ngụy trang rất kỹ.
Đất đồi A1 cực kỳ rắn. Tiểu đội trưởng công binh Lưu Viết Thoảng lựa chọn một tổ khỏe nhất mở cửa hầm. Cả đêm đầu chỉ khoét được vào vách núi mỗi chiều 90 cm. Quân Pháp không ngừng bắn súng và ném lựu đạn, 3 người bị thương. Bản thân Thoảng cũng bị ngất vì sức ép của lựu đạn. Ba đêm mới đào xong cửa hầm. Khi đào sâu vào lòng núi được mười mét, bắt đầu phải khắc phục thêm khó khăn: thiếu không khí, đèn, đuốc mang vào hầm đều bị tắt, số đất moi từ lòng núi ra ngày càng nhiều không được để cho quân Pháp phát hiện. Các chiến sĩ phòng ngự tại A1 đã có kế hoạch chiến đấu không cho quân Pháp tiến xuống cửa hầm, dù phải hy sinh tới người cuối cùng, để bảo vệ bí mật tuyệt đối ý đồ đặt bộc phá.
Càng đào vào sâu, công việc càng khó khăn vì vừa thiếu ánh sáng vừa thiếu không khí, nên bộ đội phải liên tục thay nhau ra ngoài để thở. Trên chiến hào, nơi nào thuận lợi có thể quan sát địch đều bố trí lực lượng bắn tỉa, một tổ chừng 4-5 người để yểm trợ thêm cho công binh đào hầm. Đường hầm khi hoàn thành dài tới 82m và dẫn lên tận đỉnh đồi, nơi đặt khối bộc phá. Phần lớn lòng đường hầm rất nhỏ hẹp, chỉ đủ cho một người lách trườn lên.
Vừa đào hầm, Đại đội công binh M83 vừa lo đi tìm bom chưa nổ để gỡ thuốc làm bộc phá vì theo thiết kế, khối bộc phá phải đủ 1 tấn thuốc nổ mới đủ mạnh để đánh sập lô cốt, nhưng lúc ấy trong kho chỉ còn có 500 kg. Đơn vị pháo phòng không đến báo vừa bắn rơi một chiếc máy bay B-24 gần đồi Độc Lập. Máy bay vẫn còn bom, lại rơi rất gần trận địa pháo, vì vậy yêu cầu công binh đi gỡ bom để đảm bảo an toàn cho trận địa.
Tiểu đội trưởng Nguyễn Văn Bạch nghe vậy liền xung phong dẫn 4 chiến sĩ đến chỗ chiếc máy bay rơi. Tới nơi, thấy trên thân máy bay còn nguyên 5 quả bom tạ. Phải mất một tuần với 5 quả bom tạ, tổ gỡ bom đem về gần 5 tạ thuốc nổ, coi như đủ lượng thuốc nổ cần dùng.
Phải mất thêm nhiều ngày và rất khó khăn để đưa bộc phá đến điểm tập kết. Trong hào đi phải khom lưng, mỗi người đem từng quả bộc phá nặng khoảng 5 kg xếp hàng ngay ngắn cho tới khi đủ 1.000 kg.Tuy nhiên, một tình huống mới lại xảy ra khi dùng máy phát điện 100W điểm hỏa thử trên mô hình thì khối bộc phá lại không nổ theo đúng yêu cầu. Để cho chắc chắn, chỉ còn một cách là cho người trực tiếp vào giật nụ xòe, một công việc rất nguy hiểm.
Tiểu đội trưởng Nguyễn Văn Bạch nhớ lại: "Đưa được 1.000kg thuốc nổ vào cuối hầm, cả đại đội trưởng Khung, tổ trưởng Đảng Lưu Viết Thoảng và tôi bò vào cuối hầm kiểm tra kỹ thuật lần cuối. Yêu cầu chỉ điểm hỏa một lần phải gây nổ được cả khối bộc phá gắn với năm đường dây cháy chậm và năm nụ xòe. Hai đồng chí đồng ý cho tôi xung phong ở ngoài cửa hầm điểm hỏa bằng nụ xòe. Nếu không nổ, tôi sẽ ôm 3kg thuốc nổ bò vào cuối hầm điểm hỏa bằng người như chiến sĩ cảm tử".