Ngay từ đầu, quân Pháp đã vấp phải tinh thần quyết chiến của nhân dân Hà Nội. Họ tự tay đốt các dãy phố, tạo thành hàng rào lửa cản giặc. Trưa 25-4, khi quân Pháp mở cuộc tấn công vào thành, Hoàng Diệu đã lên mặt thành chỉ huy quân sự kiên quyết chống cự, nhưng vẫn không giữ được thành. Để bảo toàn khí tiết, sau khi thảo tờ di biểu gửi triều đình, Hoàng Diệu đã tự vẫn trong vườn Võ Miếu (dưới chân Cột cờ Hà Nội ngày nay) để khỏi rơi vào tay giặc.
Thành Hà Nội rơi vào tay giặc, nhưng nhiều sĩ phu, văn thân vẫn tiếp tục tổ chức kháng chiến
Hoàng Tá Viêm, Trương Quang Đản đem quân chốt giữ Sơn Tây, Bắc Ninh, hình thành hai gọng kìm áp sát Hà Nội. Nhân dân không bán lương thực cho Pháp. Nhiều đội nghĩa dũng được thành lập ở các tỉnh, tự động rào làng, đắp cản. Khi Pháp đánh Nam Định nhân dân đốt hết các dãy phố dọc sông Vị Hoàng phía ngoài thành, tạo nên bức tường lửa ngăn quân giặc. Nguyễn Hữu Bản, con của Nguyễn Mậu Kiến, nối tiếp chí cha, mộ quân đánh Pháp và đã hi sinh trong chiến đấu.
Vòng vây của quân dân ta xung quanh Hà Nội ngày càng siết chặt đã buộc Ri-vi-e phải đưa quân từ Nam Định về ứng cứu. Ngày 19-5-1883, một toán quân Pháp do Ri-vi-e đích thân chỉ huy tiến ra ngoài Hà Nội theo đường đi Sơn Tây nhưng đến Cầu Giấy bị đội quân thiện chiến của Hoàng Tá Viêm và Lưu Vĩnh Phúc đổ ra đánh. Hàng chục tên giặc bị tiêu diệt, trong đó có cả Tổng thống chỉ huy quân Pháp ở Bắc Kì là Ri-vi-e.
Chiến thắng Cầu Giấy lần thứ hai thể hiện rõ quyết tâm tiêu diệt giặc của nhân dân ta. Tuy nhiên, triều đình Huế vẫn nuôi ảo tưởng thu hồi Hà Nội bằng con đường thương thuyết.