Hành động xâm lược của quân Pháp khiến cho nhân dân ta vô cùng căm phẫn.
Ngay khi Gác-ni-ê đến Hà Nội, quân dân ta đã bất hợp tác với Pháp. Các giếng nước ăn bị bỏ thuốc độ. Kho thuốc súng ở bờ sông của Pháp nhiều lần bị đốt cháy.
Khi nổ súng đánh thành Hà Nội, khoảng 100 binh sĩ triều đình dưới sự chỉ huy của một viên Chưởng cơ đã chiến đấu và hi sinh tới người cuối cùng tại cửa Ô Thành Hà (sau được đổi tên là Ô Quan Chưởng). Trong thành, Tổng đốc Nguyễn Tri Phương đã đốc thúc quân sĩ chiến đấu dũng cảm. Khi bị trọng thương, bị giặc bắt. ông đã khước từ sự chữa chạy của Pháp, nhịn ăn cho đến chết. Con trai ông là Nguyễn Lâm cũng  hi sinh trong chiến đấu.
Hình 54. Cửa Ô Quan Chưởng (Hà Nội)
Thành Hà Nội bị giặc chiếm, quân triều đình tan rã nhanh chóng, nhưng nhân dân Hà Nội vẫn tiếp tục chiến đấu. Các sĩ phu, văn thân yêu nước đã lập Nghĩa hội, bí mật tổ chức chống Pháp. Tại các tỉnh Hưng Yên, Phủ Lí, Hải Dương, Ninh Bình, Nam Định…., quân Pháp cũng vấp phải sự kháng cự quyết liệt của quân ta.
Trận đánh gây được tiếng vang lớn nhất lúc bấy giờ là trận phục kích của quân ta tại Cầu Giấy ngày 21-12-1873.
Thừa lúc Gác-ni-ê đem quân xuống đánh Nam Định, việc canh phòng Hà Nội sơ hở, quân ta do Hoàng Tá Viêm chỉ huy (có sự phối hợp với đội quân Cờ đen của Lưu Vĩnh Phúc) từ Sơn Tây kéo về Hà Nội, hình thành trận tuyến bao vây quân địch. Nghe tin đó, Gác-ni-ê đem quân đuổi theo. Rơi vào ổ phục kích của quân ta tại khu vực Cầu Giấy, toán quân Pháp, trong đó có cả Gác-ni-ê đã bị tiêu diệt.
Chiến thắng Cầu Giấy lần thứ nhất khiến cho nhân dân ta vô cùng phấn khởi; ngược lại, làm cho thực dân Pháp hoang mang, lo sợ và tìm cách thương lượng. Triều đình Huế lại kí kết Hiệp ước năm 1874 (Hiệp ước Giáp Tuất), theo đó quân Pháp rút khỏi Hà Nội và các tỉnh đồng bằng Bắc Kì, nhưng vẫn có điều kiện tiếp tục xây dựng cơ sở để thực hiện các bước xâm lược về sau.

Hiệp ước năm 1874 gồm 22 khoản. Với Hiệp ước này, triều đình nhà Nguyễn chính thức thừa nhận sáu tỉnh Nam Kì là đất thuộc Pháp, công nhận quyền đi lại, buôn bán, kiểm soát và điều tra tình hình ở Việt Nam của chúng….
Hiệp ước 1874 gây bất bình lớn trong nhân dân và sĩ phu yêu nước. Phong trào đấu tranh phản đối Hiệp ước dâng cao trong cả nước, đáng chú ý nhất là cuộc nổi dậy ở Nghệ An, Hà Tĩnh do Trần Tấn, Đặng Như Mai, Nguyễn Huy Điển lãnh đạo.