Khi thực dân Pháp chiếm Bắc Kì, chúng đưa quân lên bình định cả vùng Yên Thế. Để bảo vệ cuộc sống của mình, nông dân ở đây đã đứng lên tự vệ.
Hoạt động của nghĩa quân Yên Thế có thể chia làm 4 giai đoạn:
Giai đoạn từ năm 1884 đến năm 1892
Tại vùng Yên Thế có hàng chục toán quân chống Pháp hoạt động riêng lẻ, đặt dưới sự chỉ huy của các thủ lĩnh khác nhau. Thủ lĩnh có uy tín nhất lúc đó là Đề Nắm đã lãnh đạo nghĩa quân đẩy lùi nhiều trận càn quét của quân Pháp vào khu vực Cao Thượng, Hố Chuối. Đến năm 1891, nghĩa quân làm chủ một vùng rộng lớn và mở rộng hoạt động sang Phủ Lạng Thương (vùng thành phố Bắc Giang ngày nay).
Trước những đợt tấn công, càn quét mới của giặc, nghĩa quân phải rút dần lên vùng Bắc Yên Thế xây dựng, củng cố hệ thống công sự phòng thủ.
Tháng 3-1892, Pháp huy động khoảng 2 200 quân, gồm nhiều binh chủng ồ ạt tấn công vào căn cú của nghĩa quân. Lực lượng nghĩa quân bị tổn thất nặng, nhiều người bị địch bắt và giết hại, một số phải ra hàng. Đề Nắm bị sát hại vào tháng 4-1892.
Giai đoạn từ năm 1893 đến năm 1897
Lúc này Đề Thám (Hoàng Hoa Thám) trở thành thủ lĩnh tối cao của cuộc khởi nghĩa.
Hoàng Hoa Thám tên thật là Trương Văn Thám, quê ở Tiên Lữ (Hưng Yên), theo gia đình lên làm ăn ở Sơn Tây sau sang Yên Thế (Bắc Giang) sinh sống.
Sau khi Đề Nắm hi sinh, ông tập hợp những toán quân binh còn sót lại, mở rộng địa bàn hoạt động.
Trong bối cảnh phong trào kháng chiến cả nước bị đàn áp dữ dội, nhiều cuộc khởi nghĩa đã thất bại, Đề Thám phải tìm cách giảng hòa với Pháp để có thời gian củng cố lực lượng. Tháng 10-1894, theo thỏa thuận giữa hai bên, quân Pháp phải rút khỏi Yên Thế, Đề Thám được cai quản bốn tổng: Yên Lễ, Mục Sơn, Nhã Nam, Hữu Thượng. Nhưng cuộc hòa hoãn kéo dài chưa được bao lâu thì Pháp bội  ước, lại tổ chức tấn công (11-1895). Nghĩa quân phải chia nhỏ thành từng toán, trà trộn vào dân để hoạt động.

Nhằm bảo toàn lực lượng, lại biết được ý đồ của Pháp đang muốn chấm dứt xung đột để tiến hành khai thác thuộc địa, Đề Thám xin giảng hòa lần thứ hai (12-1897). Để được hòa hoãn lần này, Đề Thám phải tuân thủ những điều kiện ngặt nghèo do Pháp đặt ra, như nộp khí giới, thường xuyên trình diện chính quyền thực dân. Bề ngoài, Đề Thám tỏ ra phục tùng, nhưng bên trong thì ngấm ngầm chuẩn bị lực lượng chống Pháp.
Giai đoạn từ năm 1898 đến năm 1908
Tranh thủ thời gian hòa hoãn kéo dài, Đề Thám cho nghĩa quân vừa sản xuất, vừa tích cực luyện tập quân sự tại đồn điền Phồn Xương. Đội quân của ông tuy không đông (khoảng 200 người) nhưng rất tinh nhuệ, thiện chiến. Căn cứ vào Yên Thế trở thành nơi tụ hội của những nghĩa sĩ yêu nước từ khắp nơi kéo về (từ Hà Tĩnh, Nghệ An, Thanh Hóa, Hưng Yên, Hải Dương…)
Giai đoạn từ năm 1909 đến năm 1913
Sau vụ đầu độc lính Pháp ở Hà nội năm 1908, thực dân Pháp quyết định mở cuộc tấn công nhằm tiêu diệt bằng được phong trào nông dân Yên Thế. Nghĩa quân trải qua những tháng ngày gian khổ, phải di chuyển liên tục từ nơi này sang nơi khác. Nhiều thủ lĩnh đã hi sinh, một số phải ra hàng. Đến tháng 2-1913, khi Đề Thám bị sát hại, phong trào tan rã.