Từ năm 1885 đến năm 1888 là giai đoạn chuẩn bị lực lượng, xây dựng cơ sở chiến đấu của nghĩa quân. Được Phan Đình Phùng giao nhiệm vụ, Cao Thắng đã tích cực chiêu tập binh sĩ, trang bị, huấn luyện và xây dựng căn cứ thuộc rừng núi các tỉnh Thanh Hóa, Nghệ An, Hà Tĩnh, Quảng Bình. Ông đã cùng các thợ rèn làng Trung Lương và Vân Chàng  (Đức Thọ) nghiên cứu  chế tạo thành công súng trường theo mẫu của Pháp.
Từ năm 1888 đến năm 1896, nghĩa quân bước vào giai đoạn chiến đấu quyết liệt.
Sau một thời gian ra Bắc, tìm cách liên lạc với các sĩ phu, văn thân, Phan Đình Phùng trở về Hà Tĩnh, cùng Cao Thắng trực tiếp lãnh đạo cuộc khởi nghĩa.
Nghĩa quân Hương Khê được chế thành 15 quân thứ, đặt dưới sự chỉ huy của những tướng lĩnh tài ba. Đại bản doanh cuộc khởi nghĩa đặt tại núi Vụ Quang.
Từ đầu năm 1889, nghĩa quân đẩy mạnh hoạt động và liên tịc mở các cuộc tập kích, đẩy lui cuộc hành quân càn quét của địch.
Nhiều trận đánh nổi tiếng đã diễn ra, như trận tấn công đồn Trường Lưu (5-1890), trận tập kích thị xã Hà Tĩnh (8-1892) giải phóng 700 tù chính trị,…Nhưng trong trận tấn công đồn Nu (Thanh Chương) trên đường tiến quân về tỉnh lị Nghệ An, Cao Thắng đã bị trúng đạn và hi sinh năm 29 tuổi. Đây là một tổn thất lớn của nghĩa quân.
Trước sức mạnh áp đảo của giặc, nghĩa quân vẫn kiên trì chiến đấu. Ngày 17-10-1894, họ giành được thắng lợi lớn trong trận phục kích địch ở núi Vụ Quang, hàng chục tên giặc đã bị tiêu diệt.
Sau trận đánh này, đội quân tay sai của Pháp do Nguyễn Thân chỉ huy tiếp tục tổ chức cuộc vây hãm núi Vụ Quang. Nghĩa quân bị triệt đường kế tiếp, quân số giảm sút nhiều. Trong một trận ác chiến, Phan Đình Phùng bị thương nặng và hi sinh ngày 28-12-1895. Năm 1896, những thủ lĩnh cuối cùng của cuộc khởi nghĩa lần lượt rơi vào tay Pháp.

Cuộc khởi nghĩa Hương Khê sau hơn 10 năm tồn tại đến đây kết thúc. Đây là cuộc khởi nghĩa tiêu biểu trong phong trào Cần vương chống Pháp cuối thế kỉ XIX.
Cuộc khởi nghĩa bị thất bại bởi nhiều nguyên nhân, trong đó có những hạn chế về đường lối, phương pháp tổ chức và lãnh đạo.