Bất mãn vì đường lối cai trị của nhà Nguyễn, khoảng năm 1821, Phan Bá Vành tập hợp dân nghèo khổ vùng Nam Định, Thái Bình (tức vùng Sơn Nam Hạ cũ) nổi dậy chống triều đình nhà Nguyễn.

Với chủ trương "lấy của nhà giàu chia cho dân nghèo", ngay từ giai đoạn đầu, người đi theo đã có hơn 5.000, về sau thêm mấy ngàn quân của thủ lĩnh Ba Hùm (người Mường) từ thượng du Thanh Hóa cùng với quân nổi dậy ở các tỉnh lân cận kéo đến hiệp lực, thì lực lượng của ông đã lên đến hàng vạn[13].

Những năm 1824-1825, nạn đói diễn ra ở Hải Dương, Sơn Nam; khiến dân nghèo theo ông càng đông. Lại được sự giúp đỡ của Nguyễn Hạnh (tướng cũ của nhà Tây Sơn, được Ba Vành phong chức hữu quân)[14], Vũ Đức Cát (quan nhà Nguyễn bị cách chức)[15], Ba Hùm (thủ lĩnh người Mường)... và một số nhân vật có tiếng ở địa phương như Trần Bá Hựu, Hai Đáng, Chiêu Liễn,... nên thanh thế Ba Vành ngày càng tăng. Bởi vậy sau này trong Vè Ba Vành ở vùng Thái Bình có câu:

Tháng 2 (âm lịch) năm Minh Mạng thứ 7 (1826), từ đại bản doanh tại thôn Phú Nhai, thuộc làng Trà Lũ (nay thuộc 3 xã Xuân Trung, Xuân Bắc, Xuân Phương huyện Xuân Trường, tỉnh Nam Định), Phan Bá Vành dẫn quân đi đánh chiếm đồn Trà Lý và đồn Lân Hải (Kiến Xương, thuộc Thái Bình), giết được hai viên thủ ngự sứ là Đặng Đình Liễu và Nguyễn Trung Diễn. Tiếp đó, thủ lĩnh Ba Vành cho quân đánh lan ra vùng Kiến Xương, Vũ Tiên, Chân Ninh (thời Thành Thái đổi thành Trực Ninh)... Trấn thủ Sơn Nam Lê Mậu Cúc hay được, mang quân đến đàn áp. Hai bên giao chiến ác liệt tại Cồn Tiên (Tiền Hải). Đến khi trấn thủ Cúc tử trận, thì quân triều quăng vũ khí, bỏ thuyền bè mà chạy cả[16].

Nghe tin cấp báo, vua Minh Mạng sai thống chế Trương Phúc Đặng kéo quân ra Bắc để tiễu trừ. Đến nơi, tướng Phúc Đặng cho quân đánh bất ngờ Giao Thủy. Thua trận, quân sư Vũ Đức Cát chạy ra An Quảng, rồi đến xã Đông Hào thì bị bắt và bị giết ngay.

Tháng 12 (âm lịch) năm ấy, Phan Bá Vành và Nguyễn Hạnh lại tập hợp được hơn 5.000 quân, mang đi tấn công vào hai huyện là Tiên Minh và Nghi Dương thuộc tỉnh Hải Dương. Tiếp theo, hai ông liên kết với nhóm Tàu Ô để mở rộng hoạt động ra các vùng ven biển thuộc vịnh Bắc Bộ.

Liệu chống không nổi, trấn thủ Hải Dương là Nguyễn Đăng Huyên lại phải cầu cứu đến triều đình Huế. Vua Minh Mạng liền thăng cho Trương Văn Minh làm tiền phong đô thống chế chuyên quản lý Bắc thành, để hiệp đồng với tham hiệp Nghệ An là Nguyễn Hữu Thận coi việc quân.

Không yên tâm, nhà vua lại chuẩn cho tham hiệp Thanh Hóa là Nguyễn Công Trứ, tham biện Nghệ An Nguyễn Đức Nhuận, quản cơ Thanh Hóa Vũ Văn Bảo, quản cơ Nghệ An Trương Văn Tín cùng mang quân thủy bộ và 14 chiến thuyền ra gấp Hải Dương hội tiễu.

Mặc dù vậy, đầu năm Đinh Hợi (1827), quân Ba Vành vẫn kiên trì hoạt động mạnh ở vùng phủ Thiên Trường (Nam Định) và phủ Bo (tức phủ thành Kiến Xương). Nhận được tấu sớ xin thêm quân, vua Minh Mạng bèn sai hậu quân phó tướng Ngô Văn Vĩnh mang hai vệ quân ở Kinh đô Huế, cùng một số lính thuộc vệ quân Thần Sách ở Nghệ An đi gấp ra Bắc.

Tính ra, vua Minh Mạng đã điều động hầu hết lực lượng quân đội ở Bắc thành, Nghệ An, Thanh Hóa và một phần ở Huế để đối phó với quân của Phan Bá Vành [1].

Tháng 2 (âm lịch) năm Đinh Hợi (tháng 3 năm 1827), nhà vua cho Thân Văn Duy coi tào binh Bắc thành, kiêm tham tán việc quân.

Sau khi bị đánh lui ở sông Bổng Điền, quân Ba Vành lại kéo đến vây chặt cánh quân của Phạm Đình Bảo (hay Bửu) ở chợ Quán, buộc các tướng Phạm Văn Lý, Nguyễn Công Trứ, Nguyễn Văn Phong phải mang ba đạo quân đến cứu, đuổi quân nổi dậy chạy về căn cứ ở làng Trà Lũ. Để chống cự lâu dài, Phan Bá Vành cho quân đào đắp thêm hào lũy ở đây.

Tương truyền, có nhiều chỉ huy dưới quyền đã khuyên Phan Bá Vành nên đánh ngay lúc quân triều mới đến, tức lúc họ đang mệt nhọc và chuẩn bị chưa xong. Nhưng vì nghe theo lời người vợ lẽ là Trần Thị Tú (con gái của viên trấn thành Phủ Bo mà ông đã bắt được khi đánh chiếm nơi này), nên ông cứ đóng chặt cửa thành cố thủ.

Sau khi quân triều từ các nơi kéo về vây kín Trà Lũ, các tướng nhà Nguyễn liền cho phát pháo tấn công. Quân nổi dậy chống cự quyết liệt, bị chết quá nửa. Biết vợ lẽ thông đồng với đối phương là tướng Phạm Văn Lý, Ba Vành liền sai quân chém chết [17].

Một đêm, Ba Vành cho quân khơi một con ngòi chạy từ sông Cát thông đến sông Ngô Ðồng (sau dân gian gọi con ngòi này là sông Thanh Quan - Cống Vành), để mở đường chạy ra biển. Rạng sáng, quân nổi dậy theo con đường thủy ấy ào ạt phá vây, nhưng rồi bị quân triều do Phan Bá Hùng chỉ huy chặn đánh tan tác hết.[18]

Trong cơn binh lửa, Phan Bá Vành bị thương rồi bị bắt sống, cùng với 765 thuộc hạ. Trên đường áp giải, Phan Bá Vành cắn lưỡi tử tử, còn số quân lính trên đều bị xử cực hình[19].

Ngay sau đó, theo lệnh của vua Minh Mạng, làng Trà Lũ bị tháo dỡ phá hết nhà cửa, lũy tre, cây cối, không sót một thứ gì.[20]