Ngay từ khi ra đời và trong suốt quá trình lãnh đạo cách mạng Việt Nam, Đảng ta thường xuyên quan tâm xây dựng, củng cố các công cụ bạo lực của cách mạng để trấn áp tội phạm, bảo vệ Đảng, Nhà nước và nhân dân. Trong cao trào Xô Viết Nghệ Tĩnh (1930 - 1931), “Đội Tự vệ đỏ” được thành lập để hỗ trợ và bảo vệ quần chúng nổi dậy phá nhà giam, đốt huyện đường, vây đồn lính, bắt giữ bọn hào lý, làm tan rã từng mảng chính quyền tay sai của đế quốc ở cơ sở; bảo vệ cán bộ, bảo vệ các phiên toà của Xô Viết - Công Nông xét xử bọn phản cách mạng; giữ gìn an ninh trật tự ở những nơi có chính quyền Xô Viết. Tháng 3/1935, Đại hội Đảng toàn quốc lần thứ nhất thông qua Nghị quyết quan trọng về “Đội Tự vệ”. Khi cuộc vận động Mặt trận Dân chủ Đông Dương phát triển thành cao trào cách mạng rộng lớn, Đảng chỉ thị: “Mỗi ấp phải tổ chức ra Đội Tự vệ để ngăn cản những kẻ phá rối cuộc đấu tranh và đối phó với các lực lượng phản động”. Đầu năm 1940, Trung ương Đảng chủ trương thành lập “Ban Công tác đội” làm nhiệm vụ bảo vệ An toàn khu (ATK), bảo vệ cán bộ cao cấp của Đảng, giải thoát cho cán bộ khi bị địch bắt. “Ban Công tác đội” được đặt dưới sự chỉ đạo trực tiếp của Trung ương, được trang bị vũ khí và huấn luyện về kỹ thuật chiến đấu. Ngày 15/5/1945, Xứ uỷ Bắc kỳ thành lập “Đội danh dự trừ gian” do Xứ uỷ trực tiếp chỉ đạo, thực hiện nhiệm vụ diệt trừ bọn Việt gian đầu sỏ và vũ trang tuyên truyền, chiến đấu khi cần thiết. Ngày 04/6/1945, Tổng bộ Việt Minh tuyên bố thành lập khu giải phóng; đồng thời, công bố 10 chính sách lớn của Việt Minh. Ngay sau đó, các tổ chức “Đội trinh sát”, “Đội hộ lương diệt ác” lần lượt ra đời cùng với “Đội tự vệ đỏ”, “Ban Công tác đội” và “Đội danh dự trừ gian” làm nhiệm vụ thủ tiêu lực lượng của phát xít Nhật, trừ khử bọn Việt gian, trừng trị bọn lưu manh, bảo vệ chính quyền cách mạng, thực hiện 10 chính sách lớn của Việt Minh. Đây chính là các tổ chức tiền thân của Công an nhân dân Việt Nam.