Trong mọi chế độ nhà nước, việc tổ chức các đơn vị hành chính phải dựa trên những nguyên tắc nhất định. Với một nhà nước lý tưởng- hiệu lực, hiệu quả, việc phân chia này một mặt phải đảm bảo quyền lực nhà nước có hiệu lực trên toàn lãnh thổ, mặt khác phát huy được vai trò của chính quyền địa phương, đảm bảo cho người dân thực hiện vai trò chủ nhân của mọi tiến trình phát triển. Theo tinh thần đó, tổ chức các đơn vị hành chính cần tuân thủ các nguyên tắc sau: 

Thứ nhất, tổ chức các đơn vị hành chính phải phù hợp với tổ chức quyền lực nhà nước.

Nguyên tắc tổ chức quyền lực nhà nước biểu hiện rõ nét trong việc xác định cơ cấu tổ chức các cơ quan nhà nước ở Trung ương gồm các nhánh quyền lập pháp, hành pháp, tư pháp. Trên thực tế đã có nhiều dạng thức khác nhau khi vận dụng các nguyên tắc tổ chức thực thi quyền lực nhà nước, nhưng phổ biến vẫn theo mô hình “phân quyền” hoặc “tập quyền”.

Phần lớn nhà nước hiện đại được tổ chức theo nguyên tắc phân quyền và điều đó được vận dụng trong việc tổ chức quyền lực nhà nước ở cấp Trung ương. Còn ở cấp địa phương, chính quyền được tổ chức theo mô hình tự quản. Các đơn vị hành chính lãnh thổ được tổ chức theo nhiều cấp khác nhau, với các tên gọi khác nhau, căn cứ vào sự khác nhau về mật độ dân cư, địa lý… hay đặc điểm kinh tế - xã hội. Với mô hình này, khả năng phát huy sự tự chủ, năng động của địa phương là rất cao nếu cơ quan nhà nước ở Trung ương đáp ứng được những đòi hỏi chung về khả năng kiến tạo và quản lý vĩ mô. 

Theo nguyên tắc tập quyền, việc thiết lập các đơn vị hành chính về cơ bản phải giống nhau ở mỗi cấp, từ đó thiết lập hệ thống các cơ quan quản lý với thẩm quyền như nhau. Về mặt hình thức, đây là mô hình lý tưởng cho sự công bằng trong tổ chức đơn vị hành chính lãnh thổ. Đồng thời, nếu tính tự quản ở địa phương được phát huy thì sẽ đảm bảo tinh thần “song trùng trực thuộc” và tăng cường pháp chế trong quá trình vận hành quyền lực nhà nước. Tuy nhiên, trên thực tế, nguyên tắc tập quyền chính là giới hạn sự tự chủ của các đơn vị hành chính lãnh thổ và chính nó dẫn đến nhiều hệ lụy trong sử dụng quyền lực nhà nước cả cấp Trung ương và địa phương.  

Như vậy, phân chia đơn vị hành chính lãnh thổ theo nguyên tắc phân quyền hay tập quyền đều có những ưu điểm và nhược điểm, và do vậy, để một nhà nước được tổ chức hợp lý, cần nghiên cứu việc kết hợp hài hòa hai nguyên tắc trên.   

Thứ hai, tổ chức các đơn vị hành chính nhà nước phải tuân thủ Hiến pháp, pháp luật.