Các hợp chất vô cơ có thể được xác định một cách chính thức thông qua việc tham chiếu đến hợp chất hữu cơ tương ứng. Hợp chất hữu cơ tức là có chứa liên kết cacbon trong đó có ít nhất một nguyên tử cacbon liên kết hóa trị với một nguyên tử loại khác (thường là Hydro, Ôxy, hoặc Nitơ). Các hợp chất không chứa cacbon, theo truyền thống, được coi là vô cơ[2]. Khi xem xét hóa học vô cơ trong cuộc sống, có thể thấy rằng nhiều hình thái sống trong tự nhiên bản chất là không phải là một hợp chất, mà chỉ là các ion (ví dụ như protein, DNA và RNA). Các ion natri, clorua, và phosphat là rất cần thiết cho cuộc sống, cũng như một số phân tử vô cơ như axit Cacbonic, Nitơ, cacbon dioxit, nước và Ôxy. Ngoài các ion và các phân tử đơn giản, hầu hết các hợp chất hóa học được biết đến bởi ngành sinh hóa vô cơ đều chứa cacbon và có thể được coi là hữu cơ hoặc hữu cơ-kim loại (organometallic).

Nhiều hợp chất có chứa cacbon vẫn được xem là vô cơ, ví dụ như cacbon monoxit, cacbon dioxit, cacbonat, xyanua, xyanat, cacbua và thyoxyanat. Tuy nhiên, những người làm việc liên quan đến chúng không quan tâm đến sự chính xác nghiêm ngặt của các định nghĩa.

Các khoáng vật oxit và sulfua được xem là hoàn toàn vô cơ, mặc dù chúng có thể có nguồn gốc sinh học. Trong thực tế hầu hết thành của phần Trái Đất là vô cơ. Mặc dù các thành phần của lớp vỏ Trái Đất đã được làm sáng tỏ, các quá trình khoáng hóa và thành phần sâu của manti vẫn còn đang được nghiên cứu.