Tô Ngọc Vân sinh ngày 15 tháng 12 năm 1908 (một vài tài liệu ghi là 1906) tại làng Xuân Cầu, xã Nghĩa Trụ, huyện Văn Giang, tỉnh Hưng Yên, nhưng lớn lên tại Hà Nội.
Tô Ngọc Vân là một cậu bé con nhà nghèo, quá tuổi mới được đến trường học chữ. Đang học trung học năm thứ 3, ông bỏ học để đi theo con đường nghệ thuật. Năm 1926, ông thi đỗ vào trường Cao đẳng Mỹ thuật Đông Dương, thuộc thế hệ đầu tiên của trường, tốt nghiệp khóa 2 năm 1931. Sau khi ra trường, Tô Ngọc Vân đã có tác phẩm xuất sắc, được giải thưởng cao ở Pháp. Ông đi vẽ nhiều nơi ở Phnôm Pênh, Băng Cốc, Huế... Ông cũng là một người viết về mỹ thuật, phê bình nghệ thuật trên báo chí. Ông hợp tác với các báo Phong Hóa và Ngày Nay của Nhất Linh, báo Thanh Nghị.[2]
Từ 1935 đến 1939 ông dạy học ở trường trung học Phnom Penh, sau đó ông về dạy ở Cao đẳng Mỹ thuật Đông Dương tới 1945. Thời gian đó ông vừa giảng dạy vừa sáng tác. Sau cách mạng Tháng Tám, Tô Ngọc Vân tham gia kháng chiến chống Pháp. Năm 1950 ông phụ trách Trường Mỹ thuật Việt Bắc. Thời gian này ông đã vẽ rất nhiều ký họa.[3]
Hồ Chủ tịch làm việc tại Bắc Bộ Phủ (1946) Tô Ngọc Vân được đánh giá là người có công đầu tiên trong việc sử dụng chất liệu sơn dầu ở Việt Nam. Ông còn được xem là một trong những họa sĩ lớn của hội họa Việt Nam, nằm trong "bộ tứ" nhất Trí, nhì Vân, tam Lân, tứ Cẩn (Nguyễn Gia Trí, Tô Ngọc Vân, Nguyễn Tường Lân, Trần Văn Cẩn). Ngay từ những năm học trong trường Mỹ thuật, ông đã sớm nghiên cứu kỹ lưỡng kỹ thuật sử dụng chất liệu sơn dầu. Ông đã viết những dòng tự sự ...ngay từ lúc đi học đã mơ xây dựng một nền hội họa Việt Nam có tính chất dân tộc, phản ứng lại sự lan tràn của hội họa Pháp sang ta và để giành một địa vị mỹ thuật trọng yếu cho dân tộc trên thế giới.... Thông qua kỹ thuật, ông đã cố gắng diễn tả được vẻ đẹp của duyên dáng người Việt Nam đương thời mà tiêu biểu là chân dung thiếu nữ.
Tô Ngọc Vân cũng là một trong số rất ít họa sĩ Việt Nam đã sớm vẽ tem ngay từ thời Pháp thuộc (Postes Indochine). Mẫu tem Apsara được ông thiết kế từ nguồn tư liệu của những chuyến đi vẽ, sáng tác ở khu đền Angkor Wat, Angkor Thom của Campuchia. Hình tượng chính của con tem là tiên nữ Apsara, một trong hàng ngàn tượng vũ nữ điêu khắc nổi trên những vách đền đài của nền văn hoá cổ Khmer. Tem Apsara của họa sĩ Tô Ngọc Vân là mẫu tem thứ 23 của Bưu điện Đông Dương kể từ khi Pháp phát hành tem thư ở Việt Nam. Và cũng là tem duy nhất ông góp vào nền nghệ thuật tem thư ở Việt Nam.
Họa sĩ Tô Ngọc Vân mất ngày 17 tháng 6 năm 1954 tại Km 41, Ba Khe, bên kia Đèo Lũng Lô, do bom của máy bay Pháp, gần sát chiến trường Điện Biên Phủ. Ông được truy tặng danh hiệu Liệt sĩ và phần mộ hiện an táng tại Nghĩa trang Mai Dịch.