Giữa năm 1954, cơ quan Bộ Giáo dục chuyển từ xã Yên Nguyên, huyện Chiêm Hóa, tỉnh Tuyên Quang về huyện Đại Từ, Thái Nguyên để chuẩn bị về Hà Nội. Bộ đã chỉ đạo các trường trực thuộc và các địa phương có vùng mới giải phóng chuẩn bị các điều kiện cần thiết ban đầu để nhanh chóng phục hồi trường lớp.

Nhiều công việc đã được Bộ chú trọng triển khai thực hiện trong giai đoạn này: Mở các trường học sinh miền Nam trên đất Bắc để đón nhận các em học sinh miền Nam ra Bắc học tập; tiến hành cải cách giáo dục năm 1956 đã đặt cơ sở cho việc hình thành Hệ thống giáo dục phổ thông 10 năm gồm 3 cấp học.

Tháng 10/1965, Ủy ban Thường vụ Quốc hội quyết định phê chuẩn việc thành lập Bộ Đại học và Trung học chuyên nghiệp, tách khỏi Bộ Giáo dục và bổ nhiệm đồng chí Tạ Quang Bửu làm Bộ trưởng.

Sau những năm phát triển giáo dục trong điều kiện hòa bình, lúc này trên toàn miền Bắc nạn mù chữ đã được thanh toán. Cũng trong giai đoạn này, phong trào thi đua “Hai tốt” phát triển rộng rãi với mô hình tiêu biểu là trường Phổ thông cấp II Bắc Lý (Hà Nam), trường Tiểu học Cẩm Bình (Hà Tĩnh), phong trào giáo dục xã Ngổ Luống (Hà Đông, Hà Nội). Hệ thống trường bổ túc công nông, trường phổ thông lao động được phát triển mạnh. Ở miền Bắc, mỗi ngày hàng triệu học sinh, sinh viên, các thầy cô giáo vẫn đội mũ rơm, khắc phục muôn vàn khó khăn đến trường học tập, giảng dạy. Hàng loạt trường trung học chuyên nghiệp mới được mở ra ở cả trung ương và địa phương. Mạng lưới các trường đại học và quy mô đào tạo không ngừng được mở rộng.

Tháng 10/1962, Tiểu ban Giáo dục thuộc Trung ương cục miền Nam được thành lập. Miền Bắc đã chi viện 3000 cán bộ cùng rất nhiều tài liệu sách giáo khoa, tạo điều kiện để phong trào giáo dục miền Nam lúc này có nhiều bước chuyển biến mới.

Hàng vạn thanh niên tiêu biểu của cả nước thời kỳ này đã được cử ra nước ngoài học tập trở thành những trí thức, nhà khoa học là nguồn lực to lớn, góp phần phụng sự kháng chiến thắng lợi, xây dựng Tổ quốc.