Trong thời gian đầu, Chính phủ Việt Nam Dân chủ Cộng hòa gồm nhiều thành phần kiên quyết chống lại việc Pháp tái lập chủ quyền ở Đông Dương. Nhưng sau đó những thành viên Chính phủ là đảng viên Đảng cộng sản Đông Dương thay đổi ý kiến muốn ký kết Hiệp định với Pháp. Theo quan điểm của Ban Thường vụ TW 3 Đảng cộng sản Đông Dương (đã lui vào hoạt động bí mật), tháng 3 năm 1946, nếu Pháp cho Đông Dương tự trị theo tuyên bố ngày 24 tháng 3 năm 1945 thì kiên quyết đánh, nhưng nếu cho Đông Dương tự chủ thì hòa để phá tan âm mưu của "bọn Tàu trắng, bọn phản động Việt Nam và bọn phát xít Nhật còn lại".

Ngày 6 tháng 3 năm 1946, Hiệp định sơ bộ Pháp-Việt được ký kết giữa Jean Sainteny, đại diện chính phủ Cộng hòa Pháp, và Hồ Chí Minh cùng Vũ Hồng Khanh, đại diện chính phủ Việt Nam Dân chủ Cộng hòa. Nội dung của Hiệp định bao gồm các điểm chính sau đây:

Chính phủ Pháp công nhận nước Việt Nam Dân chủ Cộng hòa là một quốc gia tự do trong Liên bang Đông Dương và trong khối Liên hiệp Pháp, có chính phủ, nghị viện, quân đội và tài chính riêng

​Chính phủ Việt Nam Dân chủ Cộng hòa đồng ý cho 15.000 quân Pháp vào miền Bắc thay thế cho 200.000 quân Trung Hoa Quốc dân đảng để làm nhiệm vụ giải giáp quân Nhật. Pháp hứa sẽ rút hết quân trong thời hạn 5 năm, mỗi năm rút 3.000 quân.
Pháp đồng ý thực hiện trưng cầu dân ý tại Nam Kỳ về việc thống nhất với Việt Nam Dân chủ Cộng hòa.
Hai bên thực hiện Nam Kỳ, đồng thời Hiệp ước Hoa-Pháp giúp họ tránh khỏi sự cản trở của các tướng lĩnh Trung Hoa Dân quốc.

Về phía Việt Minh, quân Trung Hoa được xác định là nguy cơ lớn nhất. Để loại trừ nguy cơ của 20 vạn quân Trung Hoa chiếm đóng, tránh được tình thế bất lợi "phải cô lập chiến đấu cùng một lúc với nhiều lực lượng phản động (thực dân Pháp, Tàu trắng, bọn phản cách mạng trong nước)", tập trung đối phó với người Pháp và "các đảng phái phản động". Đồng thời, tranh thủ được thời gian hòa hoãn quý báu để "Bảo toàn thực lực giành lấy giây phút nghỉ ngơi và củng cố vị trí mới đã chiếm được, chấn chỉnh đội ngũ cách mạng, bổ sung cán bộ, bồi dưỡng và củng cố phong trào". Một số thành viên trong Chính phủ Liên hiệp thuộc lực lượng Việt Quốc, Việt Cách không tán thành việc này lên tiếng phản đối gây ra bất đồng sâu sắc, dân chúng cũng có người băn khoăn, nhưng Chủ tịch Hồ Chí Minh đã bình tĩnh giải thích và động viên đồng bào để đồng bào hiểu rõ "cần phải biết chịu đựng hy sinh để mưu sự nghiệp lớn". Mặc dù Hiệp định có chữ ký của Vũ Hồng Khanh nhưng đa số lãnh đạo Việt Quốc rút sự ủng hộ của họ cho chính phủ Hồ Chí Minh để phản đối, chống lại những gì họ gọi là "thân Pháp" trong chính sách của Việt Minh. Bảo Đại rời khỏi đất nước vào ngày 18 tháng 3, ngày quân Pháp vào Hà Nội để theo phái đoàn ngoại giao đến Trùng Khánh nhằm tái khẳng định tình hữu nghị Việt - Trung và để thăm dò việc Tưởng Giới Thạch muốn hai nước sẽ có quan hệ thế nào sau khi ký Hiệp ước Hoa-Pháp. Một hội nghị liên tịch được tổ chức để khai thông các bất đồng dẫn đến việc thành lập Hội Liên hiệp Quốc dân Việt Nam.

Hiệp định sơ bộ Pháp-Việt không có sự phê chuẩn của Bộ Ngoại giao Pháp. Sau khi ký Hiệp định sơ bộ Pháp-Việt, hai bên Việt-Pháp tiếp tục xúc tiến hội đàm tại Hội nghị Đà Lạt và Hội nghị Fontainebleau để đàm phán về nền độc lập của Việt Nam trong Liên hiệp Pháp và việc thống nhất Việt Nam. Leclerc, tổng chỉ huy Pháp ở Đông Dương khi đề nghị đàm phán đã bị chuẩn tướng Charles de Gaulle trách móc: "Nếu tôi mà đồng ý mấy thứ nhảm nhí này thì đế quốc Pháp đã tiêu vong lâu rồi. Hãy đọc thật kỹ câu chữ trong tuyên bố tháng 3 của Pháp về Đông dương".

Tuy nhiên, hiệp định đã bị Cao ủy Đông Dương, Georges Thierry d'Argenlieu, làm mất giá trị khi ông tuyên bố chấp nhận sự thành lập Nam Kỳ quốc tại Sài Gòn vào ngày 1 tháng 6 cùng năm trong lúc Hội nghị Fontainebleau đang diễn ra.