Mùa đông năm 1953, đơn vị được lệnh tham gia chiến dịch Điện Biên Phủ. Lực lượng hành quân gần 500 người, vượt qua nhiều đèo dốc, mang vác nặng nhưng ông vẫn kiên trì, giúp đồng đội về tới đích.

Chiều ngày 13 tháng 3 năm 1954, mở màn trận đánh chiến dịch Điện Biện Phủ ở Him Lam

Bộ đội Đại đội 58 lao lên mở đường, đã liên tiếp đánh đến quả bộc phá thứ tám. Phan Đình Giót đánh quả thứ chín thì bị thương vào đùi nhưng vẫn xung phong đánh tiếp quả thứ mười. Quân Pháp tập trung hỏa lực trút đạn như mưa xuống trận địa, khiến nhiều chiến sỹ của ta liên tục hy sinh. Để đánh mục tiêu phòng thủ kiên cố này, bộ đội ta đã chuyển sang dùng bộc phá

Sau đó, Phan Đình Giót đánh liên tiếp hai quả bộc phá nữa, phá hàng rào cuối cùng, mở thông đường để đồng đội lên đánh lô cốt đầu cầu. Quân Pháp hoang mang, lợi dụng thời cơ, ông vọt lên tiến công lô cốt số 2, ném thủ pháo, bắn kiềm chế cho đơn vị tiến lên. Trong đợt xung phong này, ông bị thương vào vai và đùi, mất máu rất nhiều.

Bất ngờ, hỏa điểm lô cốt số 3 của lính Pháp bắn mạnh. Lực lượng xung kích Việt Nam bị chặn lại, Phan Đình Giót bò đến lô cốt số 3 với ý nghĩ là dập tắt ngay lô cốt này. Phan Đình Giót đã dùng sức (khi đã bị thương, mất máu) nâng tiểu liên bắn vào lỗ châu mai, miệng hô to:[3]

Rồi vươn người lấy đà, dùng thân mình vào bịt kín lỗ châu mai của địch. Tiếng súng đạn bỗng im bặt, nhưng chiến sĩ Phan Đình Giót đã hi sinh, toàn thân anh bị bom đạn kẻ thù bắn nát. Thi thể Phan Đình Giót đã lấp kín lỗ châu mai, quân Pháp bên trong bị vướng không bắn ra được nữa, quân Việt Nam chớp thời cơ xông lên tiêu diệt gọn cứ điểm Him Lam vào ngày 13 tháng 3 năm 1954, giành thắng lợi trong trận đánh mở màn chiến dịch Điện Biên Phủ.[3]

Phan Đình Giót đã hy sinh lúc 22 giờ 30 phút ngày 13/3/1954 ở tuổi 32. Ông là một trong 16 anh hùng lực lượng vũ trang nhân dân được tuyên dương thành tích trong chiến dịch Điện Biên Phủ.

Ngày 31 tháng 3 năm 1955, Phan Đình Giót được truy tặng danh hiệu Anh hùng Lực lượng vũ trang nhân dân. Sau được truy tặng thêm Huân chương Quân công hạng Nhì. Chiếc bi đông và khẩu súng kỷ vật của ông được gìn giữ tại Bảo tàng Quân đoàn 1.

Hiện nay tại các tỉnh thành đều có các đường phố mang tên ông như

Tại Thành phố Pleiku (nối Nguyễn Tất Thành với Lê Lợi)

Tại Thành Phố Kon Tum (Phường Trường Trinh & Duy Tân)...

Tại Quận Hoàng Mai, Hà Nội