Ta có: DF=CH=x, FH=30−2x⇒pΔDHF=15.

Thể tích khối lăng trụ như hình vẽ là: V=SFDH.EF=301515−x15−x15−30+2x

                             =301515−x22x−15; x∈152;15

Xét hàm số fx=15−x22x−15; x∈152;15.

Ta có: f'x=−215−x2x−15+215−x2=−215−x3x−30;  f'x=0⇔x=10x=15.

Bảng biến thiên:

Dựa vào BBT, max152;15fx=125 khi  x=10 Do đó thể tích khối lăng trụ như hình vẽ lớn nhất khi x=10 cm. Khi đó Vmax=7503 cm3.