a)

Xét tam giác vuông SHN, ta có: HN = SH.cotα = xcotα.

MN = 2HN = 2xcotα.

Thể tích khối chóp là V = \(\frac{1}{3}M{N^2}.SH = \frac{4}{3}{x^3}{\cot ^2}\alpha .\)

Xét tam giác SHN có \(\widehat {HSN}\) = 90° − α.

Trong tam giác IPH vuông tại P, có SI = \(\frac{{\sin \left( {90^\circ - \alpha } \right)}} = \frac{R}{{\cos \alpha }}\).

Ta có: SH = HI + IS = R + \(\frac{R}{{\cos \alpha }}\)

⇒ cosα = \(\frac{R}\). Suy ra sin²α = 1 – cos²α = 1 − \(\frac{{{R^2}}}{{{{\left( {x - R} \right)}^2}}}\) = \(\frac{{{x^2} - 2Rx}}{{{{\left( {x - R} \right)}^2}}}\);

cot²α = \(\frac{{{{\cos }^2}\alpha }}{{{{\sin }^2}\alpha }} = \frac{{{R^2}}}{{x\left( {x - 2R} \right)}}\).

Từ đó ta được V = \(\frac{{4{R^2}{x^2}}}{{3\left( {x - 2R} \right)}}\).

b) Xét hàm số f(x) = \(\frac{{4{R^2}{x^2}}}{{3\left( {x - 2R} \right)}}\) với x > 2R.

Ta có: f'(x) = \(\frac{{12{R^2}{x^2} - 48{R^3}x}}{{9{{\left( {x - 2R} \right)}^2}}} = \frac{{12{R^2}x\left( {x - 4R} \right)}}{{9{{\left( {x - 2R} \right)}^2}}}\);

           f'(x) = 0 ⇔ \(\frac{{12{R^2}x\left( {x - 4R} \right)}}{{9{{\left( {x - 2R} \right)}^2}}}\) = 0 ⇔ x = 4R.

Ta có bảng biến thiên:

Vậy \(\mathop {\min }\limits_{x > 2R} V = \frac{3}{R^3}\) khi x = 4R.