a) Xét tam giác OAB vuông tại A, có AB = OA.tanα = a.tanα.

Khi quay miền tam giác OAB xung quanh trục Ox ta được khối nón có bán kính đáy r = AB = a.tanα và chiều cao h = OA = a.

Do đó \(V = \frac{1}{3}\pi {r^2}h = \frac{1}{3}\pi {a^3}{\tan ^2}\alpha \).

b) Có \(V' = \frac{1}{3}\pi {a^3}.2\tan \alpha .\frac{1}{{{{\cos }^2}\alpha }}\).

Vì \(0 < \alpha \le \frac{\pi }{4}\) Þ 0 < tanα ≤ 1 nên V' > 0. Do đó V là hàm số đồng biến trên \(\left( {0;\frac{\pi }{4}} \right)\).

Do đó \(\mathop {\max }\limits_{\left( {0;\frac{\pi }{4}} \right]} V = V\left( {\frac{\pi }{4}} \right) = \frac{1}{3}\pi {a^3}\).

Vậy \(\alpha = \frac{\pi }{4}\) thì thể tích khối nón là lớn nhất.