a) Tập xác định: D = ℝ\{−1}.

Ta có: y' = \(\frac{{{x^2} + 2x}}{{{{\left( {x + 1} \right)}^2}}}\); y' = 0 ⇔ \(\left[ \begin{array}{l}x = - 2\\x = 0\end{array} \right.\).

Bảng biến thiên:

Hàm số đồng biến trên các khoảng (−∞; −2) và (0; +∞).

Hàm số nghịch biến trên khoảng (−2; −1) và (−1; 0).

b) Đặt x = cosα, ta có M = \(\frac{{{{\cos }^2}\alpha }}{{\cos \alpha + 1}}\) = \(\frac{{{x^2}}}\) trên (−1; 1].

Dựa vào câu a, ta có bảng biến thiên của hàm số f(x) = \(\frac{{{x^2}}}\) trên (−1; 1] dưới đây:

Suy ra \(\mathop {\min }\limits_\alpha \frac{{{{\cos }^2}\alpha }}{{\cos \alpha + 1}} = \mathop {\min }\limits_{x \in ( - 1;1]} \frac{{{x^2}}} = 0\) khi x = 0 ⇔ cosα = 0 ⇔ α = \(\frac{\pi }{2} + k\pi \) và không tồn tại giá trị lớn nhất.