y = x³ − 3(m + 2)x² + 3(m² + 4m)x + 1

⇒ y′ = 3x² − 6(m + 2)x + 3(m² + 4m)

Hàm số y = x³ − 3(m + 2)x² + 3(m² + 4m)x + 1 nghịch biến trên khoảng (0;1) 

⇔ f ′(x) ≤ 0, ∀x ∈ (0;1) và bằng 0 tại hữu hạn điểm trên (0;1).

⇔ 3x² − 6(m + 2)x + 3(m² + 4m) ≤ 0, ∀x ∈ (0;1) và bằng 0 tại hữu hạn điểm trên (0;1).

Xét phương trình 3x² − 6(m + 2)x + 3(m² + 4m) = 0 (∗)

Δ′ = 9(m +2)² − 3.3.(m² + 4m) = 36 > 0, ∀m

Þ Phương trình (*) có 2 nghiệm phân biệt x₁, x₂.

Để hàm số nghịch biến trên khoảng (0;1) thì x₁ ≤ 0 < 1 ≤ x₂

⇔x1x2≤0                      (1−x1)(1−x2)≤0⇔x1x2≤0                                 1+x1x2−(x1+x2)≤0

⇔m2+4m≤0                             1+m2+4m−2m−4≤0⇔−4≤m≤0−3≤m≤1⇔−3≤m≤0

Mà m∈ℤ nên m∈−3;−2;−1;0.

Vậy có 4 giá trị nguyên m thỏa mãn.