f(x) = (m-1)/(mx+2m+1) - m/(mx+2m+1)^2

f'(x) = [(m-1)(mx+2m+1)^2 - m(mx+2m+1)]/[mx+2m+1]^4

Để hàm số f(x) nghịch biến trên khoảng (0;+c), ta cần điều kiện f'(x) < 0 trên khoảng đó.

Thật vậy, nếu f'(x) < 0 trên khoảng (0;+c), khi đó f(x) giảm dần trên khoảng đó, do đó f(x) sẽ là hàm số nghịch biến trên khoảng đó.

Để tìm giá trị nguyên m thỏa mãn điều kiện trên, ta cần giải bất phương trình:

[(m-1)(mx+2m+1)^2 - m(mx+2m+1)]/[mx+2m+1]^4 < 0

Giai bất phương trình này phức tạp, chúng ta sẽ khám phá đặc tính của bất phương trình này.

Khi mx+2m+1 > 0, bằng việc nhân hai vế của bất phương trình trên với [mx+2m+1]^4 và phân tích lại, ta được:

(m-1)(mx+2m+1)^6 - m(mx+2m+1)^5 < 0

⇔ m(mx+2m+1)^5 < (m-1)(mx+2m+1)^6

⇔ mx+2m+1 < (m-1)(mx+2m+1)

⇔ mx+2m+1 < mx-1

⇔ 2m+1 < -1

⇔ m < -1.

Lưu ý rằng ta đã giả sử mx+2m+1 > 0 để phân tích bất phương trình, vì thực sự một trong hai đại lượng này phải khác 0 trên khoảng (0;+c).

Với trường hợp m > 1, ta cũng có thể phân tích lại bất phương trình theo cách tương tự, và đáp án cuối cùng sẽ không đổi. Vì thế, kết quả là hàm số f(x) không bao giờ nghịch biến trên khoảng (0;+c), không có giá trị nguyên m nào để hàm số f(x) nghịch biến trên khoảng đó.