Ta có:
P = căn(a(b+1)) + căn(b(a+1))
Áp dụng bất đẳng thức Cauchy-Schwarz, ta có:
P ≤ căn(a + b) * căn((b+1)(a+1))
= căn(a + b) * căn(ab + a + b + 1)
= căn(a + b) * căn((a + 1)(b + 1))
= căn(a + b) * căn(a + 1) * căn(b + 1)
Vì a, b > 0 và a + b ≥ 2, nên căn(a + b) ≥ căn(2) = căn(2)
Vì a, b > 0, nên căn(a + 1) > 0 và căn(b + 1) > 0
Vậy, P ≤ căn(2) * căn(a + 1) * căn(b + 1)
Đẳng thức xảy ra khi và chỉ khi a = b = 1.
Vậy, GTLN của biểu thức P là căn(2) * căn(a + 1) * căn(b + 1), với a, b > 0 và a + b ≥ 2.