P = (x⁴ + 1)(y⁴ + 1) = x⁴y⁴ + x⁴ + y⁴ + 1
Ta có (x + y)² = x² + 2xy + y² = 10. Suy ra x² + y² = 10 - 2xy
Lại có (x² + y²)² = x⁴ + 2x²y² + y⁴ = (10 - 2xy)². Suy ra
x⁴ + y⁴ = (10 - 2xy)² - 2x²y²= 100 - 40xy + 4x²y² - 2x²y² = 100 - 40xy + 2x²y²
Thay vào biểu thức P, ta được:
P = x⁴y⁴ + 100 - 40xy + 2x²y² + 1 = x⁴y⁴ + 2x²y² - 40xy + 101
Đặt t = xy (t > 0). Vì x, y dương và x + y = √10, theo bất đẳng thức Cauchy, ta có:
xy ≤ (x + y)²/4 = (√10)²/4 = 10/4 = 2.5
Vậy 0 < t ≤2.5
Biểu thức P trở thành:
P = t⁴ + 2t² - 40t + 101
Xét hàm số f(t) = t⁴ + 2t² - 40t + 101 với 0 < t ≤ 2.5
f'(t) = 4t³ + 4t - 40 = 4(t³ + t - 10)
Nhận thấy t = 2 là một nghiệm của f'(t) = 0, vì 2³ + 2 - 10 = 8 + 2 - 10 = 0.
t³ + t - 10 = (t - 2)(t² + 2t + 5)
Vì t² + 2t + 5 = (t + 1)² + 4 > 0 với mọi t, nên f'(t) = 0 chỉ có nghiệm duy nhất t = 2.
Khi 0 < t < 2, f'(t) < 0, hàm số nghịch biến.
Khi 2 < t ≤ 2.5, f'(t) > 0, hàm số đồng biến.
Vậy hàm số f(t) đạt giá trị nhỏ nhất tại t = 2.
Pmin = f(2) = 2⁴ + 2(2²) - 40(2) + 101 = 16 + 8 - 80 + 101 = 45
Khi t = xy = 2 và x + y = √10, ta có:
x(√10 - x) = 2 <=> x² - √10x + 2 = 0
Giải phương trình bậc hai này, ta được:
x = (√10 ± √2)/2.
Vậy (x, y) = ((√10 - √2)/2, (√10 + √2)/2) hoặc ((√10 + √2)/2, (√10 - √2)/2).
Giá trị nhỏ nhất của biểu thức P là 45, đạt được khi xy = 2 và x + y = √10, tức là khi (x, y) = ((√10 - √2)/2, (√10 + √2)/2) hoặc ((√10 + √2)/2, (√10 - √2)/2).