Cách làm của người trả lời câu hỏi này sử dụng kiến thức cấp 3, do mình lên cấp 2 nên mình chưa hiểu gì.
Bây giờ tôi mới nghĩ ra được cách này.
      P = xyz/(x+y) - z(z-8) + 3xy
=> P - 16 = xy(4-x-y)/(x+y) - z^2 + 8z - 16 + 3xy
=> P - 16 = 4xy/(x+y) - xy(x+y)/(x+y) - (4-z)^2 + 3xy
=> P - 16 = 4xy/(x+y) - xy - (x+y)^2 + 3xy
=> P - 16 = 4xy/(x+y) - xy - x^2 - 2xy - y^2 + 3xy
=> P - 16 = 4xy/(x+y) - (x^2 + y^2) (1)
+ Tìm GTLN: P - 16 <= [(x+y)^2]/(x+y) - [(x+y)^2]/ 2
                                   = (x+y) - [(x+y)^2]/2 = 1/2.(x+y)(2-x-y) <= 1/8. (x+y+2-x-y)^2 = 1/8. 2^2 = 1/2
=> P <= 33/2. Dấu '=' xảy ra khi x=y=1/2 và z=3
+ Tìm GTNN: Do x+y+z=4 và x, y, z >= 0 nên 0<= x, y <= 4 => x(x-4) <= 0 và y(y-4)<=0 => x^2 + y^2 <= 4(x+y) <= 4.4=16. (2)
Do x, y >= 0 nên 4xy/(x+y) >= 0 (3)
Từ (1), (2), (3) => P - 16 >= 0 - 16 = -16 => P >= 0. Dấu '=' xảy ra khi z = 0 và (x; y) = (4; 0) hoặc (x; y) = (0; 4)
Vậy GTNN của P là 0, đạt khi (x; y; z) = (0; 4; 0) hoặc (x; y; z) = (4; 0; 0)
       GTLN của P là 33/2, đạt khi (x; y; z) = (1/2; 1/2; 3)