ta có:
P = (x/(x-3) - 2/(x+3) - x^2/(9-x^2)) : (x+6)/(3x+9)
P = (x/(x-3) - 2/(x+3) + x^2/(x^2-9)) : (x+6)/(3(x+3))
P = (x(x+3) - 2(x-3) + x^2) / ((x-3)(x+3)) * (3(x+3))/(x+6)
P = (x^2 + 3x - 2x + 6 + x^2) / (x-3) * 3/(x+6)
P = (2x^2 + x + 6) / (x-3) * 3/(x+6)
P = 3(2x^2 + x + 6) / ((x-3)(x+6))

a) rút gọn P:
P = 3(2x^2 + x + 6) / (x^2 + 3x - 18)

b) tính giá trị của P biết |2x - |4 - x|| = 5
trường hợp 1: 4 - x >= 0 => x <= 4
|2x - (4 - x)| = 5
|3x - 4| = 5
3x - 4 = 5 hoặc 3x - 4 = -5
3x = 9 hoặc 3x = -1
x = 3 (thỏa mãn x <= 4) hoặc x = -1/3 (thỏa mãn x <= 4)

trường hợp 2: 4 - x < 0 => x > 4
|2x - (-(4 - x))| = 5
|2x + 4 - x| = 5
|x + 4| = 5
x + 4 = 5 hoặc x + 4 = -5
x = 1 (không thỏa mãn x > 4) hoặc x = -9 (không thỏa mãn x > 4)

với x = 3 (không thuộc tập xác định của P)
với x = -1/3:
P = 3(2(-1/3)^2 + (-1/3) + 6) / ((-1/3)^2 + 3(-1/3) - 18)
P = 3(2/9 - 1/3 + 6) / (1/9 - 1 - 18)
P = 3((2 - 3 + 54)/9) / ((1 - 9 - 162)/9)
P = 3 * 53 / (-170)
P = 159 / (-170) = -159/170

c) tìm x để P có giá trị nguyên
P = (6x^2 + 3x + 18) / (x^2 + 3x - 18)
P = (6(x^2 + 3x - 18) - 15x + 126) / (x^2 + 3x - 18)
P = 6 + (-15x + 126) / (x^2 + 3x - 18)
để P nguyên thì (-15x + 126) phải chia hết cho (x^2 + 3x - 18)
=> | -15x + 126 | >= | x^2 + 3x - 18 |
thử các ước của 18: +-1, +-2, +-3, +-6, +-9, +-18
x = 0 => P = 18/-18 = -1 (nguyên)
x = 1 => P = 3(2+1+6)/(1+3-18) = 27/-14 (loại)
x = -1 => P = 3(2-1+6)/(1-3-18) = 21/-20 (loại)
x = 2 => P = 3(8+2+6)/(4+6-18) = 48/-8 = -6 (nguyên)
x = -2 => P = 3(8-2+6)/(4-6-18) = 36/-20 (loại)
x = 4 => P = 3(32+4+6)/(16+12-18) = 126/10 (loại)
x = -4 => P = 3(32-4+6)/(16-12-18) = 102/-14 (loại)
x = 5 => P = 3(50+5+6)/(25+15-18) = 183/22 (loại)
x = -5 => P = 3(50-5+6)/(25-15-18) = 153/-8 (loại)

d) tìm x để P^2 - P + 1 có giá trị nhỏ nhất
P^2 - P + 1 = (P - 1/2)^2 + 3/4
biểu thức nhỏ nhất khi P = 1/2
3(2x^2 + x + 6) / (x^2 + 3x - 18) = 1/2
6(2x^2 + x + 6) = x^2 + 3x - 18
12x^2 + 6x + 36 = x^2 + 3x - 18
11x^2 + 3x + 54 = 0
delta = 3^2 - 4 * 11 * 54 = 9 - 2376 < 0
vậy không có giá trị x nào để P = 1/2

xét hàm số f(P) = P^2 - P + 1 là parabol có bề lõm hướng lên, đỉnh tại P = 1/2
giá trị nhỏ nhất của P^2 - P + 1 đạt được khi P gần 1/2 nhất

xét P = 3(2x^2 + x + 6) / (x^2 + 3x - 18)
khi x tiến tới vô cùng, P tiến tới 3 * 2 / 1 = 6

xét đạo hàm của P theo x để tìm cực trị (phức tạp)

ta có P = 6 + (-15x + 126) / (x^2 + 3x - 18)
nếu P nguyên, P có thể là -6, -1, 0, 1, 2, 3, 4, 5, 7,...
P = -6 khi x = 2
P^2 - P + 1 = (-6)^2 - (-6) + 1 = 36 + 6 + 1 = 43

P = -1 khi x = 0
P^2 - P + 1 = (-1)^2 - (-1) + 1 = 1 + 1 + 1 = 3

thử giá trị P gần 1/2:
nếu P = 0 => x = -√(3) hoặc x = √(3)
với x = 0, P = -1 => P^2 - P + 1 = 3

vậy giá trị nhỏ nhất của P^2 - P + 1 có thể là 3