a) Để rút gọn biểu thức P, ta nhân tử và mẫu của phân số đầu tiên với √x-1 và phân số thứ hai với √x+1, ta được:
P = [(√x+1)^2 - (√x-1)^2 - 8]/[(√x-1)^2 - (x-3) - 1]/(√x+1 - 1/√x-1)
= [(2√x)/2]/[(√x-1)^2 - x + 2]/(√x-1 + √x)/(√x+1 - √x)
= √x[(√x-1 + √x)/((√x-1)^2 - x + 2)]/[√x/(√x+1 + √x-1)]
= (√x+1 + √x-1)(√x+1 - √x-1 - x + 3)/[(√x-1)^2 - x + 2]

b) Để P nhận giá trị nguyên, ta cần phải tìm các giá trị của x sao cho tử và mẫu của biểu thức P đều là số nguyên và chia hết cho nhau.
Ta có thể thấy rằng (√x+1 + √x-1) và (√x-1)^2 - x + 2 đều là số nguyên. Vậy để P nhận giá trị nguyên, ta cần tìm các giá trị của x sao cho (√x+1 - √x-1 - x + 3) chia hết cho (√x+1 + √x-1).
Ta có:
(√x+1 + √x-1) * (√x+1 - √x-1 - x + 3) = (x+1) - (x-1) - (x^2 - 2x + 1) + 3
= -x^2 + 4
Vậy để (√x+1 - √x-1 - x + 3) chia hết cho (√x+1 + √x-1), ta cần tìm các giá trị của x sao cho -x^2 + 4 chia hết cho (√x+1 + √x-1).
Ta thử các giá trị nguyên của x từ 1 đến 10, ta được x = 2 hoặc x = 3 là các giá trị thỏa mãn yêu cầu đề bài.
Vậy các số thực x để P nhận giá trị nguyên là x = 2 hoặc x = 3.