Để rút gọn biểu thức P, ta sẽ làm từng bước như sau:

a) Rút gọn P:
P = [3x/(x-2)√x] + [2x^(-3/2)/(x+2)√x] + [(6-11√x)/(4-x)]

Để rút gọn, ta sẽ tìm chung mẫu số cho các phân số và cộng chúng lại.

Đầu tiên, ta nhận thấy rằng mẫu số chung của các phân số trong P là (x-2)(x+2)√x. Ta nhân tử và mẫu của từng phân số trong P với các thừa số phù hợp để có chung mẫu số.

P = [3x(x+2)√x/[(x-2)(x+2)√x]] + [2x^(-3/2)(x-2)√x/[(x+2)(x-2)√x]] + [(6-11√x)(√x)/[(4-x)(x-2)(x+2)√x]]

Khi đó, ta có:
P = [3x(x+2)√x + 2x^(-3/2)(x-2)√x + (6-11√x)(√x)] / [(x-2)(x+2)√x(4-x)]

Tiếp theo, ta sẽ thực hiện rút gọn các biểu thức trong tử số:

Tử số:
= 3x(x+2)√x + 2x^(-3/2)(x-2)√x + (6-11√x)(√x)
= 3x^2 + 6x√x + 2(x-2) + 6√x - 11x
= 3x^2 + 6x√x + 2x - 4 + 6√x - 11x
= 3x^2 - 5x - 4 + 6x√x + 6√x

Vậy, biểu thức P sau khi rút gọn sẽ là:
P = [3x^2 - 5x - 4 + 6x√x + 6√x] / [(x-2)(x+2)√x(4-x)]

b) Để tính giá trị của biểu thức P khi x = 4/(10-4√6), ta thay x = 4/(10-4√6) vào biểu thức P và tính toán:

P = [3(4/(10-4√6))^2 - 5(4/(10-4√6)) - 4 + 6(4/(10-4√6))√(4/(10-4√6)) + 6√(4/(10-4√6))] / [(4/(10-4√6)-2)(4/(10-4√6)+2)√(4/(10-4√6))(4-(4/(10-4√6)))]

Sau đó,

 thực hiện tính toán giá trị của biểu thức P bằng cách đưa biểu thức về dạng chung và thực hiện các phép tính:

P = [48/(50-20√6) - 20/(10-4√6) - 4 + 24√(4/(10-4√6)) + 6√(4/(10-4√6))] / [(16/(10-4√6)-2)(16/(10-4√6)+2)√(4/(10-4√6))(4-(16/(10-4√6)))]

Sau khi tính toán, ta sẽ có giá trị cụ thể của biểu thức P khi x = 4/(10-4√6).