Để rút gọn biểu thức P, ta sẽ thực hiện các bước sau:

a) Rút gọn biểu thức P:
P = (√x+1/√xy+1 +√xy+√x/1-√xy +1):(1-√xy+√x/xy-1 - √x+1/√xy+1)

Đầu tiên, ta sẽ rút gọn các phân số trong biểu thức P:
P = ((√x+1)(√xy-1) + (√xy+√x)(√xy+1))/((1-√xy)(xy-1) - (√x+1)(√xy+1))

Tiếp theo, ta sẽ nhân các đơn thức trong biểu thức P:
P = ((√x+1)(√xy-1) + (√xy+√x)(√xy+1))/((1-√xy)(xy-1) - (√x+1)(√xy+1))
= (√x√xy - √x + √xy√xy + √xy + √x√xy + √x)/((1-√xy)(xy-1) - (√x+1)(√xy+1))
= (2√x√xy + 2√xy + √xy√xy - √x)/((1-√xy)(xy-1) - (√x+1)(√xy+1))

Cuối cùng, ta sẽ rút gọn biểu thức P:
P = (2√xy(√x+1) + (√xy-√x))/((1-√xy)(xy-1) - (√x+1)(√xy+1))

Vậy biểu thức P đã được rút gọn.

b) Cho 1/√x + 1/√y = 6, ta cần tìm giá trị lớn nhất của P.

Để giải bài toán này, ta sẽ thực hiện các bước sau:

Gọi A = √x, B = √y, ta có A + B = 6.

Thay A và B vào biểu thức P, ta được:
P = (2AB + (B-A))/((1-AB)(A^2B^2-1) - (A+1)(B+1))

Để tìm giá trị lớn nhất của P, ta sẽ tìm giá trị lớn nhất của biểu thức P khi A và B thỏa mãn điều kiện A + B = 6.

Ta sẽ sử dụng phương pháp đạo hàm để tìm giá trị lớn nhất của P.

Đạo hàm của P theo A:
dP/dA = (2B - 1)/((1-AB)(A^2B^2-1) - (A+1)(B+1))^2

Đạo hàm của P theo B:
dP/dB = (2A + 1)/((1-AB)(A^2B^2-1) - (A+1)(B+1))^2

Để tìm giá trị lớn nhất của P, ta cần tìm điểm cực đại của P. Điểm cực đại xảy ra khi đạo hàm của P theo A và B bằng 0.

Từ đó, ta có hệ phương trình:
(2B - 1)/((1-AB)(A^2B^2-1) - (A+1)(B+1))^2 = 0
(2A + 1)/((1-AB)(A^2B^2-1) - (A+1)(B+1))^2 = 0

Giải hệ phương trình này, ta sẽ tìm được các giá trị của A và B tương ứng với điểm cực đại của P.

Sau khi tìm được các giá trị của A và B, ta thay vào biểu thức P để tính giá trị lớn nhất của P.

Lưu ý: Để giải hệ phương trình này, ta có thể sử dụng phương pháp đại số hoặc phương pháp đồ thị.