Câu 1 
a/ √5(√5  + 2) - √20 =  5 + 2√5 - 2√5 = 5
b/ Đường thẳng y =mx+3 đi qua điểm A(1;5) <=> 5 = m.1 + 3 <=> m =2
c/ 3x-y=7 (1) và x+y=5 (2)
(1) <=> y = 3x - 7 (3)
Thay (3) vào (2)
       x + 3x - 7 = 5
<=> 4x = 12
<=> x =3, thay vào (3): y = 3.3 - 7 =2
Vậy nghiệm của hpt là (x,y) = (3;2)

Câu 2
x^2 - 4x + m - 1 = 0
Khi m =4, phương trình trở thành
x^2 -4x + 4 - 1 = 0
<=> x^2 - 4x + 3 = 0
<=> (x-1)(x-3) = 0
<=> x=1 hoặc x = 3
Vậy tập nghiệm của pt là S = { 1;3 }

2a

Câu 2
x^2 - 4x + m - 1 = 0
Để phương trình có 2 nghiệm pb <=> delta' > 0
<=> 2^2 - (m-1) > 0
<=> 5 - m > 0
<=> m < 5 (*)
Khi đó, pt có 2 nghiệm pb x1,x2 tuân theo định lí Vi-et
x1+x2 = 4 và x1x2 = m -1
Ta có:
x1(x1+2) + x2(x2+2) = 20
<=> (x1^2+x2^2) + 2(x1+x2) = 20
<=> (x1+x2)^2 - 2x1x2 + 2(x1+x2) = 20
<=> 4^2 - 2(m-1) + 2.4 = 20
<=> 26 - 2m = 20
<=> m = 3 ( Thỏa mãn (*))
Vậy giá trị m cần tìm là m = 3

2b

4.
Do x,y,z dương nên theo BĐT AM-GM ta có 
 x^4 + yz >= 2x^2√yz . Dấu "=" xảy ra <=> x^4 = yz
=> x^2/(x^4+yz) <=1/2√yz.
Tương tự . y^2/(y^4+zx) <= 1/2√xz 
                  z^2/(z^4+xy) <= 1/2√xy
=> P <= 1/2. (1/√xy + 1/√yz + 1/√zx) = 1/2.(√x + √y + √z)/√xyz
Ta thấy: (√x + √y +√z)^2 <= 3(x+y+z) <=3.√3(x^2+y^2+z^2)=3.√3.3xyz = 9√xyz
=>√x + √y + √z <= 3.căn bậc 4 của xyz
=> P <= 1/2.(3.căn bâc 4 của xyz) / √xyz =3/(2 căn bậc 4 của xyz) (1)
Theo giả thiết, x^2+y^2+z^2 = 3xyz
Theo AM-GM, x^2+y^2+z^2>=3. căn bậc 3 của x^2.y^2.z^2
=>3xyz > =3 căn bậc 3 của x^2.y^2.z^2
=> xyz > = 1
=> căn bậc 4 của xyz >= 1 (2)
Từ (1) và (2) => P <= 3/2
Dấu "=" xảy ra <=> x=y=z = 1
Vậy max P =3/2 <=> x=y=z=1