Ta có:
1/a + 1/b - (√a/b - √b/a)²
= (a + b)/(ab) - (a/b - b/a)²
= (a + b)/(ab) - (a² - 2 + b²)/(ab)
= (a + b - a² + 2 - b²)/(ab)
= (2 - a² - b²)/(ab)
= (2 - (a² + b²))/(ab)
= (2 - 1)/(ab)
= 1/(ab)

Ta có: a² + b² = 1
=> 2ab = 2√(a²b²) = 2√(1 - a²)(1 - b²) ≤ 2√((1 - a)(1 - b))² = 2(1 - a)(1 - b)
=> ab ≤ (1 - a)(1 - b)

Áp dụng bất đẳng thức AM - GM, ta có:
1/(ab) = 1/(ab) + 2/(ab) ≥ 2√(1/(ab) * 2/(ab)) = 2√2

Vậy ta có: 1/a + 1/b - (√a/b - √b/a)² ≥ 2√2.