Để chứng minh rằng \(a^2 + b^2 + c^2 = \frac{3}{2}\) khi \(a, b, c > 0\) và \(a\sqrt{1 - b^2} + b\sqrt{1 - c^2} + c\sqrt{1 - a^2} = \frac{3}{2}\), chúng ta có thể làm theo các bước sau:

1. **Đặt \(a = \sin A\), \(b = \sin B\), \(c = \sin C\)** với \(A, B, C\) là các góc trong một tam giác vuông. Điều này có nghĩa là \(A + B + C = \frac{\pi}{2}\).

2. **Sử dụng đẳng thức đã cho**:
\[
a\sqrt{1 - b^2} + b\sqrt{1 - c^2} + c\sqrt{1 - a^2} = \frac{3}{2}
\]
Thay \(a = \sin A\), \(b = \sin B\), \(c = \sin C\) vào, ta có:
\[
\sin A \sqrt{1 - \sin^2 B} + \sin B \sqrt{1 - \sin^2 C} + \sin C \sqrt{1 - \sin^2 A} = \frac{3}{2}
\]
Vì \(1 - \sin^2 x = \cos^2 x\), ta có:
\[
\sin A \cos B + \sin B \cos C + \sin C \cos A = \frac{3}{2}
\]

3. **Sử dụng công thức lượng giác**:
\[
\sin A \cos B = \frac{1}{2} (\sin(A + B) + \sin(A - B))
\]
và tương tự cho các cặp khác. Tuy nhiên, để đơn giản hóa, ta có thể sử dụng một cách tiếp cận khác.

4. **Sử dụng bất đẳng thức Cauchy-Schwarz**:
\[
(a\sqrt{1 - b^2} + b\sqrt{1 - c^2} + c\sqrt{1 - a^2})^2 \leq (a^2 + b^2 + c^2)((1 - b^2) + (1 - c^2) + (1 - a^2))
\]
\[
\left(\frac{3}{2}\right)^2 \leq (a^2 + b^2 + c^2)(3 - (a^2 + b^2 + c^2))
\]
\[
\frac{9}{4} \leq (a^2 + b^2 + c^2)(3 - a^2 - b^2 - c^2)
\]

5. **Đặt \(x = a^2 + b^2 + c^2\)**:
\[
\frac{9}{4} \leq x(3 - x)
\]
Giải phương trình bậc hai:
\[
x(3 - x) = \frac{9}{4}
\]
\[
3x - x^2 = \frac{9}{4}
\]
\[
4x^2 - 12x + 9 = 0
\]
\[
(2x - 3)^2 = 0
\]
\[
2x - 3 = 0
\]
\[
x = \frac{3}{2}
\]

Vậy ta có \(a^2 + b^2 + c^2 = \frac{3}{2}\).