Để rút gọn biểu thức \((\sin a + \cos a)^2 + (\sin^2 a - \cos^2 a)^2\), chúng ta sẽ thực hiện từng bước tính toán:

1. **Tính \((\sin a + \cos a)^2\)**:

\[
(\sin a + \cos a)^2 = \sin^2 a + 2\sin a \cos a + \cos^2 a
\]

Vì biết rằng \(\sin^2 a + \cos^2 a = 1\), ta có:

\[
= 1 + 2\sin a \cos a
\]

2. **Tính \((\sin^2 a - \cos^2 a)^2\)**:

\[
(\sin^2 a - \cos^2 a)^2 = \sin^4 a - 2\sin^2 a \cos^2 a + \cos^4 a
\]

Ta có thể sử dụng đồng nhất thức:

\[
\sin^4 a + \cos^4 a = (\sin^2 a + \cos^2 a)^2 - 2\sin^2 a \cos^2 a = 1 - 2\sin^2 a \cos^2 a
\]

Vậy ta có:

\[
(\sin^2 a - \cos^2 a)^2 = (1 - 2\sin^2 a \cos^2 a) - 2\sin^2 a \cos^2 a = 1 - 4\sin^2 a \cos^2 a
\]

3. **Kết hợp lại**:

Bây giờ ta kết hợp lại hai phần đã tính:

\[
(\sin a + \cos a)^2 + (\sin^2 a - \cos^2 a)^2 = (1 + 2\sin a \cos a) + (1 - 4\sin^2 a \cos^2 a)
\]

\[
= 2 + 2\sin a \cos a - 4\sin^2 a \cos^2 a
\]

4. **Sử dụng công thức \(\sin 2a = 2 \sin a \cos a\)**:

Đặt \(x = \sin a \cos a\), vậy ta có:

\[
= 2 + \sin 2a - 4x^2
\]

Với \(x = \frac{1}{2}\sin 2a\), ta có \(x^2 = \frac{1}{4}\sin^2 2a\), vậy:

\[
= 2 + \sin 2a - \sin^2 2a
\]

Đây là dạng tối giản nhất của biểu thức trên.

**Kết luận**:
Vậy biểu thức rút gọn là:

\[
2 + \sin 2a - \sin^2 2a
\]