Để phương trình có hai nghiệm, ta cần có \( \Delta = 8^2 - 4 \cdot 1 \cdot (m-1) > 0 \).

Suy ra, \( m < 17 \).

Để tìm giá trị nhỏ nhất của biểu thức \( A \), ta có thể sử dụng bất đẳng thức AM-GM:

\( A = (x_1^2 - 1)(x_2^2 - 1) + 2087 \geq 2\sqrt{(x_1^2 - 1)(x_2^2 - 1)} + 2087 \).

Đặt \( y = x^2 - 1 \), ta có \( A \geq 2\sqrt{y_1y_2} + 2087 \).

Áp dụng bất đẳng thức AM-GM cho \( y_1 = x_1^2 - 1 \) và \( y_2 = x_2^2 - 1 \), ta có:

\( A \geq 2\sqrt{y_1y_2} + 2087 \geq 2 \cdot 2\sqrt{y_1y_2} + 2087 = 4\sqrt{y_1y_2} + 2087 \).

Đặt \( z = \sqrt{y_1y_2} \), ta có \( A \geq 4z + 2087 \).

Để tìm giá trị nhỏ nhất của \( A \), ta cần tìm giá trị nhỏ nhất của \( z \).

Áp dụng bất đẳng thức AM-GM cho \( y_1 \) và \( y_2 \), ta có:

\( \sqrt{y_1y_2} \leq \frac{y_1 + y_2}{2} = \frac{x_1^2 + x_2^2 - 2}{2} = \frac{(x_1 + x_2)^2 - 2}{2} \).

Với \( x_1 + x_2 = 8 \) và \( x_1x_2 = m - 1 \), ta có:

\( \sqrt{y_1y_2} \leq \frac{(x_1 + x_2)^2 - 2}{2} = \frac{8^2 - 2}{2} = 31 \).

Vậy giá trị nhỏ nhất của \( A \) là \( 4 \cdot 31 + 2087 = 2211 \).

Vậy để biểu thức \( A \) đạt giá trị nhỏ nhất, ta cần \( m < 17 \) và giá trị nhỏ nhất của \( A \) là \( 2211 \).