Để tìm đa thức \( R \) trong phương trình:

\[
R - (x^5 + xy + 0.3y^2 - x^2y^2 - 2) = x^2y^2 + 5 - 1.3y^2,
\]

ta có thể bắt đầu bằng cách đơn giản hóa phương trình bên phải.

Tính toán bên phải:

\[
x^2y^2 + 5 - 1.3y^2 = x^2y^2 + (5 - 1.3y^2) = x^2y^2 + 5 - 1.3y^2.
\]

Bây giờ, chúng ta có thể viết lại phương trình:

\[
R - (x^5 + xy + 0.3y^2 - x^2y^2 - 2) = x^2y^2 + 5 - 1.3y^2.
\]

R có thể được tính bằng cách chuyển các thành phần còn lại sang bên phải:

\[
R = (x^5 + xy + 0.3y^2 - x^2y^2 - 2) + (x^2y^2 + 5 - 1.3y^2).
\]

Kết hợp các thành phần, ta có:

\[
R = x^5 + xy + 0.3y^2 - 2 + 5 - 1.3y^2.
\]

Tính toán thêm:

\[
R = x^5 + xy + (0.3 - 1.3)y^2 + 3 = x^5 + xy - 1y^2 + 3 = x^5 + xy - y^2 + 3.
\]

Vậy đáp án cuối cùng là:

**D. \( x^5 + xy - y^2 + 3 \)**.