Để thu gọn các đa thức, ta sẽ nhóm các hạng tử tương tự lại với nhau và thực hiện phép cộng hoặc trừ.

### a) Đa thức:
\[ 5x^4 - 2x^3y + 20xy^3 + 6x^3y - 3x^2y^2 + xy^3 - y^4 \]

Ta nhóm các hạng tử tương tự:
- Các hạng tử với \( x^4 \): \( 5x^4 \)
- Các hạng tử với \( x^3y \): \( -2x^3y + 6x^3y = 4x^3y \)
- Các hạng tử với \( xy^3 \): \( 20xy^3 + xy^3 = 21xy^3 \)
- Các hạng tử với \( x^2y^2 \): \( -3x^2y^2 \)
- Hạng tử còn lại: \( -y^4 \)

Vậy, đa thức sau khi thu gọn là:
\[ 5x^4 + 4x^3y + 21xy^3 - 3x^2y^2 - y^4 \]

### b) Đa thức:
\[ 0.6x^3 + 2x^2 - 2.7xy^2 + 0.4x^3 + 1.7xy^2 \]

Ta nhóm các hạng tử tương tự:
- Các hạng tử với \( x^3 \): \( 0.6x^3 + 0.4x^3 = 1.0x^3 \) (hoặc \( x^3 \))
- Các hạng tử với \( x^2 \): \( 2x^2 \)
- Các hạng tử với \( xy^2 \): \( -2.7xy^2 + 1.7xy^2 = -1.0xy^2 \) (hoặc \( -xy^2 \))

Vậy, đa thức sau khi thu gọn là:
\[ x^3 + 2x^2 - xy^2 \]

Hy vọng các kết quả trên sẽ giúp bạn!