Để giải bài toán này, ta cần thiết lập hệ phương trình dựa trên các thông tin đã cho.

Gọi \( v_t \) là vận tốc riêng của thuyền (km/h) và \( v_d \) là vận tốc của dòng nước (km/h).

1. Thời gian xuôi dòng 5km bằng thời gian ngược dòng 4km:
- Vận tốc xuôi dòng: \( v_t + v_d \)
- Vận tốc ngược dòng: \( v_t - v_d \)
- Thời gian xuôi dòng 5km: \( \frac{5}{v_t + v_d} \)
- Thời gian ngược dòng 4km: \( \frac{4}{v_t - v_d} \)

Theo đề bài, ta có phương trình:
\[
\frac{5}{v_t + v_d} = \frac{4}{v_t - v_d} \quad \text{(1)}
\]

2. Tổng thời gian đi xuôi dòng và ngược dòng trên khúc sông dài 40km là 4 giờ 30 phút (4.5 giờ):
- Tổng quãng đường: 40km
- Giả sử thuyền đi xuôi dòng một đoạn \( x \) km và ngược dòng một đoạn \( 40 - x \) km:
- Thời gian đi xuôi dòng: \( \frac{x}{v_t + v_d} \)
- Thời gian đi ngược dòng: \( \frac{40 - x}{v_t - v_d} \)

Tổng thời gian là 4.5 giờ:
\[
\frac{x}{v_t + v_d} + \frac{40 - x}{v_t - v_d} = 4.5 \quad \text{(2)}
\]

Giải hệ phương trình (1) và (2):

Từ phương trình (1):
\[
5(v_t - v_d) = 4(v_t + v_d)
\]
\[
5v_t - 5v_d = 4v_t + 4v_d
\]
\[
v_t = 9v_d
\]

Thay \( v_t = 9v_d \) vào phương trình (2):
\[
\frac{x}{9v_d + v_d} + \frac{40 - x}{9v_d - v_d} = 4.5
\]
\[
\frac{x}{10v_d} + \frac{40 - x}{8v_d} = 4.5
\]

Nhân cả hai vế với \( 40v_d \):
\[
4x + 5(40 - x) = 180v_d
\]
\[
4x + 200 - 5x = 180v_d
\]
\[
-x + 200 = 180v_d
\]
\[
x = 200 - 180v_d
\]

Thay \( x = 200 - 180v_d \) vào phương trình \( \frac{x}{10v_d} + \frac{40 - x}{8v_d} = 4.5 \):
\[
\frac{200 - 180v_d}{10v_d} + \frac{40 - (200 - 180v_d)}{8v_d} = 4.5
\]
\[
\frac{200 - 180v_d}{10v_d} + \frac{180v_d - 160}{8v_d} = 4.5
\]
\[
\frac{20 - 18v_d}{v_d} + \frac{180v_d - 160}{8v_d} = 4.5
\]
\[
20 - 18v_d + \frac{180v_d - 160}{8} = 4.5v_d
\]
\[
20 - 18v_d + 22.5v_d - 20 = 4.5v_d
\]
\[
4.5v_d = 4.5v_d
\]

Vậy, \( v_d = 1 \) km/h và \( v_t = 9 \) km/h.

Kết luận:
- Vận tốc riêng của thuyền \( v_t \) là 9 km/h.
- Vận tốc của dòng nước \( v_d \) là 1 km/h.