Ta có các kiểu gen của hai cây cà chua là: AA, Aa, BB, Bb.

Gọi x là số cây có kiểu gen AA, y là số cây có kiểu gen Aa, z là số cây có kiểu gen BB, t là số cây có kiểu gen Bb.

Theo đề bài, ta có hệ phương trình sau:
x + y + z + t = F (số cây sau giao phấn)
x + y = 3/8F (số cây quả vàng, tròn)

Từ đó suy ra z + t = 5/8F.

Vì các gen phân li độc lập với nhau, nên xác suất để một cây có kiểu gen AA và BB là (1/2) * (1/2) = 1/4. Tương tự, xác suất để một cây có kiểu gen Aa và Bb cũng là 1/4.

Vậy ta có hệ phương trình sau:
x + z = 1/4F
y + t = 1/4F

Tổng cộng hai hệ phương trình trên, ta có:
x + y + z + t + x + z + y + t = F + 1/4F + 1/4F
2x + 2y + 2z + 2t = 5/2F
x + y + z + t = 5/4F

So sánh với hệ phương trình ban đầu, ta thấy 5/4F = F, suy ra F = 4.

Thay F = 4 vào hệ phương trình ban đầu, ta có:
x + y = 3/8 * 4
x + y = 3/2

Vì x và y là số nguyên, nên ta có hai trường hợp:
1. x = 1, y = 1
2. x = 3, y = 0

Vậy kiểu gen của hai cây cà chua là:
1. AA, Aa
2. AA, AA