Để giải bài toán này, ta đặt số học sinh đăng ký dự thi vào trường A là \( x \) và số học sinh đăng ký vào trường B là \( y \). Ta có các phương trình sau:

1. \( x + y = 1850 \) (tổng số học sinh đăng ký)
2. Tỉ lệ trúng tuyển của trường A là 30%, nên số học sinh trúng tuyển vào trường A là \( 0,3x \).
3. Tỉ lệ trúng tuyển của trường B là 80%, nên số học sinh trúng tuyển vào trường B là \( 0,8y \).
4. Tổng số học sinh trúng tuyển của cả hai trường là 680, nên ta có thêm phương trình:
\[
0,3x + 0,8y = 680
\]

Bây giờ ta có hệ phương trình:
\[
\begin{cases}
x + y = 1850 \\
0,3x + 0,8y = 680
\end{cases}
\]

Từ phương trình đầu tiên, ta có:
\[
y = 1850 - x
\]

Thay vào phương trình thứ hai:
\[
0,3x + 0,8(1850 - x) = 680
\]

Giải phương trình này:
\[
0,3x + 1480 - 0,8x = 680
\]
\[
-0,5x + 1480 = 680
\]
\[
-0,5x = 680 - 1480
\]
\[
-0,5x = -800
\]
\[
x = \frac{800}{0,5} = 1600
\]

Vậy số học sinh đăng ký vào trường A là \( x = 1600 \).

Sử dụng phương trình \( y = 1850 - x \) để tìm \( y \):
\[
y = 1850 - 1600 = 250
\]

Vậy:
- Số học sinh đăng ký vào trường A là **1600**.
- Số học sinh đăng ký vào trường B là **250**.