Để tính được số sách cửa hàng bán được trong ba ngày hội chợ sách, ta cần tìm số sách ban đầu của cửa hàng.

Gọi x là số sách ban đầu của cửa hàng.

Ngày thứ nhất, cửa hàng bán được 1/5 số sách và 16 quyển:
1/5x + 16 = số sách còn lại sau ngày thứ nhất.

Ngày thứ hai, cửa hàng bán được 3/10 số sách còn lại và 20 quyển:
3/10(1/5x + 16) + 20 = số sách còn lại sau ngày thứ hai.

Ngày thứ ba, cửa hàng bán được 3/4 số sách còn lại và 30 quyển cuối cùng:
3/4(3/10(1/5x + 16) + 20) + 30 = số sách còn lại sau ngày thứ ba.

Để tìm x, ta giải phương trình trên:

3/4(3/10(1/5x + 16) + 20) + 30 = x

Sau khi giải phương trình, ta sẽ tìm được giá trị của x, tức là số sách ban đầu của cửa hàng.

Sau đó, ta tính số sách cửa hàng đã bán được trong ba ngày hội chợ sách:

Ngày thứ nhất: 1/5x + 16
Ngày thứ hai: 3/10(1/5x + 16) + 20
Ngày thứ ba: 3/4(3/10(1/5x + 16) + 20) + 30