Cho hình vuông OABC cạnh a. Dựng đường tròn tâm O, bán kính OA. M là điểm nằm trên cung nhỏ AC. Gọi H, I, K là hình chiếu vuông góc của M trên BA, AC, CB

a) Ta có:
- Diện tích hình chữ nhật BHMK là S = BH * HM = BH * MK.
- Ta có BH = BO - OH = a - a/√2 = a(1 - 1/√2).
- Ta có HM = HI = MI = a/√2.
- Ta có MK = MC - KC = a - a/√2 = a(1 - 1/√2).

Vậy diện tích hình chữ nhật BHMK là: S = a(1 - 1/√2) * a(1 - 1/√2) = a^2(1 - 1/√2)^2.

b) Để tìm diện tích lớn nhất của hình chữ nhật BHMK, ta cần tìm giá trị lớn nhất của hàm số S = a^2(1 - 1/√2)^2.

Đạo hàm của hàm số S theo a:
S' = 2a(1 - 1/√2)^2 + a^2 * 2(1 - 1/√2)(-1/√2) = 2a(1 - 1/√2)(1 - 1/√2 - √2) = 0.

Suy ra a = 0 hoặc a = 2√2 - 2.

Vậy để diện tích hình chữ nhật BHMK lớn nhất, ta cần lấy a = 2√2 - 2.

Kết quả: Diện tích lớn nhất của hình chữ nhật BHMK là S = (2√2 - 2)^2(1 - 1/√2)^2.