Để tính diện tích tứ giác DHCK, ta cần biết độ dài các cạnh của nó.

Gọi M là trung điểm của AB, ta có AM = MB = a/2.

Vì tam giác DAB vuông cân tại D, nên AD = DB = a/√2.

Ta có DH = DM - HM = a/2 - b.

Theo định lí Pythagoras trong tam giác vuông ABC, ta có AC² = BC² + AB², suy ra b² = a² + a²/4.

Vậy b = a√5/2.

Ta có AH = AC - CH = b - DH = a√5/2 - (a/2 - b) = a√5/2 - a/2 + a√5/2 = 2a√5/2 = a√5.

Do tam giác ABC vuông tại C, nên AH là đường cao của tam giác ABC.

Khi đó, diện tích tứ giác DHCK là diện tích hình chữ nhật DHCK trừ diện tích tam giác AHK.

Diện tích hình chữ nhật DHCK = DH x CK = (a/2 - b) x (a/2) = a²/4 - ab/2.

Diện tích tam giác AHK = 1/2 x AH x HK = 1/2 x a√5 x (a/2) = a²√5/4.

Vậy diện tích tứ giác DHCK = (a²/4 - ab/2) - (a²√5/4) = a²(1 - √5/4 - √5/2) = a²(1 - √5/4 - 2√5/4) = a²(1 - 3√5/4).

Vậy diện tích tứ giác DHCK là a²(1 - 3√5/4).