1)
a) Ta có OA = 8cm và OB = 6cm. Áp dụng định lí Pythagoras trong tam giác vuông OAB, ta có:
AB² = OA² + OB² = 8² + 6² = 64 + 36 = 100
Vậy AB = √100 = 10cm.

b) Gọi D là trung điểm của OB. Ta có OB = 6.OC. Vì OB = 6cm, nên OC = OB/6 = 1cm.
Do đó, OD = OC + CD = 1cm + CD.
Vì C là trung điểm của AB, nên AC = CB = AB/2 = 10/2 = 5cm.
Vậy AD = OA - OC = 8cm - 1cm = 7cm.
Do đó, OD = AD - AO = 7cm - 8cm = -1cm.
Vậy CD = OD - OC = -1cm - 1cm = -2cm.
Từ đó suy ra CD = -2cm = -2. AD.
Vậy C là trung điểm của AB.

2) Gọi x là cạnh của hình vuông ban đầu.
Diện tích hình vuông ban đầu là x².
Diện tích hình vuông sau khi mở rộng là (x+4)².
Theo đề bài, (x+4)² = 4x² + 300.
Mở ngoặc và đưa các thành viên về cùng một phía, ta có:
x² + 8x + 16 = 4x² + 300.
Chuyển các thành viên về cùng một phía và đưa về dạng bình phương, ta có:
3x² - 8x - 284 = 0.
Giải phương trình này, ta được x ≈ 19.2.
Vậy cạnh của hình vuông ban đầu là 19.2m.

Để rào đủ xung quanh ao mới, ta cần cọc ở 4 đỉnh của hình vuông và 4 cọc ở giữa các cạnh của hình vuông.
Vậy tổng số cọc cần là: 4 + 4 = 8 chiếc.