Ta có công thức tính công của lực trọng trên quả nặng khi rơi từ độ cao h:
E = mgh

Trong đó:
E là công (Joule)
m là khối lượng của quả nặng (kg)
g là gia tốc trọng trường (m/s^2)
h là độ cao (m)

Với m = 100kg, g = 9.8m/s^2, h = 5m, ta có:
E = 100kg * 9.8m/s^2 * 5m = 4900J

Theo đề bài, búa máy truyền 80% công của nó cho cọc, nên công truyền cho cọc là:
E' = 0.8 * E = 0.8 * 4900J = 3920J

Công truyền cho cọc bằng công làm việc của lực cản của đất đối với cọc khi cọc bị đóng sâu vào đất:
E' = F * d

Trong đó:
F là lực cản của đất đối với cọc (N)
d là khoảng cách cọc bị đóng sâu vào đất (m)

Với d = 40cm = 0.4m, ta có:
3920J = F * 0.4m

Từ đó, ta tính được:
F = 3920J / 0.4m = 9800N

Vậy, lực cản của đất đối với cọc là 9800N.
Đáp án là B. 10000N.