Để giải bài toán này, chúng ta sẽ lần lượt thực hiện các bước như sau:

### a) Tính diện tích tam giác ABD

Diện tích của tam giác ABD có thể được tính bằng công thức:
\[ S_{ABD} = \frac{1}{2} \times AD \times BD \]

Theo đề bài, ta có:
\[ AD = 5 \]
\[ BD = 6 \]

Do đó:
\[ S_{ABD} = \frac{1}{2} \times 5 \times 6 = \frac{1}{2} \times 30 = 15 \]

Vậy diện tích tam giác ABD là 15.

### b) Tính AC

Để tính AC, chúng ta cần sử dụng các thông tin về sin và cos đã cho. Đầu tiên, ta cần xác định các góc và cạnh liên quan.

Ta có:
\[ \sin A = \frac{3}{5} \]
\[ \cos C = \frac{4}{5} \]

Sử dụng định lý Pythagoras trong tam giác vuông ABD, ta có:
\[ AB^2 = AD^2 + BD^2 \]
\[ AB^2 = 5^2 + 6^2 = 25 + 36 = 61 \]
\[ AB = \sqrt{61} \]

Bây giờ, ta cần tính AC. Sử dụng định lý sin trong tam giác ABC:
\[ \frac{AC}{\sin B} = \frac{AB}{\sin C} \]

Ta cần tính \(\sin B\) và \(\sin C\). Ta biết rằng:
\[ \cos C = \frac{4}{5} \]
Do đó:
\[ \sin C = \sqrt{1 - \cos^2 C} = \sqrt{1 - \left(\frac{4}{5}\right)^2} = \sqrt{1 - \frac{16}{25}} = \sqrt{\frac{9}{25}} = \frac{3}{5} \]

Vì tam giác ABC là tam giác nhọn, nên \(\sin B\) có thể được tính từ tổng các góc trong tam giác:
\[ \sin B = \sin (180^\circ - A - C) = \sin (A + C) \]

Sử dụng công thức cộng góc cho sin:
\[ \sin (A + C) = \sin A \cos C + \cos A \sin C \]

Ta đã biết:
\[ \sin A = \frac{3}{5} \]
\[ \cos C = \frac{4}{5} \]
\[ \sin C = \frac{3}{5} \]

Ta cần tính \(\cos A\). Sử dụng định lý Pythagoras cho sin và cos:
\[ \cos A = \sqrt{1 - \sin^2 A} = \sqrt{1 - \left(\frac{3}{5}\right)^2} = \sqrt{1 - \frac{9}{25}} = \sqrt{\frac{16}{25}} = \frac{4}{5} \]

Do đó:
\[ \sin B = \sin A \cos C + \cos A \sin C = \frac{3}{5} \times \frac{4}{5} + \frac{4}{5} \times \frac{3}{5} = \frac{12}{25} + \frac{12}{25} = \frac{24}{25} \]

Bây giờ, ta có thể tính AC:
\[ \frac{AC}{\sin B} = \frac{AB}{\sin C} \]
\[ AC = \frac{AB \sin B}{\sin C} = \frac{\sqrt{61} \times \frac{24}{25}}{\frac{3}{5}} = \frac{\sqrt{61} \times 24}{25} \times \frac{5}{3} = \frac{\sqrt{61} \times 24 \times 5}{75} = \frac{\sqrt{61} \times 8}{5} \]

Vậy:
\[ AC = \frac{8\sqrt{61}}{5} \]

Vậy cạnh AC là \(\frac{8\sqrt{61}}{5}\).