Trong tủy xương, phần mô tại nơi hình thành các tế bào máu gốc đa năng được gọi là mô tủy.

Có hai loại tủy xương: tủy đỏ và tủy vàng. Tủy đỏ là nơi hoạt động tạo máu diễn ra tích cực. Ở trẻ em, tất cả các xương đều chứa tủy đỏ. Tuy nhiên ở người lớn, hoạt động tạo máu chỉ xảy ra chủ yếu tại các xương dẹt, và tủy đỏ ở nhiều xương được thay bằng tủy vàng. Tủy vàng có cấu trúc là mô mỡ và mô liên kết, không còn khả năng tạo máu. Tủy vàng có khả năng quay trở lại thành tủy đỏ trong trường hợp cần thiết. Phần lớn là không thể.

Ở người lớn, các xương dài có cấu trúc dạng ống, khoảng trống ở giữa được lấp đầy bởi tủy vàng. Thân xương dài cấu tạo bằng các vật liệu cứng; hai đầu xương được cấu tạo bởi các vật liệu xốp (bọt) và tủy đỏ.