Rozróżniamy:
• szpik kostny żółty (łac. medulla ossium flava), składający się głównie z komórek tłuszczowych (stąd barwa), którego zawartość wraz z wiekiem każdego osobnika wzrasta. Ten rodzaj szpiku jest hemopoetycznie nieczynny.
• szpik kostny czerwony (łac. medulla ossium rubra), który jest miejscem powstawania elementów morfotycznych krwi, takich jak erytrocyty, leukocyty (głównie granulocyty), trombocyty.
U dziecka szpik kostny czerwony wypełnia wszystkie kości. Z biegiem czasu czerwony szpik przekształca się w żółty tak, że u osób dorosłych czerwony szpik kostny występuje jedynie w kościach płaskich: mostku, trzonach kręgów, żebrach, kościach czaszki, kościach miednicy i łopatkach oraz w nasadach kości długich. W przypadku niedokrwistości szpik żółty może zostać zastąpiony czerwonym.
Podstawową jednostką budulcową szpiku kostnego jest tkanka siateczkowata pochodzeń a mezenchymalnego (rodzaj tkanki łącznej) oraz naczynia włosowate o specjalnej budowie - o cienkich ściankach i zatokowych poszerzeniach. Elementy siateczki tworzą na kształt sieci, w której oczkach zawieszają się komórki występujące w szpiku:
• erytroblasty
• komórłc tłuszczowe
• megakćriocyty
• mielocyty
• osteoblasty
• osteoklasty
Szpik zawiera też nerwy i naczynia chłonne.