Chcemy zatem wyznaczyć wartość pewnej charakterystyki danych populacji na podstawie próby.
Wyniki obliczane na próbie chcemy rozciągnąć na populację i wnioskować o populacji. Opisywana zależność nosi nazwę estymacji.
Poszczególne statystyki obliczane z próby takie jak np. średnia arytmetyczna z próby jest więc tylko przybliżeniem wartości przeciętnej z populacji m. W związku z tym są nazywane estymatorami.