Macierz kwadratowa^x7może być interpretowana jako pewien sposób przekształcania ^-wymiarowych wektorów, mianowicie każdemu wektorowi xeRn można przyporządkować wektor y równy Ax. Działanie operacji liniowej A na wektor x przejawia się na ogół w zmianie długości wektora x (norma \\y\\2 nie jest na ogół równa normie ||*||2) oraz w zmianie kierunku wektora (wektor y nie jest zazwyczaj równoległy do wektora jc); odróżnia to operację liniową A od mnożenia wektora x przez skalar. Jeśli dla pewnego niezerowego wektora v okaże się, że wektor Av jest równoległy do v, to mówimy, że wektor o jest wektorem własnym macierzy A. Istnieje zatem pewien skalar X taki, że Av = Xv. Liczbę X nazywamy wartością własną macierzy A. Widzimy więc, że wynik działania macierzy A na wektor własny sprowadza się do pomnożenia tego wektora przez liczbę. Własność ta powoduje, że w wielu zagadnieniach mechaniki, fizyki, chemii i matematyki pożądane jest wyznaczenie wektorów i wartości własnych, gdyż umożliwia to jakościowe uproszczenie rozwiązania zagadnienia.
Sposób wyznaczenia numerycznego wektorów i wartości własnych macierzy A zależy nie tylko od jej cech szczególnych, ale także od tego, czy mamy wyznaczyć wszystkie wartości lub wektory własne, czy też tylko wartość własną o największym module lub kilka największych lub najmniejszych wartości własnych. Na przykład, stosując metodę Czebyszewa rozwiązywania układu równań Ax = b, trzeba na wstępie wskazać liczby a i p odpowiednio bliskie najmniejszej i największej wartości własnej macierzy A. W tym szczególnym przypadku nie musimy obliczać wartości własnych z dużą dokładnością, choć ma to pewien wpływ na szybkość zbieżności metody Czebyszewa.