Metoda Jacobiego jest metodą iteracyjną i pozwala nam obliczyć układ n równań z n niewiawiadomymi Ax = b. Wektor x0 będący początkowym przybliżeniem rozwiązania układu będzie dany (zwykle przyjmuje się go jako wektor złożony z samych zer). Kolejne przybliżenia będziemy obliczać według następującego wzoru:
xn+1 = Mxn + Nb,
(indeksy n oznaczają tutaj numer iteracji)
gdzie M = I - NA, N jest pewną macierzą kwadratową, I to macierz jednostkowa (złożona z samych zer oprócz głównej przkątnej na której znajdują się jedynki). Macierz współczynników A rozłożymy na sumę trzech macierzy A = L + D + U, gdzie L jest macierzą w której znajdują się elementy których numer wiersza jest większy od numeru kolumny, D to macierz diagonalna z elementami tylko na głównej przekątnej, a U to macierz, w której znajdują się elementy których numery wiersza są mniejsze od numerów kolumny. Można to zapisać następująco:
W metodzie Jacobiego przyjmiemy, że N=D-1, to wówczas M = -D-1(L+U). By zastosować tą metodę należy najpierw tak zamienić kolejność równań układu, aby na głównej przekątnej były elementy różne od zera. Macierz D-1 otrzymamy po podniesieniu do potęgi -1 wszystkich wartośći na głównej przekątnej macierzy D. Metoda ta jest zbieżna dla dowolnego przybliżenia początkowego rozwiązania x0, jeśli promil spektralny -D-1(L+U) jest mniejszy od jeden (promil spktralny to największa wartość bezwzględna z wartości własnej macierzy). W przeciwnym wypadku nie dla każdego przybliżenia początkowego otrzymamy rozwiązanie układu.
Przykład
Obliczymy następujący układ równań:
4x1 - x2 - 0.2x3 + 2x4 = 30
-1x1 + 5x2 - 2x4 = 0
0.2x1 + x2 + 10x3 - x4 = -10
- 2x2 - x3 + 4x4 = 5
Zapiszmy go teraz w postaci Ax = b
Podzielmy teraz macierz A na sumę macierzy L + D + U
Obliczmy teraz macierz N = D-1
A teraz kolejno M = -D-1(L+U) = -N(L+U).
Rozpoczynamy od zerowego przybliżenia czyli x10 = 0, x20 = 0, x30 = 0, x40 = 0
Obliczmy pierwszą iterację metody, według przytoczonego na początku wzoru:
x11 = 7,5 + 0,25x20 + 0,05x30 - 0,5x40
x11 = 7,5
x21 = 0 + 0,2x10 + 0,4x40
x21 = 0
x31 = -1 - 0,02x10 - 0,1x20 + 0,1x40
x31 = -1
x41 = 1,25 + 0,5x20 + 0,25x30
x41 = 1,25
Kolejna iteracja
x12 = 7,5 + 0,25x21 + 0,05x31 - 0,5x41
x12 = 6,825
x22 = 0 + 0,2x11 + 0,4x41
x22 = 2
x32 = -1 - 0,02x11 - 0,1x21 + 0,1x41
x32 = -1,025
x42 = 1,25 + 0,5x21 + 0,25x31
x42 = 1
Można teraz obliczyć kolejną iterację. Każda z nich przybliża nas do dokładnego wyniku.