Wykonując pomiary tych dwu wielkości x i y uzyskujemy pary liczb (x_i, y_i) i naszym zadaniem jest znaleźć równanie linii prostej (tzn. parametry a i b w równaniu prostej), najlepiej "pasującej" do nich. Niech równanie to będzie miało postać

a "dopasowanie" zgodnie z metodą najmniejszych kwadratów oznacza, że:

gdzie a i b są emiprycznymi współczynnikami regresji liniowej.

Jak łatwo zauważyć, wyrażenie w nawiasie w tym równaniu jest odchyleniem punktu eksperymentalnego (liczonym wzdłuż osi y) od odpowiadającej mu wartości wynikającej z równania prostej. Poszukując ekstremum związanego powyższego równania udowadnia się, że :

gdzie i = 1,2,3,...,n, czyli n jest ilością par punktów
.

Na odchylenie standardowe S_a i S_b, będące miarą niepewności pomiarowych współczynników regresji a i b otrzymuje się następujące równania :

Kryterium tego, jak nasze punkty pomiarowe (x_i,y_i) potwierdzają liniową zależność pomiędzy wielkościami x i y, stanowi wartość tzw. współczynnika korelacji liniowej ρ. Jego wartość zmienia się w granicach od 1 do 0. Gdy |ρ| = 1, to dopasowanie jest idealne, wszystkie punkty pomiarowe leżą na prostej. Gdy ρ = 0, to zależność liniowa pomiędzy x_i i y_i nie istnieje. W pomiarach fizycznych wartość współczynnika korelacji r jest zwykle większa niż 0,98. Wzór na współczynnik korelacji przdstawia się następująco :

• 
  
  

równanie prostej regresji y= 0.06433x + 6.822

odchylenie standardowe S(a)= 0.001667

odchylenie standardowe S(b)= 0.04243

wspolczynik korelacji linowej p= 0.9973

równanie prostej regresji y= 0.06433x + 6.822

odchylenie standardowe S(a)= 0.001667

odchylenie standardowe S(b)= 0.04243

wspolczynik korelacji linowej p= 0.9973

• 
  

równanie prostej regresji y=0.00003548x -0.0001336

odchylenie standardowe S(a)= 1.159 *10^-6

odchylenie standardowe S(b)= 0.0295 *10^-3

wspolczynik korelacji linowej p= 0.9958

---