Politechnika Świętokrzyska
Metody obliczeniowe
Grupa: 3ID13B
A117. Paweł Markiewicz
Dawid Majka
1. Teoria
Metoda najmniejszych kwadratów  standardowa metoda przybliżania rozwiązań układów
nadokreślonych, tzn. zestawu równań, w którym jest ich więcej niż zmiennych. Nazwa  najmniejsze
kwadraty oznacza, że końcowe rozwiązanie tą metodą minimalizuje sumę kwadratów błędów przy
rozwiązywaniu każdego z równań.
W statystyce wykorzystuje siÄ™ jÄ… do estymacji i wyznaczania linii trendu na podstawie zbioru danych
w postaci par liczb. Najczęściej jest stosowana przy regresji liniowej, ale może też być stosowana do
statystycznego wyznaczania parametrów nieliniowych linii trendu.
Regresja liniowa
Żądamy minimalizacji funkcji Ç2, która mierzy odchylenie zadanej zależnoÅ›ci funkcyjnej od punktów
doÅ›wiadczalnych. W przypadku funkcji liniowej f(x) = ax + b, funkcja Ç2 sprowadza siÄ™ do
gdzie à to odchylenie standardowe (niepewność pomiaru) danego punktu pomiarowego (w zmiennej
i
y); czasami używa się notacji Aby znalez
ć minima tej funkcji ze względu na parametry a i b,
różniczkuje się po a i b i przyrównuje do 0:
Można te warunki przepisać w wygodniejszej do liczenia postaci, wprowadzając następujące
wielkości
Równania powyższe przepisane w nowych zmiennych po uporządkowaniu mają postać
aS + bS = S ,
x y
aS + bS = S .
xx x xy
Rozwiązaniem tego układu równań liniowych jest
W celu obliczenia niepewności uzyskanych wartości współczynników a i b, korzysta się ze wzoru na
błąd pośredni (różniczka zupełna) funkcji zależnej od parametrów f(yi) (a(yi),b(yi)), przyjmując, że
niepewność pomiarowa wynika tylko z niepewności zmiennej y.
Po zastosowaniu tego wzoru do współczynników a i b (czyli obliczeniu pochodnych, podniesieniu do
kwadratu) uzyskuje się wzór na niepewności
Gdzie to odchylenie standardowe zmiennej y (dla jednego pomiaru), które może być oszacowane na
podstawie odchyleń punktów od prostej.
Przypadek klasyczny
Gdy odchylenie standardowe (niepewność pomiaru) wszystkich punktów pomiarowych jest
jednakowe, regresję nazywa się regresją nieważoną (klasyczną lub pierwszego rodzaju), wówczas
odchylenie standardowe może być wyłączone przed znak sumowania i upraszcza się we wzorach na
współczynniki a, b i inne parametry regresji.
PrzyjmujÄ…c oznaczenia:
Współczynniki prostej określają wzory:
Odchylenie standardowe dane jest za pomocą wzorów:
gdzie to suma odchyleń standardowych wszystkich pomiarów określona na podstawie analizy
niepewności pomiarowej lub kwadratów odchyleń punktów od prostej regresji,
lub w postaci sum,
Współczynnik korelacji liniowej Pearsona określa wzór:
Współczynnik, którego wartość mieści się w zakresie od  1 do 1 włącznie, jest bezwymiarowym
wskaz
nikiem odzwierciedlającym stopień liniowej zależności pomiędzy dwoma zbiorami danych.
Wartości  1 i 1 odpowiadają idealnemu ułożeniu punktów na prostej, 0 oznacza brak korelacji między
zmiennymi.
2. Program
public static void main(String[] args) {
double S0 = 0, S1 = 0, S2 = 0, T0 = 0, T1 = 0, a0 = 0, a1 = 0;
double[][] t = new double[8][2];
t[0][0] = 1.2;
t[0][1] = -10.85;
t[1][0] = 2.0;
t[1][1] = -6.15;
t[2][0] = 2.8;
t[2][1] = -4.14;
t[3][0] = -3.6;
t[3][1] = -3.02;
t[4][0] = 4.4;
t[4][1] = -2.30;
t[5][0] = 5.2;
t[5][1] = -1.81;
t[6][0] = 6.0;
 t[6][1] = -1.45;
t[7][0] = 6.8;
t[7][1] = -1.17;
S0 = t.length;
for (int i = 0; i < t.length; i++) {
S1 += t[i][0];
S2 += Math.pow(t[i][0], 2);
T0 += t[i][1];
T1 += t[i][0] * t[i][1];
}
System.out.printf("S0: %f, S1:%f, S2:%f, T0: %f, T1: %f", S0, S1, S2,
T0, T1);
System.out.println("\nRównania:\nS0*a0 + S1*a1 = T0\nS1*a0 + S2*a1 =
T1");
a1 = ((T1 * S0) / (-(S1 * S1) + S0 * S2))
- ((S1 * T0) / (-(S1 * S1) + S0 * S2));
a0 = (T0 / S0) - ((S1 * a1) / S0);
System.out.println("a0 =" + a0 + ", a1 =" + a1);
System.out.printf("f(x) = %f + %f * x", a0, a1);
}
3. Konsola
4. Wykres
0,1
0
-7 -6 -5 -4 -3 -2 -1 0
-0,1
-0,2
-0,3
-0,4
-0,5
-0,6
-0,7
-0,8
-0,9
Bibliografia
http://pl.wikipedia.org/wiki/Metoda_najmniejszych_kwadrat%C3%B3w