Wykład 9
Wykład 9
*
Dotychczas szukaliśmy różnic między
pewnymi grupami (zmienna niezależna
jakościowa)
*
Podsumowanie – poszukiwanie różnic
*
Oprócz różnic chcemy także poszukiwanie
związku pomiędzy zmiennymi – metody
regresyjne
*
Zaczniemy od najprostszej postaci –
związek między dwiema zmiennymi
ilościowymi
*
Przewidywanie
*
Spojrzenie na średnie zarobki.
*
Dowiadujemy się, ile zarabiają przeciętnie Polacy i to jest wtedy przewidywana kwota jaką zarobimy.
*
Jeśli znamy predyktory zarobków np. poziom wykształcenia to możemy przewidzieć zarobki znając
średnią grupową.
*
Skoro osoby z wykształceniem średnim zarabiają przeciętnie 4400 złotych brutto to my też
powinniśmy
*
Jeśli mamy dwie zmienne ilościowe to
posługiwanie się średnią jest mało
dokładne.
*
Znacznie lepsze jest użycie do
przewidywania modelu uzyskanego w
wyniku analizy regresji
*
Pozwala na przewidywanie poziomu
jednej zmiennej na podstawie poziomu
drugiej zmiennej.
*
Nie ma sensu przeprowadzać prostej
analizy regresji, kiedy nie ma korelacji
między zmiennymi
*
Im silniejsza korelacja między zmiennymi,
tym lepsza możliwość przewidywania
*
Analiza regresji prostoliniowej –
posługujemy się do przewidywania
matematycznym modelem linii prostej
stala
nachylenia
ˆ
B
X
B
Y
stala
nachylenia
ˆ
A
X
B
Y
X
12
11
10
9
8
7
6
5
4
3
2
1
0
Y
24
22
20
18
16
14
12
10
8
6
4
2
0
*
Jak wzrasta
wartość X o 1,
wartość Y
wzrasta o 2
*
Idealna
predykcja, w
większości
przypadków
mamy do
czynienia z
błędem predykcji
*
Pytanie badawcze: Czy wielkość
stresu kierownika jest
powiązana z liczbą podległych
mu pracowników?
*
Obie zmienne ilościowe
*
Pytanie badawcze o związek
między zmiennymi
*
Uznajemy, że zależność ta jest
proporcjonalna więc linia prosta
będzie dobrym modelem ją
opisującym.
Aby opisać dane
posługujemy się
modelem linii prostej.
Szukamy takiej linii,
której odległość od
wszystkich wyników
jest minimalna.
Określamy to za
pomocą Metody
Najmniejszych
Kwadratów
odległości punktów
od linii.
2,00
4,00
6,00
8,00
10,00
12,00
os X - liczba pracowników
0,00
2,00
4,00
6,00
8,00
10,00
12,00
o
s
Y
-
p
o
zi
o
m
s
tr
es
u
R kwadrat dla Liniowej
= 0,766
Porównanie
kwadratów odległości
punktów od
linii regresji
oraz
odległości punktu
przewidywanego od
średniej
2,00
4,00
6,00
8,00
10,00
12,00
os X - liczba pracowników
0,00
2,00
4,00
6,00
8,00
10,00
12,00
o
s
Y
-
p
o
zi
o
m
s
tr
es
u
R kwadrat dla Liniowej
= 0,766
.
Wyniki
rzeczywisty
Wyniki
przewidywan
y
Kwadraty odległości
punktów to………
Jaka statystyka?
2,00
4,00
6,00
8,00
10,00
12,00
os X - liczba pracowników
0,00
2,00
4,00
6,00
8,00
10,00
12,00
o
s
Y
-
p
o
zi
o
m
s
tr
es
u
R kwadrat dla Liniowej
= 0,766
Reszta regresji
Aby sprawdzić, czy
linia regresji jest
dobrym modelem
wykonywana jest
analiza wariancji
porównująca średni
kwadrat regresji (to
co regresja wyjaśnia)
w stosunku do
średniego kwadratu
reszt (to czego
regresja nie
wyjaśnia)
*
Istotna analiza wariancji informuje nas, że
odległości przewidywanych wyników są większe
w porównaniu do reszt.
*
A tak po ludzku?
Analiza wariancji
b
26,036
1
26,036
9,807
,049
a
7,964
3
2,655
34,000
4
Regresja
Reszta
Ogółem
Model
1
Suma
kwadratów
df
Średni
kwadrat
F
Istotność
Predyktory: (Stała), pracow
a.
Zmienna zależna: stres
b.
*
Wzór linii (dla danych surowych):
stres=0,964*liczba pracowników - 0,75
Na podstawie tego wzoru możemy przewidywać poziom stresu
innych kierowników
Na przykład – jeśli kierownik ma 40 podwładnych to zgodnie ze
wzorem 0,964*50-0,75=47,45
Oznacza to, że przewidywany poziom stresu powinien osiągnąć
około 47 punktów w kwestionariuszu. Nie musimy więc już go
mierzyć
Współczynniki
a
-,750
2,275
-,330
,763
,964
,308
,875
3,132
,049
(Stała)
pracow
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: stres
a.
*
Interpretacji zależności dokonujemy na podstawie
współczynnika standaryzowanego beta. Jest to odpowiednik
współczynnika korelacji R-Pearsona
*
Siła i kierunek zależności
*
Istotność testu t informuje nas o tym czy beta=0
*
Jeśli beta jest równa zero, to nie ma zależności prostoliniowej
*
Jeśli istotnie różni się od zera to znaczy, że mamy zależność –
wtedy interpretujemy betę
Współczynniki
a
-,750
2,275
-,330
,763
,964
,308
,875
3,132
,049
(Stała)
pracow
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: stres
a.
*
Jaka jest zatem zależność między liczbą
podległych pracowników a poziomem stresu?
*
silna ? słaba
*
dodatnia ? ujemna
Współczynniki
a
-,750
2,275
-,330
,763
,964
,308
,875
3,132
,049
(Stała)
pracow
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: stres
a.
*
Aby się dowiedzieć, czy predyktor jest
dobrym predyktorem – wyjaśnia duży
procent wariancji zmiennej
przewidywanej patrzymy na wartość r
kwadrat
Model - Podsumowanie
,875
a
,766
,688
1,62934
Model
1
R
R-kwadrat
Skorygowane
R-kwadrat
Błąd
standardowy
oszacowania
Predyktory: (Stała), pracow
a.
ogolem
regresja
SS
SS
R
2
Model - Podsumowanie
,875
a
,766
,688
1,62934
Model
1
R
R-kwadrat
Skorygowane
R-kwadrat
Błąd
standardowy
oszacowania
Predyktory: (Stała), pracow
a.
Analiza wariancji
b
26,036
1
26,036
9,807
,049
a
7,964
3
2,655
34,000
4
Regresja
Reszta
Ogółem
Model
1
Suma
kwadratów
df
Średni
kwadrat
F
Istotność
Predyktory: (Stała), pracow
a.
Zmienna zależna: stres
b.
Kolejne kroki analizy regresji:
1.
Sprawdzamy czy model linii regresji
dobrze pasuje do danych (analiza
wariancji)
2.
Sprawdzamy, czy istnieje zależność
między predyktorem a zmienną zależną
(istotność współczynnika beta)
3.
Interpretujemy współczynnik beta (siła i
kierunek zależności)
4.
Zapisujemy wzór linii dla danych
surowych
Współczynniki
a
3,002
1,124
2,670
,026
,500
,118
,816
4,239
,002
(Stała)
x3
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: y3
a.
Analiza wariancji
b
27,470
1
27,470
17,972
,002
a
13,756
9
1,528
41,226
10
Regresja
Reszta
Ogółem
Model
1
Suma
kwadratów
df
Średni
kwadrat
F
Istotność
Predyktory: (Stała), x3
a.
Zmienna zależna: y3
b.
4,00
6,00
8,00
10,00
12,00
14,00
x3
6,00
8,00
10,00
12,00
y3
R kwadrat dla Liniowej
= 0,666
Gdy
większe
niż jeden
Statystyki opisowe
7,5009
2,03058
11
9,0000
3,31662
11
y4
x4
Średnia
Odchylenie
standardowe
N
Współczynniki
a
3,002
1,124
2,671
,026
,500
,118
,817
4,243
,002
(Stała)
x4
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: y4
a.
5,00
10,00
15,00
20,00
x4
6,00
8,00
10,00
12,00
y4
R kwadrat dla Liniowej
= 0,667
4,00
6,00
8,00
10,00
12,00
14,00
x2
3,00
4,00
5,00
6,00
7,00
8,00
9,00
10,00
y2
R kwadrat dla Liniowej
= 0,666
-2
-1
0
1
2
Regresja Standaryzowana wartość przewidywana
-2
-1
0
1
R
eg
re
sj
a
R
es
zt
a
st
an
d
ar
yz
o
w
an
a
Zmienna zależna: y2
Wykres rozrzutu
-2
-1
0
1
2
Regresja Standaryzowana wartość przewidywana
-2
-1
0
1
R
eg
re
sj
a
R
es
zt
a
st
an
d
ar
yz
o
w
an
a
Zmienna zależna: y1
Wykres rozrzutu
*
Odpowiednia liczba osób badanych. Ale co
to znaczy? Tabachnick i Fidel podają, że
musi to być 50 osób plus 8 na każdy
predyktor. Jeśli mamy jedną zmienną
niezależną to powinniśmy mieć w zbiorze
danych 58 osób badanych.
*
Zmienna zależna musi mieć rozkład
normalny
*
Zmienne niezależne powinny być liniowo
powiązane ze zmienną zależną
*
Przypadki odstające i ekstremalne powinny
zostać znalezione i wyeliminowane
*
Jak dobry rozmiar ramy?
*
Wysokość ramy musi zapewniać
dostateczny dystans pomiędzy górną
rurą ramy a kroczem. Ma on
pozwolić na bezpieczne zeskoczenie
z pedałów bez przykrych
konsekwencji. W rowerze górskim
rowerzysta, kiedy stoi okrakiem nad
ramą, musi mieć możliwość
uniesienia przedniego koła co
najmniej 15 cm nad ziemię.
*
Wykres wygląda
mało
zachęcająco, ale
nie widać
żadnych
dewiantów ani
zależności
krzywoliniowej
0
1
2
3
4
5
6
7
L.KSIAZEK W DOM BIBLIOTECE R (OBECNIE)
0
20
40
60
80
100
W
Y
N
IK
W
T
E
S
C
IE
A
L
F
A
B
E
T
F
U
N
K
C
/1
99
9/
0-
10
0
Analiza wariancji
b
188548,096
1 188548,1
234,958
,000
a
768772,778
958
802,477
957320,874
959
Regresja
Reszta
Ogółem
Model
1
Suma
kwadratów
df
Średni
kwadrat
F
Istotność
Predyktory: (Stała), q163 L.KSIAZEK W DOM BIBLIOTECE R (OBECNIE)
a.
Zmienna zależna: alfa WYNIK W TESCIE ALFABET FUNKC/1999/0-100
b.
Model jest dobrze dopasowany do danych F(1,
958)=234,9; p<0,001
*
Jeśli osoba badana ma zero książek to
uzyskuje ….. punktów w teście.
*
Wraz z zakupem każdej kolejnej książki
osoba badana zyskuje 7,8 punktu w teście
*
Zależność jest dość silna i dodatnia
Współczynniki
a
25,851
1,591
16,247
,000
7,847
,512
,444
15,328
,000
(Stała)
q163 L.KSIAZEK W
DOM BIBLIOTECE
R (OBECNIE)
Model
1
B
Błąd
standardowy
Współczynniki
niestandaryzowane
Beta
Współczynniki
standaryzowa
ne
t
Istotność
Zmienna zależna: alfa WYNIK W TESCIE ALFABET FUNKC/1999/0-100
a.
*
Zmienna liczba książek pozwala wyjaśnić prawie
20% zmienności zmiennej analfabetyzm funkcjonalny
Model - Podsumowanie
,444
a
,197
,196
28,328
Model
1
R
R-kwadrat
Skorygowane
R-kwadrat
Błąd
standardowy
oszacowania
Predyktory: (Stała), q163 L.KSIAZEK W DOM BIBLIOTECE R
(OBECNIE)
a.
*
Regresja dopasowuje linię prostą –
metoda najmniejszych kwadratów –
analiza wariancji
*
Dowiadujemy się jak silny jest związek i
jaki jest jego kierunek (współczynnik
beta)
*
Dzięki wzorowi linii możemy przewidywać
wielkość zmiennej przewidywanej znając
tylko wielkość predyktora.
*
Uwaga na dewiantów i krzywoliniowość