Metody Probabilistyczne i Statystyka
Metody Probabilistyczne i Statystyka
Wykład 1
Dr Dominik Krężołek
Katedra Demografii i Statystyki Ekonomicznej
Wydział Informatyki i Komunikacji
301 D
2
Plan wykładów:
1. Podstawowe wiadomości z rachunku prawdopodobieństwa. Zmienne
losowe. Procesy stochastyczne.
2. Wybrane rozkłady zmiennych losowych. Twierdzenia graniczne.
3. Wprowadzenie do zagadnień wnioskowania statystycznego.
Własności estymatorów.
4. Estymacja punktowa i przedziałowa podstawowych parametrów
populacji.
5. Weryfikacja hipotez statystycznych.
6. Wybrane parametryczne testy istotności.
7. Wybrane testy nieparametryczne.
3
Literatura:
" Literatura podstawowa:
�% Fisz M., Rachunek prawdopodobieństwa i statystka matematyczna, PWN, 1975
�% Aczel A. D., Statystyka w zarządzaniu, PWN, 2000
�% Kończak G., Trzpiot G., Metody statystyczne z wykorzystaniem programów
�% Kończak G., Trzpiot G., Metody statystyczne z wykorzystaniem programów
komputerowych. Wydawnictwo Akademii Ekonomicznej
w Katowicach, 2004
" Literatura uzupełniająca:
�% Krysicki W., Bartos J., Dyczka W., Królikowska K., Wasilewski M., Rachunek
prawdopodobieństwa i statystyka matematyczna w zadaniach. Cz. II. Statystyka
matematyczna. PWN
�% Krzyśko M., Statystyka matematyczna. Wydawnictwo Naukowe Uniwersytetu Adama
Mickiewicza w Poznaniu, 2004
4
Algebra zbiorów
" Sumą A1 + A2 + & + An zbiorów A1, A2, & , An określa się zbiór
składający się z elementów należących przynajmniej do jednego
z tych zbiorów:
n
A1 *" A2 *"...*" An = An
U
i=1
5
Algebra zbiorów
" Iloczynem A1A2& An zbiorów A1, A2, & , An określa się zbiór
składający się z elementów należących do każdego ze zbiorów
A1, A2, & , An:
n
A1 )" A2 )"...)" An = An
I
i=1
6
Algebra zbiorów
" Różnicą zbiorów A oraz B określa się zbiór składający się z
elementów należących do zbioru A, ale nie należących do zbioru
B:
A - B
7
Algebra zbiorów
" Jeżeli dwa zbiory A oraz B mają taką własność, że ich iloczyn jest
zbiorem pustym, to zbiory takie określa się jako rozłączne:
A)" B = "
8
Algebra zbiorów
" Dopełnieniem zbioru A w przestrzeni � określa się różnicę:
A = &! - A
9
Przestrzeń zdarzeń elementarnych
" Zdarzenie elementarne �  zdarzenie losowe, którego nie
można przedstawić w postaci sumy co najmniej dwóch zdarzeń
losowych
" Przestrzeń zdarzeń elementarnych &! - zbiór wszystkich
możliwych, w danych warunkach, zdarzeń elementarnych
&! = {�1,�2 ,...,�i}
10
Algebra zdarzeń
" Sumą (alternatywą) dwóch zdarzeń A i B określa się zdarzenie
polegające na tym, że zajdzie przynajmniej jedno z tych zdarzeń:
A *" B
A *" B
" Iloczynem (koniunkcją) dwóch zdarzeń A i B określa się
zdarzenie polegające na tym, że zajdzie zarówno zdarzenie A jak
i B:
A)" B
" Różnicą dwóch zdarzeń A i B określa się zdarzenie polegające na
tym, że zachodzi zdarzenie A, natomiast nie zachodzi zdarzenie
B:
A - B
11
Algebra zdarzeń
" Zdarzeniem niemożliwym określa się podzbiór przestrzeni zdarzeń
elementarnych �, nie zawierający żadnego elementu tej przestrzeni:
A = "
" Zdarzeniem pewnym określa się podzbiór przestrzeni zdarzeń
elementarnych �, zawierający wszystkie elementy tej przestrzeni:
A = &!
" Zdarzeniami przeciwnymi określa się takie dwa zdarzenia A
i B, których suma stanowi przestrzeń zdarzeń elementarnych,
natomiast iloczyn jest zdarzeniem niemożliwym:
A *" B = &! A)" B = "
12
Algebra zdarzeń
" Zdarzenie A zawiera się w zdarzeniu B (lub zdarzenie A implikuje
zdarzenie B), jeżeli zawsze, gdy zajdzie zdarzenie A, zajście zdarzenia B
jest zdarzeniem pewnym:
A �" B
A �" B
" Zdarzenia A i B określane są jako wyłączające się, jeśli iloczyn tych
zdarzeń jest zdarzeniem niemożliwym:
A )" B = "
" Jeżeli pewien zbiór � zawiera zdarzenia A, B, C, & oraz jeżeli zbiór ten
zawiera także zdarzenie pewne, niemożliwe, sumę, iloczyn
i różnicę zdarzeń, to taki zbiór � określa się borelowskim ciałem
zdarzeń
13
Definicje prawdopodobieństwa
" Klasyczna definicja prawdopodobieństwa (Laplace, 1812)
Jeżeli zdarzenie A rozkłada się na n wykluczających się
wzajemnie i jednakowo możliwych zdarzeń elementarnych,
wzajemnie i jednakowo możliwych zdarzeń elementarnych,
spośród których m sprzyja zajściu zdarzenia A,
to prawdopodobieństwem zdarzenia A określa się liczbę:
m
P(A) =
n
14
Definicje prawdopodobieństwa
" Statystyczna definicja prawdopodobieństwa
Jeżeli przy wielokrotnej realizacji doświadczeń, w wyniku której może
nastąpić realizacja zdarzenia A, częstość tego zdarzenia przejawia
wyraz
ną prawidłowość, oscylującą wokół pewnej nieznanej liczby p, i
wyraz
ną prawidłowość, oscylującą wokół pewnej nieznanej liczby p, i
jeśli wahania częstości cechują się tendencją malejącą wraz ze
wzrostem liczby doświadczeń, to liczbę p określa się
prawdopodobieństwem zdarzenia A
15
Zdarzenia niezależne
" Zdarzenia A oraz B nazywane są niezależnymi, jeśli zajście jednego z
tych zdarzeń nie ma wpływu na prawdopodobieństwo zajścia drugiego
z nich
" Jeśli prawdopodobieństwo zajścia zdarzenia A zależy od tego, czy
zaszło zdarzenie B, to prawdopodobieństwo zdarzenia A określa się
prawdopodobieństwem warunkowym:
P(A)" B)
P(A)= P(A B)=
P(B)
" Zdarzenia A oraz B są względem siebie niezależne, jeśli:
P(A )" B) = P(A)P(B)
16
Prawdopodobieństwo iloczynu i sumy zdarzeń
" Prawdopodobieństwo iloczynu dwóch dowolnych zdarzeń A i B:
P(A )" B) = P(A)P(B A)
P(A )" B) = P(B)P(A B)
P(A )" B) = P(B)P(A B)
" Prawdopodobieństwo iloczynu dwóch niezależnych zdarzeń A i B:
P(A )" B) = P(A)P(B)
" Prawdopodobieństwo sumy dwóch zdarzeń A i B:
P(A*" B)= P(A)+ P(B)- P(A)" B)
17
Prawdopodobieństwo całkowite
" Dane jest zdarzenie A oraz wzajemnie wyłączające się zdarzenia
B1, B2, & , Bn. Załóżmy, że zdarzenie A może zajść tylko łącznie
z jednym ze zdarzeń Bi (i = 1, 2, & , n). Stąd A = AB1 + AB2 + & + ABn.
" Z wzajemnej wyłączności zdarzeń Bi (i = 1, 2, & , n) wynika, iż:
n
P(A) =
"P(AB )
i
i=1
" Ostatecznie zachodzi zatem, iż:
n
P(A) =
"P(B )P(A Bi )
i
i=1
18
Wzór Bayesa
" Pozwala wyznaczyć prawdopodobieństwo, że zaszło jedno z
wzajemnie wyłączających się zdarzeń Bi pod warunkiem, że zaszło
zdarzenie A.
" Stosując twierdzenie o prawdopodobieństwie iloczynu zdarzeń wzór
Bayesa ma postać:
P(Bi)P(A Bi)
P(Bi A)=
n
"P(B )P(A Bi)
i
i=1
19
Zmienne losowe jednowymiarowe
Funkcję, przekształcającą przestrzeń zdarzeń elementarnych � w zbiór liczb
rzeczywistych R1 określa się terminem zmienna losowa jednowymiarowa. Gdy
� jest zbiorem przeliczalnym, każde przekształcenie zbioru � w R1 określa się
zmienną losową
Definicja:
Zmienna losowa jest to funkcja rzeczywista X, określona na przestrzeni
zdarzeń elementarnych �, mająca następującą własność: dla każdej liczby
rzeczywistej x zbiór zdarzeń elementarnych �, dla których X (�) < x jest
zdarzeniem, czyli jest elementem rodziny zbiorów borelowskich �:
" {� : X (�)< x}" �
x"R1
20
Zmienne losowe jednowymiarowe
" Zmienna losowa typu skokowego
Zmiennymi losowymi skokowymi (dyskretnymi) określa się zmienne
losowe posiadające skończony lub przeliczalny zbiór wartości
" Zmienna losowa typu ciągłego
Zmiennymi losowymi ciągłymi określa się takie zmienne losowe, które
mogą przybierać dowolne wartości liczbowe z pewnego przedziału
liczbowego, przy czym w szczególności może to być przedział
nieskończony
21
Zmienne losowe jednowymiarowe
" Rozkład zmiennej losowej skokowej
Rozkładem prawdopodobieństwa zmiennej losowej skokowej X
określane jest prawdopodobieństwo tego, że zmienna ta przyjmie
wartość xi (i=1, 2, & ):
wartość xi (i=1, 2, & ):
P(X = xi )= pi
"
pi = 1
"
i=1
pi " 0;1
22
Zmienne losowe jednowymiarowe
" Dystrybuanta zmiennej losowej skokowej
Dystrybuantą F(x) zmiennej losowej X określa się funkcję argumentu x
wyznaczającą prawdopodobieństwo tego, że zmienna losowa X
przyjmie wartości mniejsze niż x:
przyjmie wartości mniejsze niż x:
F(x)= P(X < x)
0 d" F(x)d" 1
P(a d" X < b)= F(b)- F(a), a < b
23
Zmienne losowe jednowymiarowe
xi pi F(x)
0 0,1 0
1 0,2 0,1
2 0,35 0,3
3 0,2 0,65
4 0,1 0,85
5 0,05 0,95
>5 - 1
Razem 1 -
Rozkład prawdopodobieństwa Dystrybuanta
Rozkład prawdopodobieństwa Dystrybuanta
0,4 1,2
0,35
1
0,3
0,8
0,25
pi 0,2 P(X0,15
0,4
0,1
0,2
0,05
0 0
0 1 2 3 4 5 0 1 2 3 4 5 >5
xi xi
24
Zmienne losowe jednowymiarowe
" Gęstość zmiennej losowej ciągłej
Gęstością prawdopodobieństwa zmiennej losowej ciągłej X
o dystrybuancie F(x) określana jest funkcja f, taka że dla każdego
argumentu x zachodzi:
argumentu x zachodzi:
x
f (x)= F'(x), F(x)= f (u)du
+"
-"
f (x)e" 0
b
P(a d" X d" b)= f (u)du
+"
a
+"
f (x)dx = 1
+"
-"
25
Zmienne losowe jednowymiarowe
Funkcja gęstości Funkcja dystrybuanty
0,5 1
0,4 0,8
0,3 0,6
f(x) F(x)
0,2 0,4
0,2 0,4
0,1 0,2
0 0
x x
26
Parametry zmiennych losowych
" Wartość oczekiwana
Wartością oczekiwaną (wartością przeciętną) zmiennej losowej skokowej X
określa się sumę iloczynów poszczególnych wartości tej zmiennej i
odpowiadających tym wartościom prawdopodobieństw:
n
E(X ) =
"x pi
i
i=1
Wartością oczekiwaną (wartością przeciętną) zmiennej losowej ciągłej X
określa się całkę:
+"
E(X )= xf (x)dx
+"
-"
27
Parametry zmiennych losowych
" Własności wartości oczekiwanej
Wartość oczekiwana stałej równa się stałej:
E(c)= c
Wartość oczekiwana sumy dwóch zmiennych losowych X i Y równa się sumie
wartości oczekiwanych tych zmiennych:
E(X + Y)= E(X )+ E(Y )
Wartość oczekiwana iloczynu dwóch niezależnych zmiennych losowych X
i Y równa jest iloczynowi wartości oczekiwanych tych zmiennych:
E(XY )= E(X )E(Y )
Stałą c można wynieść przed znak wartości oczekiwanej:
E(cX )= cE(X )
28
Parametry zmiennych losowych
" Wariancja
Wariancją zmiennej losowej X określa się wartość oczekiwaną kwadratu
odchylenia wartości tej zmiennej od jej wartości oczekiwanej :
2
2
2
2
D2(X )= E[X - E(X )] = E(X )- E2(X )
D2(X )= E[X - E(X )] = E(X )- E2(X )
Wariancją zmiennej losowej skokowej X określa się sumę kwadratów odchyleń
wartości tej zmiennej od jej wartości oczekiwanej, ważoną odpowiednim
prawdopodobieństwem:
n
2
D2(X )=
"[x - E(X )] pi
i
i=1
Wariancją zmiennej losowej ciągłej X określa się całkę:
+"
2
D2(X )=
+"[x - E(X )] f (x)dx
-"
29
Parametry zmiennych losowych
" Własności wariancji
Wariancja stałej równa się zero:
D2(c)= 0
Wariancja iloczynu stałej i zmiennej losowej równa jest iloczynowi kwadratu
stałej i wariancji :
D2(cX )= c2D2(X )
Wariancja sumy dwóch niezależnych zmiennych losowych X i Y równa się
sumie wariancji tych zmiennych :
D2(X + Y )= D2(X )+ D2(Y )
Wariancja różnicy dwóch niezależnych zmiennych losowych X i Y równa się
sumie wariancji tych zmiennych:
D2(X -Y )= D2(X )+ D2(Y )
30
Proces stochastyczny
Definicja:
Procesem stochastycznym {Xt} określa się rodzinę zmiennych losowych Xt,
których rozkłady zależą od parametru t, przy czym t określane jest jako czas.
Definicja
Realizacją procesu stochastycznego {Xt} określa się funkcję xt(k), otrzymaną w
rezultacie k-krotnego wykonania doświadczenia,
której wartościami są zrealizowane w k-tym doświadczeniu wartości
zmiennych losowych Xt.
31
Charakterystyki procesu stochastycznego
" Wartość średnia procesu:
Wartością średnią procesu {Xt} określa się wartość oczekiwaną, przedstawioną
w postaci:
m(t)= E(Xt )
" Wariancja procesu:
Wariancją procesu {Xt} określa się wyrażenie postaci:
2
D2(t)= E[Xt - m(t)]
Błędem standardowym (średnim błędem resztkowym) procesu {Xt} określa
się wyrażenie:
� (t)= D2(t)
32
Charakterystyki procesu stochastycznego
" Funkcja kowariancyjna procesu:
Funkcją kowariancyjną procesu {Xt} określa się wielkość:
Cov(t1,t2)= E[Xt - m(t1)][Xt - m(t2)]
1 2
" Współczynnik korelacji procesu:
Współczynnikiem korelacji procesu {Xt} określa się wielkość:
Cov(t1,t2)
�(t1,t2)=
� (t1)� (t2)
33
Stacjonarność procesu stochastycznego
" Stacjonarność w węższym sensie:
Proces stochastyczny {Xt} jest stacjonarny w węższym sensie, jeżeli dla
każdego N oraz t1, t2,& , tN, t, takich, że ti + t należą do T, i = 1, 2, & , N,
dystrybuanta N-wymiarowej zmiennej losowej:
dystrybuanta N-wymiarowej zmiennej losowej:
(Xt +t , Xt +t ,..., Xt +t)
1 2 N
nie zależy od t.
" Stacjonarność w szerszym sensie:
Proces stochastyczny {Xt} jest stacjonarny w szerszym sensie, jeżeli:
E(Xt2)< "
E(Xt )= m = const.
E[(Xt - m)(Xt - m)]= Cov(� ), � = t1 - t2
1 2
34
Przykład procesu stochastycznego
Cena złota Stopa zwrotu ceny złota
1800 0,08
1600
0,06
1400
0,04
1200
1200
0,02
1000
0
USD
800
% 1 501 1001 1501 2001 2501
-0,02
600
-0,04
400
-0,06
200
-0,08
0
1 501 1001 1501 2001 2501
-0,1
t t
35
Dziękuję!
Dziękuję!