Metody probabilistyczne i statystyka

14 czerwca 2013

23:46

III+semestr Strona 1

Definicja prawdopodobieństwa (aksjomatyczna).

1.

Definicja i własności dystrybuanty rozkładu prawdopodobieństwa.

2.

Sprawdzić, czy funkcja F(X)=1/Π(arctg(x)+1/2 Π) może być dystrybuantą rozkładu
prawdopodobieństwa.

3.

Definicja prawdopodobieństwa warunkowego.

4.

Udowodnić, że P(∅)=0.

5.

Udowodnić, że P(A ̅ )=1 P(A).

6.

Udowodnić, że dla dowolnych dwóch zdarzeń P(A∪B)=P(A)+P(B) P(A∩B).

7.

Udowodnić, że: jeśli A⊂B, to P(A)≤P(B).

8.

Udowodnić, że dla każdego zdarzenia A prawdziwa jest nierówność P(A)≤1.

9.

Sformułować i udowodnić twierdzenie o prawdopodobieństwie zupełnym.

10.

Sformułować i udowodnić twierdzenie Bayesa.

11.

Definicja zmiennej losowej.

12.

Udowodnić, że P(a≤X<b)=P(X<b) P(X<a).

13.

Rozkład Bernoulliego

14.

Rozkład Poissona

15.

Rozkład normalny

16.

Wykazać, że wartość oczekiwana w rozkładzie Bernoulliego wynosi np, gdzie n oznacza liczbę
doświadczeń, a p prawdopodobieństwo sukcesu w pojedynczym doświadczeniu.

17.

Sformułować i udowodnić twierdzenie Poissona.

18.

Napisać funkcję gęstości zmiennej losowej o rozkładzie normalnym z wartością oczekiwaną 5 i
odchyleniem standardowym 7.

19.

Podać wartość oczekiwaną, wariancję, wartość modalną i medianę zmiennej losowej, której
funkcja gęstości wyraża się wzorem f(x)=〖1/(2√2Π) e〗^( (x 5)^2/8).

20.

Parametry zmiennych losowych (średnia, wariancja, odchylenie standardowe, mediana i
wartość modalna).

21.

Udowodnić, że jeśli zmienna losowa X ma wartość oczekiwaną m i odchylenie standardowe s,
to zmienna losowa Y=(X m)/σ ma wartość oczekiwaną zero i odchylenie standardowe 1.

22.

Udowodnić, że jeśli zmienna losowa X ma wartość oczekiwaną 7 i odchylenie standardowe 2,
to zmienna losowa Y=(X 7)/2 ma wartość oczekiwaną zero i odchylenie standardowe 1.

23.

Zmienne losowe typu skokowego. Rozkład zmiennej losowej typu skokowego.

24.

Zmienne losowe typu ciągłego. Rozkład zmiennej losowej typu ciągłego.

25.

Twierdzenie Linderberga-Levy’ego

26.

Określenie populacji i próby

27.

Definicja i własności estymatorów punktowych.

28.

Wyprowadzić wzór na estymator wartości oczekiwanej.

29.

Udowodnić, że średnia arytmetyczna jest nieobciążonym estymatorem wartości oczekiwanej.

30.

Udowodnić, że D^2 (x ̅ )=σ^2/n.

31.

Wyprowadzić wzór na przedział ufności dla wartości oczekiwanej na podstawie próby z
populacji o rozkładzie normalnym ze znanym odchyleniem standardowym.

32.

Podać przykład konstrukcji testu statystycznego dla hipotezy H_0:m=m_0
H_1:m≠m_0 na podstawie próby X_1,X_2,…,X_n z populacji o rozkładzie normalnym ze
znanym odchyleniem standardowym.

33.

Podać sposób konstrukcji prostej regresji.

34.

Z podziękowaniami dla Siergieja Łagierowa.

Opracowanie zagadnień na egzamin

23 stycznia 2014

15:28

III+semestr Strona 2

1.

2.

3.

Ciało zdarzeń

Prawdopodobieństwo

Niech oznacza przestrzeń zdarzeń elementarnych, a S ciało zdarzeń.

1.

2.

3.

Definicja prawdopodobieństwa (aksjomatyczna)

23 stycznia 2014

15:37

III+semestr Strona 3

Dystrybuanta w punkcie x to funkcja, która określa prawdopodobieństwo, że zmienna losowa
przyjmie wartość mniejszą niż x.

F jest niemalejąca (

)

1.

2.

F(x) jest lewostronnie ciągła (

3.

Zmienna losowa typu skokowego

Zmienna losowa typu ciągłego

1.

2.

przy założeniach dot. funkcji gęstości:

Dodatkowo, jeśli

Definicja i własności dystrybuanty rozkładu
prawdopodobieństwa.

23 stycznia 2014

15:37

III+semestr Strona 4

Funkcja musi być niemalejąca (dla takich

i

z jej dziedziny, że

,

a

także pierwsza pochodna musi być dodatnia)

1.

Granica w to 0

2.

Granica w to 1

3.

Jest lewostronnie ciągła

4.

Dla dowolnego

z dziedziny:

Zbiorem wartości badanej funkcji jest wycinek zbioru , a także spełnia ona wszystkie
własności dystrybuanty.

Pomocniczo, wykres:

Sprawdzić, czy funkcja

może

być dystrybuantą rozkładu prawdopodobieństwa.

23 stycznia 2014

15:37

III+semestr Strona 5

Z <

http://rechneronline.de/funktionsgraphen/function.php

>

III+semestr Strona 6

Prawdopodobieństwo warunkowe zdarzenia A pod warunkiem B, oznaczone symbolem to
prawdopodobieństwo zdarzenia A, obliczone przy założeniu, że zdarzenie B nastąpiło.

Jeżeli , to

Niezależność zdarzeń

nie zależy od , jeśli

.

Definicja prawdopodobieństwa warunkowego

23 stycznia 2014

15:37

III+semestr Strona 7

Z pierwszego i trzeciego aksjomatu prawdopodobieństwa oraz :

Udowodnić, że

23 stycznia 2014

15:37

III+semestr Strona 8

Udowodnić, że

23 stycznia 2014

15:37

III+semestr Strona 9

Wstępne spostrzeżenia:

Udowodnić, że dla dowolnych dwóch zdarzeń

23 stycznia 2014

15:37

III+semestr Strona 10

Udowodnić, że: jeśli , to

23 stycznia 2014

15:37

III+semestr Strona 11

Udowodnić, że dla każdego zdarzenia A prawdziwa jest
nierówność

23 stycznia 2014

15:37

III+semestr Strona 12

Układ zupełny

Twierdzenie

Jeżeli zdarzenie

( ) tworzą układ zupełny zdarzeń oraz

, to dla

dowolnego zdarzenia B zachodzi rowność

.

Dowód

Skoro zdarzenia

tworzą układ zupełny, to:

Zatem z trzeciego aksjomatu prawdopodobieństwa:

Z definicji prawdopodobieństwa warunkowego:

Stąd:

Sformułować i udowodnić twierdzenie o
prawdopodobieństwie zupełnym

23 stycznia 2014

15:37

III+semestr Strona 13

Twierdzenie

Jeżeli zdarzenia

( ) tworzą układ zupełny zdarzeń oraz B jest zdarzeniem takim, że

, to

, zachodzi wzór zwany wzorem Bayesa:

Dowód

Załóżmy, że

tworzą układ zupełny zdarzeń.

Z definicji prawdopodobieństwa warunkowego:

Z twierdzenia o prawdopodobieństwie całkowitym:

Sformułować i udowodnić twierdzenie Bayesa

23 stycznia 2014

15:37

III+semestr Strona 14

Funkcja określona w przestrzeni probabilistycznej , przekształcająca zbiór na zbiór .

Zmienna losowa to zbiór argumentów

, dla których spełniona jest zależność, że dla , wartości

zmiennej losowej są mniejsze od x. Zbiory te muszą być pozdbiorami ciała zdarzeń S.

Definicja zmiennej losowej

23 stycznia 2014

15:37

III+semestr Strona 15

Udowodnić, że

23 stycznia 2014

15:37

III+semestr Strona 16

W schemacie Bernoulliego, n oznacza liczbę powtórzeń, p prawdopodobieństwo sukcesu (1-p zatem
prawdopodobieństwo porażki), a k liczbę sukcesów.

przyjmuje wartości

Wartość oczekiwana wynosi , a wariancja

.

Rozkład Bernoulliego

23 stycznia 2014

15:37

III+semestr Strona 17

przyjmuje wartości

Wartość oczekiwana i wariancja wynoszą

.

Rozkład Poissona

23 stycznia 2014

15:37

III+semestr Strona 18

Mówimy, ze zmienna losowa ma rozkład normalny o wartości oczekiwanej i wariancji

, co zapisujemy symbolicznie , jeżeli jej funkcja gęstości wyraża się wzorem:

Wykres funkcji gęstości w rozkładzie normalnym to tzw. krzywa dzwonowa (krzywa Gaussa)

W rozkładzie normalnym mediana, wartość oczekiwana i modalna są sobie równe.

Rozkład normalny

23 stycznia 2014

15:37

III+semestr Strona 19

Wartość oczekiwana zmiennej losowej typu skokowego wynosi

Po podstawieniu:

m

m

Podstawiamy

m

m

Z definicji dwumianu (symbolu) Newtona:

Wykazać, że wartość oczekiwana w rozkładzie
Bernoulliego wynosi np, gdzie n oznacza liczbę
doświadczeń, a p prawdopodobieństwo sukcesu w
pojedynczym doświadczeniu.

23 stycznia 2014

15:37

III+semestr Strona 20

Zmienna losowa

ma rozkład Bernoulliego określony wzorem

,

gdzie .

Jeśli maleje do 0 w ten sposób, że poczynając od pewnego

dla każdego

,

, gdzie , to

.

Dowód

Granica prawdopodobieństwa zmiennej losowej o rozkładzie Bernoulliego przy liczbie prób dążącej
do nieskończoności:

Skoro

, stosując podstawienie

i korzystając z faktu, że iloczyn

ma k czynników:

Sformułować i udowodnić twierdzenie Poissona

23 stycznia 2014

15:37

III+semestr Strona 21

Podstawiamy do wzoru

Napisać funkcję gęstości zmiennej losowej o rozkładzie
normalnym z wartością oczekiwaną 5 i odchyleniem
standardowym 7

23 stycznia 2014

15:37

III+semestr Strona 22

Podana funkcja gęstości jest f. g. w rozkładzie normalnym N(5,2) ( , ).
W r. n., wartość oczekiwana

.

Zatem wartość oczekiwana, modalna i mediana wynoszą 5, natomiast wariancja

4.

Podać wartość oczekiwaną, wariancję, wartość modalną i
medianę zmiennej losowej, której funkcja gęstości wyraża

się wzorem

23 stycznia 2014

15:37

III+semestr Strona 23

Parametr

Typ skokowy

Typ ciagły

Wartość oczekiwana

Wariancja

Odchylenie standardowe

Mediana

Modalna

x takie, że P(x) jest
największe

x takie, gdzie f(x) osiąga
maksimum

Parametry zmiennych losowych (średnia, wariancja,
odchylenie standardowe, mediana i wartość modalna)

23 stycznia 2014

15:37

III+semestr Strona 24

Udowodnić, że jeśli zmienna losowa X ma wartość
oczekiwaną m i odchylenie standardowe s, to zmienna
losowa

ma wartość oczekiwaną zero i

odchylenie standardowe 1

23 stycznia 2014

15:37

III+semestr Strona 25

Udowodnić, że jeśli zmienna losowa X ma wartość
oczekiwaną 7 i odchylenie standardowe 2, to zmienna
losowa

ma wartość oczekiwaną zero i

odchylenie standardowe 1.

23 stycznia 2014

15:37

III+semestr Strona 26

Zmienna losowa typu skokowego przyjmuje wartości ze zbioru zdarzeń elementarnych, który jest co
najwyżej przeliczalny (co najwyżej )

Rozkład zmiennej losowej typu skokowego

Znamy zdarzenia

oraz ich prawdopodobieństwa

.

Zmienne losowe typu skokowego. Rozkład zmiennej
losowej typu skokowego.

23 stycznia 2014

15:37

III+semestr Strona 27

Zmienna losowa typu ciągłego przyjmuje wartości ze zbioru nieprzeliczalnego.

Rozkład zmiennej losowej typu ciągłego

1.

2.

Funkcja gęstości f(x)

Zmienne losowe typu ciągłego. Rozkład zmiennej losowej
typu ciągłego

23 stycznia 2014

15:37

III+semestr Strona 28

Jeśli zbiór zmiennych losowych

o jednakowych rozkładach, mających wartość oczekiwaną m i

wariancję

, to ciąg

takich, że

jest zbieżny wg dystrybuant do zmiennej losowej , czyli dla każdego u zachodzi relacja

Twierdzenie Linderberga-Levy’ego

23 stycznia 2014

15:37

III+semestr Strona 29

Populacja - zbiór podlegający badaniu
Część populacji - próba (ciąg zmiennych losowych o rozkładzie populacji)

reprezentatywna

•

losowa

•

Cechy próby

Określenie populacji i próby

23 stycznia 2014

15:37

III+semestr Strona 30

Proces szacowania na podstawie obserwacji nazywamy estymacja a wyniki estymatorami.

Nieobciążoność

Estymator jest nieobciążony, jeśli wartość oczekiwana rozkładu estymatora jest równa wartości
szacowanego parametru:

Zgodność

Gdy liczebność próby rośnie, prawdopodobieństwo tego, że wartość estymatora różni się
dowolnie mało od parametru Q, zbliżą się do jedności.

Efektywność (możliwie najmniejsza wariancja)

Spośród zbioru wszystkich nieobciążonych estymatorów

, najefektywniejszym

nazywamy estymator o najmniejszej wariancji.

Definicja i własności estymatorów punktowych

23 stycznia 2014

15:37

III+semestr Strona 31

Metoda najmniejszych kwadratów

Wynik kolejnego pomiary

można przedstawić jako sumę pewnej mierzonej wartości x oraz błędu

pomiarowego , co zapisujemy

. Od wielkości

oczekujemy, aby suma jej kwadratów

była jak najmniejsza.

Wyprowadzenie wzoru na estymator wartości oczekiwanej

Dana jest obserwacja

. Wartość oczekiwana m to punkt, wokół którego najczęściej skupiają się

pomiary:

Niech dana będzie pewna funkcja Q(x), która dla danego parametru x zwróci sumę kwadratów błędu
pomiaru tej wielkości. Zbadajmy jej zachowanie dla wartości oczekiwanej m.

Ze względu na przyjętą metodę wyprowadzenia estymatora, otrzymana wartość m jest
przybliżeniem prawdziwej wartości m, dlatego oznacza się ją odpowiednim symbolem.

Wyprowadzić wzór na estymator wartości oczekiwanej

23 stycznia 2014

15:37

III+semestr Strona 32

Niech wartością oczekiwaną pomiaru

będzie m.

Zbadajmy, czy estymator jest nieobciążony:

Udowodnić, że średnia arytmetyczna jest nieobciążonym
estymatorem wartości oczekiwanej

23 stycznia 2014

15:37

III+semestr Strona 33

Niech odchylenie standardowe pomiaru

wyniesie .

Zbadajmy zachowanie

:

Udowodnić, że

.

23 stycznia 2014

15:37

III+semestr Strona 34

Współczynnikiem ufności nazwiemy oszacowanie pewnej zmiennej losowej za pomocą dwóch
innych zmiennych losowych

i

, ograniczających ją od góry i dołu.

gdzie .

Niech dane będą pomiary

o rozkładzie . Załóżmy, że jest znane. Ponadto,

, a także

. Z metody najmniejszych kwadratów:

Przeprowadźmy standaryzację do N(0,1):

Podsumowując:

Niech

Po przemnożeniu stronami przez

i dodaniu :

Zajmijmy się parametrem

. Niech oznacza dystrybuantę zmiennej losowej o rozkładzie

normalnym. Zauważmy, że . Sprawdźmy, jak zachowuje się dystrybuanta dla
przedziału

, gdy dane dla niego prawdopodobieństwo, tzw. współczynnik ufności wynosi

.

Wyprowadzić wzór na przedział ufności dla wartości
oczekiwanej na podstawie próby z populacji o rozkładzie
normalnym ze znanym odchyleniem standardowym

23 stycznia 2014

15:37

III+semestr Strona 35

Przedział ufności dla wartości oczekiwanej m przy znanym odchyleniu standardowym

III+semestr Strona 36

Hipoteza statystyczna to każde przypuszczenie dotyczące rozkładu prawdopodobieństwa badanej
cechy w populacji. Hipotezę statystyczną możemy zapisać w postaci:

gdzie F(x) oznacza dystrybuantę rozkładu populacji a pewien zbiór dystrybuant zwany zbiorem
hipotez dopuszczalnych, z których jedna jest przedmiotem badania.

Niech dany będzie poziom istotności , który określa prawdopodobieństwo, że przy poprawnej
hipotezie zerowej, wartości statystyki testowej znajdą się poza obszarem krytycznym:

Określa to ryzyko popełnienia tzw. błędu I rodzaju, czyli odrzucenia prawdziwej hipotezy.
Konstrukcja testu statystycznego odbywa się wg poniższego schematu.

Sformułowanie hipotezy zerowej i alternatywnej

Określenie statystyki testowej

Wyznaczenie obszaru krytycznego

Weryfikacja hipotezy

Jeżeli wartość statystyki testowej znajdzie się w obszarze krytycznym, należy ją odrzucić na rzecz
hipotezy alternatywnej. W przeciwnym przypadku, nie mamy podstaw do odrzucenia hipotezy
zerowej.

Podać przykład konstrukcji testu statystycznego dla
hipotezy

na podstawie próby

z populacji o rozkładzie normalnym ze

znanym odchyleniem standardowym

23 stycznia 2014

15:37

III+semestr Strona 37

Załóżmy, że dysponujemy n-elementową próbką:

Prostą , którą nazwiemy prostą regresji. Spróbujemy ją przybliżyć za pomocą kolejnych
danych z próbki.

Uogólniając:

, gdzie , a

oznacza błąd pomiarowy

Wykorzystajmy metodę najmniejszych kwadratów dla minimalizacji błędu

:

Niech dana będzie pewna funkcja będąca funkcją błędów pomiarowych (związana z metodą
najmniejszych kwadratów):

Zauważmy, że funkcja Q jest sumą stałych , stąd jej pochodne

oraz

. W związku z tym,

współczynniki prostej regresji a i b można obliczyć z zależności:

Konstrukcja prostej regresji

Niech dana będzie próbka

. Konstrukcja prostej regresji metoda

najmniejszych kwadratów polega na wyznaczeniu prostej zwanej prostą regresji, dla której suma
długości pionowych odcinków

łączących ja z punktami pomiaru będzie jak najmniejsza.

Podać sposób konstrukcji prostej regresji

23 stycznia 2014

15:37

III+semestr Strona 38

długości pionowych odcinków

łączących ja z punktami pomiaru będzie jak najmniejsza.

III+semestr Strona 39