Prawdopodobieństwo zupełne. Jeżeli B jest dowolnym zdarzeniem, zaś

A₁,A₂,....,A_n. spełniają warunki: 1. Są parami rozłączne A_i∩B_j=∅ i=j; 2. Alternatywa tych zdarzeń jest zdarzeniem pewnym; 3. Mają dodatnie prawdopodobieństwa. To prawdopodobieństwo zdarzenia B wyraża się wzorem P(B)=(i=1 ∑ n) P(A_i)P(B|A_i).

Twierdzenie Beyesa. Jeżeli B jest dowolnym zdarzeniem o prawdopodobieństwie dodatnim zaś A₁,A₂,....,A_n Spełniają warunki 1,2,3, ⇑ ⇑ ⇑ to prawdopodobieństwo warunkowe P(A_k|B)=P(A_k)P(B|A_k)/( (i=1 ∑ n) P(A_i)P(B|A_i)).

Niezależność Zmiennych losowych. Mówimy, że zmienne losowe X,Y określone na tej samej przestrzeni Ω są niezależne gdy: dla dowolnego x,y zdarzenia {w;X(w)<x}{w;Y(w)<y} są niezależne P({X<x}∩{Y<y})=P(X<x)P(Y<y).

Wartość średnia (oczekiwana). Jeżeli X zm losowa typu skokowego wówczas EX=(i=1 ∑ +∞)xipi pod warunkiem, że szereg jest bezwzględnie zbieżny, nazywamy wartością oczekiwaną zmiennej X. Jeżeli zm losowa typu ciągłego wówczas EX=(− ∞∫+ ∞)xf(x)dx pod warunkiem, że funkcja podcałkowa jest bezwzględnie całkowalna, nazywamy wartością oczekiwaną zmiennej X. Właściwości: E( c)=c; E(aX)=aEX; E(X+b)=EX+b; E(X+Y)=E(X)+E(Y); E(XY)=E(X)E(Y) X,Y -niezależne

Wariancję zmiennej losowej określa następująca formuła: D²X=E(X-EX)² dla skokowej D²X=(i=1 ∑ +∞)(x+α_i)²p_i; dla ciągłej D²X=(-∞∑+∞)(x+α_i)²f(x)dx. Właściwości: D²( c)=c; D²(aX)=a²E²X; D²(X+b)=D²X; D²(X ±Y)=D²(X)±D²(Y) X,Y –niezależne. D²X=EX²-(EX)²; D²X=E(X-c)²-(c+α_i)².

Moment zwykły rzędu r zmiennej losowej X nazywamy wartość oczekiwaną α_r=EX^r r=1,2,3...

Momentem centralnym rzędu r zmiennej losowej X nazywamy µ_r=E(X-EX)^r. Współczynnik skośności: γ=µ₃/σ³. Współczynnik skupienia (kurtoza) K=µ₄/σ⁴.

Moda (wartość modalna, dominanta). m_o- odcięta maksimum absolutnego gęstości zmiennej losowej typu skokowego. Punkt skokowy x_k dla którego P(x_k) osiąga max absolutne i x_k≠max_xi i x_k≠min_xi.

Nierówność Czybyszewa. Jeżeli zmienna losowa X ma skończoną wartość przeciętną, wariancję σ2 to dla dowolnego dodatniego k prawdziwa jest nierówność Czybyszewa: P(|X-EX| ≥tσ_x) ≤1/t².

STATYSTYKA Każdą funkcje (X1...Xn) będącą funkcją próby losowej X1..Xn nazywamy statyką. Statystyka jajo funkcja zmiennych losowych jest także zmienną losową, mającą pewien własny rozkład zależny od postaci funkcji g i od rozkładów zmiennych X1..Xn.

Estymatorem parametru θ nazywamy każdą statystykę θn(X1..Xn), której wartości przyjmujemy jako oceny nieznanego parametru θ. Estymator zgodny parametry θ lim_(n→∞)P(|θ^{^}_n-θ|<ε)=1. Estymator nieobciążony E(θ)=θ.

Estymatorem efektywnym nazywamy estymator nieobciążony θ_n parametru θ, który ma najmniejszą wariancję spośród wszystkich nieobciążonych estymatorów danego parametru θ wyznaczonych z prób n-elementowych.

Wariancja nieobciążonego estymatora spełnia nierówność Rao-Cramera D²X=1/(nE[dlnf(X,θ)/dθ]²).

METODA WYZNACZANIA ESTYMATORÓW

Metoda największej wiarygodnosci- polega na tym, że jako estymatory parametrów θ1.. przyjmuje takie θ1..θk, dla których funkcja wiarygodności przyjmuje wartość największe. Ponieważ funkcja ln L osiąga wartość największą dla tych samych wartości parametru co funkcja L, więc zadanie sprowadza się do wyznaczenia maksimum funkcji ln L. Wartośći te maksymalizujące L muszą spełniać równanie dlnL/dθ_i=0 i (i∑)(j∑)(d²lnL/dθ_idθ_j)h_ih_j.

Metoda momentów- polega na przyrównaniu pewnej liczby- najczęściej kolejnych- momentów z próby do odpowiednich momentów rozkładu. Wykorzystujemy tyle momentów ile jest oszacowanych parametrów i rozwiązując otrzymany układ równań, uzyskujemy oceny tych parametrów.

ESTYMACJA PRZEDZIAŁOWA

Przedziałem ufności dla parametru θ na poziomie ufności 1-a (0<a<1) nazywamy przedział (θ₁,θ₂) spełniający warunki: 1) jego końce θ₁=θ₁(X₁..X_n) θ₂=θ₂(X₁..X_n) są funkcjami próby losowej i nie zależą od szacowanego parametru θ; 2) prawdopodobieństwo pokrycia przez ten przedział nieznanego parametru θ jest równy 1-a; 3) liczbę (1-a) nazywamy współczynnikiem ufności.

Niektóre rozkłady skokowe: #1. Rozkład równomierny. P(X=x_i)=1/n=p_i EX=1/n(i=1 ∑ n)x_i D²X=1/n(i=1 ∑ n)(x_i-EX)²;

#2. Rozkład jednopunktowy. EX=x₁ D²X=0;

#3 rozkład zero-jedynkowy. EX=p D²x=pq µ₃=pq(1-2p);

#4 Rozkład dwumianowy (Bernouliego). Zmienna losowa X ma rozkład dwumianowy o parametrach n, p oraz k jeśli jej funkcja prawdopodobieństwa jest dana wzorem: pk=P(k,n,p)=(n//k)p^k(1-p)^n-k gdzie k=0,1,2...; 0<p<1 i 1-p=q EX=np. D²X=npq=np(1-p) µ₃=npq(1-2p);

#5 rozkład hipergeometryczny. Zmienna losowa K ma rozkład hg. o parametrach (N,M,n) jeżeli jej funkcja prawdopodobieństwa jest w postaci pk=P(k;N,M,n)={(M//k)(N-M//n-k)}/(N//n) gdzie k=0,1,2...,n; n≤N; k≤M; k≤n; n-k≤N-M. EK=np; D2K=npq(N-n)/(N-1); µ₃=npq(1-2p){(N-n)(N-2n)}/{(N-1)(N-2)}; Rozkład hg. przechodzi w granicy w rozkład dwumianowy jeżeli N→+∞, M→+∞, M/N→p, 0<p<1 wtedy {(M//k)(N-M//n-k)}/(N//n)≈(n//k)p^k(1-p)^n-k

#6 Rozkład Poissona. Zmienna skokowa K ma rozkład Poissona jeśli funkcja prawdopodobieństwa dana jest równością: pk=P(k;λ)=e^-λλ^k/k! k∈N_\{0} EK=λ D²K=λ µ₃=λ. Twierdzenie: Niech K₁,K₂,K₃,...K_n jest ciągiem zmiennych losowych o rozkładzie dwumianowym odpowiednio z parametrami (1,p₁)(2,p₂)....(n,p_n) oraz np_n→λ, λ>0 gdy n→∞, to lim_(n→∞)(n//k)p^k(1-p)^n-k≈e^-λλ^k/k! k∈N_\{0} czyli ciąg rozkładów dwumianowych jest zbieżny do rozkładu Poissona z parametrem λ. Rozkład Poissona jest rozkładem granicznym również dla rozkładu hipergeometrycznego, gdy N,M.,n→∞, M/N→0, nM/N→λ, λ>0: )={(M//k)(N-M//n-k)}/(N//n)≈e^-λλ^k/k!.

#7 Ujemny rozkład dwumianowy. Zmienna skokowa K ma ujemny rozkład dwumianowy z parametrami (v,p), 0<p<1 v∈N jeśli jej funkcja prawdopodobieństwa ma postać P(k;v,p)=(k-1//v-1)p^vq^k-v, k=v,v+1,v+2... q=1-p, EK=v/p, D²K=vq/p², µ₃=vq(2-p)/p³;

Niektóre rozkłady typu ciągłego:

#1 rozkład równomierny. X ma rozkład równomierny skoncentrowany na przedziale <a,b> jeżeli gęstość zmiennej losowej f(x)={1/(a+b) dla a≤x≤b; 0 dla pozostałych;} Dystrybuanta F(x)={0 dla x≤a; (x-a)/(b-a) dla a<x≤b; 1 dla x>b;}, EX=(a+b)/2, moment centralny parzystego rzędu µ_2r=(b-a)^2r/(2r+1)2^2r, D²X=(b-a)²/12.

#2 Rozkład wykładniczy. X ma rozkład wykładniczy o parametrze λ>0 jeśli gęstość jest postaci: f(x)={1/λexp(-x/λ) dla x≥0, 0 dla pozostałych x.}, EX=λ, D²X=λ², dystrybuanta: F(x)={1-exp(-x/λ) dla x>0, 0 dla pozostałych x.}, Brak pamięci rozkładu wykładniczego. P(X≥a+b|X≥a)=

P(X≥a+b∧X≥a)/P(X≥a)= P(X≥a+b)/P(X≥a)=exp(-(a+b)/λ)/ exp(-a/λ)= exp(-b)/λ)=P(X≥b).

#3 Rozkład Gamma. X ma rozkład gamma o parametrach p,λ>0 jeśli jej gęstość prawdopodobieństwa jest określona wzorem: f(x)={1/(λ^pΓ(p))x^p-1exp(-x/λ) dla x>0; 0 dla pozostałych x;}, gdzie funkcja Γ-Eulera Γ (p)=(0∫∞)y^p-1e^-ydy i Re p>0, EX=pλ, D²X=pλ².

#4 Rozkład beta. X ma rozkład beta o parametrach p,q>0 jeśli jej gęstość prawdopodobieństwa jest określona wzorem: f(x)={1/(B(p,q))x^p-1(1-x)^q-1 dla 0<x<1; 0 dla pozostałych x}, gdzie B(p,q) jest funkcją beta Eulera i ma postać B(p,q)=(0∫1)x^p-1(1-x)^q-1dx, EX=p/(p+q), D²X=pq/(p+q)²(p+q+1). Zależność między funkcjami beta i gamma: B(p,q)=Γ(p)Γ(q)/Γ(p+q).

#5 rozkład normalny. Zmienna losowa X ma rozkład normalny o parametrach µ,σ przy czym µ∈R, σ∈R₊, jeżeli gęstość rozkładu ma postać f(x)=1/(σ(√2π))exp[-(x-µ)²/2σ²] -∞<x<∞+, EX=µ, momenty centralne nieparzystego rzędu: µ_2r-1=0; parzystego µ_2r=(2r-1)!!σ^2r, kurtoza K=µ₄/σ⁴=3, eksces (współczynnik spłaszczenia) γ₂=K-3=0, dystrybuanta standaryzowanego rozkładu normalnego Φ(x)= 1/(√2π))(-∞∫+∞)exp[-t²/2]dt, własność dystrybuanty rozkładu normalnego: Φ(-x)=1-Φ(x).

#6Uogólniony rozkład gamma. X ma uogólniony (trójparametrowy) rozkład gamma jeśli jej gęstość prawdopodobieństwa jest określona wzorem: f(x)={1/(λ^p/αΓ(p/α))x^p-1exp(-x^α/λ) dla x>0; 0 dla pozostałych x;}, p,λ,α>0. Jeżeli: 1) α=1 dwuparametrowy rozkład gamma; 2) p=2, α=2 rozkład Rayleigha; 3) p=3, α=2 rozkład Maxwella; 4) p=α rozkład Weibulla. Moment zwykły rzędu r: α_r=λ^r/αΓ((r+p)/α)/ Γ(p/α)=EX^r.

Funkcją charakterystyczną zmiennej losowej X nazywamy wartość przeciętną funkcji e^itX, gdzie t jest zmienną rzeczywistą a i tzw. jednostką urojoną. Oznaczenie: ϕ(t)=E(exp[itX]). e^itX=cost+isint. Dla zm losowej typu ciągłego: ϕ(t)=(-∞∫+∞)e^itxf(x)dx, dla skokowego ϕ(t)=(k∑)exp[itx_k]p_k. Własności: 1) ϕ(0)=1; 2) |ϕ(t)|≤1; 3) ϕ(t) jest ciągła na całej prostej rzeczywistej. Twierdzenie: Jeżeli istnieje k-ty moment zmiennej losowej X o funkcji charakterystycznej ϕ, to ϕ jest k-krotnie różniczkowalna (w sposób ciągły) i zachodzi związek: k=EX^k=1/i^kϕ^(k)(0), oraz jeśli można rozwinąć ϕ(t) w szereg Maclaurina, to ϕ(t)=(k=0 ∑ ∞)a_kt^k, gdzie a_k=ϕ^(k)(0)/k!. Twierdzenie: Funkcja charakterystyczna sumy dowolnej skończonej liczby niezależnych zmiennych losowych równa się iloczynowi funkcji charakterystycznych tych zmiennych.

Zmienne losowe wielowymiarowe. Dystrybuantą zmiennej losowej (X,Y) nazywamy funkcję F zmiennych x,y, która dla każdej pary liczb rzeczywistych (x,y)∈R² przyjmuje wartości równe prawdopodobieństwu zdarzenia polegającego na tym, że zmienna X przyjmie wartość mniejszą od x i zmienna Y przyjmie wartość mniejszą od y: F(x,y)=P(X<x,Y<y). Własności: 1) /x∈R\ lim_(y→-∞)F(x,y)=0, /y∈R\ lim_(x→-∞)F(x,y)=0; 2) lim_{(y→-∞, x→-∞)}F(x,y)=1; 3)dla dowolnych punktów: (x₁,y₁),(x₂,y₂) takich że x₁≤x₂ i y₁≤y₂ zachodzi nierówność: F(x₂,y₂)-F(x₂,y₁)-F(x₁,y₂)+F(x₁,y₁)≥0. 4)F jest niemalejąca i co najmniej lewostronnie ciągłą względem każdego z argumentów x bądź y.

Dwuwymiarowa zmienna losowa typu skokowego. 2 wymiarową zmienną losową (X,Y) która przyjmuje skończoną, bądź przeliczalną liczbę wartości (x_i,y_k), każdą odpowiednio z prawdopodobieństwem: P(X=x_i, Y=y_k)=p_ik dla i,k∈N, przy czym (i∑k∑)p_ik=1, nazywamy dwuwymiarową zmienną losową typu skokowego. Rozkłady brzegowe: p_i•=(k∑)p_ik, p_•κ=(i∑)p_ik; Rozkłady warunkowe: P(X=x_i|Y=y_k)=p_ik/p_•κ, P(Y=y_k|X=x_i)=p_ik/p_i•.

Dwuwymiarową zmienną losową nazywamy typu ciągłego jeśli istnieje nieujemna funkcja f taka, że dystrybuanta tej zmiennej losowej da się przedstawić jako całka: F(x,y)= (-∞∫x)[ (-∞∫y)f(x’,y’)dy’]dx’ (x,y)∈R², funkcję f nazywamy gęstością rozkładu prawdopodobieństwa. Własności: 1) (-∞∫+∞)(-∞∫+∞)f(x,y)dydx=1; 2) w punktach (x,y) ciągłości mamy: ∂²F(x,y)/ ∂x∂y=f(x,y); 3) P(x₁≤X<x₂,y₁≤Y<y₂)= (x₁∫x₂)(y₁∫y₂)f(x,y)dxdy. Rozkłady brzegowe: f₁(x)=(-∞∫+∞)f(x,y)dy, f₂(y)=(-∞∫+∞)f(x,y)dx. Rozkłady warunkowe: f(x|y)=f(x,y)/f2(y), f(y|x)=f(x,y)/f1

(x). Niezależność zm losowych: P({w:X(w)∈A,Y(w)∈B}]=P[{w:X(w)∈A}]P[{w:Y(w)∈B}].-

Dwuwymiarowy rozkład normalny. X i Y są niezależnymi zmiennymi losowymi o rozkładach normalnych. N(µ₁,σ₁) i N(µ₂,σ₂). Gęstość: f(x,y)=1/(2πσ₁σ₂√(1-ρ²))exp{-1/(2(1-ρ²)[(x-µ₁)²/σ₁²-2ρ(x-µ₁)²(y-µ₂)²/σ₁²σ₂²+(y-µ₂)²/σ₂²]}, dla (x,y)∈R gdzie µ₁=EX µ₂=EY σ₁²=D²X σ₂²=D²Y, ρ- współczynnik korelacji, |ρ|<1. Własności: 1) Rozkłady brzegowe i warunkowe w dwuwymiarowym rozkładzie normalnym są jednowymiarowymi rozkładami normalnymi. 2) Linie regresji I-rodzaju. (X,Y); f(x,y); f₁(x)>0; f(y|x)=f(x,y)/f₁(x); oczekiwania warunkowe: E(Y|X=x)= (-∞∫+∞)yf(y|x)dy=1/f₁(x)(-∞∫+∞)yf(y|x)dy=m₂(x). Zbiór punktów spełniający równanie: y=m₂(x) nazywamy linią regresji I-rodzaju zmiennej losowej Y wzglądem X. E(X|Y=y)= m₁(y), Zbiór punktów spełniający równanie: y=m₁(y) nazywamy linią regresji I-rodzaju zmiennej losowej X wzglądem Y. Linie regresji I-rodzaju dla rozkładu normalnego są liniami prostymi.

Charakterystyki liczbowe zmiennych losowych dwuwymiarowych: Wartość oczekiwana E[g(X,Y)]=(-∞∫+∞)(-∞∫+∞)g(x,y)f(x,y)dxdy dla zmiennej (X,Y) typu ciągłego E[g(X,Y)]=(i∑k∑)g(x_i,y_k)p_ik dla skokowego. Momentem zwykłym mieszanym rzędu r+s dwuwymiarowej zmiennej losowej (X,Y) nazywamy

wartość przeciętną iloczynu zmiennych losowych X^rY^s i oznaczamy: α_rs=E[X^rY^s]=(-∞∫+∞)(-∞∫+∞)x^ry^sf(x,y)dxdy.

Momentem centralnym mieszanym rzędu r+s dwuwymiarowej zmiennej losowej (X,Y) nazywamy wartość przeciętną iloczynu

zmiennych losowych X^rY^s i oznaczamy: µ_rs=E[(X-EX)^r(Y-EY)^s]=(-∞∫+∞)(-∞∫+∞)(x-α₁₀)^r(y-α₀₁)^sf(x,y)dxdy. Współczynnik korelacji: ρ=cov(X,Y)/ √(D2XD2Y)

Prostą regresji II-rodzaju zmiennej losowej nazywamy prostą o równaniu aX+b o współczynnikach a,b tak dobranych aby E[Y-(aX+b)]2 było najmniejsze.

Centralne twierdzenie Graniczne Lindberga-Levy’ego Jeśli (X_n) jest losowym ciągiem niezależnych zmiennych o jednakowym rozkładzie, o wartości przeciętnej α₁ i skończonej wariancji σ²>0, to ciąg (F_n) dystrybuant standaryzowanych średnich arytmetycznych Y_n=n^1/2((X_n-α₁)/σ=1/(σn^1/2)(i=1∑n)X_i-nα₁ jest zbieżny do dystrybuanty rozkładu normalnego N(0,1): lim_(n→∞)F_n(y)=1/(2π)^1/2(-∞∫y)exp[-t²/2]dt=Φ(y).

// wyjaśnienie

∑ Ω ∩ ∞ α µ γ σ ≠ ≥ ≤ ≈ → λ ∈ ∧ Γ ∫ √ ∏ Φ π ϕ • ∂ ρ