CTCONUMŁTltl A TTSrOUZlSBA
który można przedstawić w równoważnej postaci, jako: p{Q\y)x p(Q)l{Q-,y) (3.i9)
gdzie:
p(G)- gęstość rozkładu a priori, wyrażającego wstępną wiedzę badacza o parametrze (wektorze parametrów) 0 ,
p(y | g) - gęstość próbkowa, określająca stopień przekonania dotyc
przyjmowanych przez badane zjawisko wartości przy ustalonej warte parametru 0,
/(0;y)= p(y |0) - funkcja wiarygodności, czyli gęstość próbkowa trakto\ jako funkcja parametrów przy ustalonych obserwacjach, p(Q |y) - gęstość rozkładu a posteriori, opisująca “końcową” wiedzę
badacza o parametrze 0 opartą zarówno na wiedzy wstępnej, jak i na informacji z próby,
p(y) - jest gęstością brzegowego rozkładu wektora obserwacji y , oc - jest znakiem proporcjonalności (równości z dokładnością do stałej dodatniej), gdyż w większości przypadków w rozważaniach pomija się stałą proporcjonalności (stałą normującą).
Wstępne informacje o parametrach modelu próbkowego wyrażone są zatem w rozkładzie a priori p(0), natomiast informacje z próby “wchodzą” do wzoru
(3.18) tylko poprzez funkcję wiarygodności p(y 10). We wniosko>
bayesowskim, jako wynik końcowy uzyskuje się, w przeciwieństwie do metod klasycznych, nie punktową ocenę parametru 0, lecz cały jego rozkład. Przy danym rozkładzie a posteriori odpowiednikiem punktowej oceny parametru 0 są zatem we wnioskowaniu bayesowskim miary tendencji centralnej, w szczegół wartość oczekiwana, modalna lub mediana.
Metody bayesowskic wymagają rozkładu a priori. W zależności od przyjęć koncepcji wnioskowania bayesowskiego możemy rozróżnić dwie zasadnicze klasy-
• rozkłady subiektywne,
• rozkłady obiektywne.
Z subiektywnego punktu widzenia każde prawdopodobieństwo może być przez subiektywną, bezpośrednią introspekcję zaś twierdzenie Bayesa jest ty 1 narzędziem, które zwiększa dokładność tego procesu. Podejście obickty'v,lv (zwane także logicznym) również traktuje prawdopodobieństwo jako niepewności, lecz w tym przypadku rozkład nie wyraża subiekty^11
RLiania jednostki. Zamiast tego, regułę Bayesa traktuje się jako obiektywną P&** $topnia, w jakim wiedza wyrażona za pomocą prawdopodobieństwa jest mar*,’ następstwem dostępnych informacji. Tak więc każdy rozkład a priori !o-lc c'się jako uzyskany za pomocą twierdzenia Bayesa przy danej informacji. **** * ^ogą rozumowania możemy dążyć do kolejnych rozkładów a priori przy mniejszym zasobie informacji aż dochodzimy do rozkładu a priori c0 -jiająccgo jej całkowity brak. Głównym zadaniem jest zatem, według podejścia *2vWYwnego, znalezienie rozkładu a priori, który reprezentuje kompletną . :c(jzę. W praktyce trudno jest jednak ustalić czy dany rozkład a priori spełnia D mienione wymagania, dlatego też jako rozkłady nicinformacyjne (zwane także referencyjnymi) uważa się rozkłady zdominowane przez obserwacje, w tym sensie, że spodziewana informacja o parametrach z nich płynąca jest maksymalna. Rozkłady referencyjne traktowane są zatem jako wygodne narzędzie służące do uzyskania zobiektywizowanej komunikacji wyników.
Ze względu na łatwość obliczeń wygodnie stosować tzw. sprzężone rodziny rozkładów. Główna idea tych rozkładów polega na tym, że jeżeli przyjmujemy rozkład o priori parametru 0 należący do danej rodziny, to dla dowolnej liczebności próby N i dowolnych wartości obserwacji, rozkład a posteriori parametru 0 należy również do tej samej rodziny. Idealna rodzina rozkładów to taka, dla której łatwo uzyskać ocenę parametru oraz elastyczna na tyle, że łatwo jest nią wyrazić wstępną informację.
Jedną z najstarszych i najprostszych metod jest przyjęcie jednostajnego rozkładu a priori, prowadzące do rozkładu a posteriori proporcjonalnego do funkcji wiarygodności. Jest to rozkład, który daje równe szanse wszystkim możliwym wartościom przyjmowanym przez parametr będący w kręgu naszych zainteresowań. Uzyskane w ten sposób wyniki są często zbieżne z wynikami otrzymanymi za pomocą metod klasycznych.
Wnioskowanie bayesonskie w przypadku modelu regresji liniowej jednej zmiennej. Rozważmy jako przykład model postaci:
y‘ I xt = Po + P,*, + u,
gdzie
obserw
•osow
yi oznacza i-tą obserwację na zmiennej objaśnianej, a xt - jest i-tą aęją na zmiennej objaśniającej, u{ oznacza i-te zakłócenie składnika cg0* nat0miast P0, p, są nieznanymi parametrami. Zakładamy, że rozkład jjPf^ka losowego jest normalny o średniej zero i wariancji a2, stąd nieznanymi ■Kutrami w modelu są w istocie p0,p,,c2.
Funkc^* ^godności
R^J wiarygodności modelu ma postać:
63