Photo010(2)

r.KONUM El K I A T)9fUŁV&D9NA

/?(8)/?(y|e)

p(y)

który można przedstawić w równoważnej postaci, jako:

/>(e|j>)^ocip(e)/(e;j')

gdzie:

p(Q)- gęstość rozkładu a priori, wyrażającego wstępną wiedzę badacza o parametrze (wektorze parametrów) 0 ,

/?(y 10) - gęstość próbkowa, określająca stopień przekonania dotyczący I

przyjmowanych przez badane zjawisko wartości przy ustalonej wartości parametru 0,

l{Q;y)-p[y |©) - funkcja wiarygodności, czyli gęstość próbkowa traktowana jako funkcja parametrów przy ustalonych obserwacjach, p(©|y) - gęstość rozkładu a posteriori, opisująca “końcową” wiedzę

badacza o parametrze 0 opartą zarówno na wiedzy wstępnej, jak i na informacji z próby,

p(y) - jest gęstością brzegowego rozkładu wektora obserwacji y ,

oc - jest znakiem proporcjonalności (równości z dokładnością do stałej dodatniej), gdyż w większości przypadków w rozważaniach pomija się stałą proporcjonalności (stałą normującą).

Wstępne informacje o parametrach modelu próbkowego wyrażone są zatem w rozkładzie a priori p(6), natomiast informacje z próby “wchodzą” do wzoru

(3.18) tylko poprzez funkcję wiarygodności p(y 10). We wnioskowaniu

bayesowskim, jako wynik końcowy uzyskuje się, w przeciwieństwie do metod klasycznych, nie punktową ocenę parametru 0, lecz cały jego rozkład. Przy danym rozkładzie a posteriori odpowiednikiem punktowej oceny parametru 0 są zatem we wnioskowaniu bayesowskim miary tendencji centralnej, w szczególności wartość oczekiwana, modalna lub mediana.

Metody bayesowskie wymagają rozkładu a priori. W zależności od przyjętej koncepcji wnioskowania bayesowskiego możemy rozróżnić dwie zasadnicze klasy

•    rozkłady subiektywne,

•    rozkłady obiektywne.

Z subiektywnego punktu widzenia każde prawdopodobieństwo może być określ®" | przez subiektywną, bezpośrednią introspekcję zaś twierdzenie Bayesa jest ty narzędziem, które zwiększa dokładność tego procesu. Podejście obiekty^ j (zwane także logicznym) również traktuje prawdopodobieństwo jako ¹¹¹¹ niepewności, lecz w tym przypadku rozkład nie wyraża subiektywni 1

| _nj_a jednostki. Zamiast tego, regułę Bayesa traktuje się jako obiektywną P^ ¹ _slopnia, w jakim wiedza wyrażona za pomocą prawdopodobieństwa jest ⁱⁿ'^ar<! _VI1i następstwem dostępnych informacji. Tak więc każdy rozkład a priori ^,og|C'. sie j^a^° uzyskany za pomocą twierdzenia Bayesa przy danej informacji. •*** _t^J drogą rozumowania możemy dążyć do kolejnych rozkładów a priori przy mniejszym zasobie informacji aż dochodzimy do rozkładu a priori f^^aiacego jej całkowity brak. Głównym zadaniem jest zatem, według podejścia biekty'^vne8°> znalezienie rozkładu a priori, który reprezentuje kompletną ićwiedzę. W praktyce trudno jest jednak ustalić czy dany rozkład a priori spełnia iwmicnione wymagania, dlatego też jako rozkłady nicinformacyjne (zwane także eferencyjnymi) uważa się rozkłady zdominowane przez obserwacje, w tym sensie, ie spodziewana informacja o parametrach z nich płynąca jest maksymalna. Rozkłady referencyjne traktowane są zatem jako wygodne narzędzie służące do uzyskania zobiektywizowanej komunikacji wyników.

Ze względu na łatwość obliczeń wygodnie stosować tzw. sprzężone rodziny rozkładów. Główna idea tych rozkładów polega na tym, że jeżeli przyjmujemy rozkład a priori parametru 0 należący do danej rodziny, to dla dowolnej liczebności próby N i dowolnych wartości obserwacji, rozkład a posteriori parametru 0 należy również do tej samej rodziny. Idealna rodzina rozkładów to taka, dla której łatwo uzyskać ocenę parametru oraz elastyczna na tyle, że łatwo jest nią wyrazić wstępną informację.

Jedną z najstarszych i najprostszych metod jest przyjęcie jednostajnego rozkładu a priori, prowadzące do rozkładu a posteriori proporcjonalnego do funkcji wiarygodności. Jest to rozkład, który daje równe szanse wszystkim możliwym wartościom przyjmowanym przez parametr będący w kręgu naszych zainteresowań. Uzyskane w ten sposób wyniki są często zbieżne z wynikami otrzymanymi za pomocą metod klasycznych.

Wnioskowanie bayesowskie w przypadku modelu regresji liniowej jednej zmiennej. Rozważmy jako przykład model postaci:

y, I x_t = p₀ +p,*. + w_;

y_t oznacza i-tą obserwację na zmiennej objaśnianej, a x, - jest i-tą o serwacją na zmiennej objaśniającej, u_: oznacza i-te zakłócenie składnika ^eg0> ^natomiast P₀,P, są nieznanymi parametrami. Zakładamy, że rozkład

„ ^a l°^s°wego jest normalny o średniej zero i wariancji ct² , stąd nieznanymi P^tetrami w modelu są w istocie P₀,P,,a².

Funk ^{Cja Wiar}yg°^dności

^cJ^{a w}iarygodności modelu ma postać:

63