statystyka skrypt56

5. REGRESJA NIELINIOWA

5.1. Cel ćwiczenia

Celem ćwiczenia jest zapoznanie się z sposobami estymacji nieliniowych zależności losowych.

5.2. Wprowadzenie

W badaniach naukowych zależności opisujące związek między zmienną zależną Y i zmiennymi niezależnymi x często wynikają bezpośrednio z analizy biologicznej, chemicznej czy fizycznej badanych zjawisk i mają charakter nieliniowy względem współczynników. Każdy ze współczynników ma wówczas określone znaczenie, a celem badań jest nie tyle aproksymacja danych doświadczalnych pewną zależnością, co przede wszystkim oszacowanie współczynników z maksymalną dokładnością. Estymacja współczynników funkcji nieliniowych jest znacznie trudniejsza niż funkcji liniowych, ale wraz z dynamicznym rozwojem oprogramowania zastosowanie postaci nieliniowych stało się dość powszechne. W czasach utrudnionego dostępu do komputerów, nieliniowa regresja była prawie niedostępna dla większości badaczy. Aby uniknąć trudności związanych z estymacją zależności nieliniowych, stosowano, co najwyżej, takie modele nieliniowe, które przez odpowiednie przekształcenie można było sprowadzić do postaci liniowej. Jednak przekształcanie danych powoduje zmianę ich wzajemnych relacji i wyniki estymacji zależności liniowych różnią się, niestety często dość znacznie, od wyników otrzymywanych z estymacji nieliniowej.

Funkcję nieliniową w ogólnej postaci można zapisać następująco:

y,-n(*oP)+Ą,    (5.i)

gdzie:

//(x,,p) - dowolna funkcja różnowartościowa, ciągła i różniczkowa Ina, xi ■ [xr*2i, ...,xfa]^T-wektor k zmiennych niezależnych,

P " !A /h,    AJ^T “ wektor m współczynników,

Ci - odchylenie losowe.

Zakłada się, że odchylenia losowe c, są nieskorclowanc o wartości oczekiwanej E(s) ■ 0 i jednorodnej wariancji D² (e) ■ o² oraz zwykle przyjmuje sic, że mają one rozkład normalny. Jeżeli dostępnych jest n obserwacji w postaci:

xi„X2i,.... Xki, y* i ■ 1.2,.... n,

to estymatory współczynników nieliniowej metody najmniejszych kwadratów NMNK (ang. nonlinear least sąuarcs, NLS) otrzymuje się, minimalizując sumę kwadratów reszt:

(5.2)

*W - £>? = Z(żV -

/-l r>i