428 2

428

10. Optymalizacja

ma rząd równy 2. Można wykazać, że H_m=G~^l, jeśli ę jest funkcją kwadratową j-poszukiwanie wzdłuż prostej jest dokładne.

W pewnych porównawczych testach lepiej wypadła następująca metoda; Metoda Broydena-Flelchera-Shmmo (1969, 1970).

(10.5.11)

. y^T#.-,A tr^TH,.,+a,._tyt^T

⁺~rr)    v_t—

Broyden opracował też obiecującą metodę bez poszukiwania wzdłuż prostej, opartą na następującym sposobie aktualizacji macierzy: (10.5.12) (sprawne działanie tej metody wymaga jednak pewnych środków ostrożności).

Poprzednie metody (z wyjątkiem metody najszybszego spadku) zakładają, że funkcję można lokalnie przybliżyć funkcją kwadratową, a wszystkie metody zakładają znajomość analitycznego wyrażenia dla gradientu. Spowolnioną metodę Newtona poleca się dla małych n, np. dla n<5. Metody aktualizacji macierzy są lepsze dla dużych n. Metody można tak zmodyfikować, aby korzystały z przybliżeń różnicowych gradientu. Tu jednak odsyłamy czytelników do studium metod bezpośredniego poszukiwania w książce Dixona [139]; to samo dotyczy zadań z nieciągłym gradientem.

Zadania minimalizacji wynikające z rozwiązywania średniokwadratowego układów nadokreślonych można wygodniej badać specjalnymi metodami, które opisujemy niżej.

10.5,4. Nudokreślone układy nieliniowe

W przykładzie 10.5.1 pokazano, że aproksymacja wykładnicza danych empirycznych prowadzi do układu nadokreślonego m równań nieliniowych z n niewiadomymi (»»>**)

(10.5.13)    f(x)xO, czyli - inaczej mówiąc - do minimalizacji funkcji

(10.5.14)    <p(x)=f(x)^rfix).

To samo odnosi się do wielu innych zadań aproksymacji nieliniowej, np. aproksymacji za pomocą funkcji wymiernych.

Układ (10.5.13) linearyzujemy. Z wzoru Taylora wynika, że /(*») +/'(**) (x-x_v)zsO,

gdzie /'(*) jest macierzą Jacobiego o wymiarach mxn utworzoną dla funkcji wektorów*^ Kierunek poszukiwania rozwiązania otrzymuje się, rozwiązując ten nadokreślony liniowy względem x—x_v metodami z § 5.7. Rozwiązanie można wyrazić w póstact

(10.5.15)

d=(f(x)Y(x)Y Y(x)^r/(x),