429
10.5. Nieliniowe zadania optymalizacji
pominęliśmy wskaźnik v. Zgrabniej — i ogólniej — napiszemy, że (l05.l6) <^=[/'(*r)!lr/(**>» **-!»
is 1 oznacza pseudoodwrotność macierzy Jacobiego; zob. wzory (5.2.2) i (5,2.4). p. -netodę nazywa się metodą Gaussa-Newtona.
Spowolnioną metodę Gaussa-Newtona otrzymuje się. przyjmując w (10.5.9), że
9 (x) =f(xjTm, Glx) =f(x)rf(x).
W ty ni przypadku jednak macierz G(x) jest dodatnio określona lub pólokrcślona tak, że % kierunku gradientu korzysta się rzadko; mimo wszystko sterowanie wartościami X opisane dla spowolnionej metody Newtona może być użyteczne.
Jeśli nie znamy wyrażenia analitycznego dla /'(*), to możemy korzystać z przybliżeń różnicowych; zob. § 6.9. Dla dużych n rozwiązywanie układu liniowego w każdej iteracji jest uciążliwe; Dixon [139], str. 44 i nast., opisuje wersje wykorzystujące aktualizację macierzy.
Metoda Gaussa-Newtona nie jest identyczna z metodą Newtona zastosowaną do równania (10.5.13). Ta ostatnia dałaby kierunek poszukiwania
(10.5.17) rf=[/"(,)Y(x)+/'(*)T/'(,)]- '/-(x)T/(l).
g<lz:c f"(x)r f(x) oznacza macierz, o elementach
m
£
dxtGXj
k
Ze względu na drugie pochodne obliczenia byłyby tu znacznie dłuższe niż dla kierunku Gaussa-Newtona.
Ta różnica może mieć znaczenie dla ostatecznej zbieżności, gdy norma ||/"(*)T/(■*)! | n,c jest mała, co z grubsza oznacza, że mamy model wyraźnie nieliniowy, którego nie można dobrze dopasować do rozważanych danych.
10.5.5. Optymalizacja warunkowa
fjjiffl Wielu zastosowaniach wektor x spełnia pewne warunki — równania lub nierówności. Wa przypadki szczególne zbadano wcześniej:
Warunki
Funkcja minimalizowana
liniowa
kwadratowa
nierówności liniowe równania liniowe
fe^letodę sympleks z programowania liniowego rozszerzono na programowanie kwadra-Dixoo [139], str. 110). gdzie funkcja minimalizowana jest kwadratowa, a wa-*WUC3 są nierównościami liniowymi.