plik


ÿþ6. Równania nieliniowe i ich ukBady Ta cz[ wykBadu bdzie po[wicona zagadnieniu wyznaczania miejsc zerowych nieliniowych funkcji skalarnych i wektorowych, tzn. rozwizywaniu równaDpostaci f(x) =0 (78) gdzie f(x) = [f1(x); f2(x); :::; fn(x)]T jest n-wymiarow (l · n < 1) funkcj rzeczywist n zmiennych rzeczy- wistych x1; x2; :::; xn, tzn. x = [x1;x2; :::; xn]T . ZakBadamy, |e f jest funkcj okréslon w pewnym otwartym podzbiorze D przestrzeni Rn i ze ma w tym zbiorze miejsce zerowe ® (tzn. ® 2 D oraz f(®) = 0). Na ogóB za- Bo|enie to bdzie jeszcze wzmacniane |daniem dostatecznej regularnoci funkcji f w D oraz okre[leniem krotnoci h inzera @fi ®. Przede wszystkim omówimy wyznaczanie zer jednokrotnych (prostych), tzn. takich, |e jakobian f0(x) = @xj i;j=1 jest nieosobliwy. W przypadku skalarnym (n =1) warunek ten oznacza oczywicie, |e f0(®) =0. 6 Nie ka|de równanie postaci (78) nie daje si rozwiza dokBadnie (dotyczy to wikszo[ci równaD przestpnych oraz dowolnych równaD algebraicznych stopni wy|szego ni| czwarty). Wówczas stosuje si metody iteracyjne konstruujce nieskoczone cigi fxkg1 punktów przestrzeni Rn zbie|ne przy pewnych zaBo|eniach do rozwizania ®. Wiekszo[ k=0 znanych praktycznie u|ytecznych metod iteracyjnych jest stacjonarna. Przez stacjonarnmetod iteracyjn rozumiemy metod, w której ka|de przybli|enie xk konstruowane jest wedBug tej samej reguBy, niezale|nie od indeksu k. DokBad- niej, metoda stacjonarna ' generuje ciag punktów fxkg speBniajcych zale|no[ typu xk+1 = ' (xk; xk¡1; :::; xk¡l; < (xk; xk¡1; :::; xk¡l; f)) (79) dla k = l; l +1; :::. ' jest pewnym operatorem zw. funkcj iteracyjn, a < oznacza zbiór informacji o funkcji f, z których w ka|dym kroku korzysta metoda ' (warto[ci funkcji f i jej pochodnych). Je|eli we wzorze (79) parametr l =0, czyli xk+1 = ' (xk), co oznacza, |e xk+1 zale|y tylko od informacji oblic- zonej w punkcie xk, tometoda ' jest jednopunktowa bez pamici. Jzeli l >0, tzn. xk+1 = ' (xk; xk¡1; :::; xk¡l), to ' jest metod jednopunktowz pamici. Natomiast je[li xk+1 okre[la si na podstawie nowej informacji w punktach xk; w1(xk); :::; wm(xk) (m ¸ 1), to ' nazywa si metod wielopunktow. Oczywi[cie istniej te| metody wielopunk- towe z pamici. 6.1. Zbie|no[ stacjonarnych metod iteracyjnych DEFINICJA 46. Niech ® 2 Rn i xk 2 Rn dla k =0; 1; :::. Mówimy, |e metoda iteracyjna okre[lona przez funkcj iteracyjn ' jest zbie|na, je[li cig fxkg przez ni generowany jest zbie|ny do ®, tzn. lim kxk ¡ ®k =0: (80) k!1 Niestety, niewiele metod iteracyjnych posiada t wBasno[, |e konstruowany cig przybli|eD fxkg jest zbie|ny do rozwizania ® przy dowolnych przybli|eniach pocztkowych ze zbioru D. Metody takie okréslamy jako zbie|ne globalnie, wodró|nieniu od zbie|nych lokalnie, tzn. takich, dla których przybli|enia pocztkowe musz nalze do pewnego dostatecznie maBego otoczenia punktu ®. DEFINICJA 47. Je|eli dla ka|dej funkcji f nale|cej do pewnej klasy F posiadajcej miejsce zerowe ® 2 D(f) istnieje liczba dodatnia ¡ taka, |e dla ka|dego ukBadu ró|nych przybli|eD pocztkowych nale|cych do kuli I (®; ¡) = fx 2 Rn : kx ¡ ®k ·¡g cig fxkg generowany przez metod ' jest zbie|ny do ®, to mówimy, |e metoda ' jest zbie|na w klasie F, I (®; ¡) nazywamy kulzbie|no[ci (przedziaBem zbie|no[ci w przypadku skalarnym), a liczb ¡ - promieniem zbie|no[ci. UWAGA: (i) F na ogóB jest klas funkcji odpowiednio regularnych o zerze ® ustalonej krotno[ci. (ii) Oczywi[cie kula zbie|no[ci I (®; ¡) musi by zawarta w zbiorze D. Jésli jest mu równa lub niewiele od niego mniejsza, to metod uwa|amy za zbie|n globalnie. Szybko[ zbie|no[ci cigów generowanych przez metod iteracyjn jest w zasadzie zale|na od krotno[ci wyz- naczanego miejsca zerowego. W przypadku zer prostych wielko[ci charakteryzujc t szybko[ jest wykBadnik zbie|no[ci metody, okre[lony nastpujco: DEFINICJA 48. Je[li metoda iteracyjna ' jest zbie|na do ® oraz istniej liczby p ¸ 1; C ¸ 0 (C 2 [0; 1) w przypadku, gdy p =1) takie, |e zachodzi równo[ kxk+1 ¡ ®k lim = C; (81) k!1 kxk ¡ ®kp to mówimy, |e metoda jest zbie|na z rzdem p (lub |e metoda jest rzdu p). Liczb p nazywamy wtedy rzdem (wykBadnikiem) zbie|no[ci, a liczb C - (asymptotyczn) staBzbie|no[ci. 1 UWAGA: (i) Dla p =1; 2; 3 zbie|no[ metody okre[la si odpowiednio jako liniow, kwadratowi sze[cienn, je[li 1 <p <2, tomówimyozbie|no[ci ponadliniowej. (ii) p nie musi by liczb naturaln, np. dla metod z pamici wykBadnik zbie|no[ci nigdy nie jest liczb naturaln. (iii) W przypadku zbie|no[ci liniowej szybko[ zbie|no[ci zale|y tylko od staBej C, natomiast w przypadku zbie|no[ci co najmniej ponadliniowej, szybko[ zbizno[ci okre[laj obie staBe p i C (zbie|no[ tym szybsza, im wiksze p). Asymptotyczna staBa zbie|no[ci ma wpByw na szybko[ zbie|no[ci, ale nie taki jak rzd. Z dwóch metod o tym samym rzdzie zbie|no[ci szybsza jest ta, która ma mniejsz staB. (iv) Metody iteracyjne jednopunktowe snaogóB zbie|ne liniowo, chyba |e funkcj iteracyjn ' wybierze siwpewien szczególny sposób. Istnieje kilka ogólnych sposóbów konstrukcji metod iteracyjnych o dowolnie wysokim wykBadniku zbie|no[ci, np. metoda Schrödera. Jednak metody dla p > 3 s praktycznie interesujce tylko wtedy, gdy wy|sze pochodne funkcji f Batwo obliczy, gdy| mo|na dowie[, |e ka|da metoda iteracyjna jednopunktowa o wykBadniku p wymaga obliczenia p ¡ 1 pochodnych funkcji f wka|dym kroku iteracyjnym. PRZYKAAD. Oznaczmy "n := xn ¡ ® dla ka|dego n ¸ 0. Przypúscmy, |e mamy dwie metody iteracyjne w przestrzeni R1 onastpujcych wBasno[ciach: j"n+1j j¹n+1j " lim =0:75 oraz lim =0:75; n!1 n!1 j"nj j¹nj2 " czyli zbie|ne liniowo i kwadratowo, obie z takimi samymi staBymi zbie|no[ci. Dodatkowo przypu[my, dla up- roszczenia, |e j"n+1j j¹n+1j " ¼ 0:75 oraz ¼ 0:75: j"nj j¹nj2 " Dla metody zbie|nej liniowo oznacza to, |e j"nj ¼0:75 j"n¡1j ¼0:752 j"n¡2j ¼::: ¼ 0:75n j"0j ; za[ dla zbie|nej kwadratowo h i2 n+1 n+1 j¹nj ¼0:75 j¹n¡1j2 ¼ 0:75 ¢ 0:75 j"n¡2j2 =0:753 j"n¡2j4 ¼ ::: ¼ 0:752 ¡1 j"0j2 : " " Aby porówna szybko[ zbie|no[ci okre[limy liczb iteracji n, niezbdn do otrzymania rozwizania obarczonego bBdem nie przekraczajcym 10¡8 przy zaBo|eniu, |e j"0j = j¹0j =1. Dla metody liniowej " ¡8 j"nj =0:75n ¢ 1 · 10¡8, zatem n ¸ ¼ 64: lg 0:75 Dla metody zbie|nej kwadratowo n+1 n+1 n+1 j"nj =0:752 ¡112 =0:752 ¡1 · 10¡8 co implikuje ¡8 2n+1 ¸ +1¼ 65, wic n ¸ 6. lg 0:75 W tych okoliczno[ciach metoda kwadratowa wymaga wykonania tylko 6 iteracji, podczas gdy liniowa a| 64. W przypadku metod iteracyjnych bez pamici wykBadnik zbie|no[ci mo|na wyznaczy teoretycznie za pomoc poni|szego twierdzenia: TWIERDZENIE 49. Niech p-ta pochodna '(p)(x) funkcji iteracyjnej ' bedzie cigBa w pewnym otoczeniu punktu ®. Metoda ' jest rzdu p wtedy i tylko wtedy, gdy ' (®) =®; '(j) (®) =0 dla j =1; 2; :::; p ¡ 1; '(p) (®) =0: (82) 6 '(p)(®) Oprócz tego staBa zbie|no[ci C ¼ . p! DOWÓD pomijamy. UWAGA: (i) Warunek ' (®) =® nazywa si warunkiem zgodno[ci. (ii) W praktyce czsto obliczenie warto[ci pochodnych funkcji iteracyjnej, zwBaszcza dla metod wielopunktowych jest bardzo skomplikowane. Wiele u|ytecznych metod wyznaczania wykBadnika zbie|no[ci w przypadku funkcji it- eracyjnych specjalnej postaci mo|na znalez w literaturze, np. J.F.TRAUB - Iterative methods for the solution of equations (wyd. ros. Iteracjonnyje metody rieszienija urawnienij). Poni|sze lematy s przykBadami alternatywnych sposobów wyznaczania wykBadnika zbie|no[ci funkcji iteracyjnych specjalnej postaci. 2 Oznaczmy przez Ip klas funkcji iteracyjnych, których wykBadnik zbie|no[ci jest równy p. LEMAT 50. Niech ' 2 Ip oraz f (' (x)) Ã(x) =' (x) ¡ : f0(x) Wówczas Ã(x) 2 Ip+1. LEMAT 51. Niech '1 2 Ip, '2 2 Ir oraz '3 (x) ='2 ('1(x)). Wówczas '3 2 Ipr. LEMAT 52. WykBadnik zbie|no[ci metody jednopunktowej z pamici xk+1 = ' (xk; xk¡1; :::; xk¡l) jest równy jedynemu dodatniemu pierwiastkowi p równania ^ l X pn+1 ¡ s pj =0; (83) j=0 gdzie l jest liczb punktów  pamici , a s - ilo[ci nowej informacji w ka|dej iteracji. Ponadto s <^ <s +1. p Oprócz mo|liwo[ci porównywania metod za pomoca rzdów zbie|no[ci, mo|emy tak|e porównywa ich efekty- wno[, która okre[la zakres obliczeD koniecznych do otrzymania pierwiastka. Miar jako[ci metody jest tzw. wskaznik efektywno[ci deðniowany za pomoc nastpujcego wzoru: p p d E = (lub rzadziej E = p), (84) d gdzie p jest rzdem metody, za[ d - tzw. informacyjnym zapotrzebowaniem, wyra|ajcym si liczb elementów nowej informacji, niezbednych w ka|dej iteracji (w formie warto[ci funkcji f i jej pochodnych w ró|nych punktach). UWAGA: (i) Dla metod jednopunktowych E · 1, ale istniej metody jednopunktowe wszystkich rzdów opty- malne, tzn. takie, dla których E =1: 1 (ii) Dla metod z pam/eci 1 <E<1+ (wiksza efektywno[ tych metod jest zwizana z powtórnym wykorzys- d taniem informacji w l punktach). (iii) Dla metod wielopunktowych E ¸ 1, co jest wynikiem wykorzystania dodatkowej informacji o funkcji. 6.2. Przegld najbardziej znanych metod dla równaDwprzestrzeni R1 W tej cz[ci omówimy najprostsze i najpopularniejsze metody rozwizywania dowolnych równaD w zbiorze liczb rzeczywistych. Praktycznie wiekszo[znich(zwyjtkiem bisekcji) daje siopisa w postaci nastpujcego algorytmu: INPUT: x0; :::; xl - przybli|enia pocztkowe, " - tolerancja dokBadno[ci, N - maksymalna liczba iteracji. OUTPUT: x - przybli|one rozwizanie lub informacja o  pora|ce . Step 1: i =1; Step 2: WHILE i · N DO Steps 3-6. Step 3: x = Á (x0; :::; xl); Step 4: IF (kryterium ko¶ OUTPUT(x); STOP. nca) Step 5: i = i +1. Step 6: x0 = x1; :::; xl = x; Step 7: OUTPUT(Metoda nie znalazBa rozwizania w N krokach); STOP. Uwaga: Dodanie warunku na maksymaln liczb kroków iteracyjnych jest dobrym zwyczajem. Eliminuje mo|l- wo[, |e maszyna zaptli si w obliczeniach w przypadku, gdy wymagana jest zbyt du|a dokBadno[ ". 6.2.1. Metody bisekcji (poBowienia) i regula falsi Algorytm bisekcji oparty jest na poni|szym twierdzeniu o warto[ci po[redniej: TWIERDZENIE 53. Je[li f 2 C [a; b] i K jest dowoln liczb pomidzy f(a) i f(b), to istnieje liczba c 2 (a; b) taka, |e f(c) =K. DOWÓD pomijamy. PRZYKAAD 1: Rozwa|my równanie f(x) =x5 ¡ 2x3 +3x2 ¡ 1 =0. Oczywi[cie funkcja f(x) jest cigBa na przedziale [0; 1] oraz f(0) = ¡1, f(1) = 1. Poniewa| f(0) < 0 < f(1), zatem tw.53 implikuje, |e istnieje liczba ® 2 (0; 1), bdca rozwizaniem rozwa|anego równania. Przypu[my teraz, |e funkcja f, okre[lona na przedziale [a; b], jest cigBa oraz jej wartósci f(a) i f(b) maj ró|ne znaki. Wówczas, na podstawie tw.53, istnieje ® 2 (a; b) takie, |e f(®) =0. Chocia| procedura bdzie pracowa w przypadku, gdy f(a) i f(b) maj przeciwane znaki i istnieje wicej ni| jeden pierwiastek w przedziale [a; b], to dla uproszczenia zaBó|my, |e w tym przedziale pierwiastek jest tylko jeden. Procedur powtarza si dla przepoBowionego podprzedziaBu [a; b] i, w ka|dym kroku, lokalizuje si  poBówk zawierajc x. Aby rozpocz, przyjmujemy a1 = a 1 i b1 = b, oraz x1 = (a1 + b1) czyli x1 jest [rodkiem przedziaBu [a; b]. Je[li f(x1) =0, to x = x1, w przeciwnym 2 3 razie, f(x1) jest tego samego znaku co f(a1) lub f(b1). Jésli f(x1) i f(a1) s tego samego znaku, to x 2 (x1; b1), i przyjmujemy a2 = x1 oraz b2 = b1.Je[li f(x1) i f(b1) s tego samego znaku, to x 2 (a1; x1), i przyjmujemy a2 = a1 oraz b2 = x1. Nastpnie powtarzamy proces dla przedziaBu [a2; b2]. UWAGA: (i) Na wej[ciu potrzebne s wartósci a i b - kraDce przedziaBu, gdzie f(a) i f(b) maj przeciwne znaki. Step 3 w tym przypadku bdzie postaci: x = a +(b ¡ a)=2, natomiast Step 6: IF f(a)f(x) > 0 THEN a = x ELSE b = x lub IF f(b)f(x) > 0 THEN b = x ELSE a = x. (ii) W ka|dym kroku dBugo[ przedziaBu zawierajcego pierwiastek jest redukowana ze wspóBczynnikiem 2. Zatem nale|y wybiera przedziaB pocztkowy [a; b] jak najmniejszy, co zredukuje liczb iteracji. Metoda bisekcji jest bardzo wolno zbie|na, w tym sensie |e mo|e istnie potrzeba wykonania bardzo du|ej liczby iteracji, zanim bBd bezwzgldny j® ¡ xNj bdzie dostatecznie maBy, a ponadto, dobre po[rednie przybli|enie mo|e by niechccy zmarnowane. Z drugiej strony, metoda jest zawsze zbie|na do rozwizania i z tego powodu jest czsto u|ywana jako procedura  startowa dla bardziej efektywnych metod. TWIERDZENIE 54. Niech f 2 C [a; b] i przypu[my, |e f(a)f(b) < 0. Procedura bisekcji (opisana przez algorytm 1) generuje cig fxng przybli|ajcy ® z dokBadno[ci b ¡ a jxn ¡ ®j · ; n ¸ 1: (85) 2n DOWÓD: Dla ka|dego n ¸ 1 mamy 1 bn ¡ an = (b ¡ a) oraz x 2 (an; bn) : 2n¡1 1 Poniewa| xn = (an + bn) dla wszystkich n ¸ 1, to wynika std, |e 2 1 jxn ¡ ®j · (bn ¡ an) =2¡n (b ¡ a) : 2 ¥ Stosujc si do notacji O(¢), nierówno[ (85) implikuje, |e fxng1 jest zbie|ny do ® i jest ograniczony przez cig n=1 zbie|ny do 0 z rzdem zbie|no[ci O (2¡n). Powzsze twierdzenie daje tylko ograniczenie bBdu przybli|enia. PRZYKAAD 2: Rozwa|my równanie x3 +4x2 ¡ 10 = 0 posiadajce pierwiastek w przedziale [1; 2] (f(1) = ¡5 i f(2) = 14). Algorytm 1 daje w 10 krokach przybli|enie x9 = 1:365234375 pierwiastka ® = 1:365230013. Nierówno[ (85) zapewnia tylko, |e 2 ¡ 1 j® ¡ x9j · =2¡9 · 2 ¢ 10¡3; 29 cho bBad bezwzgldny wynosi wówczas j® ¡ x9j = j1:365230013 ¡ 1:365234375j ¼4:4 £ 10¡6. Z drugiej strony nierówno[ (85) umo|liwia okre[lenie liczby N iteracji niezbdnych do uzyskania wymaganej dokBadno[ci. Poza tym, jak Batwo sprawdzi algorytm bisekcji znajduje jedn cyfr znaczc przybli|enia w 3 lub 4 1 krokach (poniewa| 2¡3 < < 2¡4) 10 PRZYKAAD 3: Jak wiele iteracji trzeba wykona, aby rozwiaza równanie z przykBadu 2 z dokBadno[ci " =10¡5 na przedziale [1; 2]. Szukana liczba N bdzie speBnia jxN ¡ ®j ·2¡N(b ¡ a) =2¡N < 10¡5: U|yjemy logarytmu dziesitnego. Poniewa| 2¡N < 10¡5 implikuje, |e log10 2¡N < log10 10¡5 = ¡5, czyli ¡N log10 2 < ¡5, skd 5 N> ¼ 16:6: log10 2 Nale|y zatem wykona 17 kroków iteracyjnych, aby zapewni dokBadno[ przybli|enia 10¡5. Przy " =10¡3 wymaga si N 10 iteracji, a warto[ x9 daje ju| dokBadno[ rzdu 10¡6. Wa|ne jest zatem, aby zauwa|y, |e taka technika daje ty<ko ograniczenie dla liczby iteracji, a w wielu przypadkach jest ono du|o wiksze ni| faktycznie wymagana liczba. Wolna zbie|no[c metody bisekcji jest spowodowana przede wszystkim u|yciem tylko znaku funkcji f, bez wyko- rzystania wiedzy o samej funkcji. Nowy punkt jest wybierany bez wzgldu na to, w jakiej odelgBo[ci od pierwiastka sie znajduje. Podobny jak algorytm posiada metoda regula falsi, ale wykorzystujc informacje o funkcji f, co wwielu przypadkach przyspiesza zbie|no[, cho nie zawsze. Nowy punkt jest otrzymywany jako punkt przecicia prostej przechodzcej przez punkty o wspóBrzdnych (a; f(a)) i (b; f(b)) z osi OX. Zatem nastepne przybli|enie jest dane 4 wzorem b ¡ a x = a ¡ f(a) : f(b) ¡ f(a) Zbie|no[ obu rozwa|anych metod jest liniowa, cho metoda regula falsi dla wikszo[ci równaD potrzebuje mniej kroków iteracyjnych do znalezienia pierwiastka. Wynika to z wielko[ci staBej zbiezno[ci, która dla bisekcji wynosi 1 zawsze C = (na podstawie dowodu tw.54), za[ dla regula falsi jest zwykle mniejsza (zale|nie od funkcji f, np. dla 2 f(x) =x ¡ e¡x mamy C ¼ 0:18). 6.2.2. Metody Newtona, siecznych i Steffensena Metoda Newtona (a wBa[ciwie Newtona-Raphsona) jest jedn z najbardziej skutecznych i najlepiej zbadanych metod numerycznych rozwizywania równaD (78). NajBatwiej interpretowa metod Newtona, opierajc si na rozwiniciu w szereg Taylora. Przypu[cmy, |e funkcja f jest klasy C2 [a; b]. Niech x 2 [a; b] bdzie przybli|eniem rozwizania ® takim, |e ~ f0 (~ =0 i jx ¡ ®j jest dostatecznie maBa. Rozwa|my nastpujce rozwinicie funkcji f w szereg Taylora w otoczeniu x) 6 ~ punktu x ~ (x ¡ x)2 ~ f(x) =f (~ +(x ¡ x) f0 (~ + f00 (»x) ; x) ~ x) 2 gdzie » le|y midzy x a x. Poniewa| f (®) =0, topowy|sze równanie dla x = ® daje ~ (® ¡ x)2 ~ 0 =f (~ +(® ¡ x) f0 (~ + f00 (»®) : (86) x) ~ x) 2 Metod Newtona konstruuje si, zakBadajc, |e skBadnik zawierajcy (® ¡ x)2 mo|na pomin, zatem ~ 0 ¼ f (~ +(® ¡ x) f0 (~ ; (87) x) ~ x) co daje f (~ x) ® ¼ x ¡ ; ~ f0 (~ x) które powinno by lepszym przybli|eniem rozwizania ® ni| x. W konsekwencji metoda Newtona-Raphsona generuje ~ cig zdeðniowany nastpujco: f (xn) xn+1 = xn ¡ ; n ¸ 0: (88) f0 (xn) UWAGA: (i) Zauwa|my, |e metoda Newtona jest metod iteracyjn typu xn+1 = '(xn) czyli jedniopunktow bez pamici. (ii) Z równania (88) oczywiste jest, |e metoda nie dziaBa, gdy f0(xn) =0 dla pewnego n. (iii) ZaBo|enie, które pozwoliBo przej[ od równania (86) do (87) decyduje o tym, |e je[li x0 nie dostatecznie blisko rozwizania, to metoda Newtona mo|e nie by zbie|na (cho s przypadki, gdy mamy do czynienia ze zbie|no[ci globaln metodyNewtona). PRZYKAAD 4: Aby znalez rozwizanie równania z przykBadu 2 na przedziale [1; 2] za pomoc metody Newtona, generuje si cig x3 +4x2 ¡ 10 n n xn+1 = xn ¡ : 3x2 +8xn n Wybierajc jako przybli|enie pocztkowe x0 =1:5, otrzymamy 8 cyfr dokBadnych ju| dla x3 =1:36523001 Poni|sze twierdzenie o zbie|no[ci metody Newtona podkre[la równie| wag wyboru przybli|enia pocztkowego: TWIERDZENIE 55. Niech f 2 C2 [a; b]. Jésli ® 2 [a; b] jest takie, |e f (®) =0 oraz f0 (®) =0, toistnieje ± >0 6 taka, |e metoda Newtona zdeðniowana wzorem (88) generuje cig fxng1 zbie|ny do ® dla dowolnego przybli|enia n=1 pocztkowego x0 2 I (®; ±). DOWÓD opiera si na analizie metody Newtona jako schematu iteracyjnego typu xn+1 = '(xn) dla n ¸ 1, gdzie f(x) '(x) =x ¡ f0(x) i odwoBuje si do tw.57. UWAGA: Metoda Newtona jest bardzo skuteczn technik, ale ma bardzo powa|ne ograniczenia: jest tylko lokalnie zbie|na, w pewnych przypadkach jest bardzo kosztowna (gdy obliczenie warto[ci pochodnej wymaga wielu operacji arytmetycznych, np. dla f(x) =x23x cos 2x). 5 Aby omin problem obliczania pochodnej mo|na wykorzysta pewn modyðkacj metody Newtona. Wykorzys- tamy do tego celu dwupunktow formuB interpolacyjn przybli|ania pierwszej pochodnej (36), a mianowicie 0 f (x + h) ¡ f (x) f (x) = ; h KBadc x + h = xn¡1 oraz x = xn, otrzymamy f (xn¡1) ¡ f (xn) f (xn) ¡ f (xn¡1) f0(xn) = = : xn¡1 ¡ xn xn ¡ xn¡1 W ten sposób formuBa Newtona daje metod f(xn)(xn ¡ xn¡1) xn+1 = xn ¡ ; n ¸ 1 (89) f(xn) ¡ f(xn¡1) nazywan metod siecznych. UWAGA: (i) Oczywi[cie, metoda siecznych jest wolniej zbie|na ni| metoda Newtona, gdy|u|ywa tylko przybli|e- nia pierwszej pochodnej. (ii) Wybór pomidzy metod siecznych i metod Newtona zale|y od kosztu obliczania pierwszej pochodnej. Przy za- Bo|eniu, |e koszt obliczania pochodnej f0(x) przewy|sza µ razy koszt obliczenia f(x), stosuje si nastpujc reguB: je[li µ >0:44, tonale|y u|ywa metody siecznych, w przeciwnym razie - metody Newtona. (iii) Podobnmodyðkacj jak metoda siecznych stanowi metoda Steffensena, która równie| nie korzysta z pochodnych, ale wymaga za to obliczenia dwóch warto[ci funkcji f(x). Jest ona okre[lona wzorem: f(xn) xn+1 = xn ¡ n ¸ 0: (90) f(xn+f(xn))¡f(xn) f(xn) Jest to przykBad metody wielopunktowej, a dokBadnie dwupunktowej. Zbadajmy teraz wykBadniki zbie|no[ci rozwa|anych metod. Dla metody Newtona wykorzystamy równanie (86). Podzielmy je stronami przez f0(xn) f(xn) (® ¡ xn)2 ¡ ¡ ® + xn = xn+1 ¡ ® = f00(»); f0(xn) 2f0(xn) gdzie » le|y midzy ® a xn. Std jxn+1 ¡ ®j jf00(»)j = ; jxn ¡ ®j2 2 jf0(xn)j a dla xn ! ® jxn+1 ¡ ®j jf00(®)j ! ; jxn ¡ ®j2 2 jf0(®)j wic metoda Newtona w ogólnym przypadku jest zbie|na kwadratowo, o ile f00(®) =0. Oczywi[cie mo|na ten fakt 6 sprawdzi, stosujc tw.49. Dodatkowo uzyskamy wówczas wniosek, |e metoda Newtona jest zbie|na co najmniej sze[ciennie, gdy f00(®) =0. Do zbadania rzdu zbie|no[ci metody siecznych u|yjemy lem.52. Nale|y zatem znalez dodatni pierwiastek rów- nania p2 ¡ (p +1) =0 czyli p2 ¡ p ¡ 1 =0: p Jedyny dodatni pierwiastek tego równania wynosi p =(1 + 5)=2 ¼ 1:618. Natomiast metoda Steffensena jest zbie|na kwadratowo (obliczenia pomijamy). 6.2.3. Metoda punktu staBego Teraz rozwa|ymy metody okre[lania rozwizania równania, które mozna wyrazi w postaci '(x) =x dla pewnej funkcji '. Rozw/azanie takiego równania jest nazywane punktem staBym funkcji '. Jésli mo|na znalez punkt staBy dla danej funkcji ', to równie| mo|na znalez pierwiastek pewnego równania, a mianowicie rozwizania równania f(x) =0 odpowiadaj punktom staBym równania '(x) =x, gdy '(x) =x ¡ f(x). Poni|sze twierdzenie daje warunek wystarczajcy istnienia i jednoznaczno[ci punktu staBego: TWIERDZENIE 56. Je[li ' 2 C [a; b] i '(x) 2 [a; b], to ' posiada punkt staBy w[a; b]. Dalej, przypu[my, |e '0(x) istnieje na (a; b) i j'0(x)j ·½ <1dla wszystkich x 2 (a; b) : Wówczas, ' posidada jedyny punkt staBy ® 2 (a; b). 6 PRZYKAAD 5. Niech '(x) =(x2 ¡ 1)=3 na [¡1; 1]. Poniewa| jest to funkcja kwadratowa, to jej warto[ najm- niejsza pojawia siw x =0 i wynosi '(0) = ¡1=3, za[ warto[najwiksza - w x = §1 i wynosi '(§1) = 0. Ponadto ' jest cigBa czyli speBnia zaBo|enia tw.56, wic posiada dokBadnie jeden punkt staBy w [¡1; 1] i jest on rozwizaniem p p równania 3x = x2 ¡ 1, skd ® =(3 ¡ 13)=2. Zauwa|my, |e ' posiada równie| jeden punkt staBy ® =(3 + 13)=2 w przedziale [3; 4]. Jednak, '(4) = 5, w/ec tym razem zaBo|enia twierdzenia nie s speBnione. Pokazuje to, |e tw.56 nie daje warunku koniecznego. Aby przybli|y punkt staBy funkcji ', wybierzmy przybli|enie poczatkowe x0 i wygenerujmy cig fxng1 kBadc n=0 xn = '(xn¡1) dla ka|dego n ¸ 1. Jésli cig jest zbie|ny do ® i ' jest cigBa, to ³ ´ ® = lim xn = lim '(xn¡1) =' lim xn¡1 = '(®); n!1 n!1 n!1 czyli otrzymamy rozwizanie równania x = '(x). WBa[nie ta technika jest nazywana metod punktu staBego. Prawie ka|de równanie mo|na napisa w postaci x = ' (x) na wiele sposobów. Jednak nie zawsze mo|na otrzyma metod zbie|n, nie mówic ju| o zbizno[ci globalnej. Cig fxkg mo|e by rozbie|ny nawet, gdy x0 jest bardzo bliskie pierwiastka. Aby zilustrowa technik metody punktu staBego rozwa|my nastpujcy: PRZYKAAD 6. Równanie x3 +4x2 ¡ 10 = 0 ma jeden pierwiastek w [1; 2]. Jest wiele sposobów uzyskania postaci x = '(x) za pomoc prostych przeksztaBceD algebraicznych, przy czym wa|ne jest dopilnowa, aby punkt staBy ka|dego z uzyskanych równaDbyB rozwizaniem oryginalnego równania. Np. x = '1(x) =x ¡ x3 ¡ 4x2 +10 rozbie|na 1 ¡10 ¢2 x = '2(x) = ¡ 4x nie dziaBa x 1 ¡ ¢2 1 x = '3(x) = 10 ¡ x3 30 2 1 ³ ´2 10 x = '4(x) = 15 4+x x3+4x2¡10 x = '5(x) =x ¡ 4 3x2+8x W drugiej kolumnie dana jest liczba wykonanych iteracji dla przybli|enia pocztkowego x0 =1:5, które daj precyzj 10 cyfr dokBadnych, podczas gdy metoda bisekcji wykonaBa 27 kroków, startujc z przedziaBu [1; 2]. Z powzszego przykBadu wynika konieczno[ okréslenia warunków, które zagwarantuj zbie|no[ do rozwiza- nia i pozwol wybrác ' w taki sposób, aby zbie|no[ byBa jak najszybsza. Poni|sze twierdzenie zawiera warunek dostateczny zbie|no[ci: TWIERDZENIE 57. Niech ' 2 C [a; b] i przypu[my, |e '(x) 2 [a; b] dla wszystkich x 2 [a; b]. Dalej, niech istnieje '0 na (a; b) oraz j'0(x)j ·½ <1 dla wszystkich x 2 (a; b) : (91) Je[li x0 jest dowolnym punktem z [a; b], to cig zdeðniowany przez xn = '(xn¡1); n ¸ 1; bdzie zbie|ny do jedynego punktu staBego ® w [a; b]. DOWÓD: Na podstawie tw.56 istnieje jedyny punkt staBy w [a; b]. Poniewa| ' odwzorowuje [a; b] na siebie, to cig fxng1 jest zdeðniowany dla wszystkich n ¸ 1 i xn 2 [a; b]. Wykorzystujc nierówno[ (91) i tw. o wartósci n=0 [redniej, otrzymamy jxn ¡ ®j = j' (xn¡1) ¡ ' (®)j ·j'0 (»)j jxn¡1 ¡ ®j ·½ jxn¡1 ¡ ®j ; gdzie » 2 (a; b). Zastosowanie powy|szego oszacowania indukcyjnie daje jxn ¡ ®j ·½ jxn¡1 ¡ ®j ·½2 jxn¡2 ¡ ®j ·::: · ½n jx0 ¡ ®j : Poniewa| ½ <1, to lim jxn ¡ ®j · lim ½n jx0 ¡ ®j =0; n!1 n!1 zatem fxng1 jest zbie|ny do ®. n=0 UWAGA: Je[li 0 <'0 (®) < 1, to zbie|no[ metody jest monotoniczna, za[ jésli ¡1 <'0 (®) < 0, to cig fxkg d|y naprzemiennie do ®. PRZYKAAD 7. Zbadajmy teraz zbie|no[ metodz przykBadu6w [wietle tw.57. (a) '0 (x) = 1 ¡ 3x2 ¡ 8x i nie istnieje przedziaB [a; b] zawierajcy ®, dla którego j'0 (x)j < 1 (j'0 (®)j ¼ 15:5). 1 1 1 Chocia| tw.57 nie gwarantuje, |e w takim przypadku metoda jest rozbie|na, to w ka|dym razie nie ma powodu, aby oczekiwa zbie|no[ci; 7 (b) '2(x) nie odwzorowuje [1; 2] na [1; 2] i cig nie jest dobrze zdeðniowany dla x0 =1:5 (x3 =(¡8:65)1=2): Ponadto, nie istnieje przedziaB zawierajcy ®, dla którego j'0 (x)j < 1, poniewa| j'0 (®)j ¼3:4. 1 2 ¡ ¢¡1=2 1 (c) '0 (x) = 10 ¡ x3 < 0 na [1; 2], wic ' jest [ci[le malejca na [1; 2]. Bli|sze zbadanie cigu fxng pokazuje, 3 2 |e wystarczy rozwa|y przedziaB [1; 1:5] zamiast [1; 2], na którym ' jest nadal [ci[le malejca i dodatkowo 1 < 1:28 ¼ '3(1:5) · '3(x) · '3(1) = 1:5 dla wszystkich x 2 [1; 1:5] : Tw.57 potwierdza zbie|no[ w tym przypadku, gdy| j'0 (x)j ·j'0 (1:5)j ¼0:66. 3 3 (d) Dla '4(x) ¯ ¯ ¯ ¯ ¡5 5 ¯ ¯ j'0 (x)j = p · p < 0:15 dla wszystkich x 2 [1; 2] : 4 ¯ 10(4 + x)3=2 ¯ 1053=2 Oszacowanie j'0 (x)j jest mniejsze ni| j'0 (x)j, co wyjásnia powód szybszej zbie|no[ci przy u|yciu '4. Analogicznie 4 3 byBoby w przypadku '5. WNIOSEK 58. Je[li ' speBnia zaBo|enia tw.57, to oszacowanie bBdu dla xn przybli|ajcego punkt staBy ® jest dane nastepujca nierówno[ci jxn ¡ ®j ·½n max fx0 ¡ a; b ¡ x0g dla wszystkich n ¸ 1. WNIOSEK 59. Je[li ' speBnia zaBo|enia tw.57, to ½n jxn ¡ ®j · jx0 ¡ x1j dla wszystkich n ¸ 1. 1 ¡ ½ Oba wnioski wi| rzd zbie|no[ci z ograniczeniem pierwszej pochodnej funkcji iteracyjnej. Jest jasne, |e rzd zbie|no[ci zale|y od wspóBczynnika ½n=(1 ¡ ½) i |e im mniejsze ½, tym szybsza zbie|no[. Zbie|no[ mo|e by bardzo wolna, je[li ½ jest bliskie 1. W tw.57 zakBadali[my istnienie pierwiastka ®. Mo|na je równie| tak zmodyðkowa, aby sBu|yBo do sprawdzania, czy równanie x = ' (x) posiada pierwiastek. TWIERDZENIE 60. Niech [a; b] bdzie przedziaBem domknitym, w którym pochodna funkcji iteracyjnej '0 istnieje i speBnia nierówno[ j'0(x)j ·½<1. Niech cig fxng bdzie okre[lony wzorem xn+1 = ' (xn) dla x0 2 [a; b]. Je[li ½ x1 § jx1 ¡ x0j 2[a; b] ; 1 ¡ ½ to teza tw. 57 jest prawdziwa. DOWÓD pomijamy. Zbadajmy jeszcze rzd zbie|no[ci metody punktu staBego postaci xn+1 = '(xn), n ¸ 1. ZaBó|my, |e '(x) 2 [a; b] oraz j'0(x)j · k < 1 dla wszystkich x 2 [a; b]. Wówczas ' ma jeden punkt staBy ® w [a; b] i jésli x0 2 [a; b], to fxng !® (tw.57). Obliczmy "n+1 = xn+1 ¡ ® = '(xn) ¡ '(®) ='0(»n)(xn ¡ ®) ='0(»n)"n; gdzie »n le|y midzy xn a ®. Poniewa| fxng !®, to równie| f»ng !®. ZaBó|my dodatkowo, |e '0 jest cigBa na [a; b], wówczas lim '0 (»n) ='0 (®) ; n!1 skd "n+1 j"n+1j lim = lim '0 (»n) ='0 (®) oraz lim = j'0 (®)j : (92) n!1 n!1 n!1 "n j"nj Zatem, metoda punktu staBego jest zbie|na liniowo, o ile '0 (®) = 0. Zbie|no[ wzszego rzdu mo|e pojawi s/e 6 tylko, gdy '0 (®) =0. 6.3. Kryteria zakoDczenia ZaBó|my, |e chcemy wyznaczy pierwiastek ® zpewnustalondokBadno[ci ". W obliczeniach numerycznych jest bardziej korzystnie wykona kilka dodatkowych iteracji ni| szacowabBd za pomoczBo|onego wzoru, aby wyznaczy poprawk. Przy ustalonej tolerancji dokBadno[ci "l > 0 mo|na stosowa jedn z poni|szych technik: jxn+1 ¡ xnj ·"1; (93) jxn+1 ¡ xnj · "2, o ile xn+1 =0; (94) 6 jxn+1j 8 jf(xn+1)j ·"3: (95) UWAGA: (i) W kryterium (95) nale|y u|y zdecydowanie mniejszego "3 ni| w przypadku kryteriów (93) i (94). (ii) Czsto dla pewno[ci Bczy si kryteria (93) i (95) albo (95) i (95), biorc jednak ró|ne ", mianowicie odpowiednio "3 ¿ "1 albo "3 ¿ "2 Je[li cig fxng jest zbie|ny do ® szybciej ni| liniowo, to poczwszyodpewnego n ró|nice jxn ¡ xn¡1j malej a| do jxn ¡ ®j. Wówczas przewa|aj bBedy zaokrglenia i ró|nice te zmieniaj si nieregularnie. Mo|na zatem u|ywa równie| poni|szego podwójnego kryterium jxn+1 ¡ xnj ¸jxn ¡ xn¡1j oraz jxn ¡ xn¡1j <±; (96) gdzie ± jest pewn gruba tolerancj, u|ywan po to, by zapobiec zbyt wczesnemu przerwaniu iteracji. 6.4. Pierwiastki wielokrotne DEFINICJA 61. Pierwiastek ® równania f(x) = 0 nazywamy q-krotnym, je[li f(x) mo|e by zapisana jako f(x) =(x ¡ ®)q g(x) dla x = ®, gdzie 0 < jg(®)j < +1. 6 TWIERDZENIE 62. Funkcja f 2 Cq [a; b] posiada pierwiastek q-krotny w punkcie ® 2 (a; b) wtedy i tylko wtedy, gdy 0 =f(®) =f0(®) =::: = f(q¡1)(®) oraz f(q)(®) =0: 6 DOWÓD pomijamy. Je[li pierwiastek jest wielokrotny (tj. q >1), to rzd zbie|no[ci metod Newtona i siecznych jest inny. Mianowicie q¡1 metoda Newtona dla pierwiastków wielokrotnych jest zbie|na tylko liniowo i staBa zbie|no[ci wynosi C = (dla q q =2 zbie|no[ jest podobna jak dla metody bisekcji). Znane s modyðkacje metod Newtona, siecznych i Steffensena dajce znów zbie|no[ kwadratow. Pierwsza wymaga znajomo[ci z góry krotno[ci pierwiastka i dana jest wzorem xn+1 = xn + qhn; (97) gdzie hn jest poprawk wynikajc z konstrukcji metody (88), (89) albo (90). Druga natomiast unika konieczno[ci wyznaczania krotno[ci pierwiastka, ale z kolei wymaga obliczania lub przy- bli|ania wicej ni| jednej pochodnej funkcji f. Mianowicie, je[li oznaczymy u(x) = f(x)=f0(x), to dla metody Newtona modyðkacja bdzie postaci u(xn) xn+1 = xn ¡ ; (98) u0(xn) UWAGA: Oczywi[cie pierwsz modyðkacj mo|na zastosowa do dowolnej metody iteracyjnej rozwizywania równaD nieliniowych, o ile mo|na j przedstawi w postaci xn+1 = xn + hn, gdzie hn jest poprawk wynikajc z konstrukcji danej metody. 6.5. Analiza bBdu metod iteracyjnych Wyprowadzimy teraz oszacowanie bBdu po skoDczenie wielu iteracjach, uwzgldniajc bBd obliczanej w ka|dym kroku warto[ci '(x). Niech x1; x2; ::: bdzie cigiem obliczonych przybli|eD i niech warto[ '(xn) bdzie obliczona z bBdem ±n. Wtedy xn+1 = '(xn) +±n dla n =0; 1; ::: Odejmujc od powy|szego równo[ ® = '(®), otrzymamy na mocy tw.o warto[ci [redniej, |e xn+1 ¡ ® = '0(»n)(xn ¡ ®) +±n; gdzie »n le|y midzy ® a xn. Wynika std równo[ (1 ¡ '0(»n)) (xn+1 ¡ ®) ='0(»n)(xn ¡ xn+1) +±n: ZaBó|my teraz, |e j'0(»n)j ·½ <1 oraz j±nj <±: Zachodzi wtedy nierówno[ ½ 1 jxn+1 ¡ ®j < jxn+1 ¡ xnj + ±: (99) 1 ¡ ½ 1 ¡ ½ Jest to [cisBe oszacowanie bBdu przybli|enia xn+1 przez znane wielko[ci, zale|ne od metody. Pierwszy skBadnik szacuje bBad obcicia, drugi - bBd obliczeD. UWAGA: (i) BBd obliczeD zale|y tylko od bBdu ostaniej iteracji, co oznacza, |e bBdy popeBnione w pocztkowych iteracjach nie wpBywaj na koDcow dokBadno[ (czyli metody iteracyjne s samokorygujce si). 9 (ii) Dla dostatecznie du|ych warto[ci n dominujcym skBadnikiem w (99) jest bBd obliczeD. Dalsze iteracje nie polep- sz dokBadno[ci - bBd bdzie si zachowywaB nieregularnie. Ztw.owarto[ci [redniej mo|na równie| otrzyma oszacownaie bBdu niezale|ne od metody. Je[li xn jest przybli|e- niem zera prostego funkcji f, tomamy f(xn) =f0(»)(xn ¡ ®); gdzie » le|y midzy ® a xn. Wówczas jf(xn)j jxn ¡ ®j · ; (100) M1 ¹(xn) gdzie jf0(x)j ¸M1 dla x le|cym midzy ® a xn. Niech f oznacza obliczon warto[ funkcji i niech bdzie ¹(xn) f =f (xn) +± (xn) ; gdzie j± (x)j · ± dla ka|edgo x. Wielko[ ± ogranicza dokBadno[, z jaka mo|na obliczy ®. W najlepszym razie mo|emy znalez xn takie, |e f (xn) = 0. Wówczas dokBadna warto[ funkcji speBnia nierówno[ jf (xn)j · ±. Przyjmujc, |e f0(x) nie zmienia si zbyt gwaBtownie w pobli|u x = ®, otrzymamy z (100), |e ± ± jxn ¡ ®j · ¼ "n; gdzie "n = : (101) M1 jf0(®)j Wielko[ "n nazywamy osigalndokBadno[ci pierwiastka ®. UWAGA: (i) Aatwo zauwa|y, |e je[li jf0(®)j jest maBe, to osigalna dokBadno[ pierwiastka co do warto[ci jest du|a (oczywi[cie w sensie negatywnym). (ii) Graniczna dokBadno[ "n zazwyczaj nie jest znana z góry. W konsekwencji, jesli za|damy osignicia dokBadno[ci " <"n, tokryteriumzakoDczenia mo|e nigdy nie by speBnione. Podobne rozwa|ania przeprowadzone dla pierwiastka q-krotnego ® daj graniczn dokBadno[ 1 à !q ±q! ¯ ¯ "n = (102) (q) ¯f (®)¯ : Ze wzgldu na wykBadnik 1=q obliczanie pierwiastków wielokrotnych jest zazwyczaj zle uwarunkowane. 6.6. Przyspieszanie zbie|no[ci metod iteracyjnych rozwizywania równaD nielin- iowych Wcz[ci po[wiconej pierwiastkom wielokrotnym podane zostaBy sposoby przyspieszania zbie|no[ci niektórych metod rozwiozywania równaD nieliniowych w przypadku poszukiwania pierwiastków wielokrotnych. Teraz natomi- ast przedstawiona zostanie metoda przyspieszania zbie|no[ci dowolnego cigu iteracyjnego zbie|nego do rozwizania równania nieliniowego. Zrówno[ci (92) wynika, |e xn ¡ ® ¼ '0 (®) : xn¡1 ¡ ® Je[li '0 (®) =0, toliczby xn¡® tworz w przybli|eniu cig geometryczny. Wobec tego cig fxng mo|na przeksztaBci 6 w szybciej zbie|ny cig fx0 g za pomoc metody zwanej ekstrapolacj Aitkena. n Jest to procedura przyspieszania szeregów, któr mo|na stosowa do wyznaczania granic cigów zbie|nych, gdy| 1 X lim xn = ® () ® = xj + (xk+j ¡ xk+j¡1) : n!1 k=1 Je[li ró|nice xk+j ¡ xk+j¡1; k =1; 2; ::: tworz cig geometryczny, to 1 X (xj ¡ xj¡1) p ® = xj +(xj ¡ xj¡1) pk = xj + : 1 ¡ p k=1 xj¡xj¡1 Poniewa| p = , wic otrzymujemy ® = x0 , gdzie j xj¡1¡xj¡2 (xj ¡ xj¡1)2 x0 = xj ¡ : (103) j xj ¡ 2xj¡1 + xj¡2 Mo|na wykaza, |e µ ¶ x0 ¡ ® xj+1 ¡ xj j lim xj = ®; lim = p; jpj < 1 =) lim =0: j!1 j!1 j!1 xj ¡ xj¡1 xj ¡ ® 10 Inaczej mówic, przy powy|szych zaBo|eniach cig fx0 g jest zbie|ny szybciej do ® ni| cig fxng. Ekstarpolacja n Aitkena jest zbli|ona pomysBem do ekstarpolacji Richardsona, w której podobnie mo|emy otrzyma ulepszone wyniki na podstawie kilku obliczonych wcze[niej warto[ci. UWAGA: (i) Zauwa|y nalzy, |e metoda Aitkena mo|e by u|ywana do przyspieszania zbie|no[ci dowolnego cigu, cho przeznaczona jest przede wszystkim do cigów zbie|nych liniowo. (ii) Stosujc ekstrapolacj Aitkena do cigów zbie|nych liniowo mo|emy uzyska zbie|no[ kwadratow PRZYKAAD 8. Cig xn = cos(1=n) jest zbie|ny liniowo do ® = 1. Wykorzystujc metod Aitkena, mozna przyspieszy zbie|no[ tegocigu z nastepujcym efektem: ^ n xn xn 1 0:5403 0:9618 2 0:8776 0:9821 3 0:9450 0:9898 4 0:9689 0:9934 5 0:9801 6 0:9861 Istniej dwa sposoby wykorzystywania ekstrapolacji Aitkena: bierny i czynny. 1. Sposób bierny: stosujemy przeksztaBcenie cigu zbie|nego do rozwizania po wykonaniu ka|dego kroku itera- cyjnego, czyli x0 = A (x0; x1; x2), x0 = A (x1; x2; x3), itd.; 2 3 2. Sposób czynny: przeksztaBcenie wykonujemy co trzeci krok iteracyjny, tzn. obliczamy x1; x2 wzwykBy sposób, nastpnie x3 = x0 za pomoc wzoru(103) i kolejno x4; x5 normalnie i znów x6 = x0 za pomoc ekstrapolacji, itd. 2 5 PRZYKAAD 9. Równanie x = e¡x posiada jeden pierwiastek ® ¼ 0:567. Zbadajmy proces rozwizywania tego równania za pomoca metody iteracyjnej xn+1 = e¡xn i przyspieszania zbie|no[ci za pomoc ekstrapolacji Aitkena. Otrzymamy nastpujcy naprzemienny cig przybli|eD: n xn 0 0:567000 6 0:567139 1 225 7146 2 097 8142 3 169 9144 4 129 10 143 5 152 Natomiast bez wzgldu na to, którego schematu ekstrapolacji Aitkena u|yjemy, to ju| po pierwszym zastosowaniu wzoru (103) otrzymamy przybli|enie 0:567143, które w kolejnych krokach nie ulega zmianie. PRZYKAAD 10. Stosujc metod Aitkena do liniowo zbie|nego cigu otrzymanego za pomoc iteracji punktu staBego, mo|emy przyspieszy zbie|no[ do kwadratowej (ale nie w ka|dym przypadku - zale|y to od wBasno[ci funkcji iteracyjnej '). Je[li rozwa|ymy funkcjiteracyjn '4(x) =(10=(x+4))1=2 do rozwizania równania x3+4x2¡10 = 0 i przybli|enie pocztkowe x0 =1:5, to schemat czynny Aitkena da nam 10 cyfr dokBadnych po 7 krokach (podczas, gdy metoda punktu staBego potrzebowaBa 15 kroków). 6.7. Równania algebraiczne Wtej cz[ci rozwa|ymy zadanie rozwizywania równaD algebraicznych postaci: P (x) =anxn + an¡1xn¡1 + ::: + a1x + a0 =0; an =0: (104) 6 Zgodnie z podstawowym twierdzeniem algebry, równanie (104) ma dokBadnie n pierwiastków ®1; ®2; :::; ®n (rzeczy- wistych i zespolonych) oraz daje si przedstawi w postaci: P (x) =an (x ¡ ®1) ::: (x ¡ ®n) ; gdzie ®i nie musza by ró|ne oraz ewentualne pierwiastki zespolone s w parach sprz|one. Powy|sze zadanie mo|na rozwiazywa oczywi[cie dowolnmetodrozwizywania równaD nieliniowych, np. metod Newtona czy siecznych, jednak umo|liwiaj one tylko znalezienie jednego pierwiastka rzeczywistego, jesli istnieje, przy czym dla innego przybli|enia pocztkowego mo|emy otrzymainnerozwizanie. Dlatego te| stosuje sie dowoln metod wpowizaniu z tzw. dzieleniem syntetycznym (patrz uwaga po schemacie Hornera (8)). U|yjmy tych wzorów wnastpujcej, wygodnej do realizacji numerycznej, postaci: je[li bn = an (105) bk = ak + bk+1x dla k = n ¡ 1; n¡ 2; :::; 0 ~ 11 to P (~ = b0 x) Q(x) = bn¡1xn¡1 + bn¡2xn¡2 + ::: + b2x + b1 P (x) = (x ¡ x)Q(x) +b0 ~ Nastpnie, ró|niczkujc ostatn rowno[ otrzymujemy 0 0 P (x) =Q(x) +(x ¡ x)Q0(x) oraz P (~ =Q(~ ~ x) x): Zatem, je[li stosujemy np. metod Newtona, to wykorzystujc schemat Hornera, Batwo mo|emy obliczywarto[ci P (~ x) 0 oraz P (~ potrzebne w ka|dym kroku iteracyjnym (nie u|ywajc wzoru pochodnej funkcji P ). Oczywi[cie wielomian x), Q(x) wka|dym kroku jest inny. Je[li po N iteracjach procedura Newtona znalazBa przybli|enie pierwiastka xN, to P (x) =(x ¡ xN)Q1(x) +b0 =(x ¡ xN)Q1(x) +P (xN) ¼ (x ¡ xN)Q1(x); zatem przyjmujemy ®1 = xN i mo|emy szuka drugiego pierwiastka wielomianu P , stosujc procedur Newtona do ostatniego z wielomianów Q1(x), który jest stopnia n ¡ 1. Zatem po wykonaniu deðacji k-krotnie otrzymamy nastpujca zale|no[: P (x) ¼ (x ¡ ®1)(x ¡ ®2):::(x ¡ ®k)Qk(x): Co prawda deðacja zmniejsza liczb dziaBaD, ale przybli|enie pierwiastka ®k+1 wielomanu Qk mo|e ogólnie nie by dobrym przybli|eniem wielomianu oryginalnego P (x) (ze wzgldu na kumulowanie si bBdów obliczania wspóBczyn- ników bi). Jednym ze sposobów wyeliminowania tego problemu, mo|na po wyznaczeniu wszystkich rzeczywistych pierwiastków wielomianu P (x) u|y ich jako przybli|eD pocztkowych dla metody Newtona zastosowanej ponownie do wielomianu P . UWAGA: Dowoln metod rozwizywania równaD nieliniowych mo|na równie| stosowác w wersji zespolonej, tzn. w przypadku, gdy wspóBczynniki wielomianu s zespolone lub s rzeczywiste, ale wielomian posiada pierwiastki zespolone. Nale|y jednak pamita, |e je[li przybli|enie pocztkowe jest liczb rzeczywist, to otrzymamy tylko pierwiastki rzeczywiste. Aby szuka pierwiastków zespolonych, trzeba rozpocz obliczenia z punktu startowego ze- spolonego i wszystkie obliczenia wykonywa w arytmetyce zepolonej. Alternatywny sposób znajdowania pierwiastków zespolonych jest oparty na poni|szym lemacie: LEMAT 63. Je[li z = a + bi jest zespolonym pierwiastkiem o krotno[ci q wielomianu P , to¹ = a ¡ bi jest równie| z jego pierwiastkiem o krotno[ci q oraz (x2 ¡ 2ax + a2 + b2)q jest dzielnikiem wielomianu P. Technika, która omówimy, zw. metod Müllera, mo|e by u|ywana równie| dorozwizywania dowolnych równaD nieliniowych, ale w przypadku równan algebraicznych jest szczególnie u|yteczna. Jest ona uogólnieniem metody siecznych, jednak zamiast dwóch punktów, u|ywa trzech przybli|eDpocztkowych x0; x1 i x2. Nastpne przybli|enie x3 jest wyznaczone jako przecicie paraboli wyznaczonej przez punkty (x0; f(x0)); (x1; f(x1)) i (x2; f(x2)) z osi OX. Rozwizujc odpowiedni ukBad równaD z 3 niewiadomymi (a(x ¡ x2)2 + b(x ¡ x2) +c), mo|emy wyznaczy wspóBczynniki takiej paraboli jako: c = f(x2) (106) (x0 ¡ x2)2 (f(x1) ¡ f(x2)) ¡ (x1 ¡ x2)2 (f(x0) ¡ f(x2)) b = (x0 ¡ x2)(x1 ¡ x2)(x0 ¡ x1) (x1 ¡ x2)(f(x0) ¡ f(x2)) ¡ (x0 ¡ x2)(f(x1) ¡ f(x2)) a = (x0 ¡ x2)(x1 ¡ x2)(x0 ¡ x1) Aby wyznaczy x3, bdce pierwiastkiem konstruowanej funkcji kwadratowej, stosujemy zwykBe wzory z ¢, jednak w nieco innej postaci, pozwalajcej unikn ewentualnych bBdów spowodowanych odejmowaniem liczb bliskich: ¡2c x3 ¡ x2 = p : b § b2 ¡ 4ac Mamy dwa mo|liwe przybli|enia dla x3, zale|ne od znaku poprzedzajcego pierwiastek kwadratowy. Znak wybiera si w zgodnie ze znakiem b, wówczas otrzymamy wiekszy mianownik i w efekcie przybli|enie, które jest bli|sze warto[ci x2. Mianowicie 2c x3 = x2 ¡ p : (107) b +sgn(b) b2 ¡ 4ac I w ten sposób kontynuujemy procedur iteracyjn, u|ywajc w nastepnym kroku przybli|eD x1; x2 i x3, aby znalez nastpne x4. Oczywi[cie, metoda przybli|a pierwiastki zespolone, o ile u|ywa si arytmetyki zespolonej (ze wzgldu 12 na to, |e w ka|dym kroku obliczany jest pierwiastek kwadratowy). UWAGA: (i) Metoda Müllera zawodzi w sytuacji, gdy wybierzemy przybli|enia pocztkowe takie, |e f(x0) = f(x1) =f(x2) lub iteracja wygeneruje trzy kolejne przybli|enia majce tak wBasno[. Wówczas parabola redukuje si doprostej równolegBej do osi OX. (ii) Metoda Müllera jest mniej skuteczna od metody Newtona. Jej rzd zbie|no[ci wynosi w przybli|eniu 1:84, co oznacza jednak, |e jest lepsza od metody siecznych. (iii) Inne znane metody, np metoda Bairstowa lub algorytm Q-D s ju| zdecydowanie trudniejsze w realizacji nu- merycznej. 6.7.1. Lokalizacja pierwiastków rzeczywistych równaD algebraicznych Podstawowe wBasno[ci uBatwiajce lokalizacj pierwiastków równaD nieliniowych: - jésli na kraDcach pewnego przedziaBu funkcja cigBa przyjmuje warto[ci ró|nych znaków, to w tym przedziale znajduje si conajmniej 1 pierwiastek. - jésli dodatkowo pierwsza pochodna funkcji nie zmienia na tym przedziale znaku, to istnieje tam dokBadnie 1 pierwiastek. - jésli na kraDcach pewnego przedziaBu funkcja cigBa przyjmuje warto[ci tego samego znaku, to w tym przedziale nie ma pierwiastków albo jest ich parzysta liczba. TWIERDZENIE 64 (Sturma). Liczba ró|nych pierwiastków rzeczywistych wielomanu P (x) w przedziale [a; b], P (a)P (b) =0, jest równaró|nicy midzy liczbami zmian znaku w ciguSturmadlawielomianuP przy x = a i x = b 6 (nie uwzgldniajc zer) N(a; b) =N(a) ¡ N(b).. Cig Sturma P0(x); :::; Pl(x) konstruuje si nastpujco: P0(x) = P (x) (108) 0 P1(x) = P (x) P2(x) = reszta z dzielenia P0(x) przez P1(x) wzita z przeciwnym znakiem P3(x) = reszta z dzielenia P1(x) przez P2(x) wzita z przeciwnym znakiem, itd. a| Pl+1(x) =0, aPl(x) jest ostatni resztró|naodzera. UWAGA: (i) Je[li Pl(x) =r 2 R, to wielomian P nie ma zer wielokrotnych, w przeciwnym razie, je[li Pl(x) jest k-tego stopnia, to jego pierwiastek jest k +1-krotnym pierwiastkiem wielomianu P . (ii) Je[li P (0) =0, tomo|na okre[li liczby pierwiastków dodatnich i ujemnych, a mianowicie N+ = N(0) ¡N(+1) 6 oraz N¡ = N(¡1) ¡ N(0). (iii) Poniewa| istotne s dla nas tylko znaki, to mo|na kolejne wielomiany mno|y przez odpowiednia dodatni liczb, abydla wygodyoperowa wspóBczynnikami calkowitymi. PRZYKAAD 1: Rozwa|my równanie x4 ¡ 4x +1=0: Cig Sturma ma posta: P0(x) =x4 ¡ 4x +1; P1(x) =x3 ¡ 1; P2(x) =3x ¡ 1; P3(x) =1; std N(¡1) = 2, N(0) = 2, N(+1) = 0, czyli rozwa|ane równanie ma 2 pierwiastki dodatnie oraz |adnego ujemnego. Wynika std równie|, |e dwa pierwiastki równania s zespolone. Metody lokalizacji: TWIERDZENIE 65 (Lagrange a). ZaBó|my, |e an > 0 i ak; k ¸ 1 jest pierwszym wspóBczynnikiem ujemnym wielomianu P (x). Wówczas za kres górny pierwiastków rzeczywistych dodatnich wielomianu P(x) mo|na przyj liczb s jBj n¡k R =1 + ; an gdzie B jest najwikszym co warto[ci bezwzgldnej wspóBczynnkiem ujemnym wielomianu P (x). UWAGA: (i) Je[li rozpatrzymy dodatkowo wielomiany µ ¶ µ ¶ 1 1 P1(x) =xnP ; P2(x) =P (¡x); P3(x) =xnP ¡ ; x x i kresy górny pierwiastków dodatnich tych równaD wynosz odpowiednio R1; R2 i R3, to liczba 1=R1 jest kresem dolnym pierwiastków dodatnich wielomianu P(x), za[ liczby ¡R2 i ¡1=R3 s odpowiednio kresami dolnym i górnym pierwiastków ujemnych wielomianu P (x). (ii) Je[li jBj Àjanj, to otrzymamy mocno zawy|one oszacowanie. PRZYKAAD 2: Rozwa|my równanie x4 ¡ 35x3 +380x2 ¡ 1350x + 1000 = 0 (¦). Wówczas n =4, an =1, 1350 k =3, B = ¡1350. Zatem R =1 + < 1351. Z kolei P1(x) = 1000x4 ¡ 1350x3 +380x2 ¡ 35x +1 i n =4, 1 13 1 1 an = 1000, k = 3, B = 1350, co oznacza, |e = > 0: 42. Ostatecznie wszystkie pierwiastki dodatnie R1 1350 1+ 1000 wielomianu P speBniaj nierówno[ 0:42 · x · 1351: Natomiast P2(x) = x4 +35x3 +380x2 + 1350x +1000, czyli nie istnieje k i oznacza to, |e wielomian P (x) nie posiada pierwiastka rzeczywistego ujemnego. Metoda rozkBadu: RozBó|my wielomian P (x) wnastpujcy sposób: P (x) ='(x)+Ã(x), gdzie '(x) zawiera wszystkie dwumiany o wspóBczynnikach ujmenych oraz dodatnich wy|szego stopnia od najwiekszego ujemnego, za[ Ã(x) - pozostaBe. Liczba a >0 taka, |e '(a) > 0, jest kresemgórnympierwiastkówdodatnich, za[ pozostaBe kresyokre[la si analogicznie jak w przypadku korzystania z tw. Lagrange a. PRZYKAAD 3: Rozwa|my równanie (¦). Wówczas '(x) = x4 ¡ 35x3 ¡ 1350x oraz Ã(x) = 380x2 + 1000: Np. '(37) = 1822 916: Oczywi[cie P1(x) = 1000x4 ¡ 1350x3 +380x2 ¡ 35x +1 uzyskujemy '1(x) = 1000x4 ¡ 1350x3 ¡ 35x, skd np. '1(1:4) = 88: 2. Ostatecznie wszystkie pierwiastki dodatnie speBniaj nierówno[ 0:7 · x · 37. Metoda cigowa: Generuje si cig fqign wnastpujcy sposób: i=1 s jan¡ij i qi = janj i porzdkuje malejco. Wszystkie pierwiastki rzeczywiste co do warto[ci bezwzgldnej s mniejsze od sumy dwóch najwikszych liczb cigu fqig, natomiast kres dolny otrzymamy w ten sam sposób, wykorzystujc wielomian P1 (tak jak w porzednich metodach). PRZYKAAD 4: Rozwa|my znów równanie (¦). Wówczas p p p 3 4 q1 =35; q2 = 380 < 19:5; q3 = 1350 < 11:1; q4 = 1000 < 5:7: Dla wielomianu P1(x) = 1000x4 ¡ 1350x3 +380x2 ¡ 35x +1 otrzymamy r r r 380 35 1 3 4 q1 =1:35; q2 = > 0:6; q3 = > 0: 3; q4 = > 0: 1: 1000 1000 1000 Std wniosek, |e wszystkie pierwiastki rzeczywiste rozwa|anego równania speBniaj nierówno[ 0:51 ·jxj ·54:5 Faktycznie: x1 ¼ 0: 994, x =5, x ¼ 11: 474, x ¼ 17: 531. 6.8. UkBady równaD nieliniowych UkBad rownaD nieliniowych ma ogóln posta (78), gdzie f : Rn ! Rn lub dokBadniej 8 f1(x1; x2; :::; xn) =0 > > < f2(x1; x2; :::; xn) =0 (109) ::: > > : fn(x1; x2; :::; xn) =0 gdzie fi : Rn ! R dla wszystkich i =1; 2; :::; n. © ª ¡ ¢ Najpierw zajmiemy si zbie|no[cicigu xk skonstruowanego za pomoc wzoru iteracyjnego x(k+1) = ' x(k) ; k = 0; 1; 2; ::: w przypadku przestrzeni Rn, która jest, jak wiadomo zupeBna w tym sensie, |e speBnione jest kryterium zbie|no[ci Cauchy ego: © ª Cig x(k) ½ Rn jest zbie|ny wtedy i tylko wtedy, gdy dla ka|dego " >0 istnieje liczba naturalna K; taka |e dla ° ° (k) °x wszystkich k; j > K zachodzi ¡ x(j)° <". Poni|sze twierdzenia dotyczce zbie|no[ci pokazuj, |e dany przez © ª funkcj iteracyjn ' cig x(k) jest zbie|ny do punktu ®, gdy ' jest odwzorowaniem zw|ajcym. TWIERDZENIE 66. Niech funkcja iteracyjna ' ma jeden punkt staBy ®, tzn. taki, |e ' (®) = ®. Dalej niech I (®; ¡) bdzie takim otoczeniem punktu ®, |e ' jest odwzorowaniem zw|jcym w I (®; ¡), tzn. |e k' (x) ¡ ' (y)k ·½ kx ¡ yk , gdzie 0 · ½ <1; © ª dla wszystkich x; y 2 I (®; ¡). Wówczas, dla wszystkich x(0) 2 I (®; ¡) cig xk wygenerowany metod iteracyjn ' ma nastpujce wBasno[ci: (a) x(k) 2 I (®; ¡) dla wszystkich k =0; 1; :::, 14 ° ° ° ° °x(k) (b) ¡ ®°ª· ½k °x(0) ¡ ®°, © tzn. cig x(k) jest zbie|ny co najmniej liniowo do ®. DOWÓD wynika natychmiast z wBasno[ci zw|ania. Cz[ci (a) i (b) s prawdziwe dla k =0. Przyjmujc, |e s prawdziwe dla l =0; 1; :::; k mamy natychmiast ° ° ° °x(k+1) ¡ ®° = ° ³x(k)´ ¡ ' (®)° · ½ ° ¡ ®° · ½k+1 ° ¡ ®° · ¡: °' °x(k) ° °x(0) ° ° ° ° ° ° ° ° ° ¥ Nastpne twierdzenie jest zaostrzeniem powy|szego. Jest ono istotne, jesli nie zakBada si istnienia rozwizania ®. TWIERDZENIE 67. Niech ' bdzie funkcj iteracyjn, x(0) 2 Rn - przybli|eniem pocztkowym i x(k+1) = ¡ ¢ ¡ ¢ ' x(k) . Dalej, niech bd dane otoczenie I x(0); ¡ ¡ ¢punktu x(0) oraz staBa ½ takie, |e (1) k' (x) ¡ ' (y)k ·½¡ ¡¢yk dla x; y 2 I x(0); ¡ , kx ° ° °x(1) ° ° °' (2) ¡ x(0)° = x(0) ¡ x(0)° · (1 ¡ ½)¡ < ¡. Wówczas ¡ ¢ (a) x(k) 2 I x(0); ¡ wszystkich k =0; 1; :::, ¡ ¢dla (b) ' ma w I x(0); ¡ dokBadnie jeden punkt staBy ®, ° ° °x(k+1) ¡ ®° · ½ ° ¡ ®° ; °x(k) ° lim x(k) = ®, ° ° ° ° k!1 oraz (oszacowanie bBdu) ° ° °x(k) ¡ ®° · ½k ° ¡ x(0)° : °x(1) ° ° ° ° ° 1 ¡ ½ DOWÓD pomijamy. Wiele metod skonstruowanych dla przypadku jednowymiarowego ma swoje odpowiedniki dla ukBadów postaci (109), zachowujc swój rzd zbie|no[ci. Jedn z nich jest metoda Newtona. W celu jej u|ycia musimy skonstruowa macierz Jacobiego (zwan jakobianem), a mianowicie: 2 3 @f1(x) @f1(x) @f1(x) ::: @x1 @x2 @xn 6 @f2(x) @f2(x) @f2(x) 7 J(x) =6 @x1 @x2 ::: @xn 7 : (110) 6 7 4 ::: ::: ::: ::: 5 @fn(x) @fn(x) @fn(x) ::: @x1 @x2 @xn Przy u|yciu powy|szej struktury procedura iteracyjna Newtona dla wielowymiarowych równaD nieliniowych jest dana wzorem: ³ ´¡1 ³ x(k+1) = x(k) ¡ J x(k) f x(k) dla k ¸ 0: (111) Oczywi[cie w ogólnym przypadku posiada ona zbie|no[ kwadratow, ó ile przybli|enie pocztkowe jest dostatecznie dobre i istnieje macierz J(®)¡1. Wad metody Newtona jest konieczno[ odwracania macierzy Jacobiego w ka|dym kroku. W praktyce, postpuje ¡ ¢ ¡ ¢ si dwuetapowo. Najpierw znajduje si taki wektor y, który speBnia równanie J x(k) y = ¡f x(k) , a nastpnie nowe przybli|enie x(k+1) otrzymuje si dodajc y do x(k). y jest wtedy rozwizaniem ukBadu rownaD liniowych, którego znalezienie jest znacznie mniej kosztowne ni| odwracanie macierzy (dokBadnie n-razy mniej). Ominicie problemu odwracania jakobianu w ka|dym kroku nadal jednak decyduje o stosunkowej sBabo[ci wielowymi- arowej metody Newtona. Konstrukcja jakobianu wymaga okre[lenia i obliczenia n2 pochodnych czstkowych funkcji n-zmiennych. W wielu sytuacjach ich dokBadne obliczenie jest inconvenient i w wielu zastosowaniach niemo|liwe. Stosuje si wówczas skoDczon aproksymacj ró|nicow pochodnych czstkowych, a mianowicie ¡ ¢ ¡ ¢ fi x(k) + ejh ¡ fi x(k) @fi ³ ´ x(k) ¼ ; (112) @xj h gdzie h jest maB, co do warto[ci bezwzgldnej, liczb, a ej - j-tym wektorem jednostkowym (jedyn niezerow wspóBrzdn równ 1 ma na j-tej pozycji). Stosowanie powy|szej aproksymacji wymaga nadal obliczania n2 warto[ci funkcji, ale omija konieczno[ okre[lenia pochodnych czstkowych. Poniewa| wzór (112) jest szczególnym przy- padkiem formuBy dwupunktowej przybli|ania pierwszej pochodnej, to uzyskana w ten sposób metoda quasi-Newtona jest uogónieniem jednowymiarowej metody siecznych. Znane s równie| inne wersje metod quasi-Newtona, np. metoda Broydena, w której zamiast macierzy Jacobiego u|ywa si pewnej macierzy aproksymacyjnej, aktualizowanej wka|dym kroku. Tego typu metody w ogólnym przypadku s jedenak zbie|ne tylko superliniowo. 15 Inn sBabo[ci metod Newtona i quasi-Newtona jest konieczno[ posiadania dostatecznie dobrego przybli|enia pocztkowego, aby zapewni zbizno[. Rozwa|ymy teraz metod, której zbie|no[ jest tylko liniowa, ale z natury globalna. Dlatego te| zwykle jest u|ywana podobnie jak metoda bisekcji w przypadku jednowymiarowym, tzn. do znalezienia dostatecznie dobrego przybli|enia pocztkowego dla technik Newtona. Metoda najgBbszego spadku okre[la loklane minimum dla funkcji wielu zmiennych G : Rn ! R. Zwizek midzy minimalizacj funkcji tego typu a rozwizaniem ukBadu równaD nieliniowych jest bardzo [cisBy, gdy| ukBad równaD postaci (109) posiada rozwizanie wtedy i tylko wtedy, gdy funkcja G zdeðniowana wzorem n X G(x1; x2; :::; xn) = [fi(x1; x2; :::; xn)]2 (113) i=1 posiada minimaln warto[ zero. Metod najgBbszegospadkumo|na opisa nastpujco: h iT 1. obliczy warto[ funkcji G wprzybli|eniu pocztkowym x(0) = x(0); x(0); :::; x(0) ; n 1 2 2. okre[li kierunek z punktu x(0), w którym nastpuje spadek warto[ci funkcji G; 3. wybra wielko[ kroku w tym kierunku i znalez now warto[ x(1); 4. powtórzy kroki 1-3 z x(0) zastpionym przez x(1). Pozostaje omówi tylko, jak wybiera wBa[ciwy kierunek i odpowiedni wielko[ kroku w tym kierunku. Fakt, |e funkcja jednej zmiennej mo|e posiada minimum w punkcie, w którym pochodna si zeruje rozszerza si oczywi[cie na funkcje wielu zmiennych przy wykorzystaniu pojcia gradientu. Przypomnijmy, |e gradient funkcji G : Rn ! R w punkcie x =[x1; x2; :::; xn]T deðniuje si jako · ¸T @G @G @G rG(x) = (x); (x); :::; (x) : @x1 @x2 @xn Z punktu widzenia minimalizacji funkcji wielu zmiennych, gradient ma jeszcze jednwa|nwBasno[. Przypu[cmy, |e Pn 2 v =[v1; v2; :::; vn]T jest wektorem jednostkowym przestrzeni Rn (czyli kvk2 = vi =1). Pochodn kierunkow 2 i=1 funkcji G w punkcie x w kierunku v deðniuje si jako G(x + tv) ¡ G(x) G0(x; v) = lim : t!0 t Pochodna kierunkowa mierzy zmian wartósci funkcji G w stosunku do zmiany zmiennej w kierunku v. Mianowicie, kierunek, w którym pochodna kierunkowa osiga najwiksz warto[, jest równolegBy do gradientu rG(x), o ile rG(x) = 0. W konsekwencji, kierunkiem najwikszego spadku warto[ci funkcji G w punkcie x jest ¡rG(x). 6 WBa[ciwym wyborem nastpnego przybli|enia jest zatem ³ ´ x(1) = x(0) ¡ °rG x(0) (114) dla pewnej staBej ° >0. ¡ ¢ ¡ ¢ Problem redukuje si teraz tylko do wyboru takiego °, by wartós G x(1) byBa istotnie mniejsza ni| G x(0) : Aby okre[li wBa[ciwy wybór warto[ci °, rozwa|ymy funkcje jednej zmiennej ³ ³ ´´ h(®) =G x(0) ¡ °rG x(0) : Odpowiednia bdzie taka warto[ °, która minimalizuje h. Znalezienie minimalnej warto[ci funkcji h w sposób bezpo[redni wymaga zró|niczkowania h i okréslenia punk- tów krytycznych, co ogólnie jest zbyt kosztowne. Zamiast tego wybiera si trzy nieujemne przybli|enia °1, °2 i °3. Nastpnie konstruuje si funkcjkwadratow, która interpoluje h w tych punktach i ° wybiera si jako liczb która min- imalizuje t funkcj kwadratow. Wybrana warto[ jest u|ywana, aby okre[li nowe przybli|enie zgodnie z wzorem (114). 16

Wyszukiwarka

Podobne podstrony:
MN MGR 4
mn mgr 6
mn mgr 1
mn mgr 2
mgr Kica,Fizykochemia polimerów średni ciężar cząsteczkowy poliamidu 6
Mac Dre All?mn?y
The Leader And The?mned
MN w1 Minimum funkcji
mgr Lelek Kratiuk, KAHN
RMZ zał 9 (karm p MN)
PLC mgr wyklad 11 algorytmy
Mechanika ogólna Geometria Mas momenty bezwładności mgr Perek
B mgr s 1
MN w budowie samolotów
LP mgr W01 Podst pojecia
RADIOLOGIA, ĆWICZENIE 6, 5 11 2012 MN
MN zestaw?
MC MN L cwiczenie 6

więcej podobnych podstron