Proces hcracyjny optymalizacji można zakończyć, gdy wystąpi: 1) ustabilizowanie się wartości funkcji kryterium:
(5.33)
gdzie s jest przyjętą dodatnią liczbą bliską zeru. np. 0,00001, nazywaną współczynnikiem zbieżności.
2) ustabilizowanie się wartości ocen współczynników:
(5.34)
gdzie e, podobnie jak w poprzednim przypadku jest przyjętym współczynnikiem zbieżności.
Technicznym warunkiem zakończenia procesu iteracyjnego może być także wykonanie założonej liczby iteracji bez spełnienia żadnego z powyższych kryteriów. Może to oznaczać, że poruszano się w obszarze rozwiązań oddalonych od minimum funkcji kryterium i należy powtórzyć proces iteracyjny, zmieniając wartości początkowe ocen współczynników, lub zwiększyć liczbę iteracji, jeśli zbieżność jest zbyt wolna.
Stosowanie regresji nieliniowej wymaga wyboru odpowiedniego modelu zależności na podstawie dokładnej analizy teoretycznej badanego zjawiska! Wybór modelu jest decyzją merytoryczną, wynikającą z badanego zjawiska, a nie statystyczną. Podobnie, wybór właściwych wartości początkowych współczynników wynika z własności badanego zjawiska i proponowanego modelu. Przy istnieniu trudności w określeniu prawidłowych wartości początkowych, zaleca się wykonać estymację dla kilku wartości początkowych rozmieszczonych równomiernie w przestrzeni współczynników. Jeżeli w wyniku tych kilku estymacji otrzyma się różne wyniki, jako rozwiązanie przyjmuje się to, dla którego wartość funkcji kryterium ma najmniejszą wartość oraz otrzymane wartości współczynników mają sens.
Aby uniknąć problemów numerycznych w obliczeniach, zaleca się tak przeskakiwać dane. aby wartości liczbowe były nie mniejsze niż I0~ i nie większe niż 10 .
W programie STATISTICA do estymacji nieliniowych zależności regresyjnych służy moduł Estymacja nieliniowa. Pozwala on na estymację współczynników różnych typów zależności regresyjnych za pomocą metody najmniejszych kwadratów lub dowolnej innej określonej prze/, użytkownika. Najczęściej spotykane modele nieliniowej regresji zostały wstępnie zdefiniowane. Modele te obejmują regresję logit i probit, model regresji wykładniczej oraz regresji segmentowej. Moduł Estymacja nieliniowa wykorzystuje domyślnie jako funkcję kryterium (straty) metodę najmniejszych kwadratów. Jednak użytkownik ma możliwość określenia dowolnej funkcji straty i wykonać estymację, np. metodą bezwzględnych odchyleń, metodą ważoną najmniejszych kwadratów czy metodą największej wiarygodności, itd. Istnieje możliwość wyboru odpowiedniej procedury estymacji umożliwiającej otrzymanie stabilnych ocen współczynników. Moduł zgłasza się oknem Estymacja nieliniowa, w którym można wybrać odpowiedni model zależności nieliniowej:
74