Sieci rekurencyjne
Najprościej mówiąc sieci rekurencyjne to takie, które zawierają sprzężenie zwrotne. Sprzężeniem zwrotnym w SN nazywamy takie połączenia, które zawracają sygnały z dalszych (od wejścia) neuronów sieci do neuronów warstwy wejściowej lub do wcześniejszych warstw ukrytych.
Przebieg sygnałów wejściowych w sieci ze sprzężeniem zwrotnym może wykazywać dwojakiego rodzaju zmienność:
Jeśli współczynnik wagi sprzężenia zwrotnego jest dodatni to sygnał zmienia się jednokierunkowo (aperiodycznie)
Jeśli współczynniki wagi sprzężenia zwrotnego jest ujemny to sygnał zmienia się oscylacyjnie
W przypadku gdy neuron jest nieliniowy następuję tzw. chaotyczne błądzenie (efekt motyla, dziwne traktory, fraktale czy zbiory Mandebrotta)
W sieciach rekurencyjnych możemy wyróżnić zachowania:
Stabilne (sygnały mają ograniczone wartości i zwykle po kilku krokach „zbiegają się” do jakiejś ustalonej końcowej wartości)
Niestabilne (kolejne wartości sygnału wyjściowego uciekają poza zakres wartości dopuszczalnych)
Sieci takie stosowane są w zagadnieniach:
Optymalizacyjnych (poszukiwanie najkorzystniejszych decyzji, zapewniających maksymalny zysk i minimalne straty przy uwzględnieniu ograniczeń)
Komiwojażera
Optymalnego ograniczania zasobów (np. wody)
Dobór portfela akcji w czasie gry na giełdzie
Budowania pamięci skojarzeniowej (czyli pamięci asocjacyjnej lub hetero asocjacyjnej - czyli takich pamięci które pozwalają przyspieszyć proces poprzez ułatwienie procesorowi dostępu do wiedzy)
Teoretycznego opisu prostych układów fizycznych (cząstki elementarne)
Termodynamika statystyczna (duży układ o dużej ilości elementów)
Maszyny Boltzmanna
Algorytmy symulowanego wyżarzania
Podstawową cechą sieci rekurencyjnych jest, że są bardzo dynamiczne w swoim działaniu, co jest jednocześnie ich zaletą i wadą (zależnie od przeznaczenia).
Wśród sieci rekurencyjnych wyróżniamy:
SN, które działają jako pamięci asocjacyjne
Sieć Hopfielda
SN, które działają jako pamięci hetero asocjacyjne
Sieć Hamminha
Sieć typu BAM
SN tworzone na podstawie perceptronu (w sprzężeniu zwrotnym umieszcza się blok opóźnienia jednostkowego, co pozwala rozpatrywać przepływ sygnałów jako jednokierunkowy)
Sieć RMLP
Sieć Williamsa - Zipsera
Sieć Elmana
Sieci modularne
Idea przewodnia budowy sieci modularnych jest osiągnięcie n niezależnie wytrenowanych sieci neuronowych spełniających pewne fragmenty ogólnego odwzorowania oraz wyznaczanie odpowiedzi całego układu za pomocą bloku decyzyjnego (ang. supervisor).
Mówiąc prostszymi słowami różnica między klasycznymi sieciami neuronowymi a tymi o budowie modularnej jest taka: zamiast jednej dużej sieci, zespół mniejszych oraz blok decyzyjny pozwalający z sumy sygnałów wypracować końcową odpowiedz.
Wśród zalet można wymienić podzielenie odpowiedzialności za odpowiedz pomiędzy poszczególne moduły oraz dużą niewrażliwość na uszkodzenia.
Sieci neuronowe o budowie modularnej świetnie nadają się do budowy wielo sieciowych klasyfikatorów. Wśród znanych zastosowań tego typu sieci wymienia się rozpoznawanie pisma odręcznego, diagnozowanie uszkodzeń w układach technicznych czy też diagnozowanie raka piersi u kobiet.
Zastosowanie sieci neuronowych w układach sterowania
Sieci neuronowe mogą być bardzo pomocne w budowaniu układów sterowania, zwłaszcza w robotyce. Szczególnie przydatne są przy modelowaniu układów dynamicznych o strukturze nieliniowej. Zaleca się, aby sieć neuronowa nie stanowiła całości układu sterowania! Proponuje się połączenie struktury szeregowej i równoległej regulatorów (czyli regulatora konwencjonalnego i neuronowego). Stosowanie konkretnych modeli sieci neuronowych w układach sterowania można uzależnić od:
Rodzaju nieliniowości charakterystyki układu
Charaktery zakłóceń
Potrzeb dynamicznych sterowanego układu
Istnienia i wielkości opóźnień w torze sterowania
Zapasu stabilności sterowanego układu
Wśród znanych implementacji sieci neuronowych do układów sterownia można wymienić (sieci neuronowe nie występują tutaj jako cały układ sterowania, jedynie jako jego fragment lub dodatek):
optymalizacja wtrysków paliwa w silnikach odrzutowych
optymalizacja procesu spalania węgla kamiennego w obiektach energetycznych (np. obniżenie emisji NOx)
optymalizacja pracy wtryskiwacza wody w układzie regulacji temperatury pary w kotle parowy
układy samonaprowadzania pocisków moździerzowych