254 Sieci rekurencyjr
rozkładem Boltzmanna) i algorytmy “symulowanego wyżarzania”, o których jednak porozmawiamy innym razem. Kognitywizmem i symulacją sieci neuronowych zajmują się tym w Polsce między innymi tacy wybitni fizycy, jak prof. Włodzisław Duch z Torunia czy prof. Czesław Jędrzejek z Uniwersytetu Jagiellońskiego. Obydwu mam zaszczyt zaliczać do swoich przyjaciół, chętnie więc bym napisał, że to właśnie oni wnieśli zasadniczy wkład do rozwoju tej teorii. Jednak stosując zasadę “amicus Plato, sed magnis amica veritas” muszę przyznać, że największy wkład do teorii sieci ze sprzężeniem zwrotnym wniósł inny fizyk, Amerykanin James Hopfield.
Sieci Hopfielda są niewątpliwie najważniejszą i najczęściej stosowaną pod-kiasą sieci neuronowych wykorzystywanych w praktyce, dlatego właśnie te sieci powinieneś teraz poznać. Charakteryzując je w sposób najbardziej ogólny mogę stwierdzić, że sieci te stanowią krańcowe przeciwieństwo sieci klasy feedforward, czyli sieci całkowicie pozbawionych sprzężeń zwrotnych, omawianych we wszystkich wcześniejszych rozdziałach. Sieci w których dopuszczono sprzężenia zwrotne (tak zwane sieci rekurencyjne) mogą zawierać pewną liczbę sprzężeń zwrotnych, przy czym może ich być więcej, albo mniej. Tymczasem w sieci Hopfielda sprzężenia zwrotne są po prostu regułą (rys. 11.9).
Rys. 11.9. Struktura prostej sieci Hopfielda
Wszystkie połączenia, które w tej sieci występują są sprzężeniami zwrotnymi, wszystkie sygnały wyjściowe są wykorzystywane jako wejścia i wszystkie wejścia do wszystkich neuronów przenoszą sygnały sprzężenia zwro-