img008

Rozdział 2

Historia powstania i kierunki rozwoju sieci neuronowych

2.1 Dzieje badań nad sieciami neuronowymi

Pierwotnym źródłem badań nad sieciami neuronowymi były prace wielkich klasyków neu-rofizjologii oraz prace pionierów bioniki. Ich wykaz i omówienie znaleźć można w książce (Tadc91). Jednak można przyjąć, że sama dziedzina sieci neuronowych zaistniała dopiero wraz 7. wydaniem historycznej pracy [McCu46], w której po raz pierwszy pokuszono się o matematyczny opis komórki nerwowej i powiązanie tego opisu z problemem przetwarzania danych, co rozwinięto w kolejnej pracy tych samych autorów. Prace te miały jednak wymiar wąskiego konkretu, natomiast znacznie ogólniejszą i ambitniejszą podstawę teoretyczną prac nad sieciami neuronowymi stanowiła przez wiele lat para prac: książka [Neum58] ustawiająca tę problematykę z punktu widzenia techniki oraz książka [ThylGO] będąca źródłem wiadomości biologicznych.

Już w tym pionierskim okresie stwierdzono, że najcenniejszą własnością sieci neuronowych jest ich zdolność do przetwarzania informacji w sposób równoległy, całkowicie odmienny od szeregowej pracy tradycyjnego komputera. Bardzo szybko stwierdzono także, że zasadniczym atutem sieci może być proces ich liczenia, zastępujący tradycyjne programowanie.

Pierwszym szeroko znanym przykładem zbudowanej i ciekawie działającej sieci ncuro-podobnej jest Perceptron [Rose65]. Był to układ częściowo elektromechaniczny (zmienne wagi synaptyczne realizowano za pomocą potencjometrów obracanych przez odpowiednio sterowane silniki elektryczne), a częściowo elektroniczne (sumowanie pobudzeń). Zbudowany został w 1957 roku przez Franka Roseublatta i Charlesa WighUriana w CornclI Ae-ronautical Laboratory. Przeznaczeniem perceptronu było rozpoznawanie znaków alfanumeryczny di z procesem uczenia jako metodą programowania systemu. Oto jego podstawowe dane: 8 komórek nerwowych, 512 połączeń (struktura połączeń zadawana była losowo, co wynikało z rozważanej hipotezy badawczej), szybkość działania szacowana była na 10³ przełączeń na sekundę. Działanie perceptronu nie było zadowalające z punktu widzenia zasadniczego celu badań: układ wprawdzie liczył się rozpoznawania, jednak nie radził sobie z bardziej złożonymi znakami, a ponadto wykazywał wrażliwość na zmianę skali roz-