img040 (46)

34 Struktura sieci

obrazy, to cechy, które będą wydobywały neurony warstwy ukrytej dostosują się automatycznie do rodzaju rozwiązywanego zadania. Jeśli nakażemy sieci wykrywanie na zdjęciach lotniczych obrazów zamaskowanych wyrzutni rakietowych, to staje się oczywiste, że głównym zadaniem warstwy ukrytej będzie uniezależnienie się od położenia obiektu, gdyż podejrzany kształt może się pojawić w dowolnym rejonie obrazu i zawsze powinien być tak samo rozpoznany. Jeśli natomiast sieć ma rozpoznawać litery to nie powinna gubić informacji o ich położeniu (mało przydatna będzie sieć, która poinformuje nas, że gdzieś tam na zeskanowanej stronicy znajduje się litera A - my musimy wiedzieć, gdzie ona jest, a dokładniej - w jakim kontekście występuje) natomiast celem warstwy ukrytej może być wydobycie cech pozwalających na niezawodne rozpoznanie litery niezależnie od jej rozmiaru i niezależnie od kroju czcionki (font). Co ciekawe - oba te zadania może rozwiązywać (po odpowiednim treningu) ta sama sieć - chociaż oczywiście sieć nauczona rozpoznawać czołgi nie potrafi odczytywać pisma, a nauczona identyfikować odciski palców nie poradzi sobie z rozpoznawaniem twarzy.

2.6. Ile potrzeba neuronów, żeby wyszła dobra sieć?

Jak wynika z przytoczonych uwag - najszersze możliwości zastosowań mają sieci posiadające przynajmniej trójwarstwową strukturę, z wyróżnioną warstwą wejściową przyjmującą sygnały, warstwą ukrytą wydobywającą potrzebne cechy wejściowych sygnałów oraz z warstwą wyjściową podejmującą ostateczne decyzje i podającą rozwiązanie. W tej strukturze pewne elementy są zdeterminowane: liczba elementów wejściowych i wyjściowych a także zasada połączeń (każdy z każdym) pomiędzy kolejnymi warstwami. Są jednak elementy zmienne, które trzeba wybrać samemu: jest to liczba warstw ukrytych (jedna czy kilka?) oraz liczba elementów w warstwie (warstwach?) ukrytych.

Ponieważ brakuje precyzyjnej teorii sieci neuronowych - elementy te wybiera się zwykle arbitralnie, co jednak nie powinno mieć (w pewnym zakresie) wpływu na sposób działania sieci, gdyż w trakcie procesu uczenia ma ona możliwość skorygować ewentualne błędy struktury poprzez wybór odpowiednich parametrów połączeń. Trzeba jednak wyraźnie przestrzec przed dwoma rodzajami błędów, stanowiących pułapki dla wielu (zwłaszcza początkujących) badaczy sieci neuronowych. Pierwszy błąd polega na zaprojektowaniu sieci o zbyt malej liczbie elementów - jeśli warstwy ukrytej nie ma lub występuje w niej zbyt mało neuronów, proces uczenia może się definitywnie nie udać, gdyż sieć nie ma szans odwzorować w swojej (zbyt