Temat: Zastosowanie sztucznych sieci neuronowych w klasyfikacji terenów na zdjęciach satelitarnych.

1. Charakterystyka i organizacja sztucznych sieci neuronowych.

Działanie sztucznych sieci neuronowych oparte jest na prostych modelach komórek neuronowych. Rysunek przedstawia schemat najczęściej stosowanego modelu sztucznego neuronu. Neuron taki składa się z n+1 ważonych wejść, jednostki przetwarzającej oraz jednego wyjścia. Odpowiednikami biologicznymi tego modelu są: dendryty wraz z kolbkami synaptycznymi, ciało komórki oraz akson. Jedno połączenie synaptyczne jest wyróżnione: wartość na jego wejściu jest stała i wynosi -1, natomiast wartość jego wagi zwana jest wartością progową.

Wartość sygnału wyjściowego o neuronu jest określona poprzez następującą relację:

gdzie w jest wektorem wag (ważonych połączeń synaptycznych), x jest wektorem wartości sygnałów wejściowych, natomiast funkcja f nazywana jest funkcją aktywacji neuronu. Warto zauważyć, że o zgromadzonej przez pojedynczy neuron, a w konsekwencji przez sieć neuronową, informacji decydują wartości wagowe połączeń synaptycznych. Zatem metoda doboru tych współczynników wagowych jest kluczowa z punktu widzenia jakości działania sieci.

Istotną rolę w pracy systemów opartych na sieciach neuronowych pełni faza treningu, zwana również fazą nauki. Jak wspomniano, jest ona charakterystyczną cechą tych sieci, w trakcie której uczy się taka sieć poprawnie reagować na wzorce znajdujące się w zbiorze uczącym. Jednocześnie sieć nabywa zdolności generalizacji, czyli oczekiwanego reagowania na wektory wejściowe, które nie były zawarte w zbiorze uczącym. Można zatem stwierdzić, że struktura neuronowa nabiera doświadczenia w procesie treningu i odpowiedzi sieci zależą w dużym stopniu od zawartości zbioru uczącego. Analogicznie do systemów biologicznych, proces nauki jest długi i można rozróżnić podstawowe dwie metody treningu: nadzorowaną (z nauczycielem) oraz nienadzorowaną (bez nauczyciela).

W nadzorowanym procesie nauki (treningu), na wejście sieci neuronowej podawane są wektory x ze zbioru uczącego wraz z żądaną poprawną odpowiedzią d. Aktualny wektor odpowiedzi sieci o na wyjściu służy do określenia miary odległości
pomiędzy wektorem wyjściowym o a sygnałem uczącym d. W zależności od wartości miary
dokonywana jest aktualizacja wag W tak, aby dla danego wektora uczącego x miara
była mniejsza od poprzedniej. Na poniższym rysunku przedstawiono schemat nadzorowanego procesu treningu sieci.

Z kolei w nienadzorowanym procesie nauki na wejście sieci podawany jest wektor x. Na podstawie dotychczasowego treningu, sieć neuronowa sama dokonuje klasyfikacji. W zależności od konkretnej konfiguracji neuronowej wektor wyjściowy o może reprezentować np. najbardziej typowy obiekt w danej klasie, stopień podobieństwa do uśrednionego wektora w danej klasie po dotychczasowych prezentacjach, rodzaj klasy, itd. Poniższy rysunek przedstawia schemat treningu bez nauczyciela.

Poszczególne jednostki neuronowe mogą być połączone połączeniami synaptycznymi tworząc w ten sposób sieć neuronową. W ogólnym przypadku może być to zupełnie dowolna struktura, jednakże podlega ona pewnym ograniczeniom, bowiem nie znane są efektywne algorytmy nauki takich nieregularnych sieci. Stąd też spotykane obecnie struktury neuronowe charakteryzują się dużą regularnością i na tej podstawie wyróżnia się następujące klasy sieci: sieci jednokierunkowe, rekurencyjne oraz komórkowe.

Sieci jednokierunkowe tworzy się w wyniku grupowania pojedynczych neuronów w warstwy, a następnie łączy się warstwy w ten sposób, że wyjście każdego neuron z danej warstwy jest połączony z wejściem każdego neuronu z warstwy następnej. Nie mogą jednocześnie istnieć połączenia wewnątrz warstwy, jak również połączenia wsteczne, czyli połączenia z warstwą poprzednią. Na rysunku poniżej przedstawiono przykłady struktur sieci jednokierunkowej wielowarstwowej z jedną oraz dwiema warstwami ukrytymi.

Taki typ sieci wykorzystano w procesie rozpoznawania klas pokrycia terenu na zdjęciach satelitarnych.

2. Klasyfikacja terenów na zdjęciach satelitarnych.

Sieci neuronowe zorganizowane są w warstwach. Warstwa wejściowa służy do wstępnej obróbki danych wejściowych i tym przypadku na jej wejścia podawane są sygnały niosące informacje o odbiciu spektralnym. Neurony przetwarzają te dane wg zaimplementowanej funkcji i przekazują je poprzez wyjścia (aksony) do wejść (dendrytów) warstwy następnej (ukrytej lub wyjściowej). Architektura sieci (zwłaszcza jej warstwy ukrytej) jest ściśle powiązana z jakością wyników obliczeń i musi być w sposób empiryczny dopasowana do problemu. Wcześniejsze badania dowodzą, iż już sieć trójwarstwowa potrafią rozwiązać większość problemów. Znaczne zwiększanie ilości neuronów i ich warstw, komplikuje proces uczenia, i zazwyczaj pogarsza rezultaty.

W procesie klasyfikacji nadzorowanej metodą wstecznej propagacji błędów ( Standard Back-Propagation), pierwszym etapem jest przygotowanie dwóch zestawów danych - uczącego zwanego dalej wzorcem oraz weryfikującego. Zestaw wektorów uczących musi być tak dobrany, aby mógł być reprezentatywny dla badanego problemu i efektywnie go charakteryzował. W skład zestawu uczącego musi wchodzić poza zestawem wektorów wejściowych, zestaw wektorów wyjściowych, będący oczekiwaną odpowiedzią sieci po procesie uczenia. Po przetworzeniu pojedynczego wektora wejściowego stanowiącego jednorazową porcję danych dla sieci wyniki przetworzenia porównywane są z wartościami oczekiwanymi i obliczany jest błąd odpowiedzi. Następnie błąd ten jest wstecznie propagowany w sieci z jednoczesna korekcją wag poszczególnych wektorów tak aby ponowne przetworzenie wektora spowodowało zmniejszenie błędu na wyjściu. Cykl taki powtarzany jest do momentu, aż uzyskamy błąd mniejszy niż założony w warunku początkowym. W takim wypadku sieć przystępuje do przetwarzania kolejnego wektora. Po zakończeniu przetwarzania wszystkich wektorów obliczany jest błąd epoki. Opisany cykl uczenia powtarzany jest do uzyskania zadowalającego rozwiązania problemu.

Weryfikacja działania sieci polega na podaniu na wejściu zestawu wektorów różnych od zestawu uczącego i przeprowadzeniu procesu przetworzenia z tą różnicą, że w tym przypadku błędy nie są propagowane. Nie podajemy tu także wektora wyjściowego - jest on uzyskiwany w drodze przetwarzania.

Eksperymenty prowadzone na Akademii Rolniczej.

Głównym celem eksperymentów jest zastosowanie sieci neuronowych do klasyfikacji pokrycia terenu na zdjęciach satelitarnych. Materiałem badań są zdjęcia pochodzące z satelity Landsat TM. Wektorem uczącym jest komplet 7 kanałów dla fragmentu województwa mazowieckiego oraz wzór pokrycia tego terenu wykonany przez klasyfikatora w sposób klasyczny. W opisywanym eksperymencie wykorzystywano dwa wzorce:

1. mapa CORINE

2. wzorzec generowany ręcznie wg odbicia spektralnego

Rys. Przykładowe zdjęcia z wektora uczącego

Rys. Wzorce pokrycia terenu

Sieci uczono do rozpoznawania wszystkich klas jednocześnie oraz do rozpoznawania jednej danej klasy.

Rys. Wzorzec wraz z wynikiem klasyfikacji jednoczesnej

Rys. Oczekiwany i rzeczywisty wynik klasyfikacji nauczoną siecią dla pojedynczej klasy.

Rys. Oczekiwany i rzeczywisty wynik klasyfikacji nauczoną siecią - zestawienie wszystkich klas.

LITERATURA

1. Hertz J., Krogh A., Palmer R., "Wstęp do teorii obliczeń neuronowych", Wydawnictwa Naukowo-Techniczne, Warszawa 1995.

2. Kacprzak T., Slot K., "Sieci neuronowe komórkowe", Wydawnictwo Naukowe PWN, Warszawa 1995.

3. Korbicz J., Obuchowicz A., Uciński D., "Sztuczne sieci neuronowe. Podstawy i zastosowania", Akademicka Oficyna Wydawnicza PLJ, Warszawa 1994.

4. Osowski St., "Sieci neuronowe w ujęciu algorytmicznym", Wydawnictwa Naukowo-Techniczne, Warszawa 1996.

5. Żurada J., "Introduction to Artificial Neural Networks", West Publishing Company, St. Paul 1992.

6. Żurada J., Barski M., Jędruch W., "Sztuczne sieci neuronowe", Wydawnictwo Naukowe PWN, Warszawa 1996.

7. http://sound.eti.pg.gda.pl/rekonstrukcja/sieci_neuronowe.html

8. http://www.nrn.prv.pl/

---