1. Co to jest inteligencja?
2. Model neuronu McCullocha i Pittsa.
3. Funkcja aktywacji.
4. Neuron dwuwejściowy (równania działania).
5. Reguła delta, równanie uczenia perceptronu, ograniczenia.
6. Adeline.
7. Struktura programu do uczenia neuronu.
8. Sieć liniowa.
Są to najprostrze ze wszystkich rodzajów sieci neuronowych. Sieci liniowe są zawsze sieciami jednowarstwowymi,bez warstwy ukrytej i dlatego pracują szybciej i szybciej się uczą. Mają też o wiele mniejsze możliwości niż ich bardziej skomplikowani kuzyni.
Sieć liniowa jednowarstwowa pracuje na zasadzie korelacji i ma znacznie mniejsze możliwości przekształceń danych wejściowych na dane wyjściowe. Sieci tego typu są chętnie wykorzystywane jako filtry do eliminacji szumów w liniach telefonicznych.
9. Metody nauczania sztucznych neuronów.
10. Neuron Sigmoidalny.
Neuron typu sigmoidalnego ma strukturę podobną do modelu McCullocha-Pittsa, z tą różnicą,
że w przeciwieństwie do perceptronu funkcja aktywacji jest ciągła i przyjmuje postać funkcji
sigmoidalnej unipolarnej (0,1) lub bipolarnej (-1,1). Funkcja unipolarna ma zwykle postać
Ważną cechą funkcji sigmoidalnej jest różniczkowalność.
11. Neuron Habba.
Zgodnie z regułą Hebba zamiana wagi wij neuronu odbywa się proporcjonalnie do iloczynu
jego sygnału wejściowego oraz wyjściowego
12. Neuron Radialny.
Dokonuje kołowy podział wokół punkutu.
Agregacja sygnałów wejściowych
w tym typie neuronu polega na obliczaniu odległości pomiędzy obecnym wektorem wejściowym X
a ustalonym podczas uczenia centroidem pewnego podzbioru T
13. Typowe architektury sieci.
-jednokierunkowe
-rekurencyjne
-jednowarstwowe
-wielowarstwowe
14. Rozwiązanie problem XOR.
Podobnej funkcji natomiast nie da się zrealizować dla funkcji XOR. Wynika to z tego, że nie da się jedną prostą rozdzielić na dwa obszary płaszczyzny obrazującej funkcję XOR. Zostało to pokazane w aplecie 2. Widać, że sieć nie może znaleźć optymalnego punktu pracy.S
Efekt ten jest znany jako „PROBLEM XOR”. Aby go rozwiązać wymagane są przynajmniej dwie proste, co wiąże się z tym, że sieć musi mieć przynajmniej dwie warstwy. Taka struktura sieci została zaprezentowana na rysunku 2.
Rysunek 2. Sieć składająca się z dwóch warstw.
Dla takiej struktury możliwe jest nauczenie funkcji XOR. Algorytm jaki został wybrany to algorytm ze wsteczną propagacją błędów.
15. Sieć rekurencyjna.
Sieci rekurencyjne różnią się od sieci jednokierunkowych występowaniem sprzężenia zwrotnego między warstwami wyjściowymi i wejściowymi. Można tu wyróżnić sieci jednowarstwowe (rys.) mające jedynie jedną warstwę neuronów wyjściowych oraz sieci mające dodatkową warstwę ukrytą - sieci wielowarstwowe rekurencyjne
16. Podstawowe zastosowania sieci.
diagnostyka układów elektronicznych
badania psychiatryczne
prognozy giełdowe
prognozowanie sprzedaży
interpretacja badań biologicznych
prognozy cen
analiza badań medycznych
planowanie remontów maszyn
planowanie postępów w nauce
analiza problemów produkcyjnych
optymalizacja działalności handlowej
optymalizacja utylizacji odpadów
dobór surowców
selekcja celów śledztwa w kryminalistyce
dobór pracowników
sterowanie procesów przemysłowych.
na lotniskach do sprawdzania, czy prześwietlony bagaż zawiera niebezpieczne ładunki
17. Algorytmy propagacji wstecznej.
Propagacja wsteczna - podstawowy algorytm uczenia z nauczycielem wielowarstwowych jednokierunkowych sieci neuronowych. Podaje on przepis na zmianę wag dowolnych połączeń elementów przetwarzających rozmieszczonych w sąsiednich warstwach sieci. Oparty jest on na minimalizacji sumy kwadratów błędów uczenia z wykorzystaniem optymalizacyjnej metody największego spadku. Dzięki zastosowaniu specyficznego sposobu propagowania błędów uczenia sieci powstałych na jej wyjściu, tj. przesyłania ich od warstwy wyjściowej do wejściowej, algorytm propagacji wstecznej stał się jednym z najskuteczniejszych algorytmów uczenia sieci.
18. Modelowanie - schemat do uczenia sieci modelującej.
19. Budowa sieci do modelowania. Równanie różnicujące modelowanie i sieci.
20. Sterowanie z modelem odwrotnym.
21. Sterowanie z modelem odniesienia.
Układ adaptacyjny z modelem odniesienia
Układ adaptacyjny z modelem odniesienia (Model-reference adaptive system - MRAS) - układ, który daje żadana odpowiedz na sygnał zadany; zadane zachowanie procesu opisane jest przez model odniesienia.
22. Czym się różni logika rozmyta od prawdopodobieństwa.
Rozmycie wartości logicznej to niejednoznaczność oceny, a nie prawdopodobieństwo uzyskania oceny "prawda".
23. Podstawy logiki rozmytej (zbiór, funkcja przynależności, zakres).
Element należy do zbioru rozmytego z pewnym stopniem przynależności. Stwierdzenie może być częściowo prawdziwe lub częściowo fałszywe. Przynależność jest liczba rzeczywista z przedziału 0 - 1. Stopień przynależności stanowi informację, jak daleko element x jest oddalony od naszego podzbioru X. Określamy go dzięki funkcji przynależności.
Zbior rozmyty (fuzzy set)
Niech X , dziedzina rozwaŜań, będzie zbiorem pewnych elementow x.
Zbiorem rozmytym A dziedziny rozwaŜań X , nazywamy zbior par:
A {( (x) x) } x X A = m , ," Î
24. Kształty funkcji przynależności (równania).
1. Funkcję sigleton definiujemy następująco:
Singleton jest specyficzną funkcją przynależności, gdyż przyjmuje
wartośd 1 tylko w jednym punkcie przestrzeni rozważao,
należącym w pełni do zbioru rozmytego. W pozostałych punktach
przyjmuje wartośd 0.
2. Gaussowska funkcja przynależności:
w którym x jest środkiem, a a określa szerokośd krzywej
gaussowskiej. Jest to najczęściej spotykana funkcja
przynależności.
3. Funkcja przynależności typu dzwonowego
gdzie parametr a określa jej szerokośd, parametr b nachylenie,
natomiast parametr c środek.
4. Funkcja przynależności klasy s
5. Funkcja przynależności klasy PI
7. Funkcja przynależności klasy t
25. Zasady przyporządkowania do zmiennych lingwistycznych.
26. Struktura blokowa Mamdani'ego.
27. Zasada działania reguł na przykładzie - wyznaczanie punktów zapłonu.
28. Defuzyfikacja (ostrzenie)
Jest to ostatni blok układu sterowania rozmytego[2]. Na jego wejście trafia wynikowa funkcja przynależności. Jest to wynik działania regulatora przedstawiony w postaci rozmytej. Żeby móc go wyprowadzić na obiekt sterowany, zamieniany jest na konkretną wartość liczbową. Działanie to, stanowiące istotę tego bloku, nazywamy ostrzeniem (inaczej defuzyfikacją).
Ogólnie działanie bloku defuzyfikacja można przedstawić następująco:
Wyróżniamy kilka metod defuzyfikacji. Do najpopularniejszych należą:
1) metoda pierwszego maksimum
2) metoda ostatniego maksimum
3) metoda środka maksimum
4) metoda środka ciężkości
5) metoda wysokości
29. Struktura i zasada działania algorytmu genetycznego.
Algorytm genetyczny operuje na chromosomach. Rolę tę pełni wektor o stałej długości, najczęściej składający się z wartości binarnych. Każdy z bitów wektora pełni rolę genu. Zbiór chromosomów o określonej liczności tworzy populację. Algorytm genetyczny potrzebuje zdefiniowania następujących operacji:
- generacji populacji początkowej,
- określenia jakości poszczególnych osobników,
- reprodukcji,
- mutacji,
- krzyżowania.
30. Krzyżowanie i mutacje.
Najczesciej przyjmuje sie, ze w krzyzowaniu biora udział dwa osobniki rodzicielskie, w wyniku
otrzymuje sie jeden lub dwa osobniki potomne.
Przykłady metod krzyzowania:
_ krzyzowanie proste (jednopunktowe) przebiega w dwóch etapach: w pierwszej fazie kojarzy
sie w sposób losowy ciagi z puli rodzicielskiej w pary. Nastepnie kazda para przechodzi
proces krzyzowania. Odbywa sie to nastepujaco: wybiera sie w sposób losowy (z jednakowym
prawdopodobienstwem) punkt krzyzowania k sposród l − 1 poczatkowych pozycji
w chromosomie, po czym zamienia sie miejscami wszystkie znaki od pozycji k + 1 do
l włacznie w obu elementach pary, tworzac w ten sposób dwa nowe ciagi;
_ krzyzowanie wielopunktowe przebiega analogicznie jak krzyzowanie jednopunktowe, z ta
róznica, ze wybiera sie wiecej niz jeden punkt ciecia;
_ krzyzowanie jednorodne przebiega nastepujaco: dla kazdego bitu pierwszego potomka
decyduje sie (z pewnym prawdopodobienstwem), od którego z rodziców pobierze sie
wartosc, drugi potomek otrzymuje bit od pozostałego rodzica;
_ rekombinacja puli genów: kilku rodziców tworzy jednego potomka w ten sposób, ze
kolejne geny potomka sa wybierane losowo z puli genów wybranych rodziców;
_ krzyzowanie arytmetyczne definiuje sie jako liniowa kombinacje dwóch wektorów: jezeli
krzyzowaniu maja podlegac r1 i r2, to potomkowie wyznaczani sa nastepujaco: d1 =
ar1 + (1 − a)r2 oraz d2 = ar2 + (1 − a)r1; wartosc a dobiera sie losowo z przedziału
[0,1];
_ krzyzowanie usredniajace jest operatorem przeznaczonym dla reprezentacji liczbowej;
w metodzie tej wartosc kazdego genu chromosomu potomnego jest liczba zawierajaca
sie miedzy najwieksza i najmniejsza wartoscia genu chromosomów rodzicielskich. Jesli
krzyzowanie usredniajace przebiega zgodnie ze schematem, ze z pary chromosomów rodzicielskich
powstaje para potomnych, wówczas chromosomy potomne beda symetryczne
wzgledem srodka odcinka łaczacego chromosomy rodzicielskie.
Przykłady metod mutacji:
_ mutacja równomierna zmienia jeden lub wiecej bitów na przeciwny z okreslonym prawdopodobienstwem;
_ mutacja nierównomierna uwzglednia wiek populacji: wraz ze wzrostem wieku populacji
bity znajdujace sie bardziej na prawo w sekwencji kodu chromosomu otrzymuja wieksze
prawdopodobienstwo mutacji, znajdujace sie zas na lewo mniejsze;
_ mutacja „rzeczywistoliczbowa” stosowana jest wtedy, jesli geny przyjmuja wartosci ze
zbioru liczb rzeczywistych, i polega na perturbacji wartosci genu przez dodanie liczby
wygenerowanej w sposób losowy.
Mutacja
Mutacja wprowadza do genotypu losowe zmiany. Jej zadaniem jest wprowadzanie różnorodności w populacji, czyli zapobieganie (przynajmniej częściowe) przedwczesnej zbieżności algorytmu. Mutacja zachodzi z pewnym przyjętym prawdopodobieństwem - zazwyczaj rzędu 1%. Jest ono niskie, ponieważ zbyt silna mutacja przynosi efekt odwrotny do zamierzonego: zamiast subtelnie różnicować dobre rozwiązania - niszczy je. Stąd w procesie ewolucji mutacja ma znaczenie drugorzędne, szczególnie w przypadku długich chromosomów.
W przypadku chromosomów kodowanych binarnie losuje się zazwyczaj dwa geny i zamienia się je miejscami bądź np. neguje pewien wylosowany gen.
W przypadku genotypów zakodowanych liczbami całkowitymi stosuje się permutacje.
W przypadku genotypów zakodowanych liczbami rzeczywistymi wprowadza się do przypadkowych genów losowe zmiany o danymrozkładzie - najczęściej normalnym.
Krzyżowanie
Przykładowe krzyżowanie chromosomów zakodowanych binarnie w algorytmach genetycznych |
||||
|
+ |
|
= |
|
Krzyżowanie polega na połączeniu niektórych (wybierane losowo) genotypów w jeden. Kojarzenie ma sprawić, że potomek dwóch osobników rodzicielskich ma zespół cech, który jest kombinacją ich cech (może się zdarzyć, że tych najlepszych).
Sposób krzyżowania jest zależny od kodowania chromosomów i specyfiki problemu. Jednak można wskazać kilka standardowych metod krzyżowania:
rozcięcie dwóch chromosomów i stworzenie nowego poprzez sklejenie lewej części jednego rodzica z prawą częścią drugiego rodzica (dla chromosomów z kodowaniem binarnym i całkowitoliczbowym),
stosowanie operacji logicznych (kodowanie binarne),
obliczenie wartości średniej genów (kodowanie liczbami rzeczywistymi).