Mateusz Macięga
Informatyka stosowana
zajęcia: wtorek 16:15
Metody klasyfikacji i rozpoznawania wzorców
Laboratorium nr 3
Sprawozdanie
1. Celem zadania było porównania działania drzewa w metodzie  Bagging z pojedynczym
operatorem drzewa decyzyjnego. Należało dokonać porównania dla danych z baz  Pima ,  Sonar
oraz  Glass .
Poniżej przedstawiony zostanie model procesu. Przy czym do wykonania pomiarów podłączane
były kolejno pojedyncze dane z trzech baz.
Poniżej przedstawione zostały wyniki dla domyślnych parametrów wszystkich operatorów.
- Dla bazy  Pima :
Ilustracja 1: Wyniki dla bazy "Pima" - pojedyncze drzewo
Ilustracja 2: Wyniki dla bazy "Pima" - metoda "Bagging"
- Dla bazy  Sonar :
Ilustracja 3: Wyniki dla bazy "Sonar" - pojedyncze drzewo
Ilustracja 4: Wyniki dla bazy "Sonar" - metoda "Bagging"
- Dla bazy  Glass :
Ilustracja 5: Wyniki dla bazy "Glass" - pojedyncze drzewo
Ilustracja 6: Wyniki dla bazy "Glass" - metoda "Bagging"
Wnioski z przeprowadzonych testów:
Dla bazy  Pima zastosowanie  Baggingu zmniejszyło otrzymany wynik.
Dla baz  Sonar i  Glass wykorzystanie operatora  Bagging polepszyło otrzymany wynik.
W kolejnych testach w opcjach obu operatorów  drzewo decyzyjne zaznaczono opcje  no pre
pruning .
- Dla bazy  Pima :
Ilustracja 7: Wyniki dla bazy "Pima" - pojedyncze drzewo (no pre pruning)
Ilustracja 8: Wyniki dla bazy "Pima" - metoda "Bagging" (no pre pruning)
- Dla bazy  Sonar :
Ilustracja 9: Wyniki dla bazy "Sonar" - pojedyncze drzewo (no pre pruning)
Ilustracja 10: Wyniki dla bazy "Sonar" - metoda "Bagging" (no pre pruning)
- Dla bazy  Glass :
Ilustracja 11: Wyniki dla bazy "Glass" - pojedyncze drzewo (no pre pruning)
Ilustracja 12: Wyniki dla bazy "Glass" - metoda "Bagging" (no pre pruning)
Wnioski do otrzymanych wyników:
W przypadku zbioru danych wejściowych  Pima zmiana parametru  pre pruning pozwoliła
uzyskać lepsze wyniki jednak nadal stosowanie metody  Bagging nie jest opłacalne.
Dla zbioru danych  Sonar otrzymane wyniki są dokładnie takie same jak poprzednio.
Natomiast dla bazy  Glass dla pojedynczego drzewa wynik się pogorszył a dla metody  Bagging
polepszył.
2. W tym zadaniu należało zwiększyć liczbę podstawowych klasyfikatorów w metodzie  Bagging .
Możemy tego dokonać za pomocą zwiększenia wartości parametru  iterations dla tego bloku.
Należało sprawdzić czy przynosi to poprawę wyników i czy dla pewnej wartości następuje
 nasycenie tendencji.
Wnioski z przeprowadzonych testów:
Dla zbioru  Pima otrzymywany wynik dla metody  Bagging pomimo zwiększania wartości
 iterations pozostaje ten sam. Dzieje się tak aż do momentu wprowadznie wartości równej i
większej od 150. Następuje wtedy  nasycenie i wynik zmniejsza się do wartości 66.96% (różnica
0,43%).
W przypadku zbioru  Sonar podobnie jak dla zbioru  Pima wynik się nie polepsza. Przełomowa
jest wartość 18 dla parametru  iterations , wtedy wartość wyniku zmniejsza się do 72.58% (różnica
3,23%).
Ostatni zbiór  Glass zachowuje się zgoła odmiennie od dwóch pozostałych. Już od wartości 12
parametru  iterations otrzymywany wynik jest większy i wynosi 71.88% (różnica 3,13%). W
okolicach wartości 50 wynik wynosi tyle ile z domyślną wartością dla tego parametru. Przy 150
zwiększa się do 70,31% a przy 1000 do 71,88%. Możemy zauważyć tendencję skokową. Na
podczas zwiększenia wynik otrzymujemy lepszy, następnie w pewnym momencie wartość wyniku
wraca do pierwotnej wersji i potem znów osiągamy lepszy wynik.
3. W tym zadaniu należało zamiast  drzewa decyzyjnego przetestować klasyfikatory liniowe i
ocenić czy wprowadzenie metody  bagging poprawia otrzymywane wyniki.
W moim przykładzie wykorzystałem operator  perceptrona z domyślnymi parametrami. Poniżej
przedstawione zostały wyniki dla domyślnych parametrów wszystkich operatorów.
- Dla bazy  Pima :
Ilustracja 13: Wyniki dla bazy "Pima" - perceptron
Ilustracja 14: Wyniki dla bazy "Pima"  perceptron, metoda  Bagging
- Dla bazy  Sonar :
Ilustracja 15: Wyniki dla bazy "Sonar" - perceptron
Ilustracja 16: Wyniki dla bazy "Sonar"  perceptron, metoda  Bagging
Wnioski z przeprowadzonych testów:
Dla obu zbiorów  Pima i  Sonar w przypadku zastosowania perceptronu jako klasyfikatora
podstawowego w metodzie  bagging otrzymane wyniki są gorsze (różnica ok. 5%).