SAS Enterprise Miner Klasyfikacja za pomocą drzew decyzyjnych  laboratorium nr 3
 klucz.
Wczytać z pliku SPAMBASE.DATA do zbioru SPAMBASE dane opisujące e-maile pod kątem
częstości występowania słów i znaków, oraz zaklasyfikowanych jako spam lub normalna
poczta.
W pliku SPAMBASE.DESC oraz SPAMBASE.NAMES znajduje się opis zmiennych
zawartości pliku i interpretacji zmiennych.
Zbudować model predykcyjny dla klasyfikowania e-maila jako spam w oparciu o
zaproponowane w modelu zmienne predykcyjne, przyjmując założenia opisane poniżej.
Elementy nieokreślone w instrukcji pozostawić domyślne.
" 70% losowo wybranych rekordów ze zbioru powinno stanowić ciąg uczący, pozostałe
30 % powinno być ciągiem walidującym.
" Drzewo powinno być oceniane na podstawie wskaz
nika błędnie zaklasyfikowanych
emaili (misclassifictaion rate)
" Minimalna liczba obserwacji w węz
le, umożliwiająca jego podział powinna wynosić
50.
" Żaden z liści nie powinien posiadać mniejszej liczby obserwacji niż 20. Głębokość
drzewa nie może być większa niż 5.
1. Dla kryterium podziału opartego na teście Chi-kwadrat zbuduj model decyzyjny oparty na
drzewie decyzyjnym.
a) Jaką liczbę liści ma wynikowe drzewo?
Odp. 10.
b) Jaką głębokość ma wynikowe drzewo?
Odp. 6 ( uwzględniając korzeń drzewa , który nie jest uwzględniany w parametrach
konfiguracyjnych algorytmu budowy drzewa).
c) Podaj proporcję błędnych klasyfikacji wyznaczoną w oparciu o ciąg walidujący. Jaka
jest wartość tej proporcji w całym zbiorze obserwacji ( przy założeniu że zbiór jest
klasyfikowany tak, jak większość jego elementów) ?
Odp. 0.1072, czyli 10,72% rekordów w ciągu walidacyjnym zostało zaklasyfikowane
błędnie.
d) Jak zmienia się proporcja błędnych klasyfikacji w miarę rozbudowy drzewa i wzrostu
liczby liści ( dla danych walidacyjnych) ? Podać kilka kolejnych wartości.
Odp. Dla drzewa o liczbie liści do 17 włącznie nie zmienia się i wynosi 0.1072, dla
drzewa o liczbie liści 18 wynosi 0.1116.
e) Które zmienne są istotne dla procesu weryfikacji czy poczta jest spamem ?
Odp.FREQ4, WORD7, FREQ5, RUN_LENGHT1, WORD16, WORD25,
WORD46, WORD17
f) Ile jest maili jest spamowych, w 10% obserwacji, w których wystąpienie jest
najbardziej prawdopodobne ?
Odp. 0.9386 W 10 % rekordów wybranych z całego ciągu walidacyjnego pod
względem prawdopodobieństwa że jest to poczta spam, znajduje się 93,86% maili
spamowych.
g) Wyznacz liść odpowiadający zbiorowi obserwacji, w którym znajduje się
proporcjonalnie najwięcej wiadomości zaklasyfikowanych jako spam (Największa
częstość wiadomości spamowych). Napisz w 4GL regułę selekcji odpowiadającą temu
liściowi regułę.
h) Napisz w 4GL pełną regułę klasyfikacyjną
i) Podaj, jaki procent normalnej poczty został by zaklasyfikowany jako spam w
przypadku, gdyby obcinanie drzewa zakończyło się na 5 liściach.
Odp. 0.1478
2. Zaklasyfikuj każdą obserwację ze zbioru NEWMAIL.DAT jako normalną pocztę lub
spam.