SAS Enterprise Miner Klasyfikacja za pomocą drzew decyzyjnych – laboratorium nr 3

Wczytać z pliku SPAMBASE.DATA do zbioru SPAMBASE dane opisujące e-maile pod kątem
częstości występowania słów i znaków, oraz zaklasyfikowanych jako spam lub normalna
poczta.
W pliku SPAMBASE.DESC oraz SPAMBASE.NAMES znajduje się opis zmiennych
zawartości pliku i interpretacji zmiennych.

Zbudować model predykcyjny dla klasyfikowania e-maila jako spam w oparciu o
zaproponowane w modelu zmienne predykcyjne, przyjmując założenia opisane poniżej.
Elementy nieokreślone w instrukcji pozostawić domyślne.

• 70% losowo wybranych rekordów ze zbioru powinno stanowić ciąg uczący, pozostałe

30 % powinno być ciągiem walidującym.

• Drzewo powinno być oceniane na podstawie wskaźnika błędnie zaklasyfikowanych

emaili (misclassifictaion rate)

• Minimalna liczba obserwacji w węźle, umożliwiająca jego podział powinna wynosić

50.

• Żaden z liści nie powinien posiadać mniejszej liczby obserwacji niż 20. Głębokość

drzewa nie może być większa niż 5.

1. Dla kryterium podziału opartego na teście Chi-kwadrat zbuduj model decyzyjny oparty na
drzewie decyzyjnym.

a)

Jaką liczbę liści ma wynikowe drzewo?

b)

Jaką głębokość ma wynikowe drzewo ?

c)

Podaj proporcję błędnych klasyfikacji wyznaczoną w oparciu o ciąg walidujący. Jaka

jest wartość tej proporcji w całym zbiorze obserwacji ( przy założeniu że zbiór jest
klasyfikowany tak, jak większość jego elementów) ?

d)

Jak zmienia się proporcja błędnych klasyfikacji w miarę rozbudowy drzewa i wzrostu

liczby liści ( dla danych walidacyjnych) ? Podać kilka kolejnych wartości.

e)

Które zmienne są istotne dla procesu weryfikacji czy poczta jest spamem ?

f)

Ile jest maili jest spamowych, w 10% obserwacji, w których wystąpienie jest

najbardziej prawdopodobne ?

g)

Wyznacz liść odpowiadający zbiorowi obserwacji, w którym znajduje się

proporcjonalnie najwięcej wiadomości zaklasyfikowanych jako spam (Największa
częstość wiadomości spamowych). Napisz w 4GL regułę selekcji odpowiadającą temu
liściowi regułę.

h)

Napisz w 4GL pełną regułę klasyfikacyjną.

i)

Podaj, jaki procent normalnej poczty został by zaklasyfikowany jako spam w

przypadku, gdyby obcinanie drzewa zakończyło się na 5 liściach.

2. Zaklasyfikuj każdą obserwację ze zbioru NEWMAIL.DAT jako normalną pocztę lub
spam.

3. Zbadaj, jak zmienia się zdolność klasyfikacyjna, mierzona jako proporcja błędnych
klasyfikacji w przypadku zmiany parametrów: głębokości drzewa, liczby obserwacji w węźle.