Narzędzia AI
wykład 1z
Witold Kosiński [e-mail]
Pokój 301A
Materiał do wykładu: public/wkos/NAI_zaocz
SZTUCZNA INTELIGENCJA
(ARTIFICIAL INTELLIGENCE)
" Nauka o maszynach realizujÄ…cych zadania,
które wymagają inteligencji wówczas, gdy
są wykonywane przez człowieka.
Ale rozpoznanie twarzy na zdjęciu nie jest zwykle
uznawane za przejaw inteligencji u człowieka.
Z drugiej strony: przewidywanie skutków własnych
działań (np. wyliczenie  brutalną siłą wszystkich
możliwych stanów w grze w kółko i krzyżyk) często nie
jest uznawane za przejaw AI.
SZTUCZNA INTELIGENCJA
(ARTIFICIAL INTELLIGENCE)
" Maszyna jest inteligentna, jeżeli znajdujący
siÄ™ w drugim pomieszczeniu obserwator nie
zdoła odróżnić jej odpowiedzi od
odpowiedzi człowieka.
Test Turinga.
Uwzględnia tylko wąski aspekt inteligencji człowieka.
SZTUCZNA INTELIGENCJA
(ARTIFICIAL INTELLIGENCE)
" Nauka o tym, w jakich inteligentnych
czynnościach człowieka można obyć się bez
inteligencji.
" Dział informatyki, którego przedmiotem jest
badanie reguł rządzących inteligentnymi
zachowaniami człowieka, tworzenie modeli
formalnych tych zachowań i - w rezultacie -
programów komputerowych symulujących te
zachowania.
SZTUCZNA INTELIGENCJA
(ARTIFICIAL INTELLIGENCE)
" Dział informatyki uprawiany przez badaczy
uważających się za specjalistów od AI i
piszących książki z AI w tytule.
Czy kryterium sztucznej inteligencji ma
obejmować skutki działania programu, czy jego
budowę wewnętrzną?
LUDZKA INTELIGENCJA  FORMY
" Praktyczna: umiejętność
rozwiÄ…zywania konkretnych
zagadnień.
" Abstrakcyjna: zdolność operowania
symbolami i pojęciami.
" Społeczna: umiejętność zachowania
siÄ™ w grupie.
LUDZKA INTELIGENCJA  CECHY
" Dopasowanie działania do okoliczności:
wybieranie najlepszego wariantu rozwiÄ…zania
danego problemu.
" Świadomość działania: droga od
sformułowania problemu do rozwiązania jest
ściśle określona.
" Znajomość własnych ograniczeń: inteligentny
człowiek nie odpowiada na pytania, na które nie
zna odpowiedzi.
Własności charakteryzujące inteligencję ludzką
" 1.Adaptacja
" 2.Korzystanie z doświadczenia
" 3.Korzystanie z wiedzy
" 4.Wyciąganie wniosków
" 5.Abstrakcyjne myślenie
" 6.Poczucie humoru
" 7.Samoświadomość
" 8. Zdolność planowania
" 9.Zdolność przewidywania
" 10. Selekcja informacji
" 11.Zdolność komunikacji
" 12.Uczenie siÄ™
" 13.Dokonywanie wyboru
Może być ciekawe wybrać te własności, które są wspólne z
inteligencjÄ… maszynowÄ… - sztucznÄ….
SZTUCZNA INTELIGENCJA
A INTELIGENCJA OBLICZENIOWA
Inteligencja obliczeniowa to dział informatyki zajmujący się problemami:
" trudnymi do modelowania i rozwiązy-wania w sposób ścisły, analityczny ,
" niealgorytmizowalnymi,
" obliczalnymi, ale nieefektywnie,
" algorytmizowalnymi ale wymagającymi użycia innych niż klasyczne metod .
Natomiast w trakcie wykładu poznamy narzędzia inteligencji obliczeniowej
wywodzące się z wcześniejszego multi-dyscyplinarnego działu, jakim jest
sztuczna inteligencja
HISTORIA AI
" Era prehistoryczna: Do około 1960 roku,
kiedy pojawiły się powszechnie dostępne
komputery.
" Era romantyczna: 1960-1965, kiedy
przewidywano, że AI osiągnie swoje cele w
ciÄ…gu 10 lat i odniesiono sporo poczÄ…tkowych
sukcesów.
" Okres ciemności: 1965-1970, w którym
niewiele się działo, opadł entuzjazm i pojawiły
się głosy krytyczne.
HISTORIA AI
" Renesans: 1970-1975, gdy zaczęto budować
pierwsze systemy doradcze, użyteczne w
praktyce.
" Okres partnerstwa: 1975-1980, gdy do badań
nad AI wprowadzono metody z nauk
poznawczych i nauk o mózgu, itd.
" Okres komercjalizacji: 1980-1990, gdy
przymiotnik  inteligentny stał się sloganem
reklamowym.
HISTORIA AI - SZACHY
" ok. 1948  pierwsze programy szachowe
" 1951  A. Turing: Nikt nie jest w stanie ułożyć
programu lepszego od własnego poziomu gry.
" 1967  pierwsze zwycięstwo komputera nad
 profesjonalnym szachistÄ… podczas turnieju
" 1977  pierwsze zwycięstwo nad mistrzem klasy
międzynarodowej (jedna partia w symultanie)
" 1997  Deep Blue wygrywa pełny mecz z
Kasparowem (specjalny superkomputer 418-procesorowy;
wynik 3,5:2,5)
" 2003  Deep Junior remisuje z Kasparowem mecz na
warunkach przez niego określonych (8 zwykłych
procesorów Intela 1,6 GHz; wynik 3:3)
HISTORIA AI - WARCABY
" 1952 (A. Samuel)  programy do gry w
warcaby z elementami uczenia siÄ™
(ewolucyjnego)
" 1989  Chinook, program z bibliotekÄ…
wszystkich końcówek 8-pionkowych (6
GB). W 1992 przegrał (2:4) z mistrzem
świata; w 1996 zwyciężył w
ogólnokrajowym konkursie w USA.
" Aktualny mistrz świata: program Nemesis.
" Problem warcabów można uznać za
 praktycznie rozstrzygnięty, tzn. w większości
przypadków można podać wynik gry po
pierwszym ruchu.
" Na zdjęciu robot przemysłowy wzbogacony o
kamerÄ™ CCD oraz chwytak elektromagnetyczny
do przesuwania pionków, zbudowany w 2001 w
PJWSTK. Naturalnie oprogramowanie ma dwa
dodatkowe moduły: rozpoznawania sceny pod
ramieniem robota oraz predykcji ruch pionkiem.
Są one zbudowane z wykorzystaniem narzędzi
sztucznej inteligencji.
ZAGADNIENIA AI
" Stworzenie maszyn o inteligencji
dorównującej (przewyższającej)
ludzkÄ….
" Stworzenie maszyn (algorytmów)
przejawiajÄ…cych tylko wÄ…ski aspekt
inteligencji (grajÄ…cych w szachy,
rozpoznajÄ…cych obrazy, czy
tworzÄ…cych streszczenia tekstu).
CO OKAZAA
O SI
TRUDNE,
A CO A
ATWE
1961
SYSTEMY UCZ
CE SI

" Systemy eksperckie, rozumowanie
logiczne.
" Komputerowe widzenie, analiza oraz
rekonstrukcja obrazu.
" Rozpoznawanie obrazów, mowy,
pisma, struktur chemicznych oraz
biologicznych, stanu zdrowia, sensu
wyrazów i zdań...
SYSTEMY UCZ
CE SI

" Systemy posiadające zdolność
poprawiania jakości swojego działania
poprzez zdobywanie nowych
doświadczeń, które są następnie
wykorzystywane podczas kolejnych
interakcji ze środowiskiem.
SYSTEMY UCZ
CE SI

" Uczenie się może przebiegać pod
nadzorem użytkownika
dostarczajÄ…cego informacje o
przebiegu nauki, lub bez
nadzoru, gdy kryterium
poprawności wbudowane jest w
system.
SYSTEMY UCZ
CE SI

" Układy samoadaptacyjne:
dobierajÄ…ce parametry pracy w
zależności od efektów, a
jednocześnie doskonalące
strategiÄ™ uczenia siÄ™ (np.
strategie ewolucyjne).
SYSTEMY UCZ
CE SI

" Wspomaganie decyzji menedżerskich,
diagnoz medycznych...
" Modelowanie gier, uczenie się na błędach.
" Sterowanie samochodów, robotów,
fabryk...
" Planowanie, optymalizacja
wielokryterialna.
SYSTEMY UCZ
CE SI

" Oczyszczanie obrazów, separacja
sygnałów akustycznych.
" Prognozowanie wskaz
ników
ekonomicznych, decyzji zakupu...
" A
Ä…czenie informacji z wielu baz
danych.
" Inteligentne szukanie wiedzy w
bazach danych.
TRENING KLASYFIKATORA
> classifier < not
> classifier < Marks
Marks
> classifier < Marks
> classifier < not
Marks
> classifier < not
> classifier < not
Marks
Marks
UŻYCIE KLASYFIKATORA
> Classifier > Marks
UWAGA: TEN OBRAZ
NIE NALEŻAA
DO PRÓBKI
TRENINGOWEJ!!!
PROGRAM WYKA
ADU
" Problemy optymalizacji i
przeszukiwania: heurystyki, złożoność
obliczeniowa, przykłady i zastosowania
" Sieci neuronowe: przeglÄ…d struktur oraz
zastosowań, metody uczenia,
propagacja wsteczna
PROGRAM WYKA
ADU
" Algorytmy randomizowane:
wychładzanie, strategie ewolucyjne,
sieci Kohonena
" Algorytmy ewolucyjne: operatory
genetyczne, metody hybrydowe i
zastosowania
KRYTERIA ZALICZANIA
 Dwa kollokwia
PODSTAWOWE ZAGADNIENIA
TECHNICZNE AI
" Zadania optymalizacyjne
 szukanie najlepszego rozwiÄ…zania (ocenianego liczbowo)
 przykłady: minimalizacja kosztu, minimalizacja funkcji błędu,
maksymalizacja wygranej (gry logiczne)
" Zadania aproksymacji (ekstrapolacji)
 znajdowanie zależności między danymi
 Sterowanie, prognozowanie trendów...)
" Zadania klasyfikacji
 klasyfikacja nieznanych obiektów na podstawie znanych
przykładów (rozpoznawanie mowy, OCR, KDD,& )
ZADANIA OPTYMALIZACYJNE
Wiele problemów rozwiązywanych przez komputery ma
postać zadań optymalizacyjnych:
 znalez
ć wśród różnych możliwych rozwiązań takie,
które najbardziej nam odpowiada
)
PRZYKA
AD
Posortować n nazwisk alfabetycznie (rosnąco).
Przestrzeń stanów: wszystkie możliwe ustawienia n nazwisk.
Wielkość przestrzeni stanów: n! (nie n).
Przestrzeń stanów to zbiór wszystkich możliwych (również
nieoptymalnych) rozwiązań problemu.
Funkcja celu: np. wartość 1 (sukces), jeśli porządek jest
właściwy, lub 0 (porażka).
W bardziej złożonych problemach funkcja celu ma zwykle
więcej wartości, niż 0 i 1.
Każde dyskretne zadanie optymalizacyjne można rozwiązać
przez przejrzenie wszystkich możliwości (wszystkich
elementów przestrzeni stanów). Często jednak istnieją
skuteczniejsze algorytmy (np. w przypadku sortowania).
ZADANIA APROKSYMACJI
Problemy kojarzone z terminem  sztuczna inteligencja to
często zadania aproksymacji:
 mamy daną pewną dziedzinę i niektóre wartości nieznanej
funkcji f, chcemy zgadnąć wartości f w innych punktach
Niech X - dowolny zbiór (przestrzeń stanów, uniwersum)
Niech f : X Y - pewna (nieznana) funkcja na X
Załóżmy, że mamy dany ciąg (x1, f(x1)), ... (xn, f(xn)). Zadanie
aproksymacji polega tym, by dla dowolnego punktu x0 ze zbioru X
znalez
ć wartość y taką, że:
f(x0) = y lub |f(x0) - y| było minimalne
lub
P( f(x0) = y ) prawdopodobieństwo było maksymalne
Zadanie klasyfikacji/rozpoznania
Mamy zbiór obrazków binarnych 32x32 przedstawiających
litery (pisane ręcznie). Chcemy rozpoznawać nowe, nieznane
wcześniej przypadki (odczytywać nowe napisy).
Przestrzeń stanów: wszystkie możliwe obrazki 32x32.
Wielkość przestrzeni stanów: 232*32.
Przestrzeń stanów to zbiór wszystkich potencjalnych obiektów, jakie mogą pojawić się w
zbiorze treningowym i póz
niej jako nowe obiekty. Kwestia wektora cech dla liter.
Nie ma prostych,  siłowych rozwiązań problemu
klasyfikacji: jeżeli obiekt testowy x0 nie występował wśród
znanych przykładów, musimy zastosować jakąś metodę
uogólnienia tych przykładów.
Sztuczne sieci neuronowe
Geneza: Naśladowanie działania naturalnych neuronów
Cel historyczny: osiągnięcie zdolności uogólniania (aproksymacji)
i uczenia się, właściwej mózgowi ludzkiemu.
LITERATURA
1. Rutkowski L., Metody i techniki sztucznej inteligencji, Wyd. Naukowe
PWN Warszawa 2005
2. Rutkowska D., Piliński M. i Rutkowski L., Sieci neuronowe, algorytmy
genetyczne i systemy rozmyte, PWN, Warszawa 1997
3. Piegat A., Modelowanie i sterowanie rozmyte. Akademicka Oficyna
Wydawnicza EXIT Warszawa 1999
4. Tadeusiewicz R., , Elementarne wprowadzenie do techniki sieci
neuronowych z przykładowymi programami, Akademicka Oficyna
Wydawnicza PLJ Warszawa 1998
5. Michalewicz Zbigniew, Algorytmy genetyczne + struktury danych =
programy ewolucyjne, Wydawnictwa Naukowo-Techniczne, 1996
6. Korbicz J., Obuchowski A., Uciński D., Sztuczne sieci neuronowe.
Podstawy i zastosowania. Akademicka Oficyna Wydawnicza PLJ,
Warszawa, 1994.
7. Osowski Stanisław, Sieci neuronowe w ujęciu algorytmicznym,
Wydawnictwa Naukowo-Techniczne, Warszawa, 1996
8. Biocybernetyka i inżynieria biomedyczna 2000, M. Nałęcz (red.) Tom 6:
Sieci neuronowe, W. Duch, J. Korbicz, L. Rutkowski, R. Tadeusiewicz
(red.), Akademicka Oficyna Wydawnicza EXIT, Warszawa 2000
Literatura, c.d
" T. Kacprzak and K. Åšlot., Sieci żð Pfeifer R. and Scheier Ch.,
neuronowe komórkowe. Wydawnictwo Understanding Intelligence, The MIT
Naukowe PWN, Warszawa - A
ódz
, 1995. Press, Cambridge, Massachusetts,
London, England, 2001.
" J .Kacprzyk, Zbiory rozmyte w analizie
systemowej, PWN, Warszawa1986. " R. Tadeusiewicz, Sieci neuronowe.
Akademicka Oficyna Wydawnicza RM,
" K. Kułakowski, Automaty komórkowe,
Warszawa, 1993.
Wydawnictwo  jak , Kraków, 2000
" Żurada J., Barski M. i Jędruch W.,
" A
achwa A., Rozmyty świat zbiorów, liczb,
Sztuczne sieci neuronowe, Wydawnictwo
relacji, faktów, reguł i decyzji.
Naukowe PWN, Warszawa 1996.
Akademicka Oficyna Wydawnicza EXIT,
Warszawa 2001
" Mańdziuk J., Sieci neuronowe typu
Hopfielda. Teoria i przykłady zastosowań,
Akademicka Oficyna Wydawnicza EXIT,
Warszawa 2000
Literatura uzupełniająca:
" G. Chen and T.T. Pham, Introduction to Fuzzy Sets, Fuzzy Logic, and Fuzzy
Control Systems. CRS Press, Boca Ratom, London, NY, Washington, D.C.,
2001
" J. S. R. Jang, C-T. Sun, E. Mizutani, Neuro-Fuzzy and Soft Computing. A
Computational Approach to Learning and Machine Intelligence. Prentice Hall,
Upper Saddle River, NJ., 1997, (MatLab Curriculum Series).
" W. Kosiński and M. Weigl. General mapping approximation problems solving
by neural networks and fuzzy inference systems, Systems Analysis Modelling
Simulation, 30 (1), 1998, 11-28
" W. Kosiński, M. Weigl: Sieci neuronowe w problemach aproksymacji, skrypt
IPPT PAN, Warszawa 1999
" R.A. Kosiński, Sztuczne sieci neuronowe, dynamika nieliniowa i chaos,
Wydawnictwa Naukowo-Techniczne, Warszawa, 2002
" J. C. Principe, N. R. Euliano, W. C. Lefebvre, Neural and Adaptive Systems.
Fundamentals through Simulations, J.Wiley &Sons. Inc. New York, 2000 (an
e-book with NeuroSolutions v.3.022 on CD)
" R. D. Reed and R. J .Marks II, Neural Smithing. Supervised learning in
feedforward artficial neural networks. The MIT Press, Cambridge, Ma. 1999.