AI_24_1

26. Wprowadzenie

Filozofowie u

ywaj

poj

cia słabej AI dla okre

lenia

hipotezy mówi

cej,

e maszyny mog

zachowywa

Filozofowie próbuj

od dawna rozwi

problemy które

dotycz

tak

e sztucznej inteligencji:

Jak działa umysł?

Czy maszyny mog

działa

inteligentnie, tak jak ludzie?

eli tak, to czy maj

umysł?

Jakie s

implikacje etyczne sztucznej inteligencji?

© F.A. Dul 2007

hipotezy mówi

cej,

e maszyny mog

zachowywa

inteligentnie.
Poj

cie silnej AI okre

la hipotez

mówi

e maszyny

mog

, a nie tylko symulowa

lenie.

Badania AI opieraj

głównie na hipotezie słabej AI.

W wi

kszo

ci przypadków nie jest wa

ne czy system AI

symuluje inteligencj

, czy jest rzeczywi

cie inteligentny.

Jednak wszyscy powinni bra

pod uwag

implikacje

etyczne bada

nad sztuczn

inteligencj

26.1.

Słaba Sztuczna Inteligencja:

Czy maszyny

mog

działa

inteligentnie?

Niektórzy badacze próbuj

dowie

ść

e sztuczna inteligencja

nie jest mo

liwa, a próby jej wykreowania bior

z „kultu

obliczeniowo

ci” czyli wiary,

e wszystkie działania

inteligentne s

w swej istocie procesami obliczeniowymi.

liwo

ść

stworzenia sztucznej inteligencji zale

y jednak

od tego, co si

pod tym poj

ciem rozumie.

eli uzna si

e sztuczna inteligencja to poszukiwanie

© F.A. Dul 2007

eli uzna si

e sztuczna inteligencja to poszukiwanie

najlepszego programu dla agenta o danej strukturze,
to stworzenie sztucznej inteligencji jest mo

liwe z definicji.

Dla ka

dej architektury cyfrowej składaj

cej si

bitów

pami

ci istnieje dokładnie

programów dla agenta.

Nale

y tylko znale

źć

najlepszy, np. sprawdzaj

c wszystkie.

Definicja informatyczna sztucznej inteligencji nie rozstrzyga
jednak fundamentalnej kwestii

„Czy maszyna mo

e my

?”

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Pytanie „Czy maszyna mo

e my

?” jest jednak

postawione, przynajmniej w kontek

cie sztucznej inteligencji.

Okazuje si

bowiem,

e rozwój sztucznej inteligencji

rozumianej jako dziedzina nauk technicznych

nie zale

od odpowiedzi na to pytanie

Alan Turing w słynnej pracy „Computing Machinery and
Intelligence” (1950) zaproponował aby zamiast pyta

czy

maszyna mo

e my

, sprawdzi

czy mo

e przej

ść

test

inteligentnego zachowania, zwany obecnie

Testem Turinga

© F.A. Dul 2007

inteligentnego zachowania, zwany obecnie

Testem Turinga

Turing przewidywał,

e do roku 2000 komputery spełni

kryteria testu–przekonanie 30% rozmówców w ci

gu 5 minut

konwersacji z maszyn

e jest ona człowiekiem.

Test Turinga ma obecnie znaczenie historyczne i nie jest
traktowany jako kryterium wpływaj

ce na rozwój sztucznej

inteligencji.

Kryteria testu Turinga nie zostały dotychczas spełnione przez

adn

maszyn

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Argumenty o niemo

• miła, zaradna, pomysłowa, przyjazna, pi

kna (?),

• wykazywa

inicjatywy, mie

poczucia humoru,

• odró

nia

dobra od zła,

• popełnia

bł

dów (?),

• mogła zakocha

Turing sformułował szereg w

tpliwo

ci dotycz

cych mo

liwo

skonstruowania inteligentnych maszyn.
Argumenty Turinga o niemo

ci: „

maszyna nigdy nie b

dzie

”:

© F.A. Dul 2007

• mogła zakocha

• mogła rozkocha

kogo

w sobie (?),

• smakowa

truskawek i lodów,

• rozkoszowa

muzyk

lub literatur

• sama uczy

z do

wiadcze

• umie

prawidłowo dobiera

słów,

• obiektem własnych my

li,

• przejawia

tak ró

nych zachowa

jak człowiek,

• umiała zrobi

rzeczywi

cie nowego, ...

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Wszystkie te działania wymagaj

najwy

szej sprawno

• wygrywaj

w szachy z arcymistrzami,

• graj

(i wygrywaj

) równie

w wiele innych gier,

• prowadz

i nadzoruj

monta

produktów w fabrykach,

• sprawdzaj

pisowni

dokumentów w edytorach,

• steruj

samochodami, samolotami, statkami kosmicznymi,

• diagnozuj

choroby,

• dokonuj

odkry

w matematyce, biologii, astronomii, chemii.

Współczesne maszyny robi

jednak wiele rzeczy, które dawniej

były wył

cznie domen

człowieka:

© F.A. Dul 2007

Wszystkie te działania wymagaj

najwy

szej sprawno

lub kompetencji eksperta.
Maszyny mog

nie tylko wykonywa

zadania o charakterze

kombinatorycznym (jak gra w szachy), ale równie

takie które

wymagaj

zdolno

ci uczenia si

(systemy ekspertowe).

Chocia

maszyny robi

wiele rzeczy lepiej ni

człowiek,

to jednak

nie rozumiej

sensu wykonywanych działa

nie u

ywaj

c inteligencji podczas ich wykonywania.

Wynika st

potoczne przekonanie i

jakie

działanie

wymaga inteligencji mo

e by

bł

dne

Wnioski

Pytanie

„Czy maszyna mo

e my

?”

nie jest

poprawnie postawione w kontek

cie bada

nad

sztuczn

inteligencj

Chocia

działania maszyn „inteligentnych” cechuj

wysok

sprawno

i znacznymi kompetencjami,

to jednak nie mo

na uzna

inteligentne.

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

© F.A. Dul 2007

to jednak nie mo

na uzna

inteligentne.

Potoczne przekonanie o tym,

e do wykonania

pewnych działa

konieczna jest inteligencja jest

sto bł

dne.

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Obiekcje matematyczne

• jest prawdziwe je

eli system

jest spójny,

• nie mo

e by

dowiedzione

w ramach systemu

Opieraj

c si

na tym twierdzeniu Lucas (1961) wyraził pogl

e maszyny inteligentne, b

c systemami matematycznymi,

nie mog

„same si

udowodni

”, podczas gdy człowiek jako

Twierdznie Gödla

(1931) mówi,

e dla ka

dego systemu

aksjomatycznego

wyposa

onego w arytmetyk

liwe jest

skonstruowanie zdania

G(F)

∈

które:

© F.A. Dul 2007

nie mog

„same si

udowodni

”, podczas gdy człowiek jako

byt wy

szy mentalnie nie podlega temu ograniczeniu.

Wprawdzie maszyna Turinga jest niesko

czonym systemem

formalnym, to jednak rzeczywiste systemy AI – jak dot

d –

takimi systemami nie s

Nie jest te

oczywiste,

e człowiek jako system nie podlega

twierdzeniu Gödla.
Człowiek jest niekonsekwentny, omylny,

a jednak inteligentny

Zatem ograniczenia formalne – nawet fundamentalne –
nie musz

przeszkod

w osi

gni

ciu inteligencji.

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Argument o nieformalno

Najbardziej stanowcz

krytyk

sztucznej inteligencji sformuło-

wał Turing w postaci

„argumentu o nieformalizowalno

zachowania”

Zachowanie człowieka jest tak zło

one,

e nie mo

e by

opisane zbiorem prostych zasad.
Poniewa

maszyna wykonuje tylko działania wynikaj

z przyj

tych zasad, to nie mo

e wykazywa

zachowa

inteligentnych.

Jest to tzw.

problem kwalifikacji

w sztucznej inteligencji.

© F.A. Dul 2007

Jest to tzw.

problem kwalifikacji

w sztucznej inteligencji.

Głównymi rzecznikami tego argumentu s

: Hubert Dreyfus,

„What Computers Can’t Do” (1972) oraz „What Computers
Still Can’t Do” (1992) oraz jego brat Stuart Dreyfus, „Mind
Over Machine” (1986).
Pogl

dem krytykowanym przez Dreyfusów jest tzw. podej

cie

GOFAI („Good Old-Fashioned AI”), wyra

one nast

puj

co:

de zachowanie inteligentne mo

e by

zrealizowane

poprzez wnioskowanie logicznie z faktów oraz reguł
opisuj

cych dan

dziedzin

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Krytyka Dreyfusów sztucznej inteligencji dotyczyła wła

nie

podej

cia GOFAI, nie za

komputerów jako obiektów sztucznej

inteligencji w ogóle.

• Komputer graj

cy w szachy

wyznacza mo

liwe posuni

cia

poprzez wielokrokow

analiz

ruchów

wspieran

przykładami

partii rozegranych w przeszło

ci, bez anga

owania do tych

działa

jakiejkolwiek inteligencji.

Pogl

d Dreyfusów odno

nie ró

nicy pomi

dzy działaniem

inteligentnym człowieka a (nieinteligentnym) maszyny mo

opisa

nast

puj

© F.A. Dul 2007

działa

jakiejkolwiek inteligencji.

• Człowiek (arcymistrz) patrz

c na szachownic

widzi potrzeb

wykonania konkretnego ruchu

, bez konieczno

wielokrokowej analizy posuni

ęć

- to jest najwy

sza forma

inteligencji.

Innymi słowy: procesy my

lowe ekspertów (arcymistrzów)

przebiegaj

na takim poziomie

wiadomo

ci, który nie

poddaje si

nawet samoobserwacji (introspekcji), nie mo

c by

analizowany i wykorzystany do budowy maszyn

inteligentnych.

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

Mimo sceptycyzmu bracia Dreyfus zaproponowali jednak
(w 1986) pi

ciostopniowy proces przyswajania specjalistycznej

wiedzy i przetwarzania opartego na regułach logicznych (typu
GOFAI) zako

czonego wyborem wła

ciwych działa

Odnotowali przy tym nast

puj

ce problemy:

1. Wła

ciwe uogólnianie przykładów wymaga zgromadzenia

przez agenta wiedzy wst

pnej.

2. Sieci neuronowe uczone z nadzorowaniem wymagaj

wła

ciwego okre

lenia wej

ść

i wyj

ść

, co mo

e zrobi

tylko

człowiek.

© F.A. Dul 2007

wła

ciwego okre

lenia wej

ść

i wyj

ść

, co mo

e zrobi

tylko

człowiek.

3. Algorytmy ucz

ce nie s

wystarczaj

co efektywne w

przypadku wielu własno

ci, trudno jest te

doł

cza

nowe.

4. Mózg potrafi łatwo skoncentrowa

uwag

na istotnym

obszarze otoczenia, w przeciwie

stwie do agenta.

Wszystkie te problemy zostały ju

rozwi

zane, z mniejszym

lub wi

kszym powodzeniem.

Uwzgl

dnianie krytyki Dreyfusów

wiadczy raczej o ci

głym

rozwoju sztucznej inteligencji, nie za

o niemo

ci jej

stworzenia.

Wnioski

Pytania fundamentalne dotycz

ce mo

liwo

kreowania sztucznych bytów inteligentnych s

w przewa

cej cz

ęś

ci zbyt abstrakcyjne aby mogły

mie

wpływ na praktyczn

stron

AI.

Rozwa

ania filozoficzne wskazuj

na niemo

ść

sformułowania precyzyjnych kryteriów inteligencji.

Argumenty filozoficzne dotycz

ce sztucznej

26.1. Słaba Sztuczna Inteligencja: czy maszyny mog

działa

inteligentnie?

© F.A. Dul 2007

Argumenty filozoficzne dotycz

ce sztucznej

inteligencji w wi

kszo

ci przypadków nie prowadz

do konkluzji praktycznych.

Rozwój sztucznej inteligencji w sferze praktycznej
jest w du

ym stopniu niezale

ny od wniosków

natury filozoficznej; (

„psy szczekaj

, a karawana idzie

dalej”...)

26.2.

Silna Sztuczna Inteligencja:

Czy maszyny

mog

ród filozofów panuje zgoda co do tego,

e maszyna która

spełniła test Turinga nie my

li, lecz tylko

symuluje my

lenie

Argument Turinga

wiadomo

: maszyna rzeczywi

cie

ca musi by

wiadoma swoich stanów my

lowych

oraz działa

, które wykonuje.

Inne kryteria zwi

zane z my

leniem:

• fenomenologia

, maszyna my

ca musi odczuwa

emocje,

• intencjonalno

ść

, maszyna my

ca musi wierzy

, pragn

ąć

© F.A. Dul 2007

• intencjonalno

ść

, maszyna my

ca musi wierzy

, pragn

ąć

Turing zakwestionował pytanie o

wiadomo

ść

maszyn tak, jak

zakwestionował pytanie „Czy maszyna mo

e my

?”

Argumentacja Turinga dotyczyła niemo

ci stwierdzenia

wiadomo

ci z powodu nieobserwowalno

ci wewn

trznych

stanów umysłu człowieka.
Zaproponował on aby

przyj

ąć

e maszyna ma

wiadomo

ść

tak, jak przyjmuje si

na zasadzie powszechnej zgody,

człowiek ma

wiadomo

ść

Turing stwierdził,

e akceptacja

wiadomo

ci maszyny jest

liwa, je

eli wyka

e si

ona inteligencj

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Turing stwierdził te

e problem

wiadomo

ci maszyny jest

trudny do rozstrzygni

cia, ale w rzeczywisto

ci ma niewielki

wpływ na rozwój sztucznej inteligencji.
Pomi

dzy filozofami a praktykami AI istnieje ró

nica pogl

dów

na temat znaczenia problemu

wiadomo

ci maszyn.

Filozofowie s

ywotnie zainteresowani t

kwesti

, podczas

gdy praktycy uwa

nie ma ona wpływu na rozwój AI

Z filozoficznego punktu widzenia problem jest wa

ny, gdy

dotyczy relacji pomi

dzy obiektami rzeczywistymi a sztucznymi.

© F.A. Dul 2007

Przykłady
1. Synteza sztucznego mocznika (1848) pokazała,

nie ma

adnej ró

nicy

(fizycznej i chemicznej) pomi

dzy mocznikiem

sztucznym a naturalnym. Mocznik sztuczny

jest

mocznikiem.

Dotyczy to te

innych substancji.

2. Jednak sztucznego wina Chateau Latour

nie uznaje si

wino Chateau Latour mimo,

e ma takie same własno

ci, gdy

nie powstało we wła

ciwym miejscu i czasie.

3. Podobnie, kopia obrazu Picassa nie jest obrazem Picassa,
niezale

nie od tego, jak jest namalowana.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Konkluzja: czasem wyznacznikiem sztuczno

ci jest zachowanie

obiektu, ale czasami samo sztuczne pochodzenie decyduje

o takiej jego kwalifikacji.
Problem jest trudny: burza symulowana komputerowo nie
zmoczy programisty, ale nie jest oczywiste, czy symulacj

procesów my

lowych mo

na traktowa

analogicznie.

Kwalifikacja procesów my

lowych zale

y od przyj

tej teorii.

Teoria funkcjonalizmu

stwierdza,

e stan umysłu jest

dowolnym przej

ciowym zwi

zkiem przyczynowym pomi

dzy

© F.A. Dul 2007

dowolnym przej

ciowym zwi

zkiem przyczynowym pomi

dzy

wej

ciem a wyj

ciem.

Wynika st

e ka

de dwa układy z izomorficznymi procesami

przyczynowymi maj

takie same stany umysłu.

Teoria naturalizmu biologicznego

stwierdza,

e stan umysłu

jest własno

wysokiego poziomu spowodowan

procesami

neurologicznymi zachodz

cymi w neuronach, oraz

e jest to

własno

ść

samych neuronów.

Wynika st

e stany umysłu nie mog

symulowane

w komputerze, gdy

nie ma on takich własno

ci, jak neurony.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Problem ciała i umysłu

Problem ciała i umysłu dotyczy zwi

zku stanów my

lowych

ze stanami fizjologicznymi ciała (mózgu).
W teorii

dualno

Kartezjusz twierdził,

e ciało i dusza s

dwoma ró

nymi bytami.

Teoria

monistyczna

(

materializm

) twierdzi natomiast,

dusza nie istnieje, zatem stany umysłu s

stanami mózgu -

„mózg jest przyczyn

lenia”

(John Searle).

Materializm boryka si

z problemem

wolnej woli

- czy obiekt

dzony

cisłymi prawami fizyki mo

e mie

woln

wol

© F.A. Dul 2007

dzony

cisłymi prawami fizyki mo

e mie

woln

wol

nym problemem jest

wiadomo

ść

- w jaki sposób obiekt

czuje

e jest

tym

obiektem a nie jakim

innym?

Stany umysłu nie zale

Ŝą

przy tym od zmian fizjologicznych:

zast

pienie pewnej liczby atomów mózgu (co mam miejsce

w ramach metabolizmu) nie spowoduje zmiany my

lenia.

Szczególnym rodzajem stanu umysłu jest

postawa

propozycjonalna

nazywana tak

stanem intencjonalnym

to stany w rodzaju: wiary, wiedzy, po

Ŝą

dania, strachu, itp.,

odnosz

ce si

wiata zewn

trznego.

Pytanie: czy maszyny mog

mie

stany intencjonalne?

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Eksperyment my

lowy „Mózg w słoiku”

Eksperyment ten ma na celu ustalenie, czy stany umysłu
s

jednoznacznie okre

lone percepcj

otoczenia.

W eksperymencie tym zakłada si

e mózg został oddzielony

od ciała i umieszczony w zapewniaj

cym mu egzystencj

pojemniku.

wiat zewn

trzny jest symulowany, bod

ce przekazywane

do mózgu, za

działania generowane przez mózg

realizowane w symulowanym

wiecie.

Okazuje si

e zawarto

ść

stanów umysłu zale

y od punktu

© F.A. Dul 2007

Okazuje si

e zawarto

ść

stanów umysłu zale

y od punktu

widzenia.

W kontek

cie w

skim

, z wewn

trznego punktu widzenia,

stan umysłu jest jednoznacznie zdefiniowany przez kontakt
z otoczeniem niezale

nie od tego, czy otoczenie jest

rzeczywiste, czy symulowane.

W kontek

cie szerokim

, z punktu widzenia zewn

trznego

obserwatora wszechwiedz

cego, stan umysłu zale

y od

ró

nic w

wiecie zewn

trznym nawet wtedy, gdy mózg nie ma

liwo

ci obserwacji tych ró

nic poprzez dost

percepcj

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Eksperyment my

lowy „Proteza mózgu”

Eksperyment ten ma na celu ustalenie, czy

wiadomo

ść

zale

y od budowy i fizjologii mózgu.

W eksperymencie tym kolejne neurony s

zast

powane

idealnymi protezami, po czym naturalne neurony s

wstawiane z powrotem w kolejno

ci odwrotnej.

Pytania dotycz

wiadomo

ci:

• czy mózg zachowa

wiadomo

ść

niezale

nie od liczby

wstawionych protez?

• czy nie nast

pi rozej

cie si

wiadomo

ci i zachowania

© F.A. Dul 2007

• czy nie nast

pi rozej

cie si

wiadomo

ci i zachowania

zewn

trznego mózgu?

• czy proces ponownego wstawiania neuronów naturalnych

przywróci mózgowi

wiadomo

ść

pierwotn

Zwolennicy funkcjonalizmu (Moravec) twierdz

wiadomo

ść

pozostanie nie zmieniona w trakcie i po eksperymencie.
Zwolennicy naturalizmu biologicznego (Searle) uwa

wiadomo

ść

zmieni si

w trakcie eksperymentu, a nawet

e zanikn

ąć

całkowicie i nieodwracalnie.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Analiza wyników eksperymentu prowadzi do nast

puj

cych

wniosków:

1. Mechanizm

wiadomo

ci w mózgu działa tak

w komputerze - komputer zatem

wiadomo

ść

• Utrata

wiadomo

ci, gdyby miała nast

, musiałaby by

nagła, co jest mało prawdopodobne przy stopniowym
wymienianiu pojedynczych neuronów.

• Mózg zło

ony z neuronów elektronicznych zachowa zatem

wiadomo

ść

, co prowadzi do dwóch mo

liwych konkluzji:

© F.A. Dul 2007

w komputerze - komputer zatem

wiadomo

ść

2. Zdarzenia mentalne zwi

zane ze

wiadomo

mózgu nie maj

zwi

zku z jego zachowaniem

zewn

trznym; nie mog

c pojawi

w komputerze - komputer

nie ma

wiadomo

ci.

liwo

ść

druga redukuje jednak

wiadomo

ść

do roli

epifenomenalnej

- czyli takiej w której nie zostawia ona

adnych

ladów swojego istnienia; nie mo

na wi

c jej bada

Eksperyment „proteza mózgu”

dopuszcza wi

liwo

ść

e maszyna mo

e mie

wiadomo

ść

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Problemem wymykaj

cym si

badaniom nad umysłem jest

qualia

- zdolno

ść

wiadomo

ci do subiektywnej oceny

wra

zmysłowych, np. smaku cukru, zapachu kawy, pi

kna

muzyki Mozarta, itp.

Taka mo

liwo

ść

jest trudna do zaakceptowania (co zauwa

ył

Turing) - wyniki eksperymentu „proteza mózgu” w którym

zamienia si

od razu cały mózg nie s

zgodne z intuicj

li zaakceptuje si

pogl

e sztuczny mózg mo

e mie

wiadomo

ść

, to pojawia si

liwo

ść

wiadomo

obdarzona jest tak

e tablica zwi

zków wej

cia-wyj

cia mózgu.

© F.A. Dul 2007

Eksperyment „proteza mózgu” pokazuje problemy filozoficzne
zwi

zane z istot

wiadomo

ci.

wiadomo

ść

pozostaje wi

tajemnic

...

wra

zmysłowych, np. smaku cukru, zapachu kawy, pi

kna

muzyki Mozarta, itp.
Takie cechy stanu umysłu s

wysoce subiektywne i nie wydaje

, aby mo

na je było uj

ąć

za pomoc

obiektywnych poj

ęć

fizycznych.
Qualia jest wa

ęś

wiadomo

ci,

ale nie mo

e by

obiektywnie badana

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Eksperyment my

lowy „Chi

ski pokój”

Eksperyment ten, wymy

lony przez Searla w roku 1980 miał

pokaza

e system wykonuj

cy program i b

cy w stanie

zaliczy

test Turinga nie rozumie sensu wykonywanych działa

Eksperyment „chi

ski pokój” polega na umieszczeniu

w zamkni

tym pomieszczeniu człowieka znaj

cego tylko j

zyk

angielski, wyposa

eniu go w instrukcj

operowania na

symbolach j

zyka chi

skiego napisanej w j

zyku angielskim

oraz du

y zasób kartek papieru.

Człowiek otrzymuje z zewn

trz kartki zapisane znakami

© F.A. Dul 2007

Człowiek otrzymuje z zewn

trz kartki zapisane znakami

chi

skimi, przekształca je korzystaj

c z instrukcji i zwraca

wyniki tych operacji na zewn

trz.

Z zewn

trz widoczny jest system który otrzymuje zdania

chi

skie i udziela odpowiedzi w j

zyku chi

skim.

System jest inteligentny, gdy

e zaliczy

test Turinga.

Jednak Searle twierdzi,

system nie rozumie tego, co robi

Zdaniem Searla,

wykonanie wła

ciwego programu nie oznacza

rozumienia.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Na podstawie analizy eksperymentu „chi

ski pokój” Searle

sformułował cztery aksjomaty my

lenia:

1. Programy komputerowe s

formalnymi bytami

syntaktycznymi.

2. Rozum posiada kontekst umysłowy, semantyczny.
3. Syntaktyka sama w sobie nie stanowi semantyki.
4. Mózg jest przyczyn

lenia.

Wniosek z aksjomatów 1–3:

nie istnieje taki program który

sam w sobie stanowi my

lenie.

© F.A. Dul 2007

sam w sobie stanowi my

lenie.

Konkluzja Searla jest nast

puj

ca:

aden program nie stanowi

lenia.

Wniosek z aksjomatu 4:

dy system mog

cy my

musi

(co najmniej) równowa

ny mózgowi.

Searle wyci

ga st

d kolejny wniosek: ka

dy sztuczny mózg

musi na

ladowa

lenie mózgu, a nie wykonywa

program

„realizuj

cy” my

lenie.

Wnioski Searla miały stanowi

argumenty

za odrzuceniem

hipotezy silnej AI.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Aksjomat 3 („Syntaktyka sama w sobie nie stanowi semantyki”)
odwołuje si

do intuicji, nie stanowi wi

c dowodu.

Wnioski Searla s

jednak kwestionowane ( M.S. Churchland,

S. Lem „Tajemnica chi

skiego pokoju”, i inni).

Searle posługuje si

argumentem,

e nawet ewidentnie

inteligentny system (człowiek) wykonuj

cy program

(tłumaczenie chi

skiego)

w sposób widoczny

nie my

li.

Odwołanie si

do intuicji („w sposób widoczny nie my

li”) jest

Krytyka rozumowania Searla dotyczy przede wszystkim tego,

e słuszno

ść

wniosków zale

y od

akceptacji

Aksjomatu 3.

© F.A. Dul 2007

Odwołanie si

do intuicji („w sposób widoczny nie my

li”) jest

uwa

ane przez krytyków za nieuprawnione.

Podobnie bowiem mo

na powiedzie

o mózgu: „w sposób

oczywisty zbiór komórek mózgowych działaj

cych

lepo

zgodnie z prawami fizyki nie mo

e my

”.

Chocia

Searle nie odrzuca całkowicie mo

liwo

ci,

e system

sztuczny mo

e my

, to z jego rozumowania nie wynika

jakiego typu

systemy (poza człowiekiem) mogłyby my

Krytyka argumentów Searla przeciwko silnej AI spowodowała
odrzucenie wniosku o niemo

ci my

lenia przez maszyny.

26.2. Silna Sztuczna Inteligencja: czy maszyny mog

Wnioski

Pytanie o inteligencj

nieuchronnie prowadzi

do pytania o my

lenie i

wiadomo

ść

Stany my

lowe s

identyfikowane ze stanami

fizjologicznymi mózgu.

na mierzy

zwi

zki pomi

dzy aktywno

ciami

umysłowymi a stanami fizjologicznymi

© F.A. Dul 2007

umysłowymi a stanami fizjologicznymi
odpowiadaj

cych im obszarów mózgu.

wiadomo

ść

całkowicie wymyka si

badaniom.

Wnioski filozoficzne wynikaj

ce z hipotezy silnej AI

nie maj

wpływu na rozwój sztucznej inteligencji.

Nurty filozoficzny i praktyczny sztucznej inteligencji
rozwijaj

(prawie) niezale

nie.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej

Inteligencji

Dotychczas zastanawiali

my si

czy rozwój sztucznej

inteligencji

jest mo

liwy

Kwesti

moraln

jest to,

czy powinni

to robi

Na badaczach AI ci

ąŜ

dzie moralna odpowiedzialno

ść

za negatywne konsekwencje jej rozwoju.
Chocia

rozwój ka

dej dziedziny wiedzy powoduje powstanie

problemów natury etycznej i moralnej, to sztuczna

© F.A. Dul 2007

• Ludzie mog

traci

prac

z powodu automatyzacji.

• Ludzie mog

mie

za du

o (lub za mało) wolnego czasu.

• Ludzie mog

utraci

poczucie swojej wyj

tkowo

ci.

• Ludzie mog

utraci

ęść

swobód obywatelskich.

• U

ywanie systemów sztucznej inteligencji mo

doprowadzi

do rozmycia odpowiedzialno

ci.

• Rozwój sztucznej inteligencji mo

e doprowadzi

rodzaj

ludzki do zaniku.

problemów natury etycznej i moralnej, to sztuczna
inteligencja generuje zagro

enia i dylematy nowego rodzaju.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Ludzie mog

traci

prac

z powodu automatyzacji

Zagro

enie spowodowane automatyzacj

wydawało si

realne

w USA ju

w latach 50. XX w., ale było mocno wyolbrzymione.

Nowoczesna gospodarka i ekonomia w coraz wi

kszym

stopniu zale

Ŝą

od komputerów i systemów AI.

Komputeryzacja zredukowała zatrudnienie w pewnych
zawodach, ale jednocze

nie spowodowała wzrost liczby

miejsc pracy w zawodach wykorzystuj

cych informatyk

w bankowo

ci, administracji, handlu (równie

internetowym),

usługach, itp.

w bankowo

ci, administracji, handlu (równie

internetowym),

usługach, itp.
W efekcie komputeryzacja stworzyła wi

cej miejsc pracy

ich wyeliminowała.

Obecnie typowe programy AI maj

charakter asystentów

człowieka, w przeciwie

stwie do starszej ich generacji,

gdy przewa

ały programy typu systemu ekspertowego,

stworzone do zast

powania ludzi.

Zagro

enie zwi

zane ze wzrostem bezrobocia z powodu

wprowadzenia AI wydaje si

obecnie mało realne.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Ludzie mog

mie

za du

o (lub za mało) wolnego czasu

W latach 70. XX wieku uwa

ano (A. Toffler, A. C. Clarke),

e automatyzacja i komputeryzacja spowoduj

wzrost czasu

wolnego o 50%, a w wyniku powszechn

nud

i zwi

zane

z tym zagro

enia.

Jednak okazało si

e gospodarka high-tech skłania ludzi

do coraz dłu

szej pracy, gdy

bardzo cz

sto wzrostowi

długo

ci czasu pracy towarzyszy du

y wzrost dochodów

(np. wzrost czasu pracy o 10% powoduje wzrost dochodów
nawet o 100%).

nawet o 100%).

W efekcie czas pracy w krajach rozwini

tych wydłu

a si

raczej a nie skraca.
Jest to w du

ej mierze spowodowane wprowadzaniem

zaawansowanych technologii, w tym – sztucznej inteligencji.

Nowe technologie, internet oraz łatwo

ść

wymiany informacji

w skali

wiatowej powoduj

zmian

stylu pracy.

Globalne firmy wymuszaj

prac

całodobow

ze wzgl

na ró

nice stref czasowych.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Ludzie mog

utraci

poczucie swojej wyj

tkowo

W pracy „Computer Power and Human Reason” (1976)
Weizenbaum przedstawił zagro

enie wynikaj

ce z przyj

cia

na podstawie bada

AI tezy,

e człowiek jest w istocie

automatem.
W wyniku tego człowiek, zdaniem Weizbauma,

utraci poczucie

swojej wyj

tkowo

Teza taka si

ga korzeniami do idei Le Metriego („L’Homme

Machine”, 1748) i jest przejawem

mechanicyzmu

Machine”, 1748) i jest przejawem

mechanicyzmu

Przeciwnicy tezy o szoku zwi

zanym z utrat

wyj

tkowo

twierdz

jednak,

e ludzko

ść

przetrwała ju

wiele rewizji

przekonania o swojej szczególnej pozycji: rewolucj

kopernika

(Kopernik, 1543) czy te

teori

ewolucji

(Darwin,1871).
Gdyby AI osi

ła swoje najambitniejsze cele, to ludzko

ść

musiałaby przewarto

ciowa

swoje pogl

dy tak, jak zrobiła

to po rewolucjach kopernika

skiej czy darwinowskiej.

kszo

ść

filozofów uwa

e ludzko

ść

sobie z tym poradzi.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Ludzie mog

utraci

ęść

swobód obywatelskich

Weizenbaum przedstawił tak

e zagro

enia wynikaj

z rozwoju technologii rejestracji i identyfikacji, polegaj

ograniczeniu praw i swobód obywatelskich

W istocie, w dobie wszechobecnych systemów nadzoru,
telefonii komórkowej, elektronicznie rejestrowanych transakcji,
systemów rozpoznawania obrazu, systemów analizuj

cych

komunikacj

(Echelon), prywatno

ść

człowieka została ju

w znacznym stopniu ograniczona.

Jest to wymuszone w du

ej mierze wzrostem zagro

terrorystycznych w skali

wiatowej.

Wielu filozofów i socjologów zgadza si

z tez

e komputery-

zacja doprowadziła do cz

ęś

ciowej utraty prywatno

ci.

Prywatno

ść

jest te

uwa

ana przez wielu za jeden

z podstawowych wyznaczników osobowo

ci człowieka,

zatem jej utrata mo

e by

traktowana jako du

e zagro

enie.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

ywanie systemów sztucznej inteligencji mo

doprowadzi

do rozmycia odpowiedzialno

ycie systemów AI rodzi zagro

enia zwi

zane z utrat

odpowiedzialno

ci za prowadzone działania.

Systemy bankowe i handlowe opieraj

w coraz wi

kszym

stopniu na komputerach u

ywaj

cych systemów AI

do prowadzenia transakcji, cz

sto w imieniu klientów.

Systemy ekspertowe formułuj

diagnozy medyczne,

które mog

decydowa

yciu pacjenta.

Od wła

ciwego działania systemów nadzoruj

cych

i steruj

cych zale

y bezpiecze

stwo komunikacji lotniczej,

morskiej i l

dowej.

Agenci internetowi mog

nieumy

lnie (lub umy

lnie) zniszczy

zasoby w komputerach przył

czonych do sieci.

Powstaje wi

c kwestia odpowiedzialno

ci prawnej

oraz materialnej za szkody mog

ce by

wynikiem u

ywania

systemów AI.

Istnieje te

potencjalna mo

liwo

ść

działania superinteligentnych

systemów AI we własnym imieniu.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Medyczne systemy ekspertowe s

tylko doradcami lekarza,

ale pojawia si

problem odpowiedzialno

ci lekarza

za niewykorzystanie wyników diagnozy systemu.

Panuje zgoda,

e działanie systemów AI powinno podlega

ograniczeniom narzuconym przez projektantów i producentów.

Istniej

ce systemy prawne nie po

caj

jak dotychczas

nale

ytej uwagi kwestii odpowiedzialno

ci za działania

systemów AI.

Zaistniałe przypadki rozpatrywane s

najcz

ęś

ciej w ramach

na jednak s

dzi

e w niedługim czasie powstan

odpowiednie uregulowania prawne, wymuszone przez
praktyk

wiata u

ywaj

cego powszechnie systemów AI.

Zaistniałe przypadki rozpatrywane s

najcz

ęś

ciej w ramach

istniej

cego prawa, co jednak nie zawsze jest rozwi

zaniem

wła

ciwym.

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

Rozwój sztucznej inteligencji mo

e doprowadzi

rodzaj

ludzki do zaniku
Ka

da technologia w niewła

ciwych r

kach mo

e wyrz

dza

szkody (bro

, technologie j

drowe, internet,...).

Jednak AI i robotyka mog

same by

autorami destrukcji.

Literatura sf od dawna opisuje siej

ce zniszczenie roboty

lub istoty człekopodobne: Frankenstein (Mary Shelley, 1818),
R.U.R. (

apek, 1921); filmy: Odyseja Kosmiczna 2001

(1968), Terminator (1984), Matrix (1999) i wiele innych.
Roboty i androidy s

współczesn

wersj

dawnych wied

Roboty i androidy s

współczesn

wersj

dawnych wied

i duchów; odzwierciedlaj

strach człowieka przed nieznanymi

bytami.
Uwa

a si

jednak,

e maszyny zbudowane dla realizacji

celów człowieka b

słu

człowiekowi i nie b

stanowi

realnego zagro

enia (pomijaj

c wypadki).

Maszyny same w sobie nie s

agresywne, ale mog

takie

eli zostan

odpowiednio zaprojektowane przez człowieka.

Maszyny mog

sta

w pewnym sensie „zdobywcami

wiata”, je

eli b

niezast

pione (tak, jak np. samochody).

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

liwym scenariuszem „podboju”

wiata przez inteligentne

maszyny jest

eksplozja inteligencji

(Good, 1965):

• człowiek buduje najinteligentniejsze

maszyny, jakie mo

e stworzy

przy

pomocy dost

pnych mu technologii...

• ale maszyny te s

tak inteligentne,

e potrafi

zbudowa

maszyny

jeszcze bardziej inteligentne,...

• te z kolei buduj

maszyny jeszcze

drzejsze, itd...

lig

Inteligencja człowieka pozostałaby wi

c szybko w tyle.

drzejsze, itd...

Taki lawinowy rozwój maszyn
inteligentnych prowadziłby do

osobliwo

ci technologicznej

Filozofowie s

raczej zgodni co do tego,

e maszyny

przewy

szaj

ce inteligencj

człowieka kiedy

powstan

Ró

w ocenie tempa rozwoju maszyn inteligentnych

oraz skutków ich pojawienia si

twierdz

e nast

pi:

• kres ery człowieka

(Good, Vinge 1993).

• konwergencja człowieka i maszyny

(Moravec 2000).

czas

koniec ery

człowieka

26.3. Etyka i ryzyko zwi

zane z rozwojem Sztucznej Inteligencji

A jak wygl

dałby

wiat z punktu widzenia inteligentnych

maszyn?

Jednak pojawienie si

maszyn

wiadomych

stworzy całkiem

nowe problemy natury moralnej i etycznej.

Maszyny b

musiały przestrzega

praw ludzkich.

Maszyny inteligentne, ale nie

wiadome, s

dalej tylko

maszynami.

wiadome maszyny b

musiały by

zaprojektowane tak,

aby odró

niały dobro od zła.

ęść

etyków uwa

wiadomych maszyn nie wolno

dzie traktowa

inaczej ni

ludzi -

nale

ne im b

prawa

Czy zatem roboty b

mogły za

Ŝą

np. wolnych sobót,

prawa do strajku czy praw chroni

cych ich reprodukcj

Maszyny b

musiały przestrzega

praw ludzkich.

Czy b

zakładały zwi

zki zawodowe lub partie polityczne?

Czy w ko

cu b

mogły rz

dzi

lud

mi?

Na te (i inne) pytania nie ma dzisiaj odpowiedzi, ale problem
nieobcy jest literaturze sf, np. Asimov (1942), film Spielberga
A.I. (2001).

Podsumowanie

• Filozofowie u

ywaj

poj

cia

słabej AI

dla okre

lenia hipotezy

mówi

cej,

e maszyny mog

zachowywa

inteligentnie.

• Poj

cie

silnej AI

okre

la hipotez

mówi

e maszyny

rzeczywi

cie mog

, a nie tylko symulowa

lenie.

• Alan Turing odrzucił kwesti

„Czy maszyny my

?”

zast

puj

c j

testem inteligentnego zachowania maszyny.

Turing sformułował wiele obiekcji w stosunku do idei maszyn
my

cych.

• Niewielu badaczy AI przywi

zuje obecnie wag

do testu

Turinga i imitacji człowieka, skupiaj

c si

raczej

na doskonaleniu mo

liwo

ci systemów AI.

• Argumenty za i przeciw silnej AI nie prowadz

do konkluzji.

Istnieje przekonanie,

e badania AI w niewielkim stopniu

zale

Ŝą

od wyników debaty na ten temat.

Podsumowanie (c.d.)

• Panuje zgoda co do tego,

e stany umysłu s

stanami

fizjologicznymi mózgu.

•

wiadomo

ść

pozostaje jednak wielk

tajemnic

...

• Potencjalne zagro

enia społeczne zwi

zane ze sztuczn

inteligencj

i technologiami pokrewnymi s

w wi

kszo

mało prawdopodobne lub wyst

puj

równie

w innych

dziedzinach, nie zwi

zanych ze sztuczn

inteligencj

• Zagro

eniem realnym wartym uwagi jest wpływ

superinteligentnych maszyn na kształt

wiata w przyszło

ci.

To mo

e by

zupełnie inny

wiat - mo

na go b

dzie lubi

lub nie, ale nie b

dzie si

miało na to wpływu.

• Takie rozwa

ania prowadz

nieuchronnie do wniosku,

e ju

teraz nale

y starannie rozwa

liwe

konsekwencje bada

nad AI dla przyszło

ci rodzaju

ludzkiego.