J.R. Searle
(Z Umysł, Myśl i Nauka)
Czy komputery mogą myśleć?
W poprzednim rozdziale przedstawiłem, przynajmniej w za-
rysie, rozwiązanie tzw. problemu psychofizycznego. Choć nie znamy
szczegółów dotyczących zasad działania mózgu, wiemy jednak dostatecznie
wiele, by mieć ogólny obraz stosunków pomiędzy procesami mózgowymi
i procesami psychicznymi (umysłowymi). Procesy umysłowe są skutkiem
działania elementów mózgu. Jednocześnie realizowane są w strukturze
zbudowanej z tych właśnie elementów. Myślę, że to rozwiązanie problemu
zgodne jest ze standardowym podejściem do zjawisk biologicznych.
Niewątpliwie, oparty na naszej znajomości zjawisk w świecie,
zdroworozsądkowy sposób rozwiązania problemu. Jednak jest to również
punkt widzenia zdecydowanej mniejszości. W filozofii, psychologii i teorii
sztucznej inteligencji przeważa stanowisko podkreślające analogie
pomiędzy działaniem ludzkiego mózgu i cyfrowego komputera. Zgodnie ze
skrajną wersją tego stanowiska, mózg jest rodzajem komputera, zaś umysł
rodzajem komputerowego programu. Można ten pogląd streścić 
określam go mianem  silnego podejścia w teorii sztucznej inteligencji"
lub  silną SI (w języku angielskim AD"  mówiąc, że umysł jest tym dla
mózgu, czym program dla komputera.
25
darzony zdolnościami intelektualnymi, będącymi tym samym, czym .
Konsekwencją takiego poglądu jest uznanie, iż nie ma niczego
ludzka inteligencja. Zarówno Simon, jak Newell w dobrej wie
zasadniczo biologicznego w ludzkim umyśle. Mózg staje się tu jedną z
podkreślają, że nie ma nic metaforycznego w powyższym sformułowaniu,
mnóstwa maszyn liczących, w których mogą być realizowane programy
że trzeba rozumieć je dosłownie. Cytuje się Kreemana Dysonn, który miał
stwarzające ludzką inteligencję. Z tego punktu widzenia, każdy system
stwierdzić, że komputery mają nad nami przewagę z ewolucyjnego punktu
fizyczny odpowiednio zaprogramowany, mający odpowiednie wejścia i
widzenia. Jeśli świadomość jest jedynie elektem działania pewnych
wyjścia, będzie obdarzony umysłem dokładnie takim samym jak umysł
programów, w przypadku komputerów programy te realizowane są w
Czytelnika i mój umysł. Zatem, jeśli zrobilibyśmy komputer ze starych
urządzeniach mających, w podlegającym entropii świecie, więcej szans
puszek po piwie, napędzanych wiatrakami, jeśli zaprogramowalibyśmy
na przetrwanie niż istoty, takie jak my, zbudowane z wilgotnych i
go odpowiednio, byłby on obdarzony umysłem. Problem nie polega na
nietrwałych substancji. Marvin Minsky z. Massachtisetts Institute of
tym, że w świetle naszej wiedzy taki system mógłby myśleć i odczuwać,
Technology twierdzi, że następna generacja komputerów ma być tak
raczej na tym, że musiałby on myśleć i czuć, gdyż jedynym warunkiem
inteligentna, że będziemy  szczęśliwi, jeśli maszyny zechcą zatrzymać
myślenia i odczuwania jest zainstalowanie odpowiedniego programu.
nas w domach w charakterze domowych zwierzątek". Ciągle moim
Większość zwolenników tego stanowiska sądzi, że nie stworzyliśmy
ulubionym przykładem przesady w poglądach na temat maszyn
jeszcze programów będących umysłami. Panuje jednak między nimi
cyfrowych pozostaje twierdzenie Johna McCarthy'ego, twórcy terminu
zgoda, że jest to tylko kwestia czasu, aż do chwili, gdy specjaliści od
 sztuczna inteligencja". McCarthy twierdzi, że nawet  o urządzeniach
maszyn cyfrowych i sztucznej inteligencji stworzą odpowiednie urządzenia
tak prostych, juk termostaty, możemy powiedzieć, że mają przekonania",
 hardware'owe" i programy, które będą ekwiwalentami ludzkich
l oczywiście, według niego, o każdej maszynie zdolnej rozwiązywać
mózgów i umysłów. Wtedy powstaną sztuczne mózgi i umysły cał-
problemy można powiedzieć, że ma ona jakieś mniemania. Podziwiam
kowicie porównywalne z ludzkimi mózgami i umysłami.
śmiałość McCarthy'ego. Zapytałem go kiedyś: . takie przekonania ma
Ludzie nie związani z badaniami w dziedzinie sztucznej inteligencji są
zdumieni, odkrywając, że ktokolwiek może reprezentować tego typu twój termostat?". Odpowiedział: ,.Mój termostat ma trzy sądy  tu jest
stanowisko. Przeto, zanim poddam je krytyce, pozwolę sobie przytoczyć zbyt gorąco, tu jest zbyt zimno, temperatura jest odpowiednia". Jako
filozofowi, poglądy te podobają mi się z bardzo prostych powodów.
kilka przykładów niedawnych wypowiedzi ludzi pracujących w tej
Inaczej niż większość filozoficznych twierdzeń są one jasne i pozwalają na
dziedzinie. Herbert Simon z Uniwersytetu Carnegie-Mellon twierdzi, że
prostą i zdecydowaną ich falsyfikacie. Rozdział ten poświęcony jest
maszyny cyfrowe już myślą w sensie dosłownym. Nie trzeba czekać na
właśnie ich falsyfikacji.
stworzenie w przyszłości myślących maszyn, gdyż istniejące komputery
Istota falsyfikacji tych poglądów jest niezależna od tego lub innego
cyfrowe już obdarzone są, równoważną mojej lub Czytelnika, zdolnością
stanu rozwoju technologii maszyn cyfrowych. Należy to podkreślić,
myślenia. Nie do uwierzenia! Przez wieki filozofowie zastanawiali się czy
gdyż zwykle istnieje pokusa, by na rozwiązanie problemu poczekać, aż
maszyny mogą, czy nie mogą myśleć i nagle odkrywamy, że mamy
pojawi się jakiś nie stworzony dotąd technologiczny cud. Jednakże
myślące maszyny w Carnegie-Mellon. Kolega Simona Alan Newell
istotne punkty naszej falsyfikacji nie mają związku z jakimkolwiek
utrzymuje, że odkryliśmy właśnie (zwracam uwagę, że Newell mówi
etapem rozwoju technologicznego. Mają natomiast związek z definicja
,,odkryliśmy", a nie  hipotetycznie założyliśmy", czy  dopuszczamy
komputera cyfrowego oraz z tym, czym jest komputer.
możliwość"), iż inteligencja jest niczym innym jak manipulowaniem
W idei komputera cyfrowego istotne jest to, że jego operacje mogą być
symbolami przez systemy fizyczne; nie ma żadnej konieczności jej
scharakteryzowane czysto formalnie, to znaczy, że możemy opisać jego
związku z jakimś szczególnym rodzajem biologicznej lub fizycznej
działanie, krok po kroku, za pomocą abstrakcyjnych symboli, na
struktury. Każdy system, mogący w odpowiedni sposób manipulować
przykład sekwencji zer i jedynek wydrukowanych na taśmie.  Zasady"
fizycznie ucieleśnionymi symbolami, jest ob-
działania maszyny cyfrowej decydują o tym, że jeśli maszyna jest
26
w określonym stanie, a na taśmie zapisany jest określony symbol, wtedy rozumie go dokładnie tak, jak użytkownicy języka chińskiego rozumieją
maszyna wykona pewną operacje, t aką jak wymazanie symbolu lub swój ojczysty język? Wyobraz
my sobie teraz, że ktoś z nas jest zamknięty w
wydrukowanie innego, i wejdzie w stan następny, przesuwając taśmę o pokoju, i że w pokoju tym jest szereg koszy wypełnionych znakami z
jedno pole w lewo. Symbole tego typu nie mają znaczenia semantycznego, języka chińskiego. Załóżmy, że osoba ta, podobnie j ak aut or myślowego
nie odnoszą się do niczego. Mogą one być scharakteryzowane czysto eksperymentu, nie zna języka chińskiego, otrzymała jednak napisaną w
formalnie, ze względu na ich związki syntaktyczne. Zera i jedynki są po jej ojczystym języku książkę reguł manipulowania znakami języka
prostu cyframi i nie muszą nawet oznaczać liczb. Oczywiście dzięki chińskiego. Reguły te opisują używanie symboli w sposób czysto
maszynom cyfrowym nabierają swojej mocy. To samo elektroniczne formalny, opisują manipulowanie nimi w sposób syntaktyczny, nie
urządzenie (//C//Y/IIY//T), jeśli jest odpowiednio skonstruowane, może być semantyczny. Mogą mieć postać:  Wybierz ten znak z podwójnym
użyte do zrealizowania nieokreślonej liczby programów. Zaś ten sam zakrętasem z kosza numer jeden i połóż go za znakiem z dwoma
program może być wykonany przez wiele typów maszyn. zawijasami z kosza numer dwa". Przyjmijmy teraz, że w pokoju
Przyjęcie tezy. że programy można opisywać czysto formalnie lub pojawiają się jakieś nowe symbole, a osoba w nim siedząca otrzymuje
syntaktycznie. ma zgubne skutki dla poglądu, że proces umysłowy i proces instrukcje, jakie chińskie symbole ma wysłać z pokoju w odpowiedzi na te,
wykonywania jakiegoś programu są czymś identycznym. A
atwo można które się pojawiły. Załóżmy, że siedzący w pokoju nie wie, iż wysyłane przez
wykazać, dlaczego tak jest. Mieć umysł, to coś więcej niż realizować ludzi z zewnątrz do pokoju symbole nazywane są przez nich pytaniami,
formalne czy syntaktyczne operacje. Nasze stany umysłowe, na mocy de- zaś symbole, które siedzący w pokoju wysyła na zewnątrz, nazywane są
finicji, maja zawsze jakąś treść. Jeśli myślę o Kansas City, życzyłbym sobie odpowiedziami na pytania. Przyjmijmy poza tym, że programiści
wypić szklankę zimnego piwa. bądz
zastanawiam się. czy będzie spadek napisali na tyle dobry program, zaś siedząca w pokoju osoba jest do
notowań giełdowych, w każdym wypadku mój stan umysłowy, niezależnie tego stopnia dobra w manipulowaniu symbolami, że jej odpowiedzi są
od lego, jakie formalne właściwości mu przypiszemy, ma jakieś nieodróżnialne od odpowiedzi osoby faktycznie znającej język chiński.
psychiczne treści. To znaczy, nawet jeśli moje myśli są ciągiem symboli, Zatem jakaś osoba zamknięta jest w pokoju, w którym wybiera symbole
musi być w myśleniu coś więcej niż abstrakcyjne symbole, gdyż ciągi chińskie i wysyła je w odpowiedzi na inne pojawiające się w pokoju
symboli same w sobie nie maja żadnego znaczenia. Jeżeli myśl jest zawsze chińskie symbole. W sytuacji, jaką tu opisałem, nie ma możliwości, by w
myślą o czymś, przeto dany ciąg symboli musi mieć jakieś znaczenie, by wyniku takiej manipulacji formalnie zdefiniowanymi symbolami nauczyć
siał się mysia. Mówiąc krótko, umysł ma coś więcej niż syntaktykę, ma się języka chińskiego.
semantykę. Powód, dla którego komputerowy program nie może być Meritum mojego myślowego eksperymentu jest następujące: realizując
umysłem, jest prosty, komputerowy program ma cechy syntaktyczne, taki formalny komputerowy program, z punkt u widzenia obserwatora z
umysły mają coś więcej niż syntaktyka. Umysły są semantyczne w tym zewnątrz, zachowujemy się dokładnie tak, jak byśmy rozumieli język
sensie, że poza strukturą formalną mają jeszcze jakieś treści. chiński, jednocześnie jednak nie znamy ani jednego słowa z tego języka
By zilustrować tę tezę, proponuję rozważenie następującego obmyś- naturalnego. Jeśli wykonanie komputerowego programu symulującego
lonego przeze mnie eksperymentu myślowego. Wyobraz
my sobie, że rozumienie języka chińskiego nie jest wystarczające dla nas, byśmy ten
zespół programistów napisał program, który jest w stanie symulować język rozumieli, nie może być wystarczające także dla maszyny liczącej.
rozumienie języka chińskiego. Zatem, na przykład, jeśli komputerowi Wyjaśnienie tego stanu rzeczy jest całkiem proste. Jeśli w takiej sytuacji
zadaje się pytanie w tym języku, może porównać je ze swoją pamięcią człowiek nie rozumie chińskiego, to inne  komputery" go nie rozumieją,
lub bazą danych i wyprodukować w języku chińskim odpowiedz
na gdyż żaden komputer cyfrowy nie może, dzięki temu, że zrealizuje
zadane pytanie. Załóżmy, dla celów dyskusji, że odpowiedzi te są tak program, uzyskać zdolności, której nie uzyskuje człowiek. To wszystko, co
dobre jak odpowiedzi osoby, której ojczystym językiem jest język ma komputer, i co my mamy siedząc w chińskim pokoju, jest jedynie
chiński. Czy w takiej sytuacji komputer rozumie język chiński, czy formalnym programem, pozwalającym na manipulowanie
nie zinterpretowanymi chińskimi symbolami. Powtórzmy to  komputer następujący, choć osoba manipulująca symbolami w pokoju nic mię języka
opanowuje syn taktykę, nie zaś semantykę. Cały morał naszej historii o chińskiego, to jest ona tylko centralnym procesorem ca. . komputerowego
chińskim pokoju przypomina nam to, co już wiemy. Rozumienie języka systemu. Twierdzi się tu, że cały system, obejmują pokój, kosze pełne
 aż pewnością i posiadanie wszelkich innych stanów umysłowych symboli, księgę zawierająca program, oraz szereg innych elementów,
jakie na system się składają, jest tym. co rozumie; język chiński. Ten
 wymaga czegoś więcej niż garści symboli formalnych. Konieczna tu
jednak punkt widzenia może być podważony w t aki sam sposób, jak to
jest jeszcze interpretacja lub znaczenie związane z tymi symbolami.
już uczyniono. Także system w całości nie może przejść od syntaktyki do
Komputer cyfrowy zaś, na mocy definicji, nie może mieć niczego więcej
semantyki, tak jak osoba w pokoju, j ako centralny procesor, nie może
poza formalnymi symbolami, gdyż operacje komputerowe, jak to
wyobrazić sobie znaczenia jakiegokolwiek symbolu, tak samo nie może
już powiedziano, definiuje się w terminach maszynowej zdolności do
tego uczynić system w całości.
wykonywania programów. Programy natomiast mają czysto formalną
Częsta jest także reakcja, proponująca, byśmy wyobrazili sobie, /e
charakterystykę, to znaczy nie mają semantycznych treści.
wspomniany program rozumienia języka chińskiego znalazł się we
Możemy się przekonać o sile tego argumentu, jeśli porównamy
wnętrzu robota. Gdyby robot mógł się poruszać, działać w świecie i
sytuację, w której otrzymujemy pytania i udzielamy odpowiedzi w na-
podlegać jego działaniu, czyż nie mogłoby mu to zagwarantować
szym ojczystym języku, z sytuacją, w której pytają nas i odpowia-
zdolności rozumienia języka chińskiego? Jednakże nieubłagany charakter
damy w języku, w którym nie znamy znaczenia ani jednego słowa.
różnic pomiędzy syntaktyka i semantyką omija i ten i nt elekt ual ny
Wyobraz
my sobie, że jesteśmy w chińskim pokoju, gdzie zadają nam w
manewr. Jak długo, na mocy założenia, robot ma tylko komput er
naszym ojczystym języku pytania dotyczące takich spraw, jak nasz wiek czy
zamiast mózgu, to pomimo tego, że zachowuje się on tak jakby rozumiał
fakty z naszej biografii, i że odpowiadamy na te pytania. Jaka jest
język chiński, tak długo nie ma on możliwości przejścia od syntaktyki do
różnica pomiędzy posługiwaniem się językiem chińskim a posługiwaniem się
semantyk! języka chińskiego. Można to dostrzec, wyobrażając sobie, że to
językiem polskim? Otóż, jeśli ktoś nie zna języka chińskiego, a zna język
ja zamknięty w chińskim pokoju jestem komputerem. W czaszce robota
polski, różnica jest oczywista. Rozumiemy pytania zadane po polsku,
umieszczono chiński pokój ze mną w środku, gdzie mani pul uj e chińskimi
bo wyrażone są one symbolami, których znaczenie jest nam znane.
symbolami, nie zdając sobie sprawy z tego, że niektóre z nich poznaję za
Analogicznie, odpowiadając po polsku, produkujemy symbole, które
pomocą telewizyjnej kamery przytwierdzonej do głowy robota, inne zaś
mają dla nas znaczenie. W przypadku języka chińskiego zaś nic takiego
wysyłam na zewnątrz poruszając jego kończynami. Jak długo używam
nie występuje. W przypadku chińskiego posługujemy się po prostu
tylko formalnego programu komputerowego, t ak długo nie mam
formalnymi symbolami, zgodnie z komputerowym programem, jednak
możliwości, by przyporządkować znaczenie którchkolwiek z chińskich
nie potrafimy przypisać tym elementom żadnego znaczenia.
symboli. A to, że robot jest tu zaangażowany w moj e interakcje ze
Zarówno specjaliści od sztucznej inteligencji, jak i psychologowie
światem otaczającym, nie pomoże mi w odnalezieniu znaczenia
oraz filozofowie rozmaicie odpowiadali na moje argumenty. Wszystkie te
chińskich symboli, jeśli nie znajdę innego sposobu na zrozumienie
odpowiedzi miały wspólną cechę: wszystkie były chybione. Stanie się
zachodzących faktów. Przypuśćmy, że robot podnosi hamburger i to
oczywiste, dlaczego były one takie, jeśli oprzemy nasze rozumowanie na
powoduje pojawienie się w pokoju ideogramu hamburgera. Jak długo mam
prostej logicznej prawdzie, stwierdzającej, że syntaktyka jako taka nie
tylko symbol, bez wiedzy o tym, co on powoduje lub j ak się pojawia, tak
wystarcza dla semantyki, i że komputery w związku z tym, że są
długo nie mam sposobu poznania jego znaczenia. Interakcje pomiędzy
komputerami, z definicji, mają- tylko syntaktykę.
robotem i resztą świata są tu bez. znaczenia, jeśli te interakcje nie
Chciałbym to wyjaśnić, rozważając kilka kontrargumentów, jakie
zostaną odzwierciedlone w t ym czy w innym umyśle. Nie mogą zostać
najczęściej mi przedstawiano.
jednak odzwierciedlone, jeśli tzw. umysł składa się z sieci czysto
W odpowiedzi na przykład chińskiego pokoju niektórzy ludzie
formalnych, syntaktycznych operacji.
stwierdzają, że cały system rozumie język chiński. Argument jest
Istotne jest to, byśmy rozumieli, co się twierdzi, czego zaś się nie odpowiedniego komputerowego programu, z odpowiednimi danymi na
twierdzi w przedstawionym tu przez mnie ciągu argumentów. Powiedzmy, wejściach i wyjściach, wystarcza dla myślenia, lub tworzy myślenie?" Na to
że zadajemy postawione na wstępie pytanie: ,,Czy maszyna może pytanie, inaczej niż na poprzednie, jasna odpowiedz
brzmi:  nic".
myśleć?" Oczywiście, w jakimś sensie, wszyscy jesteśmy maszynami. To, co Udzielamy odpowiedzi  nie" z powodów już przedstawionych, czyli
jest w naszych głowach, można traktować jako rodzaj maszyny dlatego, że komputerowy program jest określony czysto syntaktycznie.
organicznej. Z pewnością wszyscy możemy myśleć. Przy pewnym Myślenie nie ogranicza się jednak do kwestii manipulowania po-
sposobie rozumienia terminu ,.maszyna"  dokładnie wtedy, gdy zbawionymi znaczenia symbolami, uwikłane są w nie treści semantyczne.
,.maszyna" rozumiana jest jako pewien fizyczny system zdolny do Te semantyczne treści określamy mianem  znaczenia".
wykonywania określonych operacji  wszyscy jesteśmy maszynami i Warto jeszcze raz podkreślić, że nie mówimy tu o takiej lub innej
wszyscy myślimy. Zatem, banalizując. są maszyny, które myślą. Nic fazie rozwoju technologii elektronicznej. Rozumowanie nasze jest
tego typu pytanie dręczy nas jednak. Spróbujmy je zatem
niezależne od nadchodzących zdumiewających postępów w technice
przeformułować. Czy artefakty mogą myśleć? Czy mogą myśleć komputerowej. Nie ma też ono związku z rozróżnieniem procesorów
maszyny stworzone przez człowieka? Przyjmijmy, że skonstruowaliśmy działających sekwencyjnie i działających równolegle, ani z wielkością
maszynę, która ani na molekułę nie różni się od istoty ludzkiej. Zatem, programu, ani z szybkością maszynowych operacji, ani z tym, czy
jeśli można skopiować przyczynę, można skopiować skutek. Odpo- komputery wchodzą w interakcje z otoczeniem, także z wynalezieniem
wiedz
na pytanie jest w zasadzie banalna. Gdybyśmy mogli zbudować robotów. Zwykle przeceniamy aktualny postęp technologiczny, ale i bez
maszynę. która miałaby dokładnie taką samą strukturę jak istota tego rozwój techniki komputerowej jest całkiem zauważalny, mamy
ludzka, wtedy prawdopodobnie maszyna ta byłaby w stanic myśleć. zupełnie rozsądne powody, by oczekiwać, iż jeszcze większy postęp
Oczywiście byłaby wtedy surogatem człowieka. Spróbujmy inaczej dokona się w przyszłości. Bez wątpienia będziemy mogli, znacznie lepiej
postawić problem. niż możemy obecnie, i znacznie lepiej niż mogliśmy w przeszłości,
Nie stawiamy pytania:  Czy maszyna myśli?", ani  Czy artefakt symulować za pomocą maszyn ludzkie zachowania. Chodzi jednak oto, że
myśli?" Pytanie brzmi:  Czy komputer cyfrowy myśli?" Podkreślamy po wszystkie te symulacje nie mają żadnego znaczenia, gdy mówimy o
raz kolejny, musimy być ostrożni w interpretacji pytania. Z matema- posiadaniu stanów umysłowych lub o posiadaniu umysłu; bez względu na
tycznego punktu widzenia, wszystko, co może być opisane w taki sam to jak dobra jest technologia komputerowa i jak szybkie są obliczenia przez
sposób jak komputer, jest komputerem. A to dlatego, że to coś może być komputer wykonywane. Jeżeli coś faktycznie jest komputerem, jego
opisane jako urządzenie realizujące lub mające komputerowy program. operacje zdeterminowane są syntaktyką, podczas gdy świadomość, myśli,
Wulgaryzując. można powiedzieć, że pióro leżące przede mną na stole da doznania i emocje, oraz inne zjawiska tego typu wymagają czegoś poza
się opisać jako komputer cyfrowy. Tak się jednak składa, że komputer samą syntaktyką. Są to własności, których komputer nic może
ten ma wyjątkowo nieciekawy program. Poleca on bowiem:  Pozostań skopiować ani powtórzyć, niezależnie od tego, jak wielkie byłyby jego
na miejscu". Tak rozumując, wszystko jest komputerem, skoro może być zdolności w symulowaniu tych cech. Kluczowym rozróżnieniem jest tu
opisane jakby posiadało program komputerowy, zatem nasze pytanie, rozróżnienie symulacji robienia czegoś i autentycznego robienia tego
powtórzmy to po raz kolejny, zyskuje banalną odpowiedz
. Oczywiście samego. Symulowanie czegoś nie jest robieniem ani powtarzaniem tego.
nasze mózgi są komputerami, jeżeli realizują pewną liczbę programów Wszystko co dotąd przedstawiłem, polega na stworzeniu podstaw do
komputerowych. Jednocześnie nasze mózgi bez. wątpienia myślą. zrozumienia, że cytaty, jakimi się posłużyłem na wstępie snutych tu
Odpowiedz
na pytanie jest banalna. Nie jest to jednak pytanie, jakie rozważań, są faktycznie tak niedorzeczne, jak na to wyglądają. Niemniej
staraliśmy się postawić. Pytanie, jakie staraliśmy się postawić, brzmi: jednak w naszych rozważaniach pozostaje jeszcze jedno pytanie warte
 Czy tak zdefiniowany komputer myśli?" Co można sformułować: przemyślenia. Brzmi ono:  Dlaczego ludziom przychodzi czasem na
 Czy zaopatrzenie w program lub wykonywanie myśl, że komputery mogłyby myśleć, mieć doznania i emocje oraz inne
lego typu stany?" Zauważmy przede wszystkim, że możemy stworzyć
w sposób zbyt surowy. Jeśli jednak zestawimy je razem, zyskamy, jak
symulację komputerową wszystkiego, co da się opisać formalnie.
sądzę, solidną koncepcję relacji pomiędzy umysłami, mózgami i kom-
Możemy zatem, komputerowo symulować przepływ pieniędzy w eko-
puterami. Rozumowanie ma prostą strukturę, tak że każdy sam może
nomii brytyjskiej lub strukturę podziału władzy w Partii Pracy. Możemy
ocenić jego wartość. Pierwsza przesłanka brzmi:
stworzyć symulację komputerową burz w kraju, w którym mieszkamy,
1. Mózgi są przyczynami umysłów
lub pożarów magazynów we Wschodnim Londynie. W każdym z tych
Grzmi to faktycznie zbyt prosto. Rozumiem przez to, że procesy
przypadków nikt nie przypuszcza, że komputerowa symulacja stwarza
umysłowe, które, jak sądzimy, konstytuują umysł, są w całości skutkami
realnie istniejące rzeczy, nikt nic zakłada, że komputerowa symulacja
procesów zachodzących wewnątrz mózgu. Pozwólmy sobie jednak na
ulewy zmoczy nas, ani że komputerowa symulacja pożaru spali nam
proste sformułowania, skróćmy to do czterech słów  mózgi są
mieszkanie. Dlaczego jednak spotkać można takich, którzy w dobrej
przyczyną umysłów. Jest to jednak faktyczna cecha zjawisk w świecie.
wierze zakładają, iż symulacja procesów psychicznych zawiera procesy
Zapiszmy teraz twierdzenie drugie.
psychiczne? W gruncie rzeczy nie znam odpowiedzi na to pytanie, bo
tego typu idea, mówiąc szczerze, od początku wydaje mi się szalona.
2. Syntaktyka nic wystarcza dla semantyki
Mogę jednak przedstawić garść przypuszczeń.
Twierdzenie jest prawdziwe na mocy treści pojęć. Wyraża ono po
Po pierwsze, rozważając naturę umysłu, możemy być kuszeni
prostu pojęciowe rozróżnienie tego, co jest czysto formalne i tego. co ma
rozwiązaniami typu behawiorystycznego. Można sądzić, że skoro
treść. Teraz do twierdzenia, mówiącego, że mózgi są przyczynami
system zachowuje się tak jakby rozumiał język chiński, to faktycznie
umysłów i twierdzenia, że syntaktyka nie wystarcza dla semantyki.
rozumie on ten język. Jednakże przyjmując argumenty zawarte w idei
dodajmy twierdzenie trzecie i czwarte.
chińskiego pokoju, odrzuciliśmy ten sposób behawiorystycznego myś-
lenia. Inne przypuszczenie, nasuwające się wielu ludziom, polega na
3. Program komputerowy całkowicie określa jego formalna lwi;
uznaniu, że umysł nie jest częścią biologicznej rzeczywistości, że nie
syntaktyczna struktura
należy do świata naturalnego. Stanowisko silnej wersji sztucznej
Przyjmuję to, co jest prawdą, na mocy definicji i jest części;;
inteligencji opiera się na przekonaniu, że umysł jest czymś czysto
znaczenia tego, co rozumiemy przez program komputerowy.
formalnym, że tak czy inaczej, nie może on być traktowany jak
4. Umysły zawierają treści psychiczne, mówiąc dokładniej, treści
konkretny rezultat biologicznych procesów, podobny do innych rezul-
semantyczne
tatów zjawisk biologicznych. Mówiąc krótko, jest to w naszej dyskusji
Przyjmuję, że to także jest oczywistą, faktyczną cechą funkc-
przykład pozostałości myślenia dualistycznego. Obrońcy sztucznej
jonowania umysłu. Moje myśli, sądy i pragnienia odnoszą się do czegoś.
inteligencji są przekonani, że umysł jest czymś więcej niż częścią świata
dotyczą stanów i wydarzeń w świecie; jest tak dlatego, że ich treści
biologicznego, że może być scharakteryzowany wyłącznie formalnie.
kierują je ku tym stanom i wydarzeniom w świecie. Możemy teraz z
Paradoks polega tu na tym, że literatura poświęcona sztucznej inteligencji
czterech przesłanek wyprowadzić pierwszy wniosek, wynika on w
jest przepełniona gromami rzucanymi na  dualizm", w istocie rzeczy
sposób oczywisty z przesłanki 2, 3 i 4.
jednak teza silnej wersji sztucznej inteligencji oparta jest na myśleniu
dualistycznym. Opiera się na odrzuceniu idei, że umysł jest tak
l . Nic ma takiego programu komputerowego, który sam w sobie
naturalnym zjawiskiem jak inne zjawiska w świecie.
wyposażamy system w umysł. Mówiąc krótko, programy nie są umysłami
ani same w sobie nie wystarczą dla powstania umysłu.
Chcę zakończyć rozdział, zestawiając ze sobą tezy tego i poprzed-
Jest to bardzo istotna konkluzja, oznacza ona, że projekt stworzeniu
niego rozdziału. W obu wypadkach tezy mogą być wyrażone w sposób
umysłu wyłącznie na podstawie programu jest z góry skazany na
bardzo prosty. W istocie prawdopodobnie zamierzam je sformułować
niepowodzenie. Ważne jest, bym jeszcze raz podkreślił, że nie ma to
związku ani zdanym stanem rozwoju komputerowej technologii, ani ze
Jest (o mniej więcej tak, jak byśmy powiedzieli, że jeśli benzynowy
stopniem złożoności programu. Jest to formalny lub logiczny wniosek
silnik mojego samochodu pozwala mu poruszać się z prędkością 120
wypływający z założeń, na których przyjęcie zgodzili się wszyscy (bądz

km/godz., to każdy silnik dieslowski mogący uczynić to samo,
prawie wszyscy) zaangażowani w dyskusję. Nawet najgorętsi entuzjaści
musiałby na wyjściu mieć moc porównywalną z mocą mojego silnika
sztucznej inteligencji s;; zgodni co do tego, że jest faktem biologicznym to.
benzynowego. Oczywiście, jakieś inne jeszcze systemy, używając innych.
iż procesy mózgowe powoduj;; procesy umysłowe; są oni zgodni także
chemicznych i biochemicznych cech swojego mózgu, mogą powodować
w tym. że programy są określone czysto formalnie. Jednakże, gdy
istnienie umysłu. Może się okazać, że są istoty na innej planecie lub w
zestawimy te dwa twierdzenia z innymi znanymi nam rzeczami,
innym systemie gwiezdnym, które maja stany umysłowe oparte na
nieuchronnie wyciągamy wniosek, że projekty zwolenników silnej wersji
całkiem innej niż nasza biochemii. Przypuśćmy, że pojawili się na Ziemi
sztucznej inteligencji nie mogą być zrealizowane.
Marsjanie, a my wywnioskowaliśmy, że mają oni stany umysłowe.
Skoro już ustaliliśmy założenia, rozważmy, jakie jeszcze wnioski
Załóżmy jednak, że kiedy otwarto ich głowy, okazało się, że wszyscy
możemy wyciągnąć. Druga konkluzja brzmi:
mają w środku zielony śluz. Czyli, jeśli zielony śluz działając powodo-
wałby świadomość i całą resztę psychicznego życia, miałby moc
K 2 Czynności mózgu ograniczone tylko do realizowania pro-
przyczynową porównywalną z mocą ludzkiego mózgu. Teraz z naszego
gramu komputerowego nic wystarczą, by funkcjonowanie mózgu do-
pierwszego wniosku, stwierdzającego, kiedy program jest czymś niewy-
prowadziło do powstania umysłu.
starczającym, i trzeciego wniosku, mówiącego o systemach mających
Ten drugi wniosek jest koniunkcją pierwszej przesłanki i pierwszego
moce przyczynowe porównywalne z mózgowymi, wynika wprost czwarta
wniosku. Czyli, z tego, że umysł jest efektem działania mózgu, i że
konkluzja:
wykonywanie programu nie daje tych efektów, wynika, że zrealizowanie
programu komputerowego przez mózg samo w sobie nie wystarczy, by
4. Wyposażenie jakiegoś zbudowanego przez nas artefaktu w
działanie mózgu doprowadziło do powstania umysłu. Jest to, jak myślę,
program komputerowy nic wystarcza, by miał on stany umysłowe
\vazny wniosek, gdyż w konsekwencji wynika z niego, że mózg nie jest
porównywalne z ludzkimi. Artefakt taki powinien oczywiście mieć
komputerem cyfrowym, a może raczej jest czymś więcej. Przekonaliśmy
zdolność przyczynowego oddziaływania porównywalną z możliwością
się wcześniej, że wszystko, co może być opisane jak komputer cyfrowy,
ludzkiego mózgu.
jest. upraszczając, komputerem, zaś mózg nic jest tu wyjątkiem. W naszej
Sądzę, że ostateczny wynik dyskusji przypomniał nam coś, co już od
konkl uzji ważne jest jednak to, że obliczeniowe możliwości mózgu nie
dawna wiemy, że stany umysłowe są zjawiskiem biologicznym. Świado-
wystarczą do wyjaśnienia, jak działanie mózgu powoduje stany
mość. intencjonalność, subiektywność, moc przyczynowego oddziały-
umysłowe. Tak czy inaczej winno to na nas sprawić wrażenie oczywistego
wania umysłu, wszystko to należy do dziejów biologicznego życia,
naukowego wniosku, gdyż przypomina nam tylko znany fakt. że mózgi są
razem ze wzrostem, rozmnażaniem, wydzielaniem żółci i trawieniem.
biologicznymi maszynami; znaczenie ma tu ich biologiczność. Jak
stwierdza wiele osób w dziedzinie sztucznej inteligencji. nie jest
przypadkową cechą umysłu, że jest on realizowany przez ludzkie mózgi.
Z pierwszego założenia możemy teraz wyciągnąć trzeci wniosek:
si K 3. Cokolwiek, co mogłoby być przyczyną umysłu, musiałoby
mieć moc oddziaływania przyczynowego porównywalną z możliwościami
mózgu.
Trzeci wniosek jest banalną konsekwencją pierwszego założenia.