Artur Szutta: Chiński pokój i komputerowe umysły

Czy można powiedzieć, że komputery, przynajmniej te ze sztuczną inteligencją, posiadają (lub będą kiedyś posiadały) umysły? Wielu z nas, być może pod wpływem filmów science fiction, takich jak Her, Bicentennial Man czy I, Robot, może się wydawać, że odpowiedź na to pytanie jest w sposób oczywisty pozytywna. Czy rzeczywiście? Aby się o tym przekonać, proponuję rozważenie eksperymentu myślowego autorstwa Johna Searle’a o intrygująco brzmiącej nazwie „Chiński pokój”.

Tekst ukazał się w „Filozofuj!” 2018 nr 6 (24), s. 28–29. W pełnej wersji graficznej jest dostępny w pliku PDF.

Test Turinga

Alan Turing w jednym ze swoich artykułów zastanawiał się, w jakich okolicznościach można maszynę pomylić z prawdziwie myślącą osobą. W celu znalezienia odpowiedzi sformułował test (zwany testem Turinga), w którym człowiek komunikuje się zdalnie z maszyną i człowiekiem. Jeśli nie odróżni maszyny od człowieka, wówczas można – zdaniem Turinga – powiedzieć, że maszyna będzie zasługiwała na miano maszyny myślącej. Jeśli dodatkowo założymy, że zdolność do myślenia oznacza posiadanie umysłu (co nie powinno być założeniem kontrowersyjnym), wówczas maszyna, która przejdzie test Turinga, zasługuje też na miano posiadającej umysł.

Jeśli jeszcze nie dziś, to już za kilka lat będziemy mogli konwersować (w pełnym tego słowa znaczeniu) z maszynami (z prowadzonym przez nas – albo raczej nas wiozącym – samochodem, z asystentem w telefonie czy programem w Internecie), odnosząc wrażenie, że posiadają one autentyczne umysły; konwersować z maszynami nie tylko prześcigającymi nas w zdolnościach do myślenia, ale być może też zasługującymi na miano naszych przyjaciół, istot, którym należą się prawa takie jak autentycznym osobom. Pytanie tylko, czy to wrażenie dotyczyć będzie jedynie iluzji, czy też autentycznie myślących bytów (tj. bytów obdarzonych umysłami).

Chiński pokój

Amerykański filozof John Searle (z którym wywiad przeprowadziliśmy w nr. 4 „Filozofuj!”) uważa, że maszyny nie myślą, a jedynie symulują myślenie. Aby to pokazać, proponuje następujący eksperyment myślowy. Wyobraźcie sobie, że znajdujecie się w pokoju o dwóch okienkach: „wejście” i „wyjście”. Na zewnątrz znajdują się rodzimi użytkownicy języka chińskiego. „Wejściem” wkładają karteczkę z pytaniem zapisanym w języku chińskim, np. „你喜不喜欢咖啡”? Wy nie znacie języka chińskiego, ale dysponujecie wielką księgą instrukcji zapisaną po polsku, typu „jeśli otrzymałeś karteczkę z takim a takim zestawem znaków, to wykonaj takie a takie kroki, aby zapisać karteczkę, którą włożysz do okienka »wyjście«”. W pokoju dysponujecie całym zestawem chińskich znaków, odpowiednio uporządkowanych w szufladach. Formułujecie więc, podążając za instrukcjami, odpowiedź: „我很喜欢咖啡”.

Stojący na zewnątrz użytkownicy języka chińskiego otrzymują sensowną odpowiedź. Po włożeniu wielu pytań i otrzymaniu wielu sensownych odpowiedzi mogą dojść do wniosku, że znajdująca się wewnątrz pokoju osoba (czyli wy) rozumie i potrafi komunikować się w języku chińskim. Czyli w pewnym analogicznym sensie zdajecie test Turinga. Wy jednak nie rozumiecie chińskiego ni w ząb, a jedynie dzięki odpowiednim instrukcjom symulujecie znajomość tego języka.

Symulacja

Podobnie zdaniem Searle’a jest ze sztuczną inteligencją (czy maszyną nią obdarzoną): nie myśli, ale mechanicznie postępuje według syntaktycznych reguł języka. Zdaje test Turinga bez najmniejszego zrozumienia sensu wypowiedzi formułowanych przez jej rozmówców, jak i tych formułowanych przez nią samą. Zatem nie możemy powiedzieć, że sztuczna inteligencja (maszyna) posiada umysł.

Chiński pokój w głowie

W odpowiedzi na powyższy argument-eksperyment myślowy twierdzono, że to nie osoba w pokoju rozumie język chiński, ale cały pokój (łącznie z księgą instrukcji i zasobami chińskich znaków). Riposta Searle’a to modyfikacja eksperymentu. Wyobraźmy sobie, że nauczyliśmy się instrukcji i znaków (bez rozumienia ich znaczenia) na pamięć. Teraz my jesteśmy całym chińskim pokojem. Bez korzystania z zewnętrznych pomocy jesteśmy w stanie odpowiadać na pytania osób mówiących po chińsku, zdajemy test Turinga, ale nadal nie rozumiemy chińskiego.

Czy Searle ma rację? Czy sztuczna inteligencja nie dysponuje umysłem? Aby odpowiedzieć na te pytania, należy się zastanowić nad tym, co to znaczy być umysłem, jakie są warunki konieczne i wystarczające do tego, aby umysł posiadać. Do tego zapewne będą konieczne kolejne eksperymenty myślowe.

Artur Szutta – filozof, pracownik Uniwersytetu Gdańskiego, specjalizuje się w filozofii społecznej, etyce i metaetyce. Jego pasje to przyrządzanie smacznych potraw, nauka języków obcych (obecnie węgierskiego i chińskiego), chodzenie po górach i gra w piłkę nożną.