Paweł Stacewicz: Czy systemy AI mogłyby myśleć? Turing contra Searle

Za pomocą dzisiejszych metod sztucznej inteligencji potrafimy generować treści – tekstowe, graficzne, muzyczne – łudząco podobne do tych, które mogliby stworzyć żywi ludzie. Mało tego, potrafimy tworzyć sztuczne postacie, tzw. agentów, którzy imitują w sposób przekonujący dziennikarzy, artystów czy filozofów. Czy zdołamy jednak skonstruować systemy myślące?

Tekst ukazał się w „Filozofuj!” 2025 nr 5 (65), s. 31–33. W pełnej wersji graficznej jest dostępny w pliku PDF.

Obecny tekst nie został napisany przez agenta. Zaczerpnąłem go ze swojego dawnego wpisu na blogu Cafe Aleph, pt. „Turing czy Searle?”. Powstał w czasie, gdy generatywna sztuczna inteligencja jeszcze nie istniała. Podobnie jednak do niektórych wytworów tej ostatniej ukazuje fikcyjną rozmowę dwu postaci, które imitują myślących ludzi. Rozmowa zresztą dotyczy właśnie hipotetycznego myślenia maszyn, nazywanych dzisiaj systemami AI.

Postać pierwsza – reprezentująca XX-wiecznego matematyka i pioniera informatyki, Alana Turinga (1912–1954) – wykazuje w kwestii myślenia AI ostrożny optymizm. Godząc się z faktem, że myślenie jest pojęciem trudno definiowalnym lub w ogóle niedefiniowalnym, Turing twierdzi, że maszyny staną się po prostu nieodróżnialne od człowieka na poziomie obserwowalnych zachowań. Ma na myśli takie zachowania, które w przypadku ludzi świadczą o ich inteligencji.

Drugiego z fikcyjnych rozmówców – współczesnego filozofa, Johna R. Searle’a – nieodróżnialność tego rodzaju nie interesuje. To nie ona jest wyznacznikiem zdolności do myślenia, lecz uzyskiwany introspekcyjnie wgląd w procesy rozumienia.

A oto w jaki sposób kwestie te rozwijają nasi fikcyjni dyskutanci.

Rozmowę zaczyna Searle:

– Panie Alanie, skoro mamy rozmawiać o hipotetycznym myśleniu maszyn, to niech pan określi na początek, co to w ogóle znaczy – według pana – „myśleć”. Myśleć oczywiście przez duże „M”, a nie np. wtedy, gdy na coś instynktownie reagujemy lub wykonujemy ślepo czyjeś rozkazy.

Turing odpowiada:

– Hmm…Właściwie, to nie wiadomo, cóż to znaczy. Wiadomo jednak, że istotami, które myślą przez największe „M”, są ludzie. Ludzie zaś używają niezwykle wyrafinowanego języka, który ze względu na składnię, bogactwo odniesień, siłę wyrazu etc. nie daje się porównać z językiem żadnego innego gatunku. Maszyna myśląca powinna zatem być zdolna do używania naszego języka. Jeśli podczas swobodnej rozmowy z nią nie będę umiał odróżnić jej od człowieka, będę musiał uznać ją za myślącą. Ująłem to szerzej w koncepcji pewnego testu, który dzisiaj zwany jest testem Turinga.

Searle na to:

– Zaraz, zaraz…Do maszyn jeszcze dojdziemy. Na razie skupmy się jednak na ludziach. Pan powiada, że nie za bardzo wiadomo, co to znaczy „myśleć”. Ja na to odpowiadam, że „dobrze wiem, kiedy myślę – to znaczy, kiedy ja myślę”. Myślę, gdy rozumiem (ewentualnie: usiłuję zrozumieć) to, co robię, lub to, co mówię.

Gdy działam w sposób instynktowny, nie myślę; gdy powtarzam dźwięki innych jak papuga, nie myślę; gdy rozwiązuję zadanie, wykonując mechanicznie pewien algorytm, nie myślę… Myśleć zatem to rozumieć (rozum mieć), a rozumieć można tylko przy udziale świadomości. Świadomość czegoś jest zatem warunkiem koniecznym, choć niewystarczającym, myślenia.

Turing:

– Uua…Poleciał pan teraz po maśle maślanym. Myśleć to znaczy rozumieć (lub usiłować rozumieć), a rozumieć to być (co najmniej) świadomym. Czy w ogóle potrafi pan wyjaśnić, czym są rozumienie i świadomość?

Searle:

– Nie poleciałem po maśle maślanym, bo podałem przykłady. Podejrzewam, że i pan potrafi rozpoznać sytuacje, kiedy działa pan ze zrozumieniem, i sytuacje, w których żadnego rozumienia nie ma. W pierwszych z nich pan myśli (przez duże „M”), w drugich – nie. Dlatego też, jeśli mamy oceniać, czy maszyna myśli, czy nie – musimy wyobrazić sobie, że działamy tak jak ona, i ocenić uczciwie, czy działamy wtedy ze zrozumieniem. Jeśli widzimy, że rozumienia nie ma (i być nie musi), nie wolno nam uznać maszyny za myślącą. Tak właśnie stawiam sprawę w znanej panu zapewne argumentacji chińskiego pokoju.

Turing:

– Panie Johnie… Ja uważam jednak, że odwoływanie się do własnej tylko wyobraźni jest nieuczciwe. W gruncie rzeczy powiada pan, że nie może sobie wyobrazić, iż maszyna (jedną z nich pan w swoim chińskim eksperymencie naśladuje) posiądzie świadomość. Rozumiem, że trudno sobie wyobrazić, jak człowiek (który już posiada świadomość), wykonując bez ustanku jakieś dziwne mechaniczne operacje niskiego poziomu (przeznaczone dla komputera, a nie człowieka), może wzmocnić swoją świadomość lub zyskać jakąś nową warstwę świadomości.

Proszę jednak pomyśleć o maszynie, która początkowo świadomości nie ma, lecz realizuje pewien bardzo złożony program, który rozwijając się w interakcji ze środowiskiem, wytwarza jakieś pierwociny świadomości. Pierwociny, które stopniowo mogą przekształcać się w świadomość głęboką i wieloaspektową. Według mnie to całkiem realna perspektywa. Innymi słowy, ja, przeciwnie niż pan, jestem w stanie wyobrazić sobie, że odpowiednia złożoność programu – programu wchodzącego w interakcje z otoczeniem (czego pan w chińskim pokoju nie dopuszcza) – może prowadzić do powstania świadomości u maszyny.

Inna sprawa, że wcale nie wiemy, czy o skuteczności działań jakiegokolwiek układu w świecie decyduje świadomość (znana nam z introspekcji). W to jednak nie będę wchodził.

Searle:

– Przypuśćmy, że przyjmuję pańskie argumenty i godzę się na możność zaistnienia świadomości wskutek odpowiednio wysokiej złożoności programu sterującego systemem interaktywnym. Co pan jednak na to, że ludzie posiadają mózgi, a mózgi są układami biologicznymi, złożonymi z materii organicznej? Nawet jeśli mózgi mają jakieś złożone oprogramowanie, to ów „niematerialny” software jest nierozerwalnie spleciony z biologicznym hardware. Biologicznym – powtarzam. Nie krzemowym, nie mechanicznym, nie jakimś zupełnie dowolnym – lecz złożonym z takich a takich substancji organicznych.

Gdyby świadomość była zależna od biologii mózgu, to złożoność mózgowego oprogramowania nie wystarczyłaby do jej zaistnienia…

W tym miejscu musimy przerwać nasz fikcyjny dialog i zachęcić czytelnika do odwiedzenia bloga Cafe Aleph, oferując możliwość dołączenia do tekstowej dyskusji nad argumentami Turinga i Searle’a.

W ramach krótkiej zachęty przytaczam fragment zamieszczonego na blogu komentarza pierwszego z dyskutantów: „[…] wydaje mi się, że aby powstało myślenie, nie jest potrzebny wcale biologiczny mózg. […] Argumentowanie, że mózg jest biologiczny, więc nie odtworzymy go w sposób niebiologiczny, można by porównać z argumentowaniem: Jeśli ciało człowieka (np. ręka) jest złożona z materii organicznej, to nie może ono (ona) zostać skopiowane przy użyciu materii nieorganicznej. Jak wiemy, teza ta jest błędna, ponieważ powstają sztuczne kończyny, a nawet organy, które nie są biologiczne, a które mogą działać i zastąpić organiczne”.

Warto doczytać

J. R Searle, Umysł, mózg i nauka, Warszawa 1995.
P. Stacewicz, Umysł a modele maszyn uczących się. Współczesne badania informatyczne w oczach filozofa, Warszawa 2010.
P. Stacewicz, Turing czy Searle?, Cafe Aleph, (dostęp: 7.07.2025).
A. M. Turing, Maszyny liczące a inteligencja, tłum. D. Gajkowicz, https://stac.calculemus.org/pdf/at-mlai.pdf (dostęp: 7.07.2025).

Paweł Stacewicz – filozof, informatyk, popularyzator nauki, bloger (Cafe Aleph); wykłada na Politechnice Warszawskiej. Autor i redaktor kilku książek z zakresu filozofii informatyki. Organizator cyklu konferencyjnego pt. „Filozofia w informatyce”. Miłośnik Bałkanów, gór i Mazur Garbatych.