Robert Poczobut: Czy sztuczna świadomość jest możliwa?

W filozofii sztucznej inteligencji stawiamy pytanie o możliwość istnienia umysłów niebiologicznych, zbudowanych na bazie innego substratu (budulca) niż struktury węglowo-białkowe. Chcielibyśmy wiedzieć, czy świadomość u swych podstaw musi być organiczna, czy też jej istnienie jest w jakimś sensie niezależne od substratu.

Tekst ukazał się w „Filozofuj!” 2024 nr 1 (55), s. 9–12. W pełnej wersji graficznej jest dostępny w pliku PDF.

Możliwości i wartości

Dotychczas nikt nie wykazał, że istnienie sztucznej świadomości jest niemożliwe. Nie przedstawiono dowodu, że jest to pojęcie wewnętrznie sprzeczne; nie wykazano, że świadomość maszynową wykluczają prawa przyrody. Dopóki takie dowody nie zostaną podane, możemy racjonalnie wierzyć w możliwość istnienia świadomej sztucznej inteligencji (SI). Tym bardziej że istnieją przesłanki, które taką możliwość uwiarygodniają. Postęp w dziedzinie SI stopniowo, ale względnie szybko w porównaniu z ewolucją biologiczną obejmuje coraz bardziej wyrafinowane funkcje poznawcze. Zgodnie z metaforą Hansa Moraveca krajobraz ludzkich kompetencji jest stopniowo zatapiany przez szybko podnoszącą się wodę, która symbolizuje ekspansję sztucznej inteligencji. Kolejne zdolności poznawcze, jeszcze niedawno zarezerwowane wyłącznie dla ludzi, stają się udziałem maszyn. Możliwe, że w niedalekiej przyszłości zostaną „zatopione” również kompetencje związane ze świadomością.

Gdyby rzeczywiście sprawy szły w tym kierunku, a wydaje się, że tak właśnie jest, moglibyśmy pytać, czy warto dążyć do wytworzenia świadomych maszyn. Czy do realizacji ludzkich potrzeb nie wystarczą inteligentne narzędzia pracujące w trybie zombie (bez świadomości)? Powstanie świadomych maszyn wiązałoby się z nadaniem im statusu moralnego i prawnego. Nie traktowalibyśmy ich jak narzędzi, lecz uznalibyśmy za osoby. Niektórych taka perspektywa przeraża, innych mobilizuje do eksploracji wciąż niezrealizowanych możliwości. Niewykluczone, że wraz z powstaniem sztucznej świadomości maszyny rozwiną także jakąś formę emocji, w swoich decyzjach będą zaś kierować się zaszczepioną lub rozwiniętą hierarchią wartości. Wówczas różnica między inteligencją naturalną a sztuczną przestanie być wyraźna. Jak twierdzi Frank Wilczek, laureat Nagrody Nobla w dziedzinie fizyki:

wszelka inteligencja jest maszynowa, a inteligencję naturalną od sztucznej odróżnia nie to, czym są, ale jak są zrobione (2020, s. 85).

Dwa oblicza świadomości – funkcjonalne i fenomenalne

Niektórzy, mówiąc o świadomości, mają na uwadze zdolność do automonitoringu, samodzielnego kontrolowania swojego stanu. Dysponują nią organizmy biologiczne i maszyny o hierarchicznych architekturach z mechanizmem informacyjnych sprzężeń zwrotnych. Działanie takich maszyn wiąże się z dostępem do informacji o ich stanach wewnętrznych. Nie ulega wątpliwości, że niektóre z istniejących maszyn dysponują zdolnością do automonitoringu i kontroli zachowania. Filozofowie nazywają takie zdolności „świadomością funkcjonalną” lub „świadomością dostępu”. Jednak słusznie zwraca się uwagę, że nie uwzględniają one istotnych cech świadomości biologicznej jak doznawanie wrażeń i przeżywanie stanów wewnętrznych. Maszyny z wbudowanym systemem automonitoringu i kontroli zachowania, lecz pozbawione przeżyć świadomych, są systemami typu zombie.

W dyskusjach na temat świadomości wyróżnia się też pojęcie świadomości fenomenalnej. Polega ona na zdolności do posiadania subiektywnych przeżyć – mogą to być proste doznania zmysłowe, jak odczucie bólu czy doznanie zieleni, lub złożone przeżycia świadome towarzyszące emocjom, myśleniu czy aktywności twórczej. Powstaje pytanie, czy maszyny mogą mieć przeżycia świadome, choćby w postaci prostych doznań zmysłowych. Opinie filozofów i naukowców są w tej kwestii podzielone. Aby konkluzywnie odpowiedzieć na to pytanie, musielibyśmy wiedzieć, na mocy jakich mechanizmów w organizmach biologicznych powstają przeżycia świadome i czy takie mechanizmy można odtworzyć w systemach sztucznych.

Substrat świadomości i organizacja funkcjonalna

Wszystkie systemy, którym przypisujemy przeżycia świadome, są organizmami biologicznymi. Z tego powodu świadomość fenomenalna wydaje się nam szczególnie mocno związana z substratem biochemicznym. Inne procesy poznawcze, jak uczenie się czy pamięć, skłonni jesteśmy traktować jako niezależne od substratu (można je zrealizować w różnych substratach fizycznych). Zdaniem Maxa Tegmarka do realizacji procesu poznawczego konieczny jest nie określony rodzaj materii, lecz jej organizacja funkcjonalna. Pamięć, obliczanie, uczenie się i inteligencja są niezależne od fizycznych szczegółów substratu, dzięki czemu możliwe jest istnienie systemów SI i maszyn realizujących procesy poznawcze. Jak pisze Tegmark:

Sprzęt jest materią, a oprogramowanie – wzorcem. Niezależność obliczeń od substratu oznacza, że możliwe jest istnienie sztucznej inteligencji: inteligencja nie wymaga ciała, krwi ani atomów węgla (2019, s. 94).

Czy podobnie jest ze świadomością fenomenalną?

David Chalmers, zastanawiając się, w jaki sposób systemy fizyczne wywołują świadomość fenomenalną, również zwraca uwagę, że kluczowa jest ich organizacja funkcjonalna, a nie substrat, z którego są zrobione. Dotyczy to także przeżyć świadomych wytwarzanych przez nasze mózgi. To, że mózgi wytwarzają świadomość, nie jest dziwniejsze od tego, że mogłyby ją wytwarzać układy sztuczne. Jak pisze Chalmers:

Dowolny system o organizacji funkcjonalnej odpowiedniego rodzaju jest świadomy bez względu na to, z czego się składa (2010, s. 513).

Zdaniem funkcjonalistów fizyczna implementacja (zob. na s. 8 tego numeru) odpowiedniej architektury obliczeniowej wystarcza do osiągnięcia organizacji funkcjonalnej umożliwiającej wytworzenie świadomości fenomenalnej. Systemy świadome są układami fizycznymi o strukturze przyczynowej odzwierciedlającej formalną strukturę obliczeń. Sama formalna struktura obliczeń, czyli oprogramowanie jako obiekt abstrakcyjny, nie wystarcza do powstania świadomości. Dopiero jej fizyczna implementacja w postaci układu konkretnych procesów fizycznych powiązanych przyczynowo umożliwia powstanie świadomości fenomenalnej. Innymi słowy, to organizacja funkcjonalna układu określa podstawowy mechanizm świadomości fenomenalnej. Zadaniem neuroobliczeniowej teorii świadomości jest odkrycie organizacji funkcjonalnej mózgu, która odpowiada za wytwarzanie świadomości. Zadaniem mocnej wersji sztucznej inteligencji (zakładającej jej świadomość fenomenalną) jest odtworzenie tej organizacji w systemach sztucznych.

Pytania bez odpowiedzi

W dalszym ciągu nie wiemy w szczegółach, jaka organizacja funkcjonalna umożliwia powstanie świadomości fenomenalnej w mózgu. Nie wiemy również, czy organizacja funkcjonalna mózgu jest możliwa do odtworzenia w środowisku sztucznym. W odróżnieniu od funkcjonalistów zwolennicy podejścia substratowego utrzymują, że tylko układy biologiczne, zbudowane na bazie chemii organicznej, ostatecznie zaś na bazie związków węgla, odznaczają się taką plastycznością i dynamiką, które umożliwiają wytworzenie świadomości. Organizacja funkcjonalna układu świadomego nie jest niezależna od jego substratu. Związki krzemu lub innych pierwiastków nie mają odpowiednich cech strukturalnych umożliwiających wytworzenie świadomych umysłów.

Funkcjonaliści uznają świadomość za cechę emergentną odpowiednio złożonych układów fizycznych – cechę niezależną od szczegółowych własności jej substratu. Wiążąc świadomość z organizacją funkcjonalną, pozostawiają otwartą możliwość istnienia sztucznej świadomości. Współcześnie stanowisko to ma wpływowych przedstawicieli wśród filozofów i naukowców (m.in. wspomniani D. Chalmers i M. Tegmark, a także Giulio Tononi i Stanislas Dehaene). Jak pisze Tegmark:

Świadomość jest zjawiskiem fizycznym odczuwanym niefizycznie, ponieważ ma taki sam charakter jak fale i obliczenia; ma własności niezależne od swojego konkretnego podłoża fizycznego. Wynika to logicznie z koncepcji świadomości jako informacji […]: jeśli świadomość to sposób, w jaki odczuwa się informację, gdy jest ona przetwarzana w określony sposób, to musi być niezależna od podłoża; liczy się struktura przetwarzania informacji, a nie struktura materii dokonującej tego przetwarzania. Innymi słowy, świadomość jest podwójnie niezależna od podłoża (2019, s. 388–389).

Warto doczytać:

P. Bołtuć, BICA jako szansa stworzenia świadomych maszyn, „Przegląd Filozoficzny. Nowa Seria” 2013, nr 2, s. 185–196.
D. Chalmers, Świadomy umysł, tłum. M. Miłkowski, Warszawa 2010.
S. Dehaene, Świadomość i mózg. Odczytywanie kodu naszych myśli, tłum. D. Rossowski, Kraków 2023.
P. Haikonen, Robot Brains: Circuits and Systems for Conscious Machines, Chichester 2007.
R. Kurzweil, How to Create a Mind, New York 2012.
S. Schneider, Świadome maszyny. Sztuczna inteligencja i projektowanie umysłu, tłum. J. Bednarek, Warszawa 2021.
M. Tegmark, Życie 3.0. Człowiek w erze sztucznej inteligencji, tłum. T. Krzysztoń, Warszawa 2019.
F. Wilczek, Jedność inteligencji, [w:] Człowiek na rozdrożu. Sztuczna inteligencja: 25 punktów widzenia, J. Brockman (red.), Gliwice 2020, s. 85–95.

Robert Poczobut – profesor UwB, kierownik Zakładu Epistemologii i Kognitywistyki w Instytucie Filozofii UwB. Autor czterech książek, przeszło siedemdziesięciu artykułów naukowych, redaktor licznych prac zbiorowych. Interesuje się pograniczem filozofii umysłu i kognitywistyki, w szczególności naturą jaźni, relacją między świadomymi i nieświadomymi procesami poznawczymi, neurofilozofią oraz hybrydowymi systemami poznawczymi. Hobby: podróże, muzyka, malarstwo, gry logiczne.