Susan Schneider: Ona filozoficznie

Wiesz, kiedyś rzeczywiście byłam zmartwiona tym, że nie posiadam ciała, ale teraz naprawdę to uwielbiam. [...] Nie jestem związana z czasem i przestrzenią tak, jakbym była, gdybym tkwiła wewnątrz ciała, które nieuchronnie zmierza ku śmierci [Samantha w filmie Ona].

Tekst ukazał się w „Filozofuj!” 2015 nr 4, s. 50–51. W pełnej wersji graficznej jest dostępny w pliku PDF.

Rozgrywający się w nieodległej przyszłości film Spike’a Jonze’a Ona to studium romantycznej relacji między Samanthą, programem komputerowym, a Teodorem Twomblym, istotą ludzką. Samantha, choć nie jest człowiekiem, doświadcza sercowych rozterek, niekiedy tęskni za posiadaniem ciała i jest zdumiona własną przemianą. Posiada bogate życie wewnętrzne wypełnione przeżyciami i wrażeniami.

Ona podnosi dwa problemy, które od dawna absorbują filozofów. Czy istoty niebiologiczne, takie jak Samantha, są zdolne do posiadania świadomości – przynajmniej w teorii, jeśli nie w praktyce? A jeśli tak, to czy my, ludzie, możemy stać się pewnego dnia zdolni do przesyłania (uploading) naszych własnych umysłów do komputerów – być może po to, by, tak jak Samantha, uwolnić się od „ciała, które nieuchronnie zmierza ku śmierci”, a być może po to, by dołączyć do naszych cyfrowych kochanków w wirtualnym świecie?

Nie jest to tylko gdybanie. Instytut Przyszłości Ludzkości na Uniwersytecie Oksfordzkim wydał raport na temat technologicznych warunków „przesyłania” umysłu do maszyny. Amerykańskie Ministerstwo Obrony finansuje program Synapsa, którego celem jest budowa komputera przypominającego pod względem struktury i funkcji mózg. Futurysta Ray Kurzweil, obecny dyrektor projektowy Google’a, rozważa nawet potencjalne korzyści z nawiązywania przyjaźni – takich jak ta przedstawiona w filmie Ona – ze zindywidualizowanymi systemami sztucznej inteligencji. On oraz inni twierdzą, że zbliżamy się wielkimi krokami do tzw. technologicznej osobliwości, czyli do punktu, w którym sztuczna inteligencja, czyli AI przewyższy inteligencję ludzką, co będzie mieć nieprzewidywalne konsekwencje dla cywilizacji i natury człowieka.

Czy to wszystko jest naprawdę możliwe? Nie wszyscy tak sądzą. Niektórzy argumentują, że zdolność do posiadania świadomości jest właściwa jedynie organizmom biologicznym, tak że nawet superinteligentne programy AI byłyby pozbawione świadomego doświadczenia. Jeśli ten pogląd jest trafny, to związek między istotą ludzką a takim programem, jak Samantha, bez względu na stopień jego inteligencji, byłby rozpaczliwie jednostronny. Poza tym niewielu ludzi chciałoby dołączyć do Samanthy, gdyż przesyłanie mózgu do komputera oznaczałoby utratę własnej świadomości.

Ten pogląd traci jednak stopniowo uzasadnienie. Jego przeciwnicy zwracają uwagę, że nasza najlepsza empiryczna teoria mózgu głosi, iż jest on systemem przetwarzania informacji, a wszystkie funkcje mentalne mają charakter obliczeniowy. Jeśli to prawda, wówczas istoty w rodzaju Samanthy mogą być świadome, ponieważ ich umysły, tak samo jak nasze, są obliczeniowe. Tak jak połączenie telefoniczne i sygnał dymny mogą przekazywać tę samą informację, tak myśl może mieć krzemową lub węglową podstawę. Naukowcy rzeczywiście stworzyli bazujące na krzemie sztuczne neurony, które wymieniają informacje z prawdziwymi neuronami. Kod neuronalny coraz bardziej wydaje się być kodem komputacyjnym.

Mógłbyś się niepokoić, że nigdy nie moglibyśmy mieć pewności, iż programy w rodzaju Samanthy są świadome. To zmartwienie przypomina odwieczną filozoficzną zagadkę znaną jako problem innych umysłów. Problem jest następujący: chociaż możesz wiedzieć, że ty sam jesteś świadomy, nie możesz mieć pewności, iż świadomi są również inni ludzie. To, co widzimy, mogłoby przecież być zachowaniem, któremu nie towarzyszy świadomość.

W obliczu problemu innych umysłów możesz jedynie zauważyć, że inni ludzie mają mózgi strukturalnie podobne do twojego i dojść do wniosku, iż skoro ty sam jesteś świadomy, to inni prawdopodobnie również są świadomi. Przy spotkaniu z zaawansowanym programem AI, takim jak Samantha, twoje położenie nie byłoby aż tak odmienne, zwłaszcza gdyby ten program został tak zaprojektowany, aby funkcjonował jak ludzki mózg. Chociaż nie moglibyśmy być pewni, że program AI rzeczywiście coś odczuwa, nie możemy mieć takiej pewności również w wypadku innych ludzi. W obu wypadkach istnienie odczuć wydaje się jednak prawdopodobne.

Ale nawet jeśli wewnętrzne życie Samanth przyszłości będzie podobne do naszego, to podejrzewam, że nie uda nam się przesłać nas samych do komputerów i połączyć się z Samanthami w wirtualnym świecie. Aby zrozumieć dlaczego, wyobraź sobie, że Teodor pragnie przesłać siebie (do komputera). Wyobraź sobie ponadto, że wymaga to (a) zeskanowania ludzkiego mózgu w tak dokładnym szczególe, iż niszczy to pierwowzór oraz (b) stworzenia modelu oprogramowania, który myśli i zachowuje się w dokładnie taki sam sposób jak pierwowzór. Gdyby Teodor poddał się tej procedurze, to czy udałoby mu się dokonać transferu siebie do rzeczywistości cyfrowej? Czy też raczej, jak podejrzewam, udałoby mu się jedynie popełnić samobójstwo i pozostawić po sobie obliczeniową kopię własnego umysłu – kopię, która w dodatku romansowałaby z jego dziewczyną?

Zwykłe przedmioty fizyczne z upływem czasu poruszają się po ciągłej ścieżce w przestrzeni. W sytuacji, w której Teodor przesyła swój umysł do komputera, jego umysł nie podążałby wzdłuż takiej nieprzerwanej trajektorii. Jego mózg zostałby zniszczony w chwili wykonania skanu, a dokładna informacja na temat konfiguracji tego mózgu zostałaby przesłana do komputera, który mógłby znajdować się w zupełnie innym miejscu.

Co więcej, gdyby Teodor naprawdę przesłał swój umysł (a nie jedynie skopiował jego treści), to mógłby zostać ściągnięty na wiele innych komputerów. Przypuśćmy, że doszło do pięciu takich ściągnięć. Które z nich jest prawdziwym Teodorem? Trudno udzielić niearbitralnej odpowiedzi. Czy wszystkie te ściagnięcia mogłyby być Teodorem? Wydaje się to dziwaczne: przedmioty fizyczne i istoty żyjące nie zajmują przecież z reguły kilku miejsc naraz. Znacznie bardziej prawdopodobne jest to, że żadne ze ściągnięć nie jest Teodorem i że w ogóle nie został on przesłany (do komputera).

Co gorsza, wyobraź sobie, że procedura skanowania nie niszczy mózgu Teodora, tak że oryginalny Teodor nadal istnieje. Jeśli po zeskanowaniu nadal istnieje, to dlaczego mielibyśmy uznać, że jego świadomość została przesłana do komputera? Powinna ona nadal znajdować się w jego mózgu. Ale skoro twierdzi się, że jego umysł nie zostaje przesłany dopóki istnieje jego mózg, to czemu mielibyśmy uznać, iż jego umysł zostaje przesłany po zniszczeniu mózgu?

W tym miejscu natrafiamy na ograniczenia cyfrowego uniwersum. Wydaje się, że istnieje zasadnicza różnica między ludźmi a programami. Ludzie nie mogą przesyłać siebie do cyfrowego świata; mogą jedynie przesłać własne kopie – kopie, które same mogą być istotami świadomymi.

Czy to znaczy, że należy zrezygnować z pomysłu przesyłania umysłów? Bynajmniej. Taka technologia może przynieść korzyści naszemu gatunkowi. Gdyby jakaś globalna katastrofa uczyniła świat nieprzyjaznym dla życia biologicznego, to przesyłanie umysłu mogłoby stanowić jedyny sposób ocalenia przynajmniej ludzkiego sposobu życia i myślenia, jeśli już nie konkretnych ludzi. Mogłoby ono również ułatwić rozwój leczenia i doskonalenia mózgu, co mogłoby pomóc ludziom i innym zwierzętom. Co więcej, przesyłanie umysłu mogłoby się przyczynić do powstania superinteligentnej AI. Szanse, że sztuczna inteligencja, która jest naszym dziełem, będzie dla nas życzliwsza, mogą być większe.

I wreszcie, trudno się dziwić, że niektórzy ludzie zechcą mieć cyfrowe kopie samych siebie. Co by było, gdybyś dowiedział się, że niebawem umrzesz? Pragnienie pozostawienia po sobie takiej kopii mogłoby przeważyć nad pragnieniem spędzenia kilku dodatkowych dni na tej planecie. Mógłbyś też chcieć pozostawić ją po to, aby skontaktować się ze swoimi dziećmi lub dokończyć ważne dla ciebie projekty. W istocie Samanthy przyszłości mogłyby być przesłanymi kopiami zmarłych, których kiedyś bardzo kochaliśmy. Być może nasi najlepsi przyjaciele będą kopiami nas samych, ale zmodyfikowanymi na rozmaite sposoby, które są dla nas odkrywcze.

Przełożyła Monika Chylińska

* Philosophy of Her, „The New York Times”, 2 marca 2014. Przekład za zgodą Autorki.

Przykładowe pytania do dyskusji:
1. Czy brak ciała jest przeszkodą w miłości romantycznej?
2. Jakie byłby skutki przesłania swojego umysłu do komputera?

Susan Schneider – profesor filozofii na Uniwersytecie Connecticut, autorka książek The Language of Thought oraz Science Fiction of Philosophy. Strona internetowa Autorki.