Tekst ukazał się w „Filozofuj!” 2024 nr 1 (55), s. 15–16. W pełnej wersji graficznej jest dostępny w pliku PDF.
Nasz argument za niemożliwością istnienia ogólnej sztucznej inteligencji ma następującą postać:
1. Analizujemy właściwości systemów złożonych (złożonych w innym sensie niż systemy logiczne), takich jak ziemski system pogodowy lub system ruchu drogowego w Stambule.
2. Wykazujemy, że istnieją poważne ograniczenia naszej zdolności do matematycznego przewidywania zachowań tego rodzaju systemów.
3. Pokazujemy, że ograniczenia te determinują również zdolność komputerów do dokonywania takich przewidywań.
Nasz wniosek co do niemożliwości istnienia ogólnej sztucznej inteligencji wynika z faktu, że wszystkie systemy organiczne – w tym ludzki system neurologiczny – są systemami złożonymi (w powyższym rozumieniu). AGI wymagałaby komputerów zdolnych do przewidywania zachowań istot ludzkich z dużą niezawodnością. Zdolność ta jest niezbędna, jeśli na przykład maszyna ma inteligentnie uczestniczyć w rozmowie z ludźmi. I to właśnie brak tej zdolności wyjaśnia problemy, jakie napotykamy podczas rozmów telefonicznych z komputerami naszych banków. Maszyny te wciąż wykazują mizerny poziom wydajności, nawet po 50 latach prób nauczenia ich przez inżynierów AI symulowania podobnych rozmów. Takie wyrafinowane kompetencje w komunikowaniu się z ludźmi – np. z kontrolerami armii, dostawcami amunicji i tak dalej – byłyby oczywiście niezbędne, gdyby maszyny miały przejąć kontrolę nad światem.
Nasze argumenty sugerują, że komputery zawsze będą ograniczone do korzystania z algorytmów będących w stanie przewidzieć zachowania jedynie prostych systemów, takich jak laptopy czy linie montażowe w fabrykach. Z tego powodu zawsze będą charakteryzować się tym, co nazywamy „wąską sztuczną inteligencją”, a tym samym zawsze będzie im brakować ogólnej inteligencji istot ludzkich.
Wejdź do programu ChatGPT
Przy powyższym wniosku, że ogólna sztuczna inteligencja nie może istnieć, obstawaliśmy przynajmniej wówczas, kiedy nasza książka została opublikowana we wrześniu 2022 r. Ale potem, w listopadzie 2022 r., nowy i rewolucyjny rodzaj sztucznej inteligencji został wypuszczony na świat w postaci programu ChatGPT. ChatGPT był inny. Stanowił pierwszy przykład systemu sztucznej inteligencji, który był łatwo dostępny dla zwykłych ludzi i zapewniał godziny niezakłóconej stymulacji. Ponadto zapewniał szereg różnych rodzajów usług, które mogą być wartościowe np. dla organizacji komercyjnych. ChatGPT był również, jak się wydaje, przykładem ogólnej sztucznej inteligencji, ponieważ mógł w swój sposób reagować na dowolne zapytania (Agüera y Arcas, Norvig 2023).
Bardzo szybko jednak rosnąca społeczność użytkowników programu ChatGPT stała się świadoma pewnych nieoczekiwanych zachowań, zwanych „halucynacjami”, ze strony tego algorytmu. Jest on najwyraźniej statystycznie przygotowany do unikania zwrotów takich jak „nie wiem” w swoich wynikach. Zamiast tego często wymyśla własne odpowiedzi na pytania, na które nie zna odpowiedzi. Krótko mówiąc, wykazuje zachowanie, które, gdyby było prezentowane przez człowieka, byłoby określone jako „kłamanie” (zob. netoteka).
Jak działa ChatGPT
Aby zrozumieć, co się dzieje z tym „kłamaniem” AI, musimy najpierw uznać, że ChatGPT w rzeczywistości nic nie wie. Kiedy udziela odpowiedzi O na pytanie P, to nie dlatego, że wie, że jakaś teza O jest prawdziwa.
ChatGPT to zestaw algorytmów w formie oprogramowania, zbudowany na podstawie probabilistycznego modelu GPT, który służy do przetwarzania języka naturalnego. Kiedy zatem wprowadzamy jakiś monit P, algorytm ChatGPT przewiduje, że biorąc pod uwagę dane, które zostały użyte jako zestaw treningowy, dana sekwencja tokenów (w przybliżeniu: sylab) O jest (w przybliżeniu) następną najbardziej prawdopodobną sekwencją tokenów, biorąc pod uwagę P jako punkt wyjścia. (Należy zauważyć, że „przewidywanie” oznacza tutaj, że algorytm przedstawia O jako dane wyjściowe, biorąc pod uwagę P jako dane wejściowe). Po drugie, musimy zdać sobie sprawę, że ChatGPT działa zawsze tylko przez czerpanie z określonego (bardzo dużego) zbioru danych, na którym został przeszkolony. Oznacza to, że jest również przykładem wąskiej sztucznej inteligencji. Dzieje się tak, ponieważ jego algorytm nie odnosi się do rzeczywistego świata, w którym żyjemy, ani do wielu nakładających się na siebie złożonych systemów, z których nasz świat się składa. Odnosi się raczej do pewnego abstrakcyjnego symulakrum (kopii nieposiadającej oryginału) świata, symulakrum, które jest dokładnie określone przez duży, ale skończony zestaw danych, na których algorytm został wyszkolony, w podobny sposób, w jaki świat gry wideo jest określony przez jej oprogramowanie. W przypadku programu ChatGPT te dane treningowe zostały zdefiniowane (z grubsza) przez zawartość internetu w danym dniu w przeszłości (stąd użycie modyfikatora „Od ostatniej aktualizacji mojej wiedzy we wrześniu 2021 r.” – aby uzasadnić, że nie udziela odpowiedzi na pytania dotyczące nowszych wydarzeń).
Algorytm, zdefiniowany w procesie szkolenia na podstawie danych dostępnych w 2021 r., jest funkcją matematyczną, która przyjmuje jako dane wejściowe wektory binarne kodujące polecenia P i wyprowadza wektory binarne kodujące odpowiedzi O. Możemy myśleć o tej funkcji jako o bardzo, bardzo długim równaniu wielomianowym (z ok. 1,5 miliarda parametrów). Stąd też szeroki zakres tematów, na które może udzielać odpowiedzi. Jednocześnie jednak zdolności matematyczne wymagane przez to równanie są nadal bardzo proste – ponieważ równanie, podobnie jak wszystkie obliczalne algorytmy, musi być możliwe do rozwiązania przy użyciu tylko bardzo prostej matematyki maszyny Turinga. (ChatGPT jest pod tym względem porównywalny do Tłumacza Google. Ten ostatni może być stosowany do wielu języków używanych do bardzo wielu tematów. Google Translate jest jednak przykładem wąskiej sztucznej inteligencji. Podobnie jak ChatGPT działa tylko dla bardzo prostych i niezmiennych światów, które są zdefiniowane przez dane, na których dana wersja oprogramowania została przeszkolona).
Na koniec zauważmy, że sytuacja nie poprawi się na korzyść AGI nawet wtedy, gdy uda się rozwiązać problem „halucynacji” programu ChatGPT. Nawet jeśli przyszłe systemy sztucznej inteligencji będą w stanie zmniejszyć stopień, w jakim generują „halucynacje”, to nadal świat, w odniesieniu do którego każdy taki system udziela odpowiedzi, będzie niezmiennym światem zdefiniowanym przez system logiczny. Nie przypomina więc w niczym świata, w którym przez miliony lat ewoluowała ludzka inteligencja.
Tłumaczenie: Piotr Biłgorajski
Warto doczytać:
- J. Landgrebem, B. Smith, Why Machines Will Never Rule the World. Artificial Intelligence Without Fear, Abingdon 2022.
- S. Thurner, R. Hanel, P. Klimek, Introduction to the theory of complex systems, Oxford 2018.
- B. Agüera y Arcas, P. Norvig, Artificial General Intelligence Is Already Here, „Noema Magazine”, October 10, 2023, https://www.noemamag.com/artificial-general-intelligence-is-already-here/ [dostęp: 30.11.2023].
Netoteka:
- https://www.youtube.com/playlist?list=PLyngZgIl3WThR6bptbvVAC0Cxn_mUCgCq
Barry Smith 
– jeden z najczęściej cytowanych współczesnych filozofów; profesor filozofii, informatyki biomedycznej i informatyki na Uniwersytecie w Buffalo, dyrektor the National Center for Ontological Research (Narodowego Centrum Badań Ontologicznych). Jego strategia wykorzystania ontologii do rozwiązywania rzeczywistych problemów w zarządzaniu danymi jest pierwszą koncepcją filozoficzną, która została zatwierdzona jako standard ISO (ISO/IEC:21838–2).
Tekst jest dostępny na licencji: Uznanie autorstwa-Na tych samych warunkach 3.0 Polska.
W pełnej wersji graficznej jest dostępny w pliku PDF.
< Powrót do spisu treści numeru.
Ilustracja: ChatGPT
Dofinansowano ze środków Ministra Kultury i Dziedzictwa Narodowego pochodzących z Funduszu Promocji Kultury.
“Kopernik była kobietą” oby to nie obraza do Mateusza Mikołaja Czerniawskiego. 😉
Też Mikołaj.
Golem posiada samowiedze i jest wstanie patrzeć w przyszłość poprzez czas a także posiada wolę.
Żyfowski golem to koncept maszyny, która zachowuje się jakby była żywa. Oparta na krzemie.
Człowiek jest z węgla.
Nie wiem, na ile to streszczenie odzwierciedla właściwą treść tekstu, ale nie wynika z niego uzasadnienie tezy postawionej w tytule. Wygląda na to, że jest to jeszcze jeden z tysięcy głosów za i przeciw możliwości istnienia “prawdziwej inteligencji” sztucznej inteligencji, w dyskusji, w której obecni są zarówno filozofowie, jak i czołowi specjaliści od AI, przeważnie bardzo zdecydowanie i elokwentnie przemawiających za jednym z dwóch podejść do tematu.
Przedstawione tu argumenty dotyczą złożoności świata ludzi, której żaden człowiek tak naprawdę nie rozumie oraz ograniczonych technicznie możliwości poznawczych maszyn, które nie są przeszkodą natury ontologicznej, która byłaby nie do przejścia z zasady.
Podobnie jak w większości głosów w debacie, pominięto tu zasadniczą, naprawdę filozoficzną przyczynę, dla której AGI nie jest możliwa.
Inteligencja, w odróżnieniu od zdolności obliczeniowej i zdolności przewidywania trendów i zdarzeń na podstawie dostępnych danych, nie może istnieć w oderwaniu od woli, celowości, będącej aspektem życia. Życie i wola zaś nie są zjawiskiem możliwym do zaobserwowania i zrozumienia w perspektywie bieżących danych. Istnieją wyłącznie jako ciąg zdarzeń i wyborów sięgających 4 miliardy lat wstecz, dokonywanych przez niezliczone rzesze naszych przodków. Nie mógłbym “chcieć” kupić koszuli na portalu internetowym wyposażonym w algorytmy AI, gdyby pierwsze mikroorganizmy nie przekuły prawidłowości fizykochemicznych w zaczątki woli, a ewolucja kulturalna nie doprowadziła do złożonego systemu zależności, w wyniku których akurat ta koszula odpowiada moim gustom.
W ten sposób wola, a co za tym idzie również prawdziwa, teleologiczna inteligencja, staje się zjawiskiem *z zasady* niemożliwym do zrozumienia przez maszyny *same w sobie*, ponieważ ontologicznie jest dla nich całkowicie niedostępna — podobnie jak dla całego wszechświata, dla nieożywionych maszyn celowość i wola nie istnieją. Na tym polega prawdziwa różnica między tym co naturalne, a tym co sztuczne.
Oddzielnym tematem jest to, że technosfera jest w istocie wytworem życia, wykształconym przez nie, nowym “organem”, jak to widzi Sara Imari Walker, współtwórczyni modnej obecnie “assembly theory”. Ale to zupełnie inny wymiar tej historii, o której chętnie napiszę artykuł do portalu, jeżeli ktoś będzie zainteresowany.