Tekst ukazał się w „Filozofuj!” 2024 nr 1 (55), s. 39–41. W pełnej wersji graficznej jest dostępny w pliku PDF.
Nietypowe okoliczności powstania słynnego filmu Kubricka stwarzają unikatową okazję do porównania utworów korzystających z odmiennych środków artystycznego wyrazu. Jest wiele filmowych adaptacji literatury, ale mało przypadków, kiedy filmowa i powieściowa wersja są ze sobą powiązane tak ściśle, są dwiema odsłonami jednego, wspólnie opracowywanego przez reżysera i pisarza materiału źródłowego. Porównanie takie przypomina o specyfice kina. Oto kilka jej przykładów.
Jak na ponaddwugodzinny film w 2001 jest stosunkowo mało dialogów, za to dużo obrazów opatrzonych niekonwencjonalnie dobranym dźwiękiem. Wiele powolnych ujęć wprowadza specyficzny nastrój: a to dzikich pustkowi zamieszkanych przez pierwotne małpoludy, a to skolonizowanej przestrzeni kosmicznej w pobliżu Ziemi i Księżyca, a to niedającej się ogarnąć myślą pustki i ciszy kosmicznych przestworzy w dalszych rejonach Układu Słonecznego. Jest tu taniec kosmosu do taktów walca Johanna Straussa Nad pięknym modrym Dunajem. Jest ikoniczne ujęcie ustawiających się w jednej linii ciał niebieskich przy patetycznych dźwiękach Tako rzecze Zaratustra Richarda Straussa. Jest sławny przeskok montażowy, zuchwale skracający całą historię ludzkiej cywilizacji do dosłownie jednego cięcia! Są znakomite, w pełni niecyfrowe efekty specjalne, które po ponad 55 latach wciąż wyglądają dobrze. Nic z tego nie znajdziemy w powieściowym odpowiedniku.
W felietonie takim jak ten być może nie powinno się tego przypominać, ale warto pamiętać, że pisanie o filmach jest zadaniem karkołomnym. Można streścić fabułę, można opisać środki artystycznego wyrazu, ale nic nie zastąpi seansu. Filmy należy oglądać, tak jak muzyki trzeba słuchać. Ta ogólna zasada jest szczególnie adekwatna w wypadku obrazu Kubricka, który jest filmem par excellence. Mimo to spróbuję zwerbalizować kilka myśli mogących zrodzić się na marginesie filmu, licząc nieśmiało, że być może ktoś się nimi zainteresuje. Uczciwie ostrzegam jednak, że dotyczą one tylko wycinka i jednocześnie usilnie zachęcam Was, Czytelnicy, do seansu.
Film podzielony jest na cztery względnie autonomiczne części. W całość spaja je tajemniczy monolit, czarny prostopadłościan o nieznanym pochodzeniu i przeznaczeniu, powracający niby fabularny refren. Najdłuższą częścią jest rozdział trzeci. W stronę Jowisza podąża statek kosmiczny Discovery, przewożący na swoim pokładzie członków pierwszej w historii załogowej misji wysłanej w celu zbadania gazowego olbrzyma. Załoga składa się z pięciu ludzi (trzech zahibernowanych) i superkomputera – HAL‑a 9000. Nie tylko kontroluje on pracę wszystkich urządzeń na Discovery, ale potrafi także – jak jest to precyzyjnie ujęte – „odtwarzać lub symulować większość czynności ludzkiego mózgu” (naukowym konsultantem filmu w kwestiach dotyczących sztucznej inteligencji był Marvin Minsky, jeden z inicjatorów badań z zakresu SI).
Obecność nieludzkiej, a przy tym bardzo potężnej inteligencji ma specyficzny wpływ na panującą na statku atmosferę. Początkowo wszystko idzie gładko, a mimo to można odnieść wrażenie, że spokojny głos HAL‑a i jego beznamiętne, czerwono świecące soczewkowe oko porozmieszczane w różnych miejscach statku wywołują w astronautach dyskomfort. Atmosfera gęstnieje jednak na dobre, gdy HAL zaczyna zachowywać się w sposób nieoczekiwany, czyli zaczyna popełniać błędy. Przewiduje usterkę jednego z komponentów statku, ale gruntowna analiza modułu dokonana po jego uprzedniej wymianie nie wykazuje żadnych defektów. Dość powiedzieć, że ostatecznie prowadzi to do tragedii. W przerażającej ciszy HAL morduje członków załogi. Jedyny ocalały z masakry, dowódca Bowman, dostaje się w końcu do procesorowego mózgu komputera i dokonuje lobotomii, odłączając jego wyższe, związane ze świadomością funkcje.
Po zabójstwie na HAL‑u Bowman poznaje treść komunikatu, ujawniającego właściwy cel misji. Wyprawa została skierowana w stronę Jowisza, ponieważ w tym kierunku silny sygnał wysłał znaleziony na Księżycu monolit. Treść komunikatu, a nawet jego istnienie znane były tylko HAL-owi, który zgodnie z decyzją przełożonych miał zachowywać tajemnicę aż do momentu dotarcia na miejsce docelowe. Zapewne właśnie narzucona komputerowi konieczność kłamania doprowadziła do jego awarii.
Działanie HAL‑a można opisać – używając terminu często pojawiającego się we współczesnych sporach etycznych wokół SI – jako nieprzezroczyste (ang. opaque). Funkcjonowanie jakiegoś algorytmu SI jest nieprzezroczyste, jeśli jest dla użytkowników tego algorytmu niezrozumiałe w tym sensie, że niejasny jest mechanizm dochodzenia do takiego, a nie innego rozwiązania. Algorytmy takie porównywane bywają do czarnego pudełka, do którego wrzucane są dane wejściowe i z którego otrzymywane są dane wyjściowe, ale jego czerń uniemożliwia wgląd wewnątrz, w procesy prowadzące od pierwszych do drugich.
Nieprzezroczystość może mieć mniej lub bardziej zasadnicze podłoże. Czasami użytkownik po prostu nie ma wystarczającej wiedzy, aby zrozumieć używany algorytm, chociaż co do zasady zrozumienie jego działania jest możliwe. Szczegóły działania algorytmu mogą być dla użytkownika niedostępne również dlatego, że są przez kogoś celowo ukrywane. Przykładowo twórca algorytmu nie chce ujawniać jego kodu źródłowego. Może też być tak, że algorytm jest na tyle skomplikowany i autonomiczny, iż nawet specjaliści nie wiedzą, w jaki sposób komputer otrzymuje wyniki. Nieprzezroczyste w tym sensie są przykładowo algorytmy uczenia maszynowego. To właśnie nieprzezroczystość ostatniego rodzaju stanowi szczególne wyzwanie.
HAL był nieprzezroczysty dla załogi w dwojaki sposób. Po pierwsze, ponieważ poziom jego skomplikowania był olbrzymi, możemy bezpiecznie zgadywać, że nawet eksperci nie znali szczegółów pracy jego elektronicznego mózgu. Ziemscy inżynierowie nie analizowali wprost wykonywanych przez komputer operacji, bo zapewne tego nie potrafili. Jedyne, co mogli, to porównać jego działania z działaniem bliźniaczego modelu. Drugi rodzaj nieprzezroczystości wiąże się z decyzją dowódców misji o zatajeniu właściwego celu wyprawy przed załogą. Co prawda, w tym wypadku nie chodzi o nieprzezroczystość samego algorytmu, a raczej danych wpływających na jego pracę, ale efekt jest podobny.
Jest intuicyjnie zrozumiałe, dlaczego nieprzezroczystość SI budzi etyczne wątpliwości. Jest coś złego w spychaniu ciężaru decyzji na algorytm, którego działania się nie rozumie. Zwłaszcza jeśli decyzje te dotyczą dobrostanu innych podmiotów. Ponadto z praktyką taką wiąże się groźba błędów lub wypaczeń, które mogą nawet pozostać niezauważone. Czy zatem nieprzezroczystość jest zawsze niepokojąca i powinna być za wszelką cenę eliminowana? Załóżmy, że HAL bardzo skutecznie lokalizuje usterki. Czy w takiej sytuacji nieprzezroczystość jego działania jest poważnym problemem? A co jeśli HAL – w sytuacji utraty zapasów powietrza – miałby zdecydować, który z członków załogi przeżyje? Czy wówczas nieprzezroczystość może być zaakceptowana?
HAL znacznie różni się od dostępnych obecnie algorytmów SI. Chociaż możliwości tych ostatnich są zdumiewające, to wciąż wiele brakuje im do HAL‑a. On był świadomą istotą, ich nikt chyba o posiadanie świadomości nie podejrzewa. HAL jest przykładem silnej SI, służące nam dzisiaj inteligentne maszyny to przykłady słabej SI. W świetle ostatnich, imponujących postępów w rozwoju SI odżyły nadzieje (lub lęki) na rychłe pojawienie się silnej SI. Niektórzy studzą takie prognozy, przypominając, że silna SI ma być tuż za rogiem co najmniej od czasów słynnej konferencji z 1956 r., która symbolicznie zainicjowała badania z zakresu SI (jednym z jej uczestników był wspomniany Minsky). Bez względu na to, co przyniesie przyszłość, warto pamiętać, że problem nieprzezroczystości dotyczy każdego rodzaju SI i domaga się jakiegoś rozwiązania już dzisiaj.
Piotr Lipski – adiunkt w Katedrze Teorii Poznania KUL, absolwent MISH UJ. Rodzinny człowiek (mąż Żony i ojciec gromadki dzieci), od dawna cyklista, bibliofil i miłośnik SF, od niedawna ogrodowy astroamator i introligator.
Tekst jest dostępny na licencji: Uznanie autorstwa-Na tych samych warunkach 3.0 Polska.
W pełnej wersji graficznej jest dostępny w pliku PDF.
< Powrót do spisu treści numeru.
Ilustracja: Kadr z filmu 2001: Odyseja kosmiczna
tytuł: 2001: Odyseja kosmiczna
reżyseria: Stanley Kubrick
gatunek: science fiction
produkcja: USA, Wielka Brytania
premiera: 2 kwietnia 1968
Dofinansowano ze środków Ministra Kultury i Dziedzictwa Narodowego pochodzących z Funduszu Promocji Kultury.
Wielkie
Gods
Summa summarum
AD 2025