Antropologia Artykuł Etyka Filozofia w filmie

Anna Hamanowicz: Granice człowieczeństwa

Czy mamy obowiązki moralne wobec sztucznej inteligencji? Rozwalenia laptopa młotkiem nikt nie nazwałby morderstwem. Dlaczego więc zniszczenie do złudzenia przypominającego człowieka robota miałoby mieć jakiekolwiek konsekwencje moralne? Co się stanie, gdy dojdziemy do takiego zaawansowania w technologii, że nasze roboty faktycznie zaczną być nieodróżnialne od ludzi?

Zapisz się do naszego newslettera

Tekst uka­zał się w „Filo­zo­fuj!” 2017 nr 6 (18), s. 46–47. W peł­nej wer­sji gra­ficz­nej jest dostęp­ny w pli­ku  PDF.


Miłość do grobowej deski (i jeszcze dalej)

Pada deszcz. Chło­pak o imie­niu Ash sie­dzi w samo­cho­dzie, prze­glą­da wia­do­mo­ści na tele­fo­nie, odpi­su­je na nie­któ­re, jest zupeł­nie pogrą­żo­ny w zamiesz­cza­niu coraz to więk­szej ilo­ści pry­wat­nych danych w sie­ci. Nie od razu sły­szy swo­ją dziew­czy­nę, Mar­thę, któ­ra przy­nio­sła dwie kawy i mok­nie przed samo­cho­dem. Wresz­cie reflek­tu­je się, otwie­ra drzwi i wpusz­cza ją. Oka­że się to ich ostat­nią wspól­ną jaz­dą samo­cho­dem. Następ­ne­go dnia chło­pak nie wra­ca z pra­cy. Dziew­czy­na odcho­dzi od zmy­słów, dzwo­ni po zna­jo­mych, aż do jej drzwi puka sani­ta­riusz. Na pogrze­bie kole­żan­ka pro­po­nu­je zdru­zgo­ta­nej dziew­czy­nie sko­rzy­sta­nie z apli­ka­cji zbie­ra­ją­cej wszyst­kie infor­ma­cje zamiesz­cza­ne w mediach spo­łecz­no­ścio­wych i two­rzą­cej na ich pod­sta­wie symu­la­tor, dzię­ki któ­re­mu Mar­tha będzie mogła roz­ma­wiać ze swo­im zmar­łym uko­cha­nym. Pomi­mo opo­rów wresz­cie decy­du­je się spró­bo­wać. Nie­dłu­go roz­mo­wa ze sztucz­nie odtwo­rzo­nym Ashem – naj­pierw pisem­na, potem też gło­so­wa – prze­ra­dza się w testo­wa­nie wer­sji demo andro­ida do złu­dze­nia przy­po­mi­na­ją­ce­go chło­pa­ka.

Granice iluzji

Tak moż­na stre­ścić w kil­ku zda­niach odci­nek seria­lu Czar­ne lustro (ang. Black Mir­ror) zaty­tu­ło­wa­ny Zaraz wra­cam (Be Right Back). Każ­dy odci­nek seria­lu ana­li­zu­je i pro­gno­zu­je, jak tech­no­lo­gia może wpły­nąć na nasze życie. Zaraz wra­cam jest świet­ną ana­li­zą psy­chi­ki żałob­ni­ka i gra­nic, jakie jest on gotów prze­kro­czyć, byle tyl­ko odzy­skać stra­co­ną uko­cha­ną oso­bę.

Odci­nek sta­wia całe mnó­stwo pytań natu­ry moral­nej. Czy nasza aktyw­ność w sie­ci będzie wyko­rzy­sty­wa­na do two­rze­nia symu­la­to­rów? Po czę­ści już jest wyko­rzy­sty­wa­na do dobie­ra­nia reklam dosto­so­wa­nych do naszych wyszu­ki­wań. Czy opra­co­wa­nie apli­ka­cji, któ­re stwo­rzą łudzą­cą kopię zmar­łe­go, nie dopro­wa­dzi do uza­leż­nie­nia od tkwie­nia w prze­szło­ści i bra­ku moż­li­wo­ści pój­ścia naprzód? Apli­ka­cji pisem­nej, gło­so­wej, wresz­cie – two­rzą­cej andro­ida? Jak podejść do tego pro­ble­mu w kon­tek­ście filo­zo­fii sztucz­nej inte­li­gen­cji?

Dogłęb­na ana­li­za pytań, jakie sta­wia ten odci­nek, sta­no­wi­ła­by bazę dla serii arty­ku­łów. W tym chcę się przyj­rzeć jed­ne­mu zagad­nie­niu, któ­re poja­wia się w naj­bar­dziej chy­ba emo­cjo­nu­ją­cej i szo­ku­ją­cej sce­nie. [Uwa­ga spo­iler!] Pod koniec odcin­ka, gdy Mar­tha wresz­cie docho­dzi do wnio­sku, że żyje prze­szło­ścią, że opie­ra się na ilu­zji – bole­śnie reali­stycz­nej, ale jed­nak ilu­zji – swo­je­go zmar­łe­go kochan­ka, zabie­ra go nad urwi­sko i każe sko­czyć. Andro­id bez mru­gnię­cia mówi: „Ok. Jeśli jesteś tego napraw­dę pew­na”. Ona wybu­cha: „Widzisz, Ash zaczął­by pła­kać, był­by prze­ra­żo­ny”. I w tym momen­cie chło­pak zaczy­na łza­wić, trząść się i pro­sić: „O Boże, nie, nie chcę umrzeć, nie chcę tego zro­bić, nie każ mi”. A kobie­ta wrzesz­czy z fru­stra­cji, krzy­czy, że to nie fair.

I zabie­ra chło­pa­ka z powro­tem. W jej oczach – chło­pa­ka, a nie adn­ro­ida, któ­ry jak Cle­ver­bot wła­śnie zare­je­stro­wał nową infor­ma­cję, nowe pole­ce­nie i je zre­ali­zo­wał. W ułam­ku sekun­dy dziew­czy­na zmie­ni­ła zda­nie. Nie mogła kazać posta­ci, któ­ra oka­za­ła lęk przed śmier­cią, sko­czyć. Cho­ciaż wie­dzia­ła, że andro­id nie jest żywą oso­bą, że nie czu­je bólu, że nie ma świa­do­mo­ści poza tą zapro­gra­mo­wa­ną i naby­tą na pod­sta­wie obser­wa­cji i suge­stii swo­je­go wła­ści­cie­la.

Podob­nie szo­ku­ją­cą sce­ną jest ta, w któ­rej dziew­czy­na w trak­cie roz­mo­wy z symu­la­to­rem przy­pad­ko­wo upusz­cza tele­fon. Wpa­da w histe­rię, „Prze­pra­szam, upu­ści­łam cię”, zaczy­na prze­pra­szać stłu­czo­ny apa­rat, cała dygo­cze, jak gdy­by wła­śnie omsknął się jej palec na spu­ście nała­do­wa­ne­go pisto­le­tu.

Pomyśl­my o naszych komór­kach, o naszych iPa­dach, nie­od­łącz­nych towa­rzy­szach codzien­ne­go życia. Przy­po­mnij­my sobie Tama­got­chi, Far­mVil­le, Sim­sy, Second Life i inne apli­ka­cje two­rzą­ce alter­na­tyw­ne rze­czy­wi­sto­ści i – co klu­czo­we dla naszych roz­my­ślań – alter­na­tyw­ne życia.

Granice moralności

Gdzie jest gra­ni­ca moral­no­ści? Wie­lu pisa­rzy sta­wia­ło już to pyta­nie, cho­ciaż­by Phi­lip K. Dick w swo­im kul­to­wym Czy andro­idy śnią o elek­trycz­nych owcach? Zasta­nów­my się, co spra­wia, że nie­któ­rych trak­tu­je­my jak rów­nych sobie, a innych nie. Czy róż­ni­cą jest to, że ktoś ma zdol­ność oddy­cha­nia i pro­wa­dze­nia innych, pod­sta­wo­wych czyn­no­ści życio­wych? Wie­lu obroń­ców praw zwie­rząt zgo­dzi­ło­by się. Inni ogra­ni­czy­li­by obo­wią­zek moral­ny do ludzi. Część reli­gij­nych ludzi zaopo­no­wa­ła­by, mówiąc, że obo­wią­zek moral­ny posia­da się wobec stwo­rzeń mają­cych duszę. Czy wyznacz­ni­kiem moral­no­ści ma być podo­bień­stwo do nas samych? Bern­hard Wal­den­fels napi­sał w swo­jej Topo­gra­fii Obce­go: „Gdy­bym wie­dział, cze­mu się dzi­wię i cze­go się trwo­żę, to zdzi­wie­nie i strach zni­kły­by niczym fan­tom. W obu przy­pad­kach doświad­cze­nie obce­go akty­wi­zu­je gra­ni­cę mię­dzy wła­snym i obcym, i to tym bar­dziej, im bli­żej obce do nas pod­cho­dzi. Na pół zna­jo­my gry­mas szym­pan­sa wywo­łu­je więk­szy nie­po­kój niż brzę­cze­nie koma­ra, a upior­ne ruchy robo­ta, któ­ry w figu­rze Gole­ma lub Goethań­skie­go ucznia czar­no­księż­ni­ka przy­bie­ra postać mistycz­ną, wyda­ją się nam bar­dziej obce niż mło­tek czy mio­tła, któ­re spo­koj­nie cze­ka­ją na to, by się nimi posłu­żyć”. Czy ten na pół zna­jo­my gry­mas szym­pan­sa wywo­łu­je nie­po­kój, bo widzi­my w nim jakąś namiast­kę nas? Czy wresz­cie, jak we wspo­mnia­nym dzie­le Phi­li­pa Dic­ka, andro­id prze­ko­na­ny o tym, że jest czło­wie­kiem, tudzież czło­wiek psy­chicz­nie cho­ry, prze­ko­na­ny, że jest robo­tem, powin­ni być ina­czej trak­to­wa­ni?

Granice człowieczeństwa

Wła­ści­wie naj­waż­niej­szym i naj­trud­niej­szym pyta­niem, jakie wyła­nia się z powyż­szych reflek­sji jest: kim jest czło­wiek? Gdzie są gra­ni­ce czło­wie­czeń­stwa? Kie­dy czyn nie­mo­ral­ny wobec czło­wie­ka sta­je się nie­mo­ral­ny wobec iden­tycz­ne­go robo­ta? Czy tak łatwo jest nami mani­pu­lo­wać samym tyl­ko odgry­wa­niem emo­cji, że zupeł­nie zawie­sza­my nasz racjo­nal­ny pogląd na sytu­ację?

Coraz trud­niej jest nadą­żyć nad roz­wo­jem tech­no­lo­gii, któ­ra ofe­ru­je nam takie cuda, jak np. andro­id o imie­niu Sophia. Inspi­ro­wa­na wyjąt­ko­wą uro­dą Audrey Hep­burn Sophia wystę­pu­je w pro­gra­mach tele­wi­zji śnia­da­nio­wej. Jej twór­ca, David Han­son, tłu­ma­czy, że Sophia odbie­ra bodź­ce wizu­al­ne, potra­fi prze­pra­co­wy­wać emo­cje i kon­wer­sa­cje i tym samym two­rzy rela­cje z ludź­mi. Głów­nym zamy­słem twór­czo­ści Han­se­na jest wyna­le­zie­nie robo­tów, któ­re za pomo­cą roz­wi­nię­tej empa­tii i kre­atyw­no­ści będą w sta­nie roz­wią­zy­wać pro­ble­my zbyt skom­pli­ko­wa­ne dla ludzi.

W świe­cie, w któ­rym Alan Turing­daw­no już opra­co­wał test na sztucz­ną inte­li­gen­cję, w któ­rym – odczu­wa­jąc samot­ność – może­my roz­ma­wiać z botem na Sky­pie, coraz bar­dziej zacie­ra się gra­ni­ca mię­dzy czło­wie­kiem a jego lichym odbi­ciem, jak w tytu­ło­wym Black Mir­ror. Odbi­ciem, któ­re nie­dłu­go może zastą­pi ory­gi­nał i dopro­wa­dzi do tego, że pew­ne­go dnia roz­wa­le­nie kom­pu­te­ra młot­kiem poskut­ku­je doży­wo­ciem. Albo przy­naj­mniej dłu­go­trwa­łą żało­bą.


Anna Hama­no­wicz – Stu­dent­ka stu­diów magi­ster­skich Jewish Civi­li­za­tions w Heidel­ber­gu i Skan­dy­na­wi­sty­ki na Uni­wer­sy­te­cie Gdań­skim. Człon­ki­ni pra­cow­ni badaw­czej Jewish Stu­dies Rese­arch Gro­up przy UG. Jej naj­więk­szą pasją jest nauka i bada­nie języ­ków. Inte­re­su­je się m.in. kul­tu­ra­mi semic­ki­mi, dale­ko­wschod­ni­mi, sta­ro­skan­dy­naw­ski­mi, mito­lo­gią i lite­ra­tu­rą oraz sztu­ką i histo­rią queer.

Tekst jest dostęp­ny na licen­cji: Uzna­nie autor­stwa-Na tych samych warun­kach 3.0 Pol­ska.

< Powrót do spi­su tre­ści nume­ru.



Najnowszy numer można nabyć od 2 września w salonikach prasowych wielu sieci. Szczegóły zob. tutaj.

Numery drukowane można zamówić online > tutaj. Prenumeratę na rok 2020 można zamówić > tutaj.

Aby dobrowolnie WESPRZEĆ naszą inicjatywę dowolną kwotą, kliknij „tutaj”.

Dołącz do Załogi F! Pomóż nam tworzyć jedyne w Polsce czasopismo popularyzujące filozofię. Na temat obszarów współpracy można przeczytać tutaj.

55 podróży filozoficznych okładka

Wesprzyj „Filozofuj!” finansowo

Jeśli chcesz wesprzeć tę inicjatywę dowolną kwotą (1 zł, 2 zł lub inną), przejdź do zakładki „WSPARCIE” na naszej stronie, klikając poniższy link. Klik: Chcę wesprzeć „Filozofuj!”

Polecamy