"Ste v puščavi, hodite po pesku, ko nenadoma pogledate navzdol in zagledate želvo ... Dosežete dol in obrnete želvo na njen hrbet. Želva leži na hrbtu, trebuh se peče na vročem soncu in bije noge, ki se poskušajo obrniti, vendar ne more. Ne brez vaše pomoči. Ampak ne pomagaš. "
Sorodne vsebine
- Voltaire: Razsvetljenski filozof in loterijski prevarant
Morda nič ni bolj izrazit za distopijski film Ridleyja Scotta iz leta 1982 Blade Runner kot test Voight-Kampff, ki so ga vodili filmski titularni policisti, med njimi Harrison Ford in Rick Deckard. Niz vprašanj v izmišljenem testu, kakršen je zgornji, je zasnovan tako, da človeka loči od replikatov s provociranjem fiziološkega odziva, ki kaže na empatijo. To res čutijo samo resnični ljudje, ne replikatorji. Deckardova naloga je, da se ukvarja z replikanti, ki začnejo neupoštevati naročila. On in drugi se s testom odločijo, ali se bodo upokojenci - ubili - ali ne.
Ti uporni androidi ne samo da ogrožajo ljudi, ampak na tem svetu nimajo nobenih zakonskih pravic do zaščite. Kako bi lahko, če se ne štejejo za ljudi?
To je tako privlačna težava, da se bo zgodba nadaljevala v dolgo pričakovanem nadaljevanju Blade Runner: 2049. Del vzroka za trajno priljubljenost izvirnega filma je Deckardov osebni boj, ki se podobno igra v filmih, kot je Ona, in kaže kot "Westworld ": Kdo ali kaj šteje za človeka, zlasti v svetu napredne tehnologije?
In da bi ga razumeli, se moramo obrniti na nekaj zelo starih filozofov.
***
Za stare Grke so stroji, ki so jih naredili bogovi ali izjemno nadarjeni ljudje, pogosto prevarali ljudi, ki so verjeli, da so androidi pristni, piše Adrienne Mayor v Aeonu. Kralj Sparte Nabis je imel v lasti robotsko različico svoje žene, njeno dojko je skrivaj krasila nohte. Stroj je uporabil za objem državljanov, ki so ga neposlušili, njihovo meso pa je prebodlo skrito orožje. In na Kitajskem je avtomatik iz desetega stoletja pred našim štetjem, ki ga je izdelal izumitelj Yan Shi, videti tako človeško podoben, da je petje in namignil ženskam, da je kralj ob njem postal bes. Potem je izvedel resnico in se čudil stroju, ki je imel celo mehanske organe. Kot piše znanstvenik Nigel Wheale, "V vseh obdobjih smo človeške stvari predstavljali kot entitete, ki preizkušajo ali definirajo sodobni občutek človeške vrednosti."
Vse to pomeni, da pomisleki o tem, kako razlikovati ljudi od krvi in krvi od strojev, ki so samo človeški (in odločiti, ali ti stroji predstavljajo grožnjo za nas Homo sapiens), niso omejeni na sodobni čas. Vedno smo se spraševali, ali so vsi ljudje res takšni, kot se zdijo - zato so razsvetljenski filozofi porabili toliko časa za sestavljanje vprašanja, kaj je človek, človek.
Rene Descartes, francoski filozof iz 17. stoletja, ki je veliko potoval po Evropi, je globoko razmislil o vprašanju, kaj nas dela človeka. Ni naključje, da njegov najslavnejši citat ponovi eden izmed replikatov v Blade Runnerju: "Mislim, torej sem." In če vse to še ni dovolj dokaz njegove povezave s filmom, razmislite o imenih: Descartes in Deckard.
Kot poudarja filozof Andrew Norris, je Descartes sumil, da bo nekoč potreben preizkus, ali je nekaj človeškega ali strojnega. "Če bi obstajali stroji s podobami naših teles, ki bi lahko posnemali naša dejanja, kolikor je to mogoče, bi še vedno ostala dva najbolj zanesljiva testa, s katerimi bi vedeli, da v resnici niso moški, " je zapisal Descartes. Tako je ustvaril svoje lastne teste, ki so se opirali na jezikovne sposobnosti in prožnost vedenja.
Replikanti govorijo in se obnašajo tako kot ljudje, kar pomeni, da bi prestali Descartesove teste. Toda obstaja še en razlog, da se Deckard bori, da bi ovrgel njihovo človečnost: Replikanti imajo tudi implantirane spomine. Za angleškega filozofa Johna Lockeja je tisto, kar človeku daje občutek sebe, kontinuiteta njihovih spominov. Človeško telo se s časom spreminja, vendar spomini ostajajo, kar ponuja temelje za stabilno identiteto. "Kolikor je mogoče to zavest razširiti nazaj na katero koli preteklo Dejanje ali Misel, tako daleč doseže identiteto te Osebe, " je zapisal Locke.
Torej za Rachael Blade Runner, najnaprednejšo razmnoževalko, ki je bila še razvita, ni pomembno, da bo morda stara le nekaj let; njeni spomini se raztezajo veliko dlje, kar daje vtis, da je živela veliko dlje. Zaradi tega je Rachael tako tragična figura - njeni »spomini« ne pripadajo njej. Izvirajo od nečakinje njene izumiteljice.
"To je srhljiva stvar, vendar si lahko predstavljate [spomini] so ji še vedno posebni, tudi ko izve, da niso resnično njeni, " pravi Susan Schneider, profesorica filozofije na Univerzi v Connecticutu in članica Etike in tehnologije skupina na Yaleu. "To je tako, kot če bi ugotovili, da ste naložili kopijo, ne pa posameznik, ki nalaga kopijo. Vendar imaš še vedno nekaj posebnega odnosa do njih. Kot starš. "
Toda v Blade Runnerju človek ni samo spomini ali racionalnost. Najpomembneje je, da je glede na test Voight-Kampff empatija. Ker ne moremo brati misli ali videti fizičnih dokazov o njih, so misleci, kot je nemški filozof Theodor Lipps, trdili, da lahko zaznamo, da drugi čutijo in ravnajo kot mi s pomočjo empatije.
Harrison Ford kot Rick Deckard izvaja preizkus Voight-Kampff v originalnem rezilo Blade Runner. (Warner Bros.) "Tekač rezila mora, ironično dovolj, preizkusiti empatijo drugih - ne tu v Lippsovem pomenu, ampak v njihovi občutljivosti za zdaj izgubljeni naravni svet, ki ga naseljujejo človeške živali, " Norris piše v svojem prispevku filozofija filma. Od tod izvira znamenito vprašanje o želvah, ujetih na hrbtu, v puščavi.
"Čustva sama po sebi nikoli ne bodo popoln preizkus človečnosti: sociopati so navsezadnje tudi ljudje, " je po elektronski pošti dejala Deborah Knight, profesorica filozofije na univerzi Queen. "Ampak čustva so več kot nekognitivni odzivi. Pomagajo nam pri presojanju o tem, kaj bi morali storiti in k čemur naj si prizadevamo. "
To je še posebej jasno v primeru replikanta Roya Battyja, ki ga igra Rutger Hauer. Roy čuti človeška čustva in ima težnje, vendar nima življenjske dobe, je dejal Knight. Roy se zaveda, da so ga, tako kot druge replikante, tudi po štirih letih zgradili, da umre, kar ga razumljivo razjezi.
Tako replikanci zagotovo čutijo čustva in imajo spomine. Ali jih to dela človeka? Dokončni odgovor za Schneider ni nujno pomemben. Replikanti si delijo dovolj lastnosti s človekom, da si zaslužijo zaščito. "To je zelo močan primer obravnave [nečloveka] z enakimi zakonskimi pravicami, kot jih dajemo človeku. Ne bi imenovali [Rachel] človeka, ampak morda osebo, "pravi.
Za Eric Schwitzgebel, profesor filozofije na kalifornijski univerzi v Riversideju, je zaključek še bolj dramatičen. "Če bomo nekoč ustvarili robote s človeško podobnimi kognitivnimi in čustvenimi sposobnostmi, jim dolgujemo več moralnega premisleka, kot bi ga običajno dolgali sicer podobnim človeškim bitjem, " piše v Aeonu. »Bili bomo njihovi ustvarjalci in oblikovalci. Tako smo neposredno odgovorni tako za njihov obstoj kot za njihovo srečno ali nesrečno stanje. "
***
Blade Runner je samo film in ljudje še vedno niso uspeli ustvariti replikatorjev. Vendar smo dosegli veliko napredka na področju umetne inteligence, od samovozečih avtomobilov, ki so se učili prilagajanja na človeške napake, do nevronskih mrež, ki se med seboj prepirajo, da postanejo pametnejši. Zato imajo za Schneider vprašanja, ki jih film postavlja o naravi človeštva in kako lahko obravnavamo androide, pomembne posledice v resničnem svetu.
"Ena izmed stvari, ki jo počnem, je razmišljanje o tem, ali se mi bo kdaj zdelo, da bi bil AI. Ali bo kdaj obstajala Rachael? "Pravi Schneider, ki v svojem razredu o filozofiji v znanstvenih fikcijah uporablja Blade Runner. Letos je Schneider objavil članek o testu, ki ga je razvila z astrofizikom Edwinom Turnerjem, da bi odkrila, ali je mehanično bitje dejansko zavestno. Tako kot test Voight-Kampff, tudi ta temelji na vrsti vprašanj, toda namesto da bi zahteval prisotnost empatije - občutkov, ki so usmerjeni v drugega, gleda na občutke, da sem jaz. Test, imenovan test zavesti AI, je v postopku patentiranja na Princetonu.
Test se razlikuje od bolj znanega Turingovega testa, ki ga je razvil matematik Alan Turing leta 1951. V tem prejšnjem testu bi sodnik sodeloval v digitalnem pogovoru z udeležencem (kot je tisto, kar bi danes doživeli v klepetalnicah) in postavljal vprašanja, da bi razbral ali je bil anketiranec človek ali stroj. A kot poudarja Schneiderjeva v svojem prispevku, lahko znanstveniki razvijejo programe, ki so opravili Turingov test, vendar niso zavestna bitja. Turingov test želi oceniti resničnost med odzivom stroja in človekovim odzivom, ne pa z razumevanjem, ali je stroj čutljiv ali ne. Tako kot test Voight-Kampff je tudi pri Schneiderjevem AI zavestnem poskusu razumeti, kaj se dogaja znotraj stroja.
Delo, kot je to, je nujno, saj pravi, da človeštvo ni etično pripravljeno na reševanje posledic ustvarjanja čutečega življenja. Kar bo presojalo naše stvaritve še težje, je človeško zanašanje na antropomorfizem, ki nakazuje, kaj naj bi štelo za bitje, vredno moralnega premisleka. "Nekateri [roboti] so videti človeški ali so luštni in puhasti, zato mislimo na svoje mačke in pse, " pravi Schneider. "Naredi nas, da verjamemo, da se počutijo. Zelo smo lahkoverni. Lahko se izkaže, da so lahko samo biološki sistemi zavestni ali da so najpametnejši AI tisti zavestni, tiste stvari, ki niso videti človeške. "
Za znanstvenike je pomembno, da se pogovarjajo s filozofi - kar mnogi že počnejo, pravi Schneider -, vendar tudi za javnost, ki razmišljajo o posledicah te vrste tehnologije. In, dodaja, se vsi naravoslovci ne strinjajo z naravo zavesti, zato ni lahkih odgovorov.
Mogoče nas bodo hollywoodski filmi, kot je Blade Runner: 2049, še korak bližje vključevanju v te pogovore. Če pa ne gre, bomo morali sami prevzeti delo vstopa v etično tremo. Prej kot slej - ali bomo naleteli na težavo, kot so replikanti, in ne vem, kako se odzvati.
