Veliko razprav in etičnih razmišljanj o samovozečih avtomobilih se je osredotočilo na tragične dileme, denimo na hipotetike, v katerih se mora avtomobil odločiti, ali bo naletel na skupino šolarjev ali se spustil s pečine, pri čemer ubija lastne potnike. Toda takšne situacije so skrajni primeri.
Kot kaže zadnja nesreča - v kateri je osebni avtomobil ubil pešca v mestu Tempe v Arizoni - kaže, da so vsakodnevne situacije na vsakem križišču, zavoju in križišču bistveno težje in širše etične težave.
Etika skrajnosti
Kot filozof, ki je sodeloval z inženirji v Stanfordskem centru za avtomobilistično raziskovanje, sem bil sprva presenečen, da smo sestanki v laboratorijih pogovarjali o tem, kaj se mi je zdelo enostavno vprašanje: Kako naj se samovozni avtomobil približa križanju?
Moja domneva je bila, da bomo razmišljali o tem, kako naj avtomobil odloča med življenjem svojih potnikov in življenjem pešcev. Vedel sem, kako razmišljati o takih dilemah, ker ti scenariji zrušitve spominjajo na slavnega filozofskega mojsterja, imenovanega "težava s vozički." enega ubiti, da reši pet?
Vendar danes mnogi filozofi dvomijo, da je raziskovanje takšnih vprašanj plodna pot raziskovanja. Barbara Fried, sodelavka na Stanfordu, je na primer trdila, da tragične dileme ljudi verjamejo, da se etične težave pogosto pojavljajo v skrajnih in hudih okoliščinah.
Pravzaprav so etične ovire vseprisotne. Vsakodnevne, vsakdanje situacije so presenetljivo zmedene in zapletene, pogosto na subtilne načine. Na primer: Ali bi moralo vaše mesto porabiti denar za program preprečevanja sladkorne bolezni ali za več socialnih delavcev? Ali mora vaš lokalni oddelek za javno zdravje najeti drugega inšpektorja za higienske standarde restavracij ali nadaljevati s programom brezplačnih igel in zalog za injiciranje?
Na ta vprašanja je izredno težko odgovoriti zaradi negotovosti glede posledic - na primer, kdo bo prizadet in v kakšni meri. Rešitve, ki so jih filozofi predlagali za ekstremne in obupane situacije, so tukaj malo v pomoč.
Podobna je težava pri samovozečih avtomobilih. Razmišljanje o ekstremnih situacijah in scenarijih zrušitve ne more pomagati odgovoriti na vprašanja, ki se pojavljajo v vsakdanjem položaju.
Izziv na križiščih
Lahko bi se vprašali, kaj je lahko tako naporno v prometnih situacijah, kot so približevanje križišču, vožnja skozi križišče ali zavijanje v levo. Tudi če je vidnost na križišču omejena in je včasih težko ugotoviti, ali želi bližnji pešec dejansko prečkati ulico, se vozniki s tem spopadajo vsak dan.
Toda za samovozeče avtomobile takšne vsakdanje situacije predstavljajo izziv na dva načina.
Preprosto za ljudi pogosto pomeni težko za računalnike. (XKCD, CC BY-SA) Prvič, obstaja dejstvo, da je tisto, kar je enostavno za ljudi, pogosto težko za stroje. Ne glede na to, ali gre za prepoznavanje obrazov ali vožnjo s kolesom, smo dobri v dojemanju in mehaničnih nalogah, ker je evolucija te veščine gradila prav za nas. Zaradi tega je te veščine težko naučiti ali inženirati. To je znano kot "Moravčev paradoks."
Drugič, v prihodnosti, ko bi bili vsi avtomobili samovozeči avtomobili, bi majhne spremembe v obnašanju vožnje močno vplivale na agregat. Odločitve inženirjev, ki jih danes sprejemajo, z drugimi besedami, ne bodo določale, kako se vozi en avto, ampak kako vozijo vsi avtomobili. Algoritmi postanejo politika.
Inženirji učijo računalnike, kako prepoznati obraze in predmete z uporabo metod strojnega učenja. Strojno učenje lahko uporabljajo tudi za pomoč pri samostojni vožnji avtomobilov, ki posnemajo, kako ljudje vozijo. Vendar to ni rešitev: problem ne rešuje, da inženirji sprejemajo obsežne odločitve o varnosti in mobilnosti.
Poleg tega osebni avtomobili ne bi smeli voziti kot ljudje. Ljudje pravzaprav niso zelo dobri vozniki. In vozijo se na etično moteče načine, pri čemer se odločajo, ali bodo na križišču, glede na starost, raso in dohodek pešcev. Raziskovalci iz Portlanda so na primer ugotovili, da črni pešci peljejo dvakrat več avtomobilov in so morali čakati tretjino dlje kot beli pešci, preden lahko prestopijo.
Samovozeči avtomobili bi morali voziti varneje in pravičneje kot ljudje.
Mirna etika
Etični problemi se poglabljajo, ko se udeležiš navzkrižja interesov, ki se pojavljajo v dnevnih situacijah, kot so križišča, zavoji in križišča.
Na primer, zasnova samovozečih avtomobilov mora uravnotežiti varnost drugih - pešcev ali kolesarjev - z interesi potnikov avtomobilov. Takoj, ko gre avtomobil hitreje od hitrosti hoje, ne more preprečiti, da bi se v zadnji sekundi zaletel na otroka, ki bi lahko naletel na cesto. Toda hoja je seveda preveč upočasnjena. Vsi morajo priti do krajev. Kako naj inženirji dosežejo ravnovesje med varnostjo in mobilnostjo? In kakšna hitrost je dovolj varna?
Pojavljajo se tudi druga etična vprašanja. Inženirji morajo opraviti kompromise med mobilnostjo in vplivi na okolje. Če se uporabljajo v vseh avtomobilih v državi, lahko majhne spremembe računalniško nadzorovanega pospeševanja, zaviranja in zaviranja močno vplivajo na porabo energije in emisije onesnaževanja. Kako naj inženirji trgujejo z učinkovitostjo potovanja z vplivom na okolje?
Kakšna naj bo prihodnost prometa?
Okoliške situacije predstavljajo nove inženirske in etične težave, hkrati pa ljudi sprašujejo tudi o osnovnih predpostavkah prometnega sistema.
Zase sem se začel spraševati, ali sploh potrebujemo mesta, imenovana "križišča"? Konec koncev lahko samovozeči avtomobili kamorkoli varno prečkajo cesto.
In samo križišča ne postanejo nepotrebna. Tudi semaforji na križiščih so lahko preteklost. Ljudje potrebujejo semaforje, da se prepričajo, da bodo vsi presekali križišče brez trka in kaosa. Toda samovozeči avtomobili bi se lahko med seboj nemoteno usklajevali.
Tukaj je večje vprašanje: Glede na to, da so samovozeči avtomobili boljši od človeških voznikov, zakaj bi morali za avtomobile veljati pravila, ki so bila zasnovana za človeško napačnost in človeške napake? In za razširitev tega miselnega eksperimenta razmislite tudi o splošnejšem vprašanju: Če bi kot družba lahko načrtovali svoj prometni sistem iz nič, kako bi radi izgledali?
Ker ta težka vprašanja zadevajo vse v mestu ali družbi, od mesta ali družbe zahtevajo, da se dogovorijo o odgovorih. To pomeni uravnotežiti konkurenčne interese na način, ki deluje vsem - pa naj ljudje mislijo samo na križišče ali pa na celoten prometni sistem.
Z lastnimi vozili lahko društva prenovijo svoje prometne sisteme. Od križišča do celostne prometne zasnove - vsakdanje situacije postavljajo res težka vprašanja. Ekstremne situacije so distrakcija.
Težava z vozički ne odgovarja na ta težka vprašanja.
Ta članek je bil prvotno objavljen na pogovoru.
Johannes Himmelreich, sodelavec interdisciplinarne etike, Univerza v Stanfordu McCoy Družinski center za etiko v družbi
