Vsak dan iz neštetih virov po vsem svetu izhaja nešteto naslovov, ki opozarjajo na hude posledice in obetajočo utopično prihodnost - vse zahvaljujoč umetni inteligenci. AI "spreminja delovno mesto, " piše Wall Street Journal, medtem ko revija Fortune govori, da se soočamo z "AI revolucijo", ki nam bo "spremenila življenje." Toda v resnici ne razumemo, kakšno bo interakcija z AI - ali kako bi moralo biti.
Vendar se izkaže, da že imamo koncept, ki ga lahko uporabimo, ko razmišljamo o AI: Tako razmišljamo o živalih. Kot nekdanji trener živali (čeprav na kratko), ki zdaj preučuje, kako ljudje uporabljajo AI, vem, da nas lahko usposabljanje živali in živali precej nauči o tem, kako bi morali razmišljati, pristopiti in komunicirati z umetno inteligenco, tako zdaj kot v prihodnost.
Uporaba živalskih analogij lahko rednim ljudem pomaga razumeti številne zapletene vidike umetne inteligence. Prav tako nam lahko pomaga razmišljati o tem, kako je najbolje, da te sisteme naučimo novih veščin in, kar je najpomembneje, kako lahko pravilno razumemo njihove omejitve, tudi ko proslavljamo nove možnosti AI.
Če pogledamo omejitve
Kot je pojasnila strokovnjakinja za AI Maggie Boden, "Umetna inteligenca skuša računalnike narediti na takšen način, kot to lahko počnejo umovi." Raziskovalci AI delajo na tem, da računalnike učijo razmišljati, zaznavati, načrtovati, premikati in ustvarjati povezave. AI lahko vidi vzorce v velikih zbirkah podatkov, napoveduje verjetnost dogodka, načrtuje pot, upravlja urnik sestankov in celo igra scenarije vojnih iger.
Mnoge od teh zmogljivosti same po sebi niso presenetljive: Seveda se robot lahko valja po prostoru in ne trči v nič. A nekako se mi zdi AI bolj čarobno, ko računalnik začne te veščine sestavljati za izvajanje nalog.
Vzemite na primer avtonomne avtomobile. Začetki avtomobila brez voznikov so v projektu agencije za napredne raziskave obrambnih projektov iz osemdesetih let, imenovanem Avtonomno kopensko vozilo. Cilji projekta so bili spodbuditi raziskave računalniškega vida, zaznavanja, načrtovanja in robotskega nadzora. Leta 2004 je prizadevanje ALV postalo prvi Grand Challenge za samovozeče avtomobile. Zdaj, več kot 30 let od začetka napora, smo na oborju avtonomnih ali samovozečih avtomobilov na civilnem trgu. V zgodnjih letih je malo ljudi menilo, da je tak podvig nemogoč: Računalniki ne morejo voziti!
Pa vendar, kot smo videli, lahko. Zmogljivosti avtonomnih avtomobilov nas razmeroma enostavno razumejo. A trudimo se razumeti njihove omejitve. Po usodni nesreči leta 2015 Tesla, kjer funkcija avtopilota avtomobila ni zaznala prehoda traktor-priklopnika na njegov vozni pas, se še vedno zdi, da nekateri še ne dojemajo resnosti omejenosti Teslovega avtopilota. Medtem ko je podjetje in njegovo programsko opremo nacionalna uprava za cestni promet očistila malomarnosti, še vedno ni jasno, ali kupci res razumejo, kaj avtomobil lahko in česa ne zmore.
Kaj pa, če lastnikom Tesle ne bodo rekli, da vozijo "beta" različico avtopilota, temveč polavtonomni avto z mentalno enakovrednostjo črvov? Tako imenovana "inteligenca", ki zagotavlja "popolno sposobnost samopogona", je res velikanski računalnik, ki precej dobro zaznava predmete in se jih izogiba, prepoznava elemente na slikah in omejeno načrtovanje. To bi lahko spremenilo perspektive lastnikov o tem, koliko avtomobila lahko resnično stori brez človeškega prispevka ali nadzora.
Kaj je to?
Tehnologi pogosto skušajo razložiti AI v smislu, kako je zgrajena. Vzemimo za primer napredek, pridobljen pri globokem učenju. To je tehnika, ki uporablja večplastna omrežja za učenje naloge. Omrežja morajo obdelati ogromno količino informacij. Toda zaradi obsežnosti podatkov, ki jih potrebujejo, zahtevnosti asociacij in algoritmov v omrežjih, človeku pogosto ni jasno, kako se naučijo, kaj počnejo. Ti sistemi lahko postanejo zelo dobri pri določeni nalogi, vendar jih v resnici ne razumemo.
Namesto da bi o AI razmišljali kot o nečloveškem ali tujcu, jih je lažje primerjati z živalmi, inteligentnimi nečloveki, ki jih imamo na treningih.
Na primer, če bi uporabil okrepitveno učenje, da bi treniral psa, da sedi, bi ga pohvalil in mu privoščil priboljške, ko sedi na ukaz. Sčasoma se bo naučil povezovati ukaz v vedenju z priboljškom.
Trening AI sistema je lahko zelo enak. Človeški oblikovalci so v poglobljenem učenju vzpostavili sistem, predvideli, česar se želijo naučiti, mu dajali informacije, spremljali njegova dejanja in mu posredovali povratne informacije (na primer pohvale), ko vidijo, kaj hočejo. V bistvu lahko z AI sistemom ravnamo tako kot z živalmi, ki jih treniramo.
Analogija deluje tudi na globlji ravni. Ne pričakujem, da bo sedeči pes razumel zapletene koncepte, kot sta "ljubezen" ali "dobro." Pričakujem, da se bo naučil vedenja. Tako kot bomo lahko pse sedeli, se zadrževali in prevračali, lahko dobimo AI sisteme za premikanje avtomobilov po javnih cestah. A preveč je pričakovati, da bo avtomobil rešil etične težave, ki lahko nastanejo v nujnih primerih.
Pomaga tudi raziskovalcem
Razmišljanje o AI kot trenirani živali ni koristno le za njegovo razlago širši javnosti. V pomoč je tudi raziskovalcem in inženirjem, ki gradijo tehnologijo. Če znanstvenik AI poskuša sistem naučiti nove spretnosti, bi lahko razmišljanje o procesu z vidika trenerja živali pomagalo prepoznati morebitne težave ali zaplete.
Na primer, če poskušam svojega psa usposobiti, da sedi, in vsakič, ko rečem "sedi", se zvonec odpravi v pečico, potem bo moj pes začel sedeti ne samo z mojim ukazom, ampak tudi z zvokom piščalka. V bistvu brenčalec postane še en signal, ki psu pokaže, da sedi, kar imenujemo "naključna ojačitev." Če poiščemo naključne ojačitve ali signale v sistemih AI, ki ne delujejo pravilno, potem bomo bolje vedeli ne le, kaj se dogaja narobe, ampak tudi, katera specifična preusposabljanja bodo najbolj učinkovita.
Zaradi tega moramo razumeti, kakšna sporočila dajemo med usposabljanjem za AI, in kaj lahko AI opazuje v okolju. Zvočnik v pečici je preprost primer; v resničnem svetu bo veliko bolj zapleteno.
Preden bomo pozdravili svoje nadrejene AI in svoje življenje in delovna mesta predali robotom, bi morali začasno ustaviti in razmisliti o vrsti inteligenc, ki jih ustvarjamo. Zelo dobro bodo opravljali določena dejanja ali naloge, vendar ne morejo razumeti konceptov in ničesar ne vedo. Ko torej razmišljate o tem, da bi izstrelili tisoče novih vozil Tesle, se spomnite, da je njegova funkcija avtopilota le zelo hiter in seksi črv. Ali res želite podati nadzor nad svojim življenjem in življenjem svojih bližnjih? Verjetno ne, zato držite roke za volanom in ne zaspite.
Ta članek je bil prvotno objavljen na pogovoru.
Heather Roff, višja znanstvena sodelavka, Oddelek za politiko in mednarodne odnose, Univerza v Oxfordu; Raziskovalni znanstvenik, Global Security Initiative, Arizona State University
