Umetna inteligenca je od R2-D2 že daleč. V teh dneh bi večino tisočletnic izgubili brez pametnih sistemov GPS. Roboti že krmarijo po bojiščih in brezpilotni letali bodo morda kmalu dostavili pakete Amazon na naša praga.
Siri lahko reši zapletene enačbe in ti pove, kako kuhati riž. Dokazala je celo, da lahko na vprašanja odgovori tudi s smislom za humor.
Toda vsi ti napredki so odvisni od uporabnika, ki daje smer AI. Kaj bi se zgodilo, če bi se GPS-enote odločile, da ne želijo hoditi na kemične čistilnike, ali še huje, Siri se je odločila, da bi lahko postala pametnejša brez vas?
Naš zadnji izum: umetna inteligenca in konec človeške dobe. ">
Naš zadnji izum: Umetna inteligenca in konec človeške dobe. ">" Preden delimo planet s super inteligentnimi stroji, moramo razviti znanost za njihovo razumevanje. V nasprotnem primeru bodo prevzeli nadzor, "pravi avtor James Barrat o svoji novi knjigi Naš končni izum: Umetna inteligenca in konec človeške dobe (z dovoljenjem Jamesa Barrata) To so le najtemnejši rezultati James Barrat, avtor in ustvarjalec dokumentarnih filmov, napoveduje v svoji novi knjigi Naš končni izum: Umetna inteligenca in konec človeške dobe .
Pred kratkim, pravi Barrat, bo umetna inteligenca - od Siri do dronov in sistemov za rudarjenje podatkov - nehala iskati ljudi za nadgradnje in sama začela iskati izboljšave. A za razliko od znanstvenih fantastik R2-D2 in HALs naša AI prihodnost ne bo nujno prijazna, pravi: dejansko bi lahko bili tisto, kar nas uniči.
Na kratko lahko razložite svojo veliko idejo?
V tem stoletju bodo znanstveniki ustvarili stroje z inteligenco, ki je enaka in potem presega našo. Toda preden delimo planet s super inteligentnimi stroji, moramo razviti znanost za njihovo razumevanje. V nasprotnem primeru bodo prevzeli nadzor. In ne, to ni znanstvena fantastika.
Znanstveniki so že ustvarili stroje, ki so v šahu boljši od ljudi, Jeopardy!, navigacija, rudarjenje podatkov, iskanje, dokazovanje izrek in nešteto drugih nalog. Sčasoma bodo pri raziskavah AI ustvarjeni stroji, ki so boljši od ljudi
Takrat bodo lahko zelo hitro izboljšali lastne zmogljivosti. Ti samopopolnilni stroji bodo zasledovali cilje, s katerimi so bili ustvarjeni, najsi bodo to raziskovanje vesolja, igranje šaha ali nabiranje zalog. Za uspeh bodo iskali in porabljali sredstva, pa naj bodo to energija ali denar. Skušali se bodo izogniti načinom napak, kot so izklopljeni ali izključeni iz omrežja. Skratka, razvili bodo pogone, vključno s samozaščito in pridobivanjem virov - pogone, podobne lastnim. Ne bodo oklevali prositi, izposojati, krasti in še huje, da bi dobili tisto, kar potrebujejo.
Kako vas je zanimala ta tema?
Sem režiser dokumentarnih filmov. Leta 2000 sem intervjuval z izumiteljem Rayom Kurzweilom, robotikom Rodneyjem Brooksom in znanstveno-fantastično legendo Arthurjem C. Clarkeom za film TLC o nastanku romana in filma, 2001: Vesoljska odiseja. Intervjuji so raziskovali idejo Hal 9000 in zlonamerne računalnike. Kurzweilove knjige prikazujejo AI prihodnost kot vrtoglavo "posebnost", obdobje, ko tehnološki napredek prehiteva človekovo sposobnost, da jih razume. Kljub temu je predvideval le dobre stvari, ki izhajajo iz AI, ki so dovolj močne, da se lahko ujemajo in potem presegajo človeško inteligenco. Napoveduje, da bomo celice svojih teles lahko reprogramirali, da bodo premagali bolezni in staranje. Razvili bomo super vzdržljivost z nanoboti, ki oddajo več kisika kot rdeče krvne celice. Možgane bomo napolnili z računalniškimi vsadki, da bomo postali superinteligentni. In naše možgane bomo prenesli na trpežnejši medij od sedanjega "mokrega" in živeli za vedno, če želimo. Brooks je bil optimističen in je vztrajal, da bodo roboti z AI zavezniki in ne grožnje.
Na drugi strani je bil avtor Clarke pesimističen. Rekel mi je, da bo inteligenca zmagala in da se bodo ljudje verjetno preživeli s super inteligentnimi stroji. Ni bil natančen glede tega, kaj se bo zgodilo, ko bomo planet delili s super inteligentnimi stroji, vendar je menil, da ne bo zmagalo človeštvo.
To je bilo v nasprotju z vsem, kar sem mislil o AI, zato sem začel pogovarjati s strokovnjaki za umetno inteligenco.
Katere dokaze imate v podporo svoji ideji?
Napredna umetna inteligenca je tehnologija z dvojno rabo, kot je jedrska cepitev, ki lahko prinese veliko koristi ali velike škode. Šele začnemo opažati škodo.
Do škandala z zasebnostjo NSA je prišlo, ker je NSA razvila zelo sofisticirana orodja za rudarjenje podatkov. Agencija je uporabila svoje moči, da je prekrila metapodatke o milijonskih telefonskih klicev in celotnem internetu - kar je kritično, vsa e-pošta. Agencija, ki jo je zaupala zaščita ustave, je namesto tega zlorabila agencijo, ki ji je bila zaupana zaščita ustave. Razvili so preveč močna orodja, da bi jih lahko odgovorno uporabljali.
Danes se pripravlja nova etična bitka za izdelavo popolnoma avtonomnih brezpilotnih brezpilotnih letal in bojnih polj, ki jih poganja napredni AI - človek-morilci brez ljudi v zanki. Med ministrstvom za obrambo ter proizvajalci dronov in robotov, ki jih plačuje DOD, se pripravljajo ljudje in za katere menijo, da je pametno in nemoralno ustvariti inteligentne naprave za ubijanje. Zagovorniki avtonomnih brezpilotnih letal in robotov bojnih polj trdijo, da bodo bolj moralni, torej manj čustveni, ciljali bodo bolje in bili bolj disciplinirani kot človeški operaterji. Tisti, ki nasprotujejo temu, da bi ljudi izvlekli iz zanke, si ogledujejo bedno zgodovino ubijanja civilistov in udeležbo v zunajzakonitih atentatih. Kdo prevzema moralno krivdo, ko robot ubije? Izdelovalci robotov, uporabniki robotov ali nihče? Ne pozabite na tehnične ovire pripovedovanja prijatelja od sovražnika.
Kot trdijo strokovnjaki v moji knjigi, dolgoročno gledano , AI, ki se približuje inteligenci na človeški ravni, ne bo zlahka nadzorovan; žal super-inteligenca ne pomeni naklonjenosti. Kot pravi teoretičar AI Eliezer Yudkowsky iz MIRI (Inštitut za strojno inteligenco), "AI vas ne ljubi in ne sovraži, vendar ste sestavljeni iz atomov, ki jih lahko uporabi za kaj drugega." Če etika ne more vgrajeni v stroj, potem bomo ustvarjali super inteligentne psihopate, bitja brez moralnih kompasov in dolgo ne bomo njihovi gospodarji.
Kaj je novega v vašem razmišljanju?
Posamezniki in skupine, raznoliki kot ameriški računalničar, Bill Joy in MIRI, že dolgo opozarjajo, da se moramo bati pred stroji, katerih inteligenca zasenči našo. V Naši končni iznajdbi trdim, da bo AI zlorabljen tudi na razvojni poti do inteligence na človeški ravni. Med današnjim in današnjim dnem, ko bodo znanstveniki ustvarili inteligenco na človeški ravni, bomo imeli napake, povezane z AI, in kaznive prijave.
Zakaj ni bilo storjenega več ali, kar se naredi, da se AI ustavi na nas?
Ni enega razloga, vendar je veliko. Nekateri strokovnjaki ne verjamejo, da smo dovolj blizu, da ustvarjamo umetno inteligenco na ravni ljudi in dlje, da bi skrbeli za svoja tveganja. Mnogi proizvajalci AI osvojijo pogodbe z agencijo za napredne obrambne raziskovalne projekte v obrambi (DARPA) in ne želijo postavljati vprašanj, ki se jim zdijo politična. Navadna pristranskost je kognitivna pristranskost, ki ljudem preprečuje, da bi se odzvali na katastrofe in katastrofe v nastajanju - to je vsekakor del tega. Toda veliko proizvajalcev AI nekaj počne. Oglejte si znanstvenike, ki svetujejo MIRI. In še veliko več se bo vključilo, ko bodo nevarnosti naprednega AI vstopile v glavni dialog.
Lahko opišete trenutek, ko ste vedeli, da je to veliko?
Ljudje usmerjamo prihodnost ne zato, ker smo najhitrejša ali najmočnejša bitja na planetu, temveč zato, ker smo najbolj pametni. Ko delimo planet s bitji, pametnejšimi od sebe, bodo usmerjala prihodnost. Ko sem razumela to idejo, sem čutila, da pišem o najpomembnejšem vprašanju našega časa.
Vsak veliki mislilec ima predhodnike, katerih delo je bilo ključno za njegovo odkritje. Kdo ti je dal temelje za gradnjo tvoje ideje?
Temelje analize tveganja AI je razvil matematik IJ Good, pisatelj znanstvene fantastike Vernor Vinge in drugi, vključno z razvijalcem AI Steve Omohundro. Danes sta MIRI in Oxford Institut za prihodnost človeštva skoraj sama pri reševanju te težave. Naš končni izum ima približno 30 strani opomb, ki priznavajo te mislece.
Kaj je bilo pomembno pri raziskovanju in razvoju vaše ideje? In nizka točka?
Najpomembnejša vprašanja so bila naša Končna iznajdba in moj stalni dialog z ustvarjalci AI in teoretiki. Ljudje, ki programirajo AI, se zavedajo varnostnih težav in želijo pomagati pri pripravi zaščitnih ukrepov. Na primer, MIRI deluje na ustvarjanju "prijaznega" AI
Računalničar in teoretik Steve Omohundro se je zavzel za pristop "odrov", v katerem dokazljivo varen AI pomaga graditi novo generacijo AI, da bi zagotovili, da je tudi ta varna. Potem ta AI počne isto in tako naprej. Mislim, da je treba ustvariti javno-zasebno partnerstvo, ki bo oblikovalo proizvajalce AI skupaj, da bi delili ideje o varnosti - nekaj takega, kot je Mednarodna agencija za atomsko energijo, vendar v partnerstvu s korporacijami. Nizke točke? Zavedajoč se, da bo za ustvarjanje orožja uporabljena najboljša, najbolj napredna tehnologija AI. In to orožje se bo sčasoma obrnilo proti nam.
Kateri dve ali tri osebe najverjetneje poskušajo ovrgat vaš argument? Zakaj?
Izumitelj Ray Kurzweil je glavni opravičevalec naprednih tehnologij. V mojih dveh intervjujih z njim je trdil, da se bomo s tehnologijami AI spopadli s kognitivnimi izboljšavami. Kurzweil in ljudje, poimenovani transhumanisti in singularitarji, mislijo, da se bo pri nas razvila AI in na koncu umetna splošna inteligenca in naprej. Računalniški vsadki bodo na primer izboljšali hitrost naših možganov in splošne zmogljivosti. Sčasoma bomo razvili tehnologijo za prenos naše inteligence in zavesti v računalnike. Potem bo super inteligenca vsaj deloma človeška, kar bi v teoriji zagotavljalo, da je super inteligenca "varna."
Zaradi več razlogov nisem ljubitelj tega stališča. Težava je v tem, da mi ljudje nismo zanesljivo varni in zdi se malo verjetno, da bodo bili tudi super inteligentni ljudje. Pojma nimamo, kaj se zgodi s človekovo etiko, ko se poveča njihova inteligenca. Imamo biološko osnovo za agresijo, ki je strojev primanjkuje. Super inteligenca bi lahko zelo pomenila agresijski multiplikator.
Koga bo ta ideja najbolj prizadela?
Vsi na planetu se veliko bojijo neurejenega razvoja super inteligentnih strojev. Zdaj se nadaljuje obveščevalna dirka. Doseganje AGI je zaposlitev številka ena za Google, IBM in številna manjša podjetja, kot so Vicarious in Deep Thought, pa tudi DARPA, NSA ter vlade in podjetja v tujini. Dobiček je glavna motivacija za to dirko. Predstavljajte si en verjeten cilj: virtualni človeški možgani za ceno računalnika. To bi bilo najbolj donosno blago v zgodovini. Predstavljajte si banke tisoč možganov doktorskega zdravja, ki 24/7 delujejo na področju farmacevtskega razvoja, raziskav raka, razvoja orožja in še veliko več. Kdo ne bi želel kupiti te tehnologije?
Medtem 56 držav razvija robote na bojiščih, njihov cilj pa je, da postanejo droni samostojni. To bodo stroji, ki ubijajo, brez nadzora ljudi. Ugrožene narode bodo najbolj prizadeli avtonomni brezpilotni letali in bojni roboti. Sprva si bodo samo bogate države lahko privoščile avtonomne bote za ubijanje, zato bodo bogate države orožje držale proti človeškim vojakom iz obubožanih držav.
Kako lahko spremeni življenje, kot ga poznamo?
Predstavljajte si: v samo desetletju pol ducata podjetij in držav obdelujejo računalnike, ki tekmujejo ali presegajo človeško inteligenco. Predstavljajte si, kaj se zgodi, ko ti računalniki postanejo strokovnjak za programiranje pametnih računalnikov. Kmalu bomo planet delili s stroji, tisoč ali milijoni krat bolj pametnimi, kot smo. In ves čas bo vsaka generacija te tehnologije oborožena. Neurejeno bo katastrofalno.
Katera vprašanja ostanejo brez odgovora?
Rešitve. Očitna rešitev bi bila dati strojem moralni smisel, zaradi katerega so vredni človeškega življenja in premoženja. Toda programiranje etike v stroj se izkaže za izjemno naporno. Moralne norme se od kulture do kulture razlikujejo, sčasoma se spreminjajo in so kontekstualne. Če se ljudje ne moremo dogovoriti o tem, kdaj se začne življenje, kako naj povemo stroj za zaščito življenja? Ali res želimo biti na varnem ali resnično želimo biti svobodni ? O tem lahko razpravljamo ves dan in ne dosežemo soglasja, kako naj to sploh programiramo?
Kot sem že omenil, moramo tudi razviti AI razvijalce. V 70. letih prejšnjega stoletja so se rekombinantni raziskovalci DNK odločili, da prekinejo raziskave in se skupaj sestanejo na konferenci v Asilomarju v Pacific Groveu v Kaliforniji. Razvili so osnovne varnostne protokole, kot so "ne izsledite DNK na vaših čevljih", zaradi strahu pred onesnaženjem okolja z genetskimi deli, ki so v teku. Svet ima zaradi "smernic Asilomar" koristi od gensko spremenjenih pridelkov, zato je genska terapija videti obetavna. Kolikor vemo, smo se izognili nesrečam. Čas je za konferenco Asilomar za AI
Kaj vam stoji na poti?
Ogromen gospodarski veter spodbudi razvoj napredne inteligence na ravni človeške AI po ceni računalnika in bo najbolj vroča dobrina v zgodovini. Google in IBM nočeta deliti svojih skrivnosti z javnostjo ali konkurenti. Ministrstvo za obrambo ne bo hotelo odpreti svojih laboratorijev na Kitajskem in v Izraelu, in obratno. Ozaveščenost javnosti mora usmeriti politiko k odprtosti in javno-zasebnim partnerstvom, namenjenim zagotavljanju varnosti.
Kaj je naslednje za vas?
Sem režiser dokumentarnih filmov, zato seveda razmišljam o filmski različici Našega zadnjega izuma .
