Lani je Facebook ustvaril dve chatboti in jih prosil, naj začneta govoriti med seboj, vadijo svoje pogajalske spretnosti. Izkazalo se je, da so se boti precej dobro pogajali - vendar so to storili z lastnim izmišljenim jezikom, ki je bil ljudem nerazumljiv.
Sorodne vsebine
- Ta umetnik prebiva v tajnem svetu tajnih in nadzornih tajnosti
Tu gre svet. Računalniki ustvarjajo vsebino drug za drugega, ne mi. Slike fotografirajo računalniki, drugi računalniki pa si jih lahko ogledajo in razlagajo. Vse se dogaja tiho, pogosto brez našega vedenja ali privolitve.
Torej, učenje videza kot računalnik, ki omogoča komunikacijo med strojem in strojem, je morda najpomembnejša veščina 21. stoletja.
25. oktobra 2018 so kvarteti Kronosa - David Harrington, John Sherba, Hank Dutt in Sunny Yang - odigrali koncert v ameriškem muzeju Smithsonian. Ogledalo si jih je 400 ljudi in ducat algoritmov za umetno inteligenco, zadnja avtoriteta Trevorja Paglena, umetnika za razstavo "Nevidna mesta", ki je trenutno na ogled v muzeju.
Medtem ko so glasbeniki igrali, nam je zaslon nad ljudmi pokazal, kaj vidijo računalniki.
Ko je Kronos deloval skozi žalujoči komad, ki izvira iz Otomanskega cesarstva, so na zaslonskih algoritmih nadzemnih glasbenikov zaznali obraze glasbenikov, ki so začrtali ustnice, oči in nos vsake osebe (in občasno videli "duhove" obraze, kjer jih ni bilo - pogosto v Monos las ustanovitelja Kronosa Harrington). Ko so algoritmi postajali vse bolj napredni, je videoodtok zbledel, dokler niso ostale samo neonske črte na črnem ozadju. Končno so obrisi obraza zbledeli, dokler ni ostalo le abstraktno razporeditev linij - verjetno vsega računalnika, potrebnega za razumevanje "obraza", vendar popolnoma nerazumljivega za ljudi.
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, kvartet Kronos (Bruce Guthrie) 
"Ogledni stroj, " Trevor Paglen, kvartet Kronos Debitantska predstava z naslovom "Sight Machine", kot je Paglenovo drugo delo, je prosila gledalce in poslušalce, da se naučijo, kako je videti, kot to počnejo računalniki, in preučiti človekov odnos do tehnologije - telefonov v žepih in oči v nebo in vse vmes.
Leto 2018 je in ideja, da nas mobilni telefoni gledajo, ni več videti kot teorija zarote, ki jo postavlja bloger kleti, ki nosi kositrno folijo in klobuk. Google je bil v letošnjem letu ujet pri sledenju lokacij uporabnikov telefona Android, tudi če so uporabniki onemogočili to funkcijo. Mnogi ljudje so prepričani, da nas naši telefoni poslušajo, da bi bolje prikazovali oglase - Facebook in druga podjetja te stroške zanikajo, čeprav je to tehnično in pravno mogoče. Tehnična novinarja Alex Goldman in PJ Vogt sta raziskovala in ugotovila isto: Ni razloga, da naši telefoni ne bi poslušali, po drugi strani pa oglaševalci lahko zberejo dovolj informacij o nas z drugimi metodami, ki jih preprosto ne potrebujejo. .
V tem kontekstu je bil izveden "Sight Machine". Deset ali več kamer, ki so gledali Kronos Quartet, je od predstave pošiljal video posnetke v živo na stojalo z računalniki, ki za ustvarjanje zmernih vizualnih materialov uporabljajo neprimerne algoritme umetne inteligence. Algoritmi so enaki tistim, ki jih uporabljamo pri svojih telefonih, da nam pomagajo narediti boljše selfije, tiste, ki jih uporabljajo avtomobili, ki se vozijo sami, da se izognemo oviram, in tiste, ki jih uporabljajo organi kazenskega pregona in orožja. Medtem ko so bili rezultati na zaslonu včasih lepi ali celo smešni, je bila groza groza.
"Kar sem navdušen nad tem konkretnim delom, je, da nam pokaže nekaj, kar je - in to velja za vse njegovo delo - prikazuje nam nekaj, kar moti, in to počne s pomočjo trikov, " pravi John Jacob, kustos muzeja za fotografijo, ki je organizirala "Nevidna spletna mesta."
"To je namerni trik, " pravi, "in deluje."
Pozneje so izpopolnjeni algoritmi za prepoznavanje obraza presojali o članih Kronosa in njihove rezultate prikazovali na zaslonu. "To je John [Sherba]. John je star med 24-40 let, " je dejal računalnik. "Sunny [Yang] je 94, 4% žensk. Sončno je 80% jezno in 10% nevtralno."
"Ena od stvari, za katere upam, da se predstava kaže, " pravi Paglen, "je nekaj načinov, na katere način zaznavanja računalnikov ne deluje nevtralno. Je zelo pristranski ... z vsemi vrstami političnih in kulturnih predpostavk, ki so ni nevtralen. " Če sistem klasifikacije spola pravi, da je Sunny Yang 94, 4 odstotka žensk, potem to pomeni, da je nekdo 100 odstotkov ženskega spola. "In kdo se je odločil, kaj je 100-odstotna ženska? Je Barbie 100-odstotna ženska? In zakaj je spol dvojiški?" Vpraša Paglen. "Videti, da se to zgodi v trenutku, ko zvezna vlada poskuša dobesedno izbrisati ljudi, ki se ukvarjajo s štirinožci, je po eni strani smešno, a meni je tudi grozljivo."
Kasnejši algoritem je odstopil od odstotkov in se premaknil, da bi preprosto identificiral predmete v sceni. "Mikrofon. Violina. Oseba. Meduze. Lasulja." (Slednja dva sta očitno napaka; zdi se, da je algoritem Hank Dutt zmedel za meduze in Harringtonove prave lase za piko na i.) Nato so klasifikacije postale bolj zapletene. "Sunny drži škarje, " je rekel stroj, ko je svetloba blestela z njenih strun za violončelo. "John drži nož." Kaj bi se zgodilo, če bi klasifikator dal to - napačno - informacije organom pregona, nikoli ne bomo vedeli.
Večina končnih uporabnikov platform AI, ki niso umetniki, lahko trdijo, da imajo ti sistemi lahko lastne pristranskosti, vendar vedno prejmejo končni odjava s strani človeka. Amazonski algoritem Rekogservation, ki ga podjetje prodaja organom kazenskega pregona in morda ICE, je 28 članov kongresa očitno napačno identificiral kot ljudi, ki so bili obtoženi kaznivega dejanja, in sicer s primerjanjem njihovih obrazov z vrtiljaki v javno dostopni bazi podatkov. Takrat je Amazon trdil, da je ACLU, ki je sistem uporabljal za pripravo tekem, napačno uporabil Rekogliciranje. Družba je dejala, da je privzeta nastavitev sistema za tekme, imenovana "prag zaupanja", le 80 odstotkov. (Z drugimi besedami, algoritem je bil samo 80 odstotkov prepričan, da je bil poslanec John Lewis zločinec.) Tiskovni predstavnik Amazona je dejal, da priporoča, da policijske službe uporabljajo prag zaupanja v višini 95 odstotkov in da se "Amazon Rekogservation skoraj izključno uporablja za pomoč zožiti polje in omogočiti ljudem, da hitro pregledajo in razmislijo o možnostih, da uporabijo svojo presojo. "Računalniki morda komunicirajo med seboj, vendar - za zdaj - še vedno prosijo ljudi, da pokličejo.
Glasba, ki jo je izbral Paglen z vložkom Kronosa, ima kaj povedati tudi o tehnologiji. En del, "Powerhouse" Raymonda Scotta, je "verjetno najbolj znan po uporabi v risankah v tovarniških prizorih, " pravi Paglen. "Če kdaj opazite tovarniško prekomerno produkcijo in noro, je pogosto to glasba, ki govori o tem. Zame je to način, kako razmišljati o skorajda karikaturni industrializaciji in jih nekako umestiti v tehnološki kontekst." Še en komad, "Drugačni vlaki" Steva Reicha, je zaprl komplet. Kronos izvaja samo prvo gibanje, ki govori o Reichovem otroštvu v tridesetih in štiridesetih letih; Paglen pravi, da se mu zdi del, kot da bi slavil "občutek obilice in napredka, ki ga vlaki olajšujejo." *
Skupaj so ga spremljali slike iz javno dostopne baze podatkov, imenovane ImageNet, ki se uporabljajo za učenje računalnikov, kaj so stvari. (Imenujejo se tudi "podatki o treningih", tako da, to je malo punca.) Zaslon je utripal slike nemogoče hitro, pri čemer so prikazali primere sadja, cvetov, ptic, klobukov, ljudi, ki stojijo, ljudje hodijo, ljudje skačejo in posamezniki, kot je Arnold Schwarzenegger. Če bi želeli računalnik naučiti, kako prepoznati osebo, kot je Schwarzenegger, hišo ali koncept "večerje", bi začeli s prikazom računalnika teh tisoč slik.
Predvajali so se tudi kratki video posnetki ljudi, ki se poljubljajo, objemajo, se smejijo in smehljajo. Mogoče bi bil AI, usposobljen za te slike, dobrosrčen, prijazen.
Toda "Različni vlaki" ne gre samo za optimizem; kasnejša gibanja, ki jih Kronos ni igral v četrtek, ampak jih "implicira" prva, govorijo o tem, kako je bilo obljubo o potovanju z vlakom priseljeno postati instrument holokavsta. Vlaki, ki so bili videti kot tehnološki napredek, so postali vozila, v katerih je bilo več deset tisoč Judov preseljenih v taborišča smrti. Kar se je zdelo kot dobronamerna tehnologija, se je zlo pokvarilo.
"Kot je:" Kaj bi lahko šlo narobe? " Pravi Paglen. "Zbiramo vse informacije o vseh ljudeh na svetu."
In pravzaprav, ko so se "Različni vlaki" končali, se je fokus preusmeril. Na zaslonu niso bile več slike Kronosa ali podatki o vadbi iz ImageNet-a; namesto tega je prikazal videoposnetek v živo v občinstvu, saj so algoritmi za prepoznavanje obraza izbrali lastnosti vsake osebe. Resnično, tudi ko mislimo, da nas ne gledajo, smo.
V videoposnetku v živo v občinstvu so algoritmi za prepoznavanje obraza izbrali lastnosti vsake osebe. (Bruce Guthrie) Da bi poročil o tej zgodbi, sem zapustil svojo hišo in se sprehodil do postaje podzemne železnice, kjer sem prebral elektronsko kartico, povezano z mojim imenom, da sem šel skozi vrtnik, in spet, ko sem zapustil podzemno železnico. V središču mesta sem pred vstopom v muzej šel pol ducata varnostnih kamer, kjer sem opazil vsaj še dve (tiskovni predstavnik Smithsonian pravi, da Smithsonian ne uporablja tehnologije prepoznavanja obraza; policijska uprava DC govori isto o svojih kamerah).
Intervju sem snemala s telefonom in zvok naložila v storitev prepisovanja, ki uporablja AI, da bi ugotovila, kaj jaz in moji subjekti govorim, in morda ne sme ciljati na moje oglaševanje na podlagi vsebine intervjujev. E-poštna sporočila sem pošiljala prek Gmaila, ki še vedno "bere" vse, kar pošljem (čeprav ne sme več prikazovati oglasov).
Med postopkom poročanja sem med sprehodom po mestu naletel na - ne izmišljujem - avtomobila Google Street View. Dvakrat. Ni paranoja, če te resnično gledajo, kajne?
Kaj je torej ostalo v tem svetu, kjer računalniki vidijo in morda presodijo o nas? "Sight Machine" nas poziva, da se naučimo razmišljati kot računalnik - vendar nas tudi opominja, da obstajajo nekateri deli nas, ki so za zdaj še vedno povsem človeški.
Glasba, pravi Paglen, "je nekaj, česar v resnici ni mogoče meriti ... ko gledate sistem računalniškega vida, ki v bistvu zasliševa izvajalce, resnično poudarja, da je velik zaplet v percepcijah med načinom, kako dojemamo kulturo, čustvom in pomenom. ... in vse načine, kako so ti avtonomni sistemi nevidni. "
Kot pravi Harrington, lahko glasbo ustvarjate z violino iz lesa ali tisto, ki je narejena na 3D tiskalniku. Lahko uporabite lok iz ogljikovih vlaken ali enega iz lesa pernambuko. Ampak, pravi, lok je vseeno treba potegniti čez strune. Glasba "postane bolj dragocena, ker je ročno izdelana."
In za zdaj je to še vedno le nekaj, kar lahko storimo. Stroji nas morda ne potrebujejo več. Kadar pa gre za slovesni zvok premca na violinski struni in čustvene strune, ki beležijo napete, strojev ne potrebujemo.
"Trevor Paglen: Nevidna mesta", ki ga je kuriral John Jacob, nadaljuje v ameriškem umetniškem muzeju Smithsonian v Washingtonu do 6. januarja 2019. Odpotoval se bo v muzej sodobne umetnosti San Diego 21. februarja 2, 2019
* Beležka urednika, 2. november 2018: Ta zgodba je bila urejena, da bi razjasnila predvideni pomen in izvorno zgodbo skladbe Steve Reich "Različni vlaki".
