V loňském roce Facebook vytvořil dva chatboty a požádal je, aby spolu začali mluvit a procvičovali si své vyjednávací schopnosti. Ukázalo se, že roboti vyjednávali docela dobře - ale dělali to pomocí svého vlastního jazyka, který byl pro lidi nepochopitelný.
Související obsah
- Tento umělec žije v tajném světě utajovaných tajemství a sledování
Tady se svět děje. Počítače vytvářejí obsah pro sebe, ne pro nás. Fotografie jsou pořizovány počítači, aby je ostatní mohli prohlížet a interpretovat. Všechno se děje tiše, často bez našich vědomostí nebo souhlasu.
Takže naučit se, jak vidět jako počítač - zviditelňovat tyto komunikace mezi stroji - může být nejdůležitější dovedností 21. století.
25. října 2018 hrál Kronos Quartet - David Harrington, John Sherba, Hank Dutt a Sunny Yang - koncert v Smithsonian American Art Museum. Sledovalo je 400 lidí a tucet algoritmů umělé inteligence, posledně jmenovaný s laskavým svolením Trevor Paglen, umělce výstavy „Sites Unseen“, který je v současné době k vidění v muzeu.
Když hráli hudebníci, obrazovka nad nimi nám ukázala lidi, co počítače viděli.
Když Kronos prošel skrze truchlící kousek původně z Osmanské říše, algoritmy režie na obrazovce detekovaly tváře hudebníků, obrysy rtů, očí a nosu pro každou osobu (a občas viděl „duchové“ tváře, kde žádné nebyly - často v Mron vlasů Harringtona zakladatele společnosti Kronos). Jak algoritmy rostly pokročilejší, zdroj videa zmizel, dokud nezůstaly pouze neonové čáry na černém pozadí. Nakonec obrysy obličeje zmizely, dokud nezbylo abstraktní uspořádání čar - pravděpodobně celý počítač potřebný k pochopení „obličeje“, ale zcela nesrozumitelný pro lidi -.
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto (Bruce Guthrie) 
"Zaměřovač, " Trevor Paglen, Kronosovo kvarteto Debut na východním pobřeží představení s názvem „Sight Machine“, stejně jako Paglenova jiná práce, požádal diváky a posluchače, aby se naučili, jak vidí počítače, a přehodnotit lidský vztah k technologii - telefony v našich kapsách a oči v nebe a vše mezi tím.
Je to rok 2018 a myšlenka, že nás mobilní telefony sledují, se již necítí jako konspirační teorie představovaná blogerem s cínovými fóliemi s kloboukem. Google byl chycen začátkem tohoto roku a sledoval polohy uživatelů telefonů Android, i když uživatelé tuto funkci deaktivovali. Mnoho lidí je přesvědčeno, že nás naše telefony poslouchají, abychom lépe zobrazovali reklamy - Facebook a další společnosti tyto poplatky popírají, i když je to technicky a legálně možné. Techničtí novináři Alex Goldman a PJ Vogt to prošetřili a našli to samé: Neexistuje žádný důvod, proč by naše telefony neposlouchaly, ale na druhé straně inzerenti mohou získat dostatek informací o nás prostřednictvím jiných metod, které prostě nepotřebují. .
V této souvislosti byl proveden „Sight Machine“. Asi tucet kamer sledujících Kronos Quartet posílalo živé video z představení do stojanu počítačů, který k vytváření děsivých vizuálů používá algoritmy umělé inteligence. Algoritmy jsou stejné, jaké se používají v našich telefonech, aby nám pomohly získat lepší autoportréty, ty, které používají automotorová auta k vyhýbání se překážkám a algoritmy používané při vymáhání práva a vedení zbraní. Takže zatímco výsledky na obrazovce byly někdy krásné nebo dokonce vtipné, došlo k podproudu hrůzy.
"To, co mě touto konkrétní prací ohromilo, je, že nám ukazuje něco, co je - a to platí pro celou jeho práci - ukazuje nám něco, co je znepokojivé, a dělá to pomocí triků, " říká kurátor muzea John Jacob pro fotografie, kteří uspořádali „weby neviditelné“.
"Je to úmyslný trik, " říká, "a funguje to."
Později, sofistikované algoritmy rozpoznávání obličeje dělaly úsudky o členech společnosti Kronos a zobrazovaly jejich výsledky na obrazovce. „Tohle je John [Sherba]. John je mezi 24-40 lety, “ řekl počítač. "Sunny [Yang] je 94, 4% žena. Sunny je 80% naštvaná a 10% neutrální."
„Jednou z věcí, které doufám, že představení ukazuje, “ říká Paglen, „jsou některé způsoby, jak ten druh vnímání počítačů není neutrální. Je velmi zaujatý ... se všemi druhy politických a kulturních předpokladů, které jsou ne neutrální. “ Pokud systém klasifikace podle pohlaví říká, že Sunny Yang je 94, 4% žena, znamená to, že někdo je 100% žena. "A kdo se rozhodl, co je to 100 procent žena? Je Barbie 100 procent žena? A proč je gender binární?" Ptá se Paglen. "Když se to stane ve chvíli, kdy se federální vláda snaží doslova vymazat lidi s podivným pohlavím, je to na jednu stranu vtipné, ale pro mě je to také děsivé."
Pozdější algoritmus upustil od procent a přesunul se, aby jednoduše identifikoval objekty ve scéně. "Mikrofon. Housle. Osoba. Medúza. Paruka." (Poslední dvě jsou zjevně chyby; zdá se, že algoritmus zaměňoval Hank Dutt za medúzy a Harringtonovy skutečné vlasy pro toupee.) Poté se klasifikace staly složitější. „Sunny drží nůžky, “ řekla stroj, když se jí z čela violoncella zazářilo světlo. "John drží nůž." Co by se stalo, kdyby to klasifikátor poskytl - nesprávné - informace donucovacím orgánům, nikdy to nebudeme vědět.
Většina koncových uživatelů platforem AI - kteří nejsou umělci - může argumentovat, že tyto systémy mohou mít své vlastní předpojatosti, ale vždy dostanou konečné odhlášení od člověka. Algoritmus vyrobený společností Amazon, Rekognition, který společnost prodává donucovacím orgánům a možná ICE, skvěle misidentifikoval 28 členů Kongresu jako lidi, kteří byli obviněni z trestného činu porovnáním jejich tváří s mugshoty ve veřejně dostupné databázi. V té době Amazon tvrdil, že ACLU, který použil tento systém k utkání, použil Rekognition nesprávně. Společnost uvedla, že výchozí nastavení systému pro zápasy nazývané „práh spolehlivosti“ je pouhých 80 procent. (Jinými slovy, algoritmus si byl jen 80 procent jistý, že rep. John Lewis byl zločincem.) Mluvčí Amazonu řekl, že doporučuje policejním útvarům používat práh spolehlivosti 95 procent a že „Amazon Rekognition je téměř výhradně používán k pomoci zúžte pole a umožněte lidem, aby si na základě svého úsudku rychle přezkoumali a zvážili možnosti. “Počítače mohou spolu komunikovat, ale prozatím stále žádají lidi, aby uskutečnili poslední volání.
Hudba, kterou vybral Paglen se vstupem od společnosti Kronos, má také co říci o technologii. Jeden kus „Powerhouse“ od Raymond Scott je „pravděpodobně nejslavnější pro použití v karikaturách v továrních scénách, “ říká Paglen. "Jestli někdy vidíš továrnu na nadprodukci a zbláznění, je to často hudba, která k tomu mluví. Pro mě je to způsob jak přemýšlet o té téměř karikaturní industrializaci a jak je umístit do technologického kontextu." Další kus, "Různé vlaky" od Steve Reicha, uzavřel soubor. Kronos provádí pouze první hnutí, které se týká Reichova dětství ve 30. a 40. letech; Paglen říká, že tuto skladbu považuje za oslavu „pocitu nadšení a pokroku, který vlaky usnadňují.“ *
Bylo to spojeno s obrázky z veřejně dostupné databáze s názvem ImageNet, které se používají k výuce počítačů o tom, co jsou. (Také se nazývají „tréninková data“, takže ano, je to trochu hříčka.) Obrazovka blikala neuvěřitelně rychle a ukázala příklady ovoce, květin, ptáků, klobouků, lidí stojících, lidí, kteří chodí, lidí na lyžích a jednotlivci jako Arnold Schwarzenegger. Pokud byste chtěli naučit počítač, jak rozpoznat osobu, jako je Schwarzenegger, dům nebo koncept „večeře“, začněte tím, že ukáže počítači tyto tisíce obrázků.
Byly také krátké videoklipy lidí, kteří líbali, objímali, smáli se a usmívali se. Možná by AI vyškolená na tyto obrázky byla laskavá, přátelská.
Ale „Různé vlaky“ není jen o optimismu; pozdější pohyby, které Kronos nehrál ve čtvrtek, ale jsou „implikovány“ prvním, jsou o tom, jak byl příslib cestování vlakem přivlastněn, aby se stal nástrojem holocaustu. Vlaky, které vypadaly jako technologický pokrok, se staly vozidly, v nichž byly desítky tisíc Židů přemístěny do táborů smrti. To, co vypadalo jako benevolentní technologie, se změnilo na zlo.
"Je to jako:" Co by se mohlo pokazit? " Paglen říká. "Shromažďujeme všechny informace o všech lidech na světě." "
A ve skutečnosti, jak skončily „Různé vlaky“, zaměření se změnilo. Na obrazovce se již nezobrazovaly obrázky Kronos ani údaje o školení z ImageNet; namísto toho ukazoval živý video přenos publika, protože algoritmy rozpoznávání obličeje vybíraly rysy každé osoby. Opravdu, i když si myslíme, že nás nepozoruje, jsme.
Algoritmy rozpoznávání obličeje vybraly v živém videopřenosu publika funkce každého člověka. (Bruce Guthrie) Abych ohlásil tento příběh, opustil jsem svůj dům a šel k stanici metra, kde jsem naskenoval elektronickou kartu spojenou s mým jménem, abych prošel turniketem, a znovu, když jsem opustil metro v centru. V centru města jsem před vstupem do muzea prošel půl tuctu bezpečnostních kamer, kde jsem si všiml nejméně dvou dalších (Smithsonianův mluvčí říká, že Smithsonian nepoužívá technologii rozpoznávání obličeje; DC metropolitní policie říká totéž o svých kamerách).
Nahrál jsem rozhovory pomocí telefonu a nahrál zvuk do transkripční služby, která používá umělou inteligenci k tomu, aby zjistila, co říkám já a moje předměty, a může nebo nemusí zacílit reklamu na mě na základě obsahu rozhovorů. Posílal jsem e-maily pomocí Gmailu, který stále „čte“ všechno, co posílám (i když mi již reklamy nezobrazovat).
Během procesu hlášení, když jsem procházel městem, narazil jsem na auto Google Street View - nedělám si to. Dvakrát. Není to paranoia, pokud vás opravdu sledují, že?
Co tedy zbývá, v tomto světě, kde počítače dělají vidění a možná o nás rozhodují? „Sight Machine“ nás vyzývá, abychom se naučili, jak myslet jako počítač - ale také nám to připomíná, že některé z nás, které jsou prozatím stále plně lidské.
Hudba, říká Paglen, „je něco, co ve skutečnosti nelze vyčíslit ... když se díváte na systém počítačového vidění, který v zásadě vyslýchává výkonné umělce, ve skutečnosti pro mě poukazuje na tento obrovský propast ve vnímání způsobu, jakým vnímáme kulturu, emoce a význam. ... a všechny způsoby, jak jsou neviditelné pro autonomní systémy. "
Nebo jak to říká Harrington, můžete dělat hudbu s houslemi vyrobenými ze dřeva nebo s houslemi vyrobenými na 3D tiskárně. Můžete použít luk z uhlíkových vláken nebo pernambuco dřevo. Ale, on říká, luk stále musí být tažen přes řetězce. Hudba „se stává cennější, protože je vyráběna ručně“.
A prozatím je to stále něco, co můžeme udělat. Stroje nás již nemusí potřebovat. Ale pokud jde o slavnostní zvuk luků na housle a emocionální struny, které si poznámky všimnou, nepotřebujeme stroje.
„Trevor Paglen: Sites Unseen“, kurátor John Jacob, pokračuje do Smithsonian American Art Museum ve Washingtonu, DC do 6. ledna 2019. Je naplánováno cestovat do San Diego Museum of Contemporary Art únor 21.-2. Června, 2019.
Poznámka editora, 2. listopadu 2018: Tento příběh byl editován objasnit zamýšlený význam a původ příběhu Steve Reich je “různé vlaky” složení.
