V nepříliš vzdálené budoucnosti se Johannesburg, shnilý zločinem, stal prvním městem, které kdy nasadilo flotilu autonomních robotických policejních droidů. Zpočátku se stroje jeví jako efektivní řešení. Zločin drasticky poklesne a projekt je oslavován jako úspěch - dokud se něco nepovede. Rap-rave gangsters hledající rychlý výplatní únos poškozeného droida naplánovaného na demolici. S pomocí inženýra vynuceného v puškohledu přeprogramovali droida, jmenovaného Chappieho, jako autonomního agenta, efektivně vytvářejícího jedinečnost, v okamžiku, kdy se umělá inteligence stává chytřejší než lidská inteligence.
Stejně jako většina dobrých sci-fi, nový film režiséra Neill Blomkampa, Chappie , působí jako komentář k lidské povaze a současným problémům, včetně chudoby, kriminality, diskriminace, šikany a policejní brutality. Vyvolává však také více předpovědných otázek o tom, co si mnozí myslí - k lepšímu nebo k horšímu - bude nevyhnutelný vznik sentientní umělé inteligence.
"V minulosti bylo vše, co lidé vymysleli, bez ohledu na etiku a morálku, vyzkoušeno a pokud možno provedeno, " říká Wolfgang Fink, fyzik na Arizonské univerzitě a kalifornský technologický institut . "Autonomní systémy se objeví, pokud někdo přijde na to, jak je vytvořit - to je dané."
Řada vědců, včetně Fink, se ve skutečnosti v této linii výzkumu horečně snaží dosáhnout pokroku a již bylo dosaženo pokroku. Kromě samotného Chappie je ve skutečnosti velká část robotiky vyobrazené ve filmu již k dispozici nebo je téměř k dispozici. Dálkově ovládané roboty podobné filmu filmu Moose - mohutný smrtící stroj připomínající Robocop ED-209, který provozuje poslušný policista Hugha Jackmana - dnes existují.
Podobně roboti jako policejní droidi Chappie - ti, kteří jsou programováni jako systémy založené na pravidlech a jsou uměle inteligentní, ale postrádají sebevědomí nebo autonomii - jsou téměř připraveni, i když jejich výdrž baterie a hbitost se ještě neshodují s modely zobrazujícími hlídání ulicích Johannesburgu. Pokud však budou tyto stroje rozmístěny, nemusí to pro nás být tak radikální. "Jsme velmi dobře zvyklí na návyky a zvykáme si na změny prostředí, včetně technologických, " říká Ali Mattu, klinický psycholog z Columbia University Medical Center a tvůrce Brain Knows Better, blogu o psychologii sci-fi. "Jak se roboti stávají součástí našeho každodenního života, myslím, že by se v některých ohledech mohlo cítit bezproblémově."
Policejní droid však není autonomní vnímající bytostí. Skutečně samosprávná, sebevědomá bytost, jako je Chappie, by byla odkloněním od všeho, co kdy bylo vidět. "V době od neandrtálců jsme nikdy neměli potenciál spolupracovat s úplně novým druhem, který je inteligentní, " říká Mattu. "Pokud dokážeme překonat překážky sdílení empatie s umělou formou života, mohlo by to vést k úžasnému věku pro lidstvo."
Hardware není překážkou bránící vzniku takové bytosti - je to prostě inženýrská úloha, říká Fink. Místo toho je skutečnou výzvou vytvoření softwaru - duch ve stroji. Vědci k tomuto problému přistupují dvěma různými přístupy. Někteří se pokoušejí vytvořit vnímavou bytost připravenou k načtení od nuly, zatímco jiní si myslí, že psaní základního programu vybaveného nástroji, které potřebuje k učení, přizpůsobení a úpravě prostřednictvím zkušeností - jak je vidět v Chappie - je cestou, jak jít. . Jak vysvětluje Fink: „Jedná se o případ, kdy buď již koláč upékáte a vloží koláč do systému, nebo dá systému ingredience pro koláč a nechává jej upéct do systému.“
Až dojde k průlomu, s největší pravděpodobností k tomu nedojde postupně, ale najednou, jak je znázorněno v Chappie . Fink předpovídá, že narušení, které vede k výjimečnosti, spíše než univerzita, vláda nebo korporace, přinese malý tým vědců nebo dokonce jediný jednotlivec, pravděpodobně podporovaný bohatým soukromým donorem, způsobený svobodou. experimentovat a vymanit se z konzervativního hlavního proudu výzkumu. Ve skutečnosti je to v případě Chappie téměř scénář: Chappie nevytváří masivní korporace, nýbrž strojní technik s vlastním pohonem, který hraje Dev Patel, který využívá všechny zdroje, které poskytuje jeho pohodlná denní práce, na podporu své nesmírně odlišné práce. o autonomní umělé inteligenci v noci.
Jakmile se však objeví skutečná samosprávná umělá inteligence, nebude možné předvídat, jak složitý se systém stane nebo jakým směrem se bude vyvíjet. Na rozdíl od organických systémů, jako jsme my, by to nebylo omezeno pomalým sloganem biologické evoluce. Jeho vývoj by byl výbušný. Neexistuje žádná záruka, že takový systém přijme nebo udrží soubor morálních nebo etických hodnot - nebo že se tyto hodnoty rozšíří na člověka. V případě Chappie - který se vyvíjí podobně jako lidské dítě, učí se a dozrává v průběhu času - časný slib neubližovat lidem jde dlouhou cestou při udržení činnosti robota pod kontrolou. Když však Chappie hrozí zničení, stejně jako mnoho lidí z velké části odloží svou morálku a jedná z čistého vlastního zájmu, brání se, i když to znamená ublížit ostatním.
A zatímco Chappie přichází jako relativní a podobný člověku, sentientní robot v reálném světě by se pravděpodobně nedokázal řídit lidskými úvahami, což by snížilo naši schopnost předvídat jeho činy nebo porozumět jeho motivacím. "Jakmile dosáhnete této úrovně, v podstatě jste ztratili kontrolu nad systémem, " říká Fink. "Je to vzrušující i děsivé, protože to nebude podobné lidstvu."
Ať už software původně obývá skořápku humanoidního robota podobného chappie, kosmickou loď nebo dokonce implantát ve vašem těle, jakmile unikne omezením této fyzické podoby - jak je znázorněno (i když se vyplatí krčit) v Transcendenci - být téměř nemožné ji zadržet.
Zatímco knihy a filmy pro sci-fi se už několik desetiletí zabývají otázkou umělé inteligence, Fink poukazuje na to, že nezbytný průlom „by se mohl kdykoli doslova stát.“ Ne všichni jsou s tím spokojeni. V lednu loňského roku spoluzakladatel PayPal a generální ředitel Tesla Motors Elon Musk věnovali 10 milionů dolarů, aby zabránili robotickým vládcům jednoho dne převzít planetu a odstranit nás. Snaží-li se vytvořit autonomní umělou inteligenci, varuje, „vyvoláme démona“.
Musk není sám ve své obavě o tuto linii výzkumu. V nedávném vláknu Reddit „Zeptejte se mě na co“, spoluzakladatel a filantrop společnosti Microsoft Bill Gates napsal, že je „v táboře, který se zajímá o super inteligenci“ a „nechápe, proč se někteří lidé nezajímají“ o umělých umělých bytosti, které překračují naše vlastní kognitivní schopnosti a získávají autonomii. Fyzik Stephen Hawkings také sdílí toto znepokojení a formuluje to ještě otevřeněji: „Vývoj úplné umělé inteligence může znamenat konec lidské rasy, “ řekl BBC.
Dokonce i komiksové filmy komiksové knihy se kráčejí touto dobře opotřebovanou cestou, obvykle vyhrazenou pro žánr sci-fi. Jak je naznačeno v posledním upoutávce na Marvel's Avengers: Age of Ultron, hrdinové filmu bojují s robotem, který byl původně vytvořen jako zachránce planety před válkou, ale místo toho se rozhodne vyhladit lidstvo.
Na druhé straně však mohou být agresory lidé, kteří ohrožují existenci autonomních bytostí, které sami vytváříme, jak je znázorněno v Chappie . To, zda my lidé jdeme po mírové cestě, do značné míry závisí na dvou věcech, Mattu říká: jestli můžeme komunikovat s roboty a zda pro ně máme empatii. Ten, vysvětluje, závisí na zdánlivě mělkých faktorech, jako je to, jak vypadají roboti - mají oči? Vypadají podobně, ale ne příliš podobně, jako my? - a zda se jeví jako obecně sympatičtí. Jejich případ by pomohlo i sdílení stejných cílů jako my. Tyto faktory využívají naši vrozenou neurologickou tendenci kategorizovat ostatní jako součást naší důvěryhodné skupiny nebo jako součást potenciálně ohrožující skupiny. Robotici berou takové psychologické faktory v úvahu při navrhování svých nejnovějších strojů.
Mattu však poukazuje na to, že i když roboti splňují všechny tyto předpoklady, stále neexistuje žádná záruka, že věci půjdou dobře. "Lidé mají dost času na to, aby se navzájem viděli jako člověk, natož AI nebo cizí život, " říká Mattu. "Máme také historii prvních kontaktů velmi špatně."
Mohlo by to tak být, že zničíme naše stvoření dříve, než se to vůbec seznámíme, nebo že se to stane pravdou - že náš softwarový potomek dělá otroky nás všech, jak je vidět v matici, nebo rozhoduje, ve stylu Skynet, že lidstvo prostě není není hoden existence. Na druhé straně se lidé a autonomní roboti mohli navzájem obejmout a souhlasit, že budou společně pracovat na zajímavých pronásledováních, jako je průzkum vesmíru. Jediným způsobem, jak zjistit, zda věci končí plameny a slzami nebo pokrokem a přátelstvím, je však vytvořit tyto bytosti na prvním místě. Pokud je však minulost nějakým ukazatelem, bude to jen otázka času. "Vždy nás zajímá zvědavost, touha prozkoumat a objevit nečekané, " říká Fink. "A vědecká etika má tendenci zaostávat za naším pokrokem."
"Někdy dostáváme atomovou energii a někdy dostáváme atomové zbraně, " dodává Mattu. "Nevíme, jakým směrem se bude ubírat, ale nemůžeme zastavit vědu."
