Každý den se z nesčetných zdrojů po celém světě objevuje nespočet titulků, které varují před hroznými důsledky i slibnými utopickými budoucnostmi - to vše díky umělé inteligenci. AI „transformuje pracoviště, “ píše Wall Street Journal, zatímco časopis Fortune nám říká, že čelíme „revoluci AI“, která „změní naše životy“. Ve skutečnosti ale nechápeme, jaká bude interakce s AI. - nebo jaké by to mělo být.
Ukázalo se však, že již máme koncept, který můžeme použít, když přemýšlíme o AI: Takto přemýšlíme o zvířatech. Jako bývalý trenér zvířat (i když krátce), který nyní studuje, jak lidé používají umělou inteligenci, vím, že výcvik zvířat a zvířat nás může hodně naučit o tom, jak bychom měli myslet, přistupovat a interagovat s umělou inteligencí, nyní i v budoucnost.
Použití zvířecích analogií může běžným lidem pomoci pochopit mnoho složitých aspektů umělé inteligence. Může nám také pomoci přemýšlet o tom, jak nejlépe naučit tyto systémy novým dovednostem a co je možná nejdůležitější, jak můžeme správně pochopit jejich omezení, i když oslavujeme nové možnosti AI.
Při pohledu na omezení
Jak vysvětluje expert AI Maggie Boden: „Umělá inteligence se snaží přimět počítače, aby dělaly to, co může mysl udělat.“ Vědci AI pracují na výuce počítačů, aby rozuměli, vnímali, plánovali, pohybovali a vytvářeli asociace. AI může vidět vzory ve velkých souborech dat, předpovídat pravděpodobnost výskytu události, naplánovat trasu, spravovat plán schůzek osoby a dokonce hrát scénáře válečných her.
Mnohé z těchto schopností jsou samy o sobě nepřekvapivé: Robot se samozřejmě může pohybovat kolem prostoru a nesrážet se s ničím. Ale nějak se AI zdá být magičtější, když počítač začne tyto dovednosti spojovat, aby mohl plnit úkoly.
Vezměte například autonomní auta. Původ vozidla bez řidiče je v projektu Agentury pro pokročilý výzkumný projekt Období 80. let s názvem Autonomní pozemní vozidlo. Cílem projektu bylo podpořit výzkum v oblasti počítačového vidění, vnímání, plánování a robotického řízení. V roce 2004 se úsilí ALV stalo první velkou výzvou pro automobily s vlastním pohonem. Nyní, více než 30 let od začátku úsilí, se na civilním trhu dostáváme do propasti autonomních automobilů nebo aut s vlastním pohonem. V prvních letech si jen málokdo myslel, že takový výkon není možný: Počítače nemohly řídit!
Přesto, jak jsme viděli, mohou. Schopnosti autonomních aut jsou pro nás poměrně snadno srozumitelné. Snažíme se však pochopit jejich omezení. Po smrtelné havárii Tesly v roce 2015, kdy funkce autopilota automobilu nezjistila křížení tahače s přívěsem do jeho jízdního pruhu, se zdá, že jen málokdo pochopil závažnost toho, jak omezený Tesla je autopilot skutečně. Zatímco společnost a její software byly očištěny od nedbalosti ze strany Národní správy bezpečnosti silničního provozu, zůstává nejasné, zda zákazníci skutečně chápou, co auto může a nemůže udělat.
Co kdyby majitelům Tesly nebylo řečeno, že řídili „beta“ verzi autopilota, ale spíše poloautonomní auto s mentální ekvivalencí červa? Takzvaná „inteligence“, která poskytuje „plnou schopnost samostatně řídit“, je opravdu obrovský počítač, který dokáže dobře detekovat objekty a vyhýbat se jim, rozpoznávat položky v obrazech a omezené plánování. To by mohlo změnit pohled vlastníků na to, jak moc auto skutečně dokáže bez lidského vstupu nebo dohledu.
Co je to?
Technologové se často snaží vysvětlit AI z hlediska toho, jak je postaven. Vezměte si například pokrok v hlubokém učení. Toto je technika, která využívá vícevrstvé sítě k tomu, aby se naučila, jak úkol plnit. Sítě musí zpracovat obrovské množství informací. Ale z důvodu objemu dat, které vyžadují, složitosti asociací a algoritmů v sítích, je pro lidi často nejasné, jak se učí, co dělají. Tyto systémy se mohou stát velmi dobrými při jednom konkrétním úkolu, ale my jim opravdu nerozumíme.
Místo toho, abychom přemýšleli o umělé inteligenci jako o něčem nadlidském nebo mimozemském, je snazší je analogizovat zvířatům, inteligentním nelidským lidem, se kterými máme výcvik.
Například, pokud bych měl používat posilovací učení k trénování psa, aby seděl, tak bych psa pochválil a dal mu dárky, když sedí na velení. Postupem času se naučil spojovat příkaz s chováním s léčbou.
Výcvik AI systému může být velmi stejný. V rámci hlubokého učení se lidští návrháři zřídili systém, představili si, co se od něj chtějí naučit, poskytovali mu informace, sledovali jeho činnost a poskytovali mu zpětnou vazbu (jako je pochvalu), když uvidí, co chtějí. V zásadě můžeme léčit AI systém stejně jako ošetřujeme zvířata, která trénujeme.
Analogie funguje také na hlubší úrovni. Neočekávám, že sedící pes pochopí složité pojmy jako „láska“ nebo „dobrý“. Očekávám, že se naučí chování. Stejně jako můžeme nechat psy sedět, zůstat a převrátit se, můžeme získat systémy AI, aby pohybovaly auty po veřejných komunikacích. Ale je příliš mnoho očekávat, že auto „vyřeší“ etické problémy, které mohou nastat při řízení mimořádných událostí.
Pomáháme také vědcům
Přemýšlení o umělé inteligenci jako cvičitelného zvířete není užitečné pouze pro vysvětlení této skutečnosti široké veřejnosti. Je také užitečná pro vědce a inženýry, kteří tuto technologii staví. Pokud se vědec AI snaží naučit systém nové dovednosti, mohlo by myšlení o procesu z pohledu zvířecího trenéra pomoci identifikovat potenciální problémy nebo komplikace.
Například, pokud se pokusím trénovat svého psa, aby seděl, a pokaždé, když řeknu „sedni“, bzučák do trouby zhasne, pak můj pes začne sdružovat sezení nejen s mým příkazem, ale také se zvukem bzučák. V podstatě se bzučák stává dalším signálem, který psovi říká, aby seděl, což se nazývá „náhodné zesílení“. Pokud budeme hledat náhodná zesílení nebo signály v systémech AI, které nefungují správně, pak budeme vědět lépe nejen to, co se děje špatně, ale také to, které konkrétní rekvalifikace budou nejúčinnější.
To vyžaduje, abychom pochopili, jaké zprávy dáváme během školení AI, a co by AI mohla pozorovat v okolním prostředí. Bzučák trouby je jednoduchý příklad; v reálném světě to bude mnohem složitější.
Než přijmeme své vládce AI a předáme naše životy a práci robotům, měli bychom se zastavit a přemýšlet o druhu inteligence, kterou vytváříme. Budou velmi dobří při provádění konkrétních akcí nebo úkolů, ale nedokážou porozumět konceptům a nic nevědí. Když tedy přemýšlíte o vystřelování tisíců pro nové auto Tesla, pamatujte, že jeho funkce autopilota je opravdu velmi rychlá a sexy červ. Opravdu chcete dát červu kontrolu nad svým životem a životy svých blízkých? Pravděpodobně ne, takže mějte ruce na volantu a nespiňte.
Tento článek byl původně publikován v The Conversation.
Heather Roff, vedoucí výzkumného pracovníka, Katedra politiky a mezinárodních vztahů, Oxfordská univerzita; Výzkumný pracovník, Global Security Initiative, Arizonská státní univerzita
