Mnoho diskusí a etických úvah o autech s vlastním pohonem se zaměřilo na tragická dilemata, jako jsou hypotetika, ve kterých se auto musí rozhodnout, zda přejet skupinu žáků, nebo nechat spadnout z útesu a zabít vlastní obyvatele. Ale takové situace jsou extrémní případy.
Jako poslední havárie, při níž samohybné auto zabilo chodce v Tempu v Arizoně, se ukazuje, že všední každodenní situace na každém přechodném chodníku, odbočka a křižovatka představují mnohem tvrdší a širší etické quandary.
Etika extrémů
Jako filozof pracující s inženýry ve Stanfordském Centru pro automobilový výzkum jsem byl zpočátku překvapen, že jsme strávili naše laboratorní setkání diskutováním o tom, co jsem považoval za snadnou otázku: Jak by se mělo auto s vlastním pohonem přejít na přechod pro chodce?
Předpokládal jsem, že přemýšlíme o tom, jak by se mělo auto rozhodovat mezi životem jeho cestujících a životem chodců. Věděl jsem, jak přemýšlet o takových dilematech, protože tyto havarijní scénáře se podobají slavnému filozofickému hlavolamu zvanému „problém s vozíkem“. Představte si, že útěkový vozík vrhá po kolejích a je povinen zasáhnout buď skupinu pěti nebo jednu osobu - mohli byste zabít jednoho zachránit pět?
Mnoho filozofů však dnes pochybuje, že vyšetřování takových otázek je plodnou cestou výzkumu. Barbara Fried, například kolega ve Stanfordu, například tvrdila, že tragická dilemata nutí lidi věřit, že etické quandary vznikají většinou za extrémních a zlých okolností.
Ve skutečnosti jsou etické quandary všudypřítomné. Každodenní světské situace jsou překvapivě chaotické a složité, často jemně. Například: Mělo by vaše město utrácet peníze na program prevence cukrovky nebo na více sociálních pracovníků? Mělo by vaše místní ministerstvo zdravotnictví najmout jiného inspektora pro hygienické standardy restaurace, nebo pokračovat v programu poskytujícím bezplatné jehly a injekční zásoby?
Na tyto otázky je velmi obtížné odpovědět kvůli nejistotám ohledně důsledků - například toho, kdo bude ovlivněn a do jaké míry. Filozofové řešení, které navrhli pro extrémní a zoufalé situace, zde nepomohou.
Problém je u aut s vlastním pohonem. Přemýšlení v extrémních situacích a scénářích havárií nemůže pomoci odpovědět na otázky, které vyvstávají v běžných situacích.
Výzva na přechodech pro chodce
Dalo by se zeptat, co může být tak těžkého v běžných dopravních situacích, jako je přiblížení se na přechod pro chodce, projíždění křižovatkou nebo odbočení doleva. I když je viditelnost na přechod pro chodce omezená a někdy je těžké říci, zda chce blízký chodec skutečně přejít ulici, řidiči se s tím každý den vypořádávají.
Pro automobily s vlastním pohonem však takové světské situace představují výzvu dvěma způsoby.
Snadné pro lidi znamená pro počítače často těžké. (XKCD, CC BY-SA) Zaprvé existuje skutečnost, že to, co je pro člověka snadné, je pro stroje často těžké. Ať už je to rozpoznávání tváří nebo jízdních kol, máme dobré vnímání a mechanické úkoly, protože evoluce pro nás tyto dovednosti vybudovala. To však ztěžuje výuku nebo inženýrství těchto dovedností. Tomu se říká Moravecův paradox.
Za druhé, v budoucnu, kdy jsou všechna auta autem s vlastním pohonem, by malé změny v jízdním chování způsobily velký rozdíl v souhrnu. Rozhodnutí, která dnes inženýři učinili, jinými slovy, nebudou určovat, jak jedno auto řídí, ale jak budou řídit všechna auta. Algoritmy se stávají politikou.
Inženýři učí počítače, jak rozpoznávat tváře a objekty pomocí metod strojového učení. Mohou používat strojové učení také k tomu, aby autem s vlastním řízením napodobovaly, jak lidé řídí. To však není řešení: Nerozřeší problém, že inženýři přijímají rozsáhlá rozhodnutí o bezpečnosti a mobilitě.
Auta s vlastním pohonem by navíc neměla řídit jako lidé. Lidé nejsou ve skutečnosti velmi dobří řidiči. A jezdí eticky znepokojujícími způsoby a rozhodují, zda se budou vydávat na přechodech pro chodce, na základě věku, rasy a příjmu chodců. Například vědci v Portlandu zjistili, že černí chodci projdou dvakrát tolik auty a než budou moci přejet, museli čekat o třetinu déle než bílí chodci.
Auta s vlastním pohonem by měla řídit bezpečněji a spravedlivěji než lidé.
Světská etika
Etické problémy se prohlubují, když se věnujete střetu zájmů, které se objevují v běžných situacích, jako jsou přechod pro chodce, zatáčky a křižovatky.
Například konstrukce aut s vlastním pohonem musí uvést do rovnováhy bezpečnost ostatních - chodců nebo cyklistů - se zájmy cestujících v autech. Jakmile auto jede rychleji než chůze, nemůže zabránit nárazu do dítěte, které by mohlo v poslední sekundě narazit na silnici. Ale chůze je samozřejmě příliš pomalá. Každý se musí dostat na místa. Jak by tedy měli inženýři najít rovnováhu mezi bezpečností a mobilitou? A jaká rychlost je dostatečně bezpečná?
Objevují se i další etické otázky. Inženýři musí dosáhnout kompromisů mezi mobilitou a dopady na životní prostředí. Pokud jsou použity ve všech autech v zemi, malé změny v počítačově řízené zrychlení, zatáčení a brzdění mohou mít obrovský dopad na spotřebu energie a emise znečišťujících látek. Jak by měli inženýři ovlivňovat efektivitu cestování s dopadem na životní prostředí?
Jaká by měla být budoucnost provozu?
Světské situace představují nové technické a etické problémy, ale také vedou lidi k otázkám základních předpokladů dopravního systému.
Pro sebe jsem se začal ptát, zda vůbec potřebujeme místa zvaná „přechod pro chodce“? Koneckonců, samohybná auta mohou potenciálně znemožnit křížení silnice kdekoli.
A nejde jen o přechod pro chodce. Semafory na křižovatkách mohou být také minulostí. Lidé potřebují semafory, aby se zajistilo, že se každý dostane přes křižovatku bez pádu a chaosu. Auta s vlastním pohonem se však mohla hladce koordinovat.
Větší otázkou je toto: Vzhledem k tomu, že automobily s vlastním pohonem jsou lepší než lidé s řidičem, proč by se na tato auta měla vztahovat pravidla, která byla navržena pro lidskou omylnost a lidské chyby? A pro rozšíření tohoto myšlenkového experimentu zvažte také obecnější otázku: Pokud bychom jako společnost mohli navrhnout náš dopravní systém od nuly, jak bychom chtěli, aby to vypadalo?
Protože se tyto těžké otázky týkají každého ve městě nebo ve společnosti, vyžadují, aby se město nebo společnost dohodly na odpovědích. To znamená vyvažovat konkurenční zájmy způsobem, který funguje pro všechny - ať už lidé přemýšlejí pouze o přechodech pro chodce nebo o dopravním systému jako celku.
U aut s vlastním pohonem mohou společnosti přepracovat své dopravní systémy. Od přechod pro chodce k celkovému návrhu provozu - jsou to všudypřítomné situace, které vyvolávají opravdu těžké otázky. Extrémní situace jsou rozptýlení.
Problém s vozíkem neodpovídá na tyto těžké otázky.
Tento článek byl původně publikován v The Conversation.
Johannes Himmelreich, interdisciplinární člen etiky, rodinné centrum Stanfordovy univerzity McCoy pro etiku ve společnosti
