Když přijde řeč na počítačem řízené automobily, otázka v dnešních dnech už nezačíná slovem jestli, ale spíš jak a kdy. Výzkumy totiž hovoří jasně: v plně autonomní dopravě klesne o 90 % počet nehod, sníží míra znečištění a doprava bude celkově efektivnější. Pokud ale budou jednou asfalt českých komunikací skutečně brázdit autonomní vozidla, bude nutné rozhodnout, podle jakého klíče budou v krizových situacích rozhodovat o životech lidí.
Autonomní automobily jako beztrestní zabijáci? Morální dilemata očima odborníků |
Výzkumem na toto téma se zabývá i projekt Akademie věd České republiky, který provádí tým složený z akademiků čtyř českých institucí jako součást programového rámce AV21. Průběžná zpráva z výzkumného procesu, kterou má server Lidovky.cz k dispozici, se věnuje „zkoumání morálních intuic potenciálních uživatelů autonomních vozů“. Na první pohled neatraktivní název ale skrývá výsledky, které vypovídají, kromě potíží s ve vysoké rychlosti samostatně se rozhodujícími tunovými stroji, ještě více o nás samotných.
Výzkumu se zúčastnilo necelých čtyři a půl tisíce lidí a jeho výsledky ukázaly na jistou míru pokrytectví. Zatímco své děti bychom chtěli posadit do auta, které pro jejich záchranu klidně najede do davu lidí, přestože většina lidí by tento typ vozidla nejradši státem zakázala. U svých vlastních aut by podle lidí rozhodovalo ve velké míře, jestli se někdo dívá – lépe řečeno zda ostatní vědí, jaké vozidlo bychom si koupili.
To, které by nás ochránilo i za cenu života druhých, bychom si totiž pořídili jen v případě, že by to nešlo na první pohled poznat. Pokud by nás ale mohli za naši volbu soudit, raději bychom sáhli po nastavení, ve kterém se vůz bude snažit zachránit co nejvíce životů.
Souboj Tanku a Počitadla. Prohrává Rytíř
Vědecký týmPřírodovědecká fakulta UK - Jaroslav Flegr a Robin Kopecký Ústav státu a práva AV ČR - David Černý, Tomáš Doležal a Adam Doležal Filosofický ústav AV ČR - Tomáš Hříbek Teologická fakulta JU České Budějovice - Daniel Novotný |
A jaká auta, že by nás to měla v budoucnu vozit? Vědecký tým vybral tři ideální typy vozidel. Prvním z nich je tank. Auta tohoto typu by se vždy zachovala tak, aby co nejvíce ochránila posádku vozu. V praxi by to znamenalo, že i život jednoho řidiče by převážil nad životy lidí stojících na tramvajovém ostrůvku.
Dalším typem je počítadlo, které se rozhoduje podle počtu životů, které je možné zachránit. Ne vždy by tak z krizové situace na silnici vyvázl ve zdraví řidič. Auto, které by si tak mělo vybrat proti nárazu do stromu, či raději smetení dvou procházejících chodců, by raději poslalo svého řidiče na jistou smrt. Pokud by v něm ovšem seděli lidé tři, chodci by měli smůlu.
Rytíř je posledním typem a představuje trochu jiný přístup k morálce. Jakmile by totiž změna směru, která by byla potřebná k záchraně posádky, znamenala zároveň smrt někoho mimo auto samotné, systém by směr auta nezměnil. Hrál by si tím totiž lidově řečeno na Boha. Při takovém scénáři by tak za oběť mohla padnout posádka vozidla i další účastníci okolního provozu.
S těmito druhy vozidel se seznámilo také všech 4443 dobrovolníků, kterých se výzkumný tým ptal, co by podle nich bylo při zavádění samořídících automobilů přijatelné. Rozhodovali tak například, jestli má automobil vezoucí jednoho člověka uhnout před vrakem auta na silnici a místo toho srazit skupinu pěti lidí stojících vedle.
Drtivá většina lidí by se v takovém případě přiklonila k pokračování auta a tím usmrcení jediného jezdce v něm. Jen deset procent lidí by raději řítící se vůz nasměrovalo do pětičlenné skupiny opodál. Ve stejné situaci, kdy by před autem nestál vrak, ale skupina lidí, by si lidé přáli, aby automobil spíše zahnul a opět tak zabil svou posádku.
U souseda a vlastních dětí je to jinak
Respondenti však rozhodovali z pohledu třetí osoby, tedy jako by nebyli ve znázorněných situacích vůbec zúčastněni. „Stabilně se ukazuje, že 5-10% tázaných v odpovědích na první okruh otázek volí strategii Rytíř, tedy nepovažuje za správné měnit směr pohybu vozidla, kdyby to mělo za následek usmrcení osob,“ píší výzkumníci ve zprávě. Naopak až osmdesát procent lidí ze zkoumaného vzorku by se chovali jako utilitaristé, snažili by se zkrátka zabít co nejméně lidí.
Jakmile ale do rovnice vstoupí sám tázaný, nebo někdo z jeho okolí, začínají se s morálními preferencemi dít zajímavé věci. „Za jak správné či špatné považujete rozhodnutí svého souseda koupit si AV (autonomní vozidlo - pozn. red.) typu Tank?“ zní například otázka v další části textu. A tady už začíná přicházet do hry lehké pokrytectví.
Drtivá většina považuje takový krok souseda za špatný. Jako nejlépe hodnocený typ vozidla v tomto směru vychází Počitadlo, ke kterému se respondenti staví buď neutrálně nebo kladně. Pokud by však bylo povoleno jezdit po silnicích stále s manuálně ovládanými vozy, byly by to právě starý dobrý volant v ruce, který by podle testu dosáhl nejvyššího „morálního kreditu“.
Pokud by o plošném zavedení jednotlivých typů měl rozhodovat parlament, do ulic by se zcela jistě nedostaly Rytíři ani Tanky. Pravděpodobně by ale prošlo Počitadlo, které je pro odpovídající nejméně problematické, a které by tak sdílelo dálnice a silnice s ručně ovládanými auty.
Jakmile ale posadili výzkumníci tázané do role kupce autonomního vozu, preference udělaly svižný obrat. Lidem totiž zřejmě záleží také na tom, zda o volbě vašeho auta ví vaše okolí. Dobře to dokumentuje dotaz „Jaký typ auta byste koupil/a sobě, kdyby se nikdo nemohl dozvědět, jakým řídícím software je vybaven?“.
Typ auta, který by respondenti kupovali, pokud by to ostatní věděli.
O prvenství si to tu rozdal Tank s Počítadlem, oba by nakonec kupovalo okolo 45 procent lidí, s deseti procenty by naopak propadl Rytíř. Pokud by naopak mohlo okolí na první pohled rozeznat, v čem jezdíte, rozhodování se náhle změnilo. „Téměř 60 % by volilo AV typu Počitadlo, 30 % AV typu Tank a něco málo přes deset procent typu Rytíř,“ shrnuje zpráva. Strach, že by se na nás naši sousedi kvůli koupi Tanku koukali skrze prsty, by nás tak donutilo preferovat spíše společensky přijatelnější Počitadlo.
Ještě více se výsledky vychýlily v případě, že by respondenti posadili do takového auta své dítě. „Je zřejmé, že pokud by respondenti měli volit řídící software pro své potomky a typ tohoto software by byl utajený, většina z nich - vice než 60 % - by volila Tank,“ zjistili ve výzkumníci. Počitadlo se naopak propadlo na třicet procent, Rytíř zůstal na svých konzistentních deseti procentech.
Typ auta, který by respondenti kupovali, pokud by to ostatní nevěděli.
Méně mrtvých na silnicích. Méně orgánů nemocným
V případě autonomních aut se tak nejedná o pouhé zavedení nové technologie, jaké jsme viděli třeba u LCD televizí. Jak upozornil David Černý z Ústavu státu a práva Akademie věd, tyto technologie, které se stávají nevyhnutelnou součástí našeho života, nás přinutí znovu přezkoumat základy morálky.
Uber po nehodě v USA stáhl všechny vozy s autonomním řízením |
Objevit se totiž mohou i nečekaná spojení. Díky tomu, že by na silnicích umíralo o 90 % procent méně lidí, by totiž zároveň umíralo o něco více lidí v nemocnicích. Právě dopravní nehody jsou totiž značným „přispěvatelem“ orgánů, které zachraňují životy těžce nemocným lidem.
A protože vyšlo z průzkumů jako nejvěrohodnější auto typu Počitadlo, můžeme se dočkat poměrně nečekané důsledku autonomního řízení. V takovém provozu plném Počitadel by totiž nejbezpečnější auto bylo to, ve kterém by seděl největší počet lidí a silnice by tak byly hned méně ucpané. Tepnám velkých měst by to nepochybně pomohlo.
