9. listopadu 2018 5:00 Lidovky.cz > Byznys > Doprava

Má autonomní auto zabít spíš zločince, nebo psa? V globálním experimentu rozhodovaly miliony lidí za robota

  • Poslat
  • Tisk
  • Redakce
  • 20Diskuse
Samořiditelné auto (ilustrační snímek). | na serveru Lidovky.cz | aktuální zprávy Samořiditelné auto (ilustrační snímek). | foto: ČTK/AP

PRAHA Kočárek s dítětem je nedotknutelný, auto by raději mělo srazit kohokoliv jiného. Na tom se shodly miliony lidí z celého světa v dotazníku ve formě internetové hry Moral Machine. Z dat experimentu vyplývá, že lidé by nejčastěji chránili děti, přednost před muži by dostaly ženy. Život psa by ale také byl cennější než ten kriminálníkův. V hodnocení hodnoty lidského života se lišíme také podle kultur, ve kterých vyrůstáme.

Nasednete do auta, zadáte cílovou adresu a bez rozpaků si otevřete třeba ranní noviny, zatímco se vůz vydává na cestu rušnými ulicemi města. S rozmachem autonomních systémů jsme k této kdysi zcela utopické vizi dnes blíže, než kdy dřív. Je proto nutné zajistit, aby se řídící systémy automobilů rozhodovaly ve zlomcích sekund správně a podle morálních pravidel, která jsou blízká lidem. Ti by se na stejném místě pravděpodobně rozhodli roztržitě a pod taktovkou instinktu vlastního přežití.

Jenže co je morálně správné? Tato filozofická i etická otázka trápila osm vědců z Massachusettského technologického institutu, a proto se ji rozhodli položit zbytku planety. Z jejich simulátoru krizových situací, v němž mohli lidé z celého světa rozhodovat, koho by vůz měl usmrtit, vyplynulo několik zajímavých závěrů.

Svá zjištění publikovali badatelé koncem října v online verzi prestižního časopisu Nature. Od začátku roku 2016 sbírali data z internetového testu Moral Machine, ve které respondenti zabili miliony virtuálních chodců i pasažérů.

Data ukazují, že rozhodně nehodnotíme hodnotu života u všech lidí stejně, navíc se naše postoje liší podle kultury, ve které žijeme. Existují ale také volby, na kterých se shodneme v podstatě globálně. Největší potřebu chránit máme obecně malé děti, analogicky bychom také strhli volant, pokud by před autem procházela těhotná žena.

Graf auta

V porovnání s běžnými lidmi si lidé po celém světě také nadmíru cení lékařů, kterým by dali přednost před sportovci i manažery bez rozdílu pohlaví. Poté už se potřeba chránit jisté typy lidí oproti běžným spoluobčanům výrazně snižuje. Dobře si u respondentů vedly například sportovkyně, ale také manažerky. Oba jejich mužští protějškové by na tom byly ve světlech řítícího se vozu o poznání hůře. Mezi „běžným člověkem“ a manažerem pak lidé už rozdíl skoro nedělají.

Pak je tu ale také druhá část spektra, která by v očích stroje padla za oběť místo běžného člověka pravděpodobněji. Mezi takové se, byť velmi těsně, řadí třeba ženy s nadváhou, muži s kily navíc jsou na tom ještě hůře. V závěsu za nimi jsou bezdomovci následovaní seniory a seniorkami. Pak následuje velký skok, který však skrývá překvapivé zjištění. Lidé by dali přednost tomu, aby jejich auto přejelo kriminálníka, než přecházejícího psa. Úplně na chvostu lidských preferencí se umístily kočky.

Německý etický kód pro automatizované a propojené řízení

V roce 2017 přišla německá etická komise s návrhem na ucelená oficiální obecná pravidla pro programování autonomních automobilů.

Jednalo se první a poslední pokus toho druhu.

Ve shodě s výzkumem vědců z Massachusetts například Němci v sedmém bodě navrhli, aby lidský život měl ve všech situacích nejvyšší prioritu nad vším ostatním.

Kontroverzní byl naopak rovnostářsky laděný bod číslo 9, který tvůrcům autonomních systémů zakazoval rozlišovat mezi lidmi na základě čehokoliv, včetně věku.

Právě tato kategorie se ale zdá univerzálně platná po celém světě.

Přes 420 tisíc odpovídajících se také uvolilo a vyplnilo vědcům údaje o vlastní sobě. Díky tomu jsou k dispozici data, která například ukazují, že život ženy by raději ušetřily právě zástupkyně něžného pohlaví. Rozdíl oproti mužům ale není příliš velký, obě skupiny totiž záchranu ženy preferují, ženy jen o něco více. Rozhodování lidí ovlivnilo také to, zda jsou věřící. Věřící měli spíše tendenci upřednostnit lidské životy před ostatními.

Díky možnosti určit oblast, ze které tázaný pochází, se vědcům podařilo sestavit jakési morální civilizační okruhy. Ukázalo se totiž, že různé kultury vidí tuto problematiku různě. Badatelé rozdělili na základě sesbíraných dat svět do tří okruhů. Češi se nacházejí v tom západním, který zahrnuje Severní Ameriku a většinu Evropy, vedle něj autoři vymezili ještě východní okruh s konfuciánskými státy východní Asie a také státy stavícími na islámské tradici. Třetí, jižanský, okruh zahrnuje země Jižní a Střední Ameriky.

A v čem se liší? Tak například touha chránit spíše mladší než starší je mnohem silnější pro jižanský okruh, než pro okruh východní. Stejně tomu je také, pokud jde o ochranu společensky výše postavených. Lidem z jižanského okruhu zase nejméně leží na srdci ochrana lidského života na úkor toho zvířecího a také by nejvášnivěji chránili ženy a lidi fyzicky zdatné.

Pokud opustíme dělení na tři morální okruhy, můžeme se obrazně podívat do hlav dvou typů společností – individualistických a kolektivistických. Individualisté si cení především hodnoty každého jednotlivce a preferují spíše záchranu co nejvíce životů, naproti tomu kolektivisté zase přikládají díky vnitřnímu nastavení jejich společností větší váhu životu seniorů. Podle autorů studie jsou právě to právě tato dvě kritéria – počet životů a věk zúčastněných – které budou v budoucnu vytvářet zákonodárcům regulujícím autonomní vozy největší dilema. A rozkol mezi těmito dvěma mentalitami jim v tom určitě nepomůže.

Souvislosti lze v datech najít také v závislosti na ekonomické pokročilosti dané země. Lidé z bohatších zemí, kde zpravidla lépe funguje právní stát a jeho instituce, by za svou neopatrnost ve větší míře trestali chodce, kteří se neřídí předpisy. Jinými slovy se tedy dá říci, že obyvatelé chudších zemí by porušování zákonů tolerovali ochotněji, jsou na něj ze své vlasti totiž více zvyklí. Že se na svět lidí díváme pohledem společnosti, v níž žijeme, se ostatně ve volbách respondentů projevilo zcela zřejmě. Lidé ze zemí, kde je ekonomická nerovnost větší, také velmi nerovně nakládali se životy bohatých a chudých.

I přes miliony různých voleb učiněných reálnými lidmi je ale výzkum vědců z Massachusetts jen mělkým škrábancem na povrchu něčeho tak komplikovaného, jako je lidská morálka. Neřeší totiž například případy, ve kterých se jsou ve hře třeba příbuzní, ani situace, ve kterých sedí v autě sám respondent. Kdo by si totiž chtěl koupit auto, které dá přednost životu procházejícího doktora před tím vaším, a nemilosrdně to ve vysoké rychlosti pošle do betonové zábrany?

  • 20Diskuse
Michal Bernáth

Autor

Michal Bernáthmichal.bernath@lidovky.czČlánky

Vyhrály nový vysavač. Jak jsou spokojené?
Vyhrály nový vysavač. Jak jsou spokojené?

Během září jste na eMimino.cz měli možnost zúčastnit se soutěže o vysavač Electrolux Pure D9. Tři výherkyně už mají nového pomocníka na úklid doma. Jak s ním jsou spokojené a doporučily by ho i vám?

Najdete na Lidovky.cz