Samořiditelné auto už není sci-fi. Bude mít i svědomí?

Samořiditelné auto nejen může zabít člověka, ale někdy, bohužel, bude muset. Jednoduše nebude mít jinou možnost. Jak se ovšem autonomní vozidla budou v takových situacích chovat, to zatím v podstatě nikdo neví. Zatímco v USA už tamní úřady uznaly, že software autonomního auta lze považovat za řidiče a že zatím nebudou automobilkám diktovat, jak mají autonomní auta konstruovat a vyrábět, rozhodovací procesy jsou dosud předmětem zkoumání.

Právo a morálka

„Ačkoli samořiditelná auta pomohou zachránit nespočet životů, které jsou dnes zmařeny kvůli chybě lidského řidiče, nemohou se vyhnout zdaleka všem nehodám, což donutí umělou inteligenci vypořádat se s morálními dilematy,“ vysvětluje Sohan Dsouza, jeden z výzkumníků Massachusettského technologického institutu (MIT), jenž pracuje na výzkumu nazvaném Moral Machine. V něm tým slavné bostonské univerzity řeší, jak by se auta měla chovat v krizových situacích, kdy mají na výběr jen ze „špatných voleb.“

Podle Dsouzy jednoduše nelze ani u autonomních vozů nehodám zcela zabránit. Auto může mít nějakou mechanickou poruchu nebo mohou nehodu způsobit nenadálé události, jako je pád stromu či sesuv půdy. A zapomínat nelze ani na řidiče běžných vozů bez automatického řízení nebo chodce, kteří představují nevyzpytatelnou proměnnou.

Dosavadní studie se podle Dsouzy v tomto ohledu věnovaly jen zjednodušeným případům, které zkoumaly například přijatelnost obětování pasažéra na úkor „nevinného“ účastníka nehody. Jenže v kritické situaci může hrát zásadní roli celá řada faktorů, jako třeba fakt, zda chodci dodržují při přecházení vozovky pravidla, nebo třeba i charakteristika samotných chodců. Proto tým, jehož je Dsouza součástí, vytvořil studii, která má za úkol posoudit vnímání různých krizových situací a jejich výsledků laickou veřejností.

Podle čeho by se přesně mělo auto v krizové situaci rozhodovat, zatím výzkumníci nevědí. „Lidé vnímají přijatelnost rozhodnutí učiněných umělou inteligencí rozdílně, než jak vnímají stejné rozhodnutí učiněné člověkem. A odlišně v takovém případě připisují i zodpovědnost za vzniklou situaci,“ vysvětluje Sohan Dsouza jednu z mnoha komplikací tohoto úkolu.

Podle něj tak budou nezbytně nutnou roli hrát zákonodárci, kteří budou muset určit podmínky odpovědnosti. „Očekáváme, že konečné rozhodování bude obsahovat kombinaci rozhodovacích modelů, získaných za pomoci crowdsourcovaných dat, se zákonodárci určenými pevnými pravidly a také možná smluvně ošetřenými volbami učiněnými samotným řidičem,“ naznačuje Dsouza, že by v některých situacích mohl možná řidič převzít rozhodování do svých rukou.

Výzkumný tým Moral Machine ovšem zjistil, že rozhodování dle modelů získaných z průzkumů mezi laickou veřejností se může výrazně lišit region od regionu. Z dat, která na MIT prozatím nasbírali, totiž vyplývá, že lidé v některých částech světa dávají přednost záchraně co největšího počtu životů a naopak pro ně není prioritou záchrana pasažéra na úkor chodců, zatímco v jiných částech světa je tomu naopak. „Pozorujeme také, že někteří lidé preferují v některých situacích nečinnost, a to i za cenu větších obětí na životech,“ popisuje Dsouza.

Praha, centrum samořiditelných aut

Zatímco na MIT zkoumají, jak by mělo vypadat rozhodování samořiditelných aut, v Praze se brzy otevře pracoviště, které bude řešit jejich praktickou funkčnost, a to například i v krizových situacích. Společnost Valeo tu v prosinci otevře zcela nové vývojové centrum, které bude patřit ke špičkovým světovým pracovištím pro vývoj techniky autonomních vozidel.

Nové centrum vyrůstá v Praze Hostivaři, jen pár set kroků od konečné metra linky A. Jeho samotný vznik je jen dalším důkazem překotného vývoje v této oblasti. Nejenže se na stavbě krátce před dokončením celého areálu neustále intenzivně pracuje i v pozdních odpoledních hodinách, kdy jiná staveniště zejí prázdnotou, celý objekt především vznikl s neuvěřitelnou rychlostí.

„Nápad na výstavbu zcela nového vývojového centra se zrodil 25. srpna 2015 a už 1. prosince se začalo stavět a kolaudace areálu by měla proběhnout v říjnu či listopadu letošního roku,“ vysvětluje Pavel Vokál, který měl vznik nových kapacit v české pobočce Valea na starosti. Vokál říká, že místní pobočka francouzské centrále nabídla, že takové centrum vybuduje, a francouzská strana nabídku přijala s tím, že schvalovací proces i shánění financování byly na korporátní poměry nezvykle rychlými záležitostmi.

„Po těchto technologiích je momentálně obrovská poptávka a tu je potřeba nějak uspokojit. Samořiditelná auta jsou dnes v podstatě ve stavu, ve kterém se před mnoha lety nacházely chytré telefony, tedy na samotném začátku,“ vysvětluje „otec“ pražského vývojového centra důvody, proč šlo schvalování tak rychle. A přiznává, že firma měla i docela štěstí, že se jí podařilo sehnat vhodnou lokalitu, kde mohla začít rychle stavět bez větších byrokratických průtahů. Přípravy pak běžely sedm dní v týdnu s maximálním možným nasazením. V Praze se firma rozhodla stavět kvůli dostupnosti metropole z různých částí světa a kvůli komfortnímu prostředí pro zaměstnance.

V laboratoři i na silnici

Nový areál bude mít rozsáhlé laboratoře, kanceláře pro zhruba 600 inženýrů a vlastní testovací polygon, což je na takové pracoviště umístěné uvnitř velkoměsta poměrně nezvyklé. Pražské vývojové centrum se postaví na roveň těm, která má Valeo ve francouzském Bobigny nebo u německého Stuttgartu. „Budeme samostatné vývojové centrum schopné pracovat na všech řešeních pro autonomní vozidla,“ vysvětluje Vokál s tím, že každé ze světových R&D center firmy může obsluhovat jiné zákazníky. „V něčem ovšem budeme rozvinutější než stávající centra. V rámci firmy se například budeme specializovat na vývoj laserových senzorů, například na testování SCALA laser-skeneru,“ říká hrdě Vokál.

Laboratoře v přízemí budovy budou mít půdorys až 20 na 25 metrů a vysoké stropy, chystá se tu i budoucí vývoj autonomních nákladních vozů. „Počítáme s tím, že tato technika přejde i do nákladních aut,“ naznačuje budoucí vývoj Pavel Peka, ředitel vývojového centra Valeo v Praze.

Jednotlivé laboratoře budou sloužit k různým účelům. Bude tu například klimakomora, která bude schopna zajistit téměř libovolnou teplotu, která se může někde na Zemi vyskytnout, což dovolí otestovat funkčnost senzorů za rozličných podmínek.

Specialitou bude také laboratoř, která dovolí simulovat libovolné světelné podmínky. „Od pravého poledne na rovníku až po úplnou tmu,“ vysvětluje Pavel Vokál. Díky poznatkům z laboratoří, výkonným počítačům a softwarovým simulacím ve virtuální realitě pak budou moci vývojáři v pražském centru vyzkoušet řadu situací, včetně třeba té, která hrála roli při nedávné nehodě vozu Tesla řízeného funkcí Autopilot, při které řidič auta zemřel. Senzory vozu si tehdy ve specifických podmínkách nevšimly tahače s návěsem, který odbočoval Tesle přes cestu. Auto tehdy svého řidiče neochránilo a Joshua Brown je považován za první oběť samořiditelného vozu, byť jím Tesla v pravém smyslu není.

Jak různé senzory reagují na předměty a překážky, bude zkoušet například mapovací komora. V té se může roboticky vůči autu pohybovat testovací překážka a inženýři mohou sledovat, jak senzory její přítomnost zaznamenávají a jak na ni reaguje řídicí software. Obdobně tu bude speciální laboratoř s málo odraznými stěnami pro testování radarů.

Auta v pražském vývojovém centru ovšem nebudou nutně pouze uzavřena v samotných laboratořích. Přímo z testovacích kójí totiž budou moci prototypy vyrážet i na testovací trať, která bude k budově přiléhat. „Testovací polygon má rozměry zhruba 40krát sto metrů a můžeme zde otestovat chování autonomních řešení v některých praktických situacích,“ vysvětluje Vokál. „Co neotestujeme tady, budeme moci vyzkoušet na naší dráze na letišti v Milovicích,“ dodává.

Tamní pracoviště Valea tedy zůstane aktivní, nabízí přece jen více prostoru. Čeští vývojáři ale nechtějí zůstat jen u testů v kontrolovaném prostředí. „Plánujeme samozřejmě i testy v běžném provozu a při vyšších rychlostech, výhodou tedy je, že hned za branami máme klasické komunikace a jsme jen kousek od nájezdu na dálnici,“ zdůrazňuje jednu z dalších výhod centra šéf jeho výstavby.

Po Praze a jejím blízkém okolí se tak již možná brzy budou prohánět prototypy aut, které nás jednou budou vozit zcela automaticky. Vozů, které mají za úkol minimalizovat počty mrtvých na silnicích, ale které kvůli tomu možná budou někdy muset udělat i hodně nepříjemné a kontroverzní rozhodnutí. I to může být jeden z úkolů k prozkoumání pro inženýry z Prahy.