Co když bude cenou za myslící stroje nemyslící člověk?

Balon prorazil stůl, protože byl z polystyrenu. Co bylo z polystyrenu – balon nebo stůl? Na tuto otázku je každý schopný správně odpovědět na základě vlastních zkušeností, zatímco počítače si s její dvojznačností nevědí rady. Zatím.

V roce 1962 tehdejší americký prezident John F. Kennedy v jednom svém projevu prohlásil: „Jsme přesvědčeni, že pokud člověk dokáže vymyslet stroje, které vezmou lidem práci, pak je i schopný těmto lidem obstarat novou.“ Kennedy byl mistrem rétoriky a opakováním slov práce, člověk nebo schopnost dokázal vzbudit naději.

Pokles poptávky po pracovní síle

Americké dějiny jsou plné pádů, jejichž překonání zvýšilo moc této země. Po finanční krizi v roce 2008 se zdálo, že se tento model opakuje. Na rozdíl od Evropy, jež se do této krize stále více propadala, se americká ekonomika rychle vzpamatovala a vrátila k růstu. Nezaměstnanost však zůstala vysoká, a pokud v USA vznikají nová pracovní místa, pak ze tří čtvrtin v odvětvích s nízkými platy.

Analytici a komentátoři tento jev dlouhou dobu vysvětlovali tím, že se pracovní místa v průmyslu přesunula do asijských zemí s nízkými mzdami, ale i v nich jejich počet kvůli automatizaci klesá, přestože produkce roste. Zdá se, že se odehrává zásadní změna.

Podle nositele Nobelovy ceny za ekonomii Paula Krugmana „chytré“ stroje sice přispívají k ekonomickému růstu, ale současně snižují poptávku po lidské pracovní síle – i kvalifikované. Výsledkem může být společnost, jejíž blahobyt sice neustále poroste, ale prospěch z něj budou mít jen majitelé těchto „chytrých“ strojů.

Světová ekonomika nabývá nové dynamiky, ale problém spočívá v tom, že všichni nemohou být programátory či počítačovými experty. Navíc nejen mizí pracovní příležitosti pro kvalifikovanou střední třídu, ale množí se i náznaky, že kvůli nárůstu automatizace pozbývá člověk kognitivní schopnosti, kterých nabyl v minulosti.

Americký technologický historik George Dyson v této souvislosti klade otázku: Co když bude cenou za myslící stroje nemyslící člověk? Ztráta kreativity a sofistikovaných schopností je pak tématem knihy The Glass Cage: Automation and Us (Skleněná klec. Automatizace a my) amerického technologického novináře Nicholase Carra.

Příklad Inuitů

V bulvárních mediích se často objevuje fotoreportáž, v níž řidič přihlíží vyprošťování svého vozu odtahovou službou. V článku k této fotoreportáž se pak píše, že se spolehl na svou navigaci, a když nabídla odbočit do prava, učinil to, přestože by pohledem zjistil, že kvůli autobusové zastávce to není možné.

Na ostrově Igloolik na severu Kanady, jejž v zimě pokrývá sníh a led, slunce se téměř neobjevuje a teploty klesají značně pod bod mrazu, žije kmen Inuitů. Ti sice původně neměli orientační body, jako je slunce, hory nebo vegetace, za situace, kdy sníh neustále mění tvar a stopy během několika hodin mizí, ale při lovu se bez problémů pohybovali terénem.

V orientaci jim nepomáhaly mapy, kompas ani GPS navigace, ale znalost chování zvířat, vlastností sněhu, pohybu větrů a mořských proudů nebo poloh hvězd. Neorientovali se na základě technologických zařízení, ale pozorování okolí. Moderní technologie ale pronikly i k nim.

Inuité začali používat stejně jako obyvatelé městských aglomerací navigační přístroje, čímž se u nich zvýšil počet nehod při lovu nebo smrtelných zranění. Příčinou je slepá důvěra v tyto přístroje. Jejich dřívější soustředění na okolí se snížilo, a pokud jim přestanou fungovat baterie a navigace, ztratí se.

Jsou-li však tato zařízení funkční, spoléhají se Inuité na trasy navržené satelity, přestože vedou přes tenký led nebo trhliny, přičemž v minulosti by se těmto ohrožením vyhnuli. Jejich rychlejší orientaci v terénu doprovázejí nová rizika vyplývající ze ztráty kognitivních schopností nabytých v minulosti.

Letecká doprava

Antropolog Tim Ingold ze skotské univerzity v Aberdeenu rozlišuje dva druhy pohybu: objevení cesty a transport. Tím prvním se lidé původně řídili, a to na základě pozorování okolí a výzkumu jeho vlastností. Pozorování a jednání jsou propojené a neustále se vyvíjejí, což přináší nové poznatky a problémy.

Transport oproti tomu představuje cílenou přepravu lidí a zboží z jednoho místa na druhé. Dnes je prakticky v každém autě GPS navigace, ale málokdy tradiční mapa znázorňující prostorový kontext. Softwarové programy nabízejí stále sofistikovanější plány nákupních center, letišť, budov či úřadů. Google posílá své fotografy, kteří pracují pro program Street-View, do restaurací, ministerstev, muzeí nebo klášterů, aby je detailně zdokumentovali. Technická navigace se neustále zlepšuje a přirozená orientace lidí zhoršuje.

Příkladem velké automatizace je letecká doprava. V letech 1962 až 1971 bylo přepraveno 1,3 miliardy cestujících a při leteckých haváriích jich zahynulo 1696, tedy zhruba 1,3 na milion. V období 2002 až 2011 se však tento počet obětí zvýšil na dvě na milion cestujících. Z kabin letadel zmizel navigátor, obsluha vysílačky nebo technický inženýr, dnes pilot především kontroluje údaje z počítačového ústředí. Jeho podíl na letu se omezil na start a přistání.

Letečtí odborníci jsou přesvědčeni, že bezpilotní lety se stanou v blízké budoucnosti realitou. Do té doby však zřejmě budeme svědky leteckých neštěstí vyplývajících z poklesu praktických zkušeností pilotů, a to navzdory tisícům nalétaných hodin. V důsledku automatizace v letectví totiž degenerují schopností leteckého personálu.

Architektura a medicína

Třídimenzionální programy sice zkracují proces vývoje v architektuře, ale současně v ní mizí stadium objevování, během něhož vznikaly původní nápady. Mizí zpětná vazba a poučení z odstraněných chyb, čímž architekt ztrácí cit pro svůj projekt. Automatizací se zvyšuje odstup od reality.

Přibývá také studií věnujících se nárůstu odstupu lékaře od pacienta. Klikání na možnosti léčby, které program navrhuje lékaři, zvyšuje náklady a současně paušalizuje pacienty. Dříve si lékař pročetl záznamy svých kolegů z předchozích vyšetření, čímž získal přehled o dosavadním průběhu léčby.

Používání počítačů přispívá k opakování diagnóz, ve kterých je jen změněno jméno pacienta, v důsledku čehož vypadají všechna vyšetření podobně. Lékaři na úrazových odděleních nejednají podle návodu, ale na základě svých zkušeností a znalostí určí diagnózu a léčbu. Počítač, který se vklínil mezi lékaře a pacienta, ovlivňuje jejich interakci.

Etická rozhodnutí

Počítačové programy na kontrolu gramatiky se zdají být jednou z příčin zhoršení pravopisu. Původně podtržením chybně napsaného slova tyto programy upozorňovaly, aby toto slovo bylo opraveno. V důsledku jejich zdokonalení však lidé stále méně přemýšlejí, jak správně psát, a spoléhají se na automatické opravy.

Google a Facebook tuto korekturu přenesly do sociálních vztahů a doporučují například restaurace podobné té, kterou daný člověk hodnotil pozitivně, nebo přátelství s lidmi, které se mu podle algoritmů nejvíce podobají. Tyto funkce sice lze zrušit, ale jak tomu bude u strojů, které budou přebírat odpovědnost, a nebude možné je vypnout?

Při sekání trávy dá většina lidí stranou žábu nebo šneka, objeví-li se před sekačkou. Automatické sekačky ale taková etická rozhodnutí neprovádějí. Ještě komplikovanější situace může nastat, pokud před auto bez řidiče vběhne malé dítě. To vyhodnotí, že srazit ho je ze 75 procent výhodnější pro posádku. Lidskou reakcí přitom spíše je strhnout volant než přemýšlet o procentuálních možnostech vyplývajících z této události.

Odevzdání odpovědnosti

Morálka je velmi důležitá, protože nemusí být v různých kulturách totožná, což přináší problém, kdo o ní bude rozhodovat: výrobce či majitel robota, programátor softwaru, politici, státní úřady, filozofové nebo pojišťovny?

Zavedení elektřiny změnilo život společnosti, protože například umožňovala pracovat v noci nebo díky chladicím zařízením skladovat potraviny, kde to dříve nebylo možné. Automatizace podobně jako elektrifikace mění život společnosti, tato změna však bude mnohem větší. Většina lidí sice nedokáže opravit vodovodní kohoutek nebo toaletu, ale ví, jak vodovodní a odpadový systém funguje a jaký má účel.

U softwaru však tato znalost v podstatě neexistuje. Například odevzdáním odpovědnosti autu bez řidiče se lidé nejen vzdají možnosti získat zkušenosti s jeho řízením, ale i toho, jak tuto schopnost zlepšit. Účel naprogramovaného softwaru neznáme. Nevíme, má-li lidem pomáhat, nebo je kontrolovat. A tentokrát to budou lidé, kteří nedokážou odpovědět na otázku, kdo auto řídí.