Cena za zdánlivě bezplatný přístup k informacím: Osobní svoboda

Když španělští conquistadoři dobývali v Novém světě stále další území pro svého krále, legalizovali tuto činnost tím, že předem seznámili původní obyvatele s královským ediktem, jenž je zmocňoval zastupovat boží, papežskou a královskou autoritu. Indiáni se stávali vazaly španělské koruny a edikt obsahoval i tresty, pokud se jí nepodřídí.

Nejenže byl ve španělštině, kterou původní obyvatelé neovládali, ale ani si nedokázali nějakou evropskou mocnost představit. Historické zdroje pak ukazují, že Španělé často cynicky informovali původní obyvatele v noci ve velké vzdálenosti od jejich obydlí a poté je přepadli a za nepodřízení se potrestali.

{NADPIS reklamního článku dlouhý přes dva řádky}

V 21. století se dobyvateli staly internetové společnosti, jako je Google či Facebook, jež se chovají podobně jako španělští conquistadoři. Neustále obsazují nová území lidského života, přičemž tuto svou činnost legalizují až po odmítavé reakci. Dobytá území nehodlají opustit a jejich ediktem jsou obchodní podmínky, které jsou pro jejich uživatele stejně nesrozumitelné a nevýhodné, jako byl ten královský pro původní jihoamerické obyvatele.

Tyto internetové společnosti používají informace, které získávají od lidí, aby mohly předpovědět jejich jednání. Nejde o orwellovskou totalitu, jež zcela kontroluje soukromí, život a myšlenky člověka, ale směřuje proti podstatě lidskosti – bere právo na vlastní rozhodnutí a budoucnost, protože algoritmy vše předem stanovují. Ztráta osobní svobody je pak cenou za zdánlivě bezplatný přístup k informacím, jejž umožňuje internetový vyhledávač.

Co tento sledovací kapitalismus je a jak funguje, ukazuje ve své knize Das Zeitalter des Überwachungskapitalismus (Věk sledovacího kapitalismu) americká ekonomka a emeritní profesorka na Harvard Business School Shoshana Zuboffová. Zajímavé je, že tato její dlouho očekávaná práce vyšla nejprve loni na začátku října německy a anglicky až letos v polovině ledna pod titulem The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Věk sledovacího kapitalismu. Boj o lidskou budoucnost a novou hranici moci).

Jen zprostředkovatelé

Americký podnikatel a průkopník automobilového průmyslu Henry Ford (1863–1947) se zapsal do dějin industriálního kapitalismu a první modernity tím, že zvýšením platů svým zaměstnancům umožnil koupit si jimi vyráběná auta. Vzdělání, zdravotní péče nebo osobní blahobyt se díky masové výrobě staly společenským standardem.

Druhá modernita přinesla emancipaci člověka a změnu jeho vědomí v rámci politického systému. Důsledkem byly regulace a vznik odborů reagujících na prostředí doprovázející kapitalismus – práce dětí, dlouhá pracovní doba, chybějící volno nebo zajištění v nemoci. Na konci tohoto procesu byl boj za zrovnoprávnění žen, menšin a za svobodu sexuální orientace.

Industriální kapitalismus se transformoval ve finanční, jehož nedostatky se ukázaly v průběhu krize v roce 2008. První modernita přestala společensky fungovat, ale druhá nezajišťovala stabilitu. Důsledkem je permanentní krize – od arabského jara a „barevných“ revolucí přes hnutí Occupy Wall Street a demonstrace v Tel Avivu nebo Istanbulu až po brexit a Hnutí žlutých vest ve Francii v současnosti. Jejich společným jmenovatelem je nerovnost, sociální vyloučení a pocit, že politika není schopná na novou situaci reagovat.

Vzniklý prostor vyplnil sledovací kapitalismus manipulující lidské chování – třetí modernita. V ní je lidské jednání téměř stoprocentně předvídatelné a každé budoucí rozhodnutí ovlivnitelné. Neomezený přístup k informacím je ve skutečnosti manipulací – nepředkládá uživateli internetu realitu, ale na základě algoritmů to, co si vědomě či podvědomě přeje. O manipulaci se nikdy nedozví, protože ke všem informacím mají přístup jen jejich zprostředkovatelé, jako je Google nebo Facebook.

Z internetového vyhledávání nelze poznat, které informace chybějí, ani svět jiných uživatelů. Člověk přestává být samostatnou individualitou a stává se manipulovanou loutkou, které bylo odebráno právo na budoucnost, protože jeho rozhodnutí jsou buď ovlivněná, nebo předem známá.

Sledovací kapitalismus

Průkopníkem a vynálezcem sledovacího kapitalismu je Google, který v něm hraje stejnou roli jako Henry Ford v industriálním kapitalismu, když zdokonalil montážní linku. Na začátku nabízel Google zlepšení druhé modernity – demokratický přístup k informacím, necenzurovanou kritiku a projev názoru každého, což do té doby bylo privilegiem elity novinářů a politiků. Změna nastala po první internetové krizi v roce 2000 – prasknutí dotcom bubliny.

Investoři začali Google nutit k zisku, což doprovázely dva jevy – cílená reklama a zjištění, že uživatelé internetu generují obrovské množství dat. Ta byla zpočátku považovaná za informační odpad, ale později vedení Googlu pochopilo, že jde o poklad zadarmo, který lze použít k vytvoření produktů předvídajících lidské chování. Tento informační nadbytek se stal základem ekonomické moci Googlu, který jej však nadále nazýval odpadem, protože chtěl veřejnosti i konkurencí zatajit svůj objev „zlatého dolu“.

Sledovací kapitalismus nezajímá konkrétní uživatel internetu, ale pouze jím generovaná data, a proto jej nelze označit za zákazníka – nejde o ekonomickou výměnu, informace o uživatelích byly zpočátku vedlejším produktem vyhledávání na internetu. Později začal Google tyto informace, jež měl zdarma, shromažďovat a používat bez souhlasu uživatelů – prodává je bez jejich vědomí, přestože jde o jejich soukromí.

Součástí soukromí je mimo jiné rozhodnutí jedince, které informace zveřejní, nebo si nechá pro sebe. Google toto individuální právo ignoruje a veřejnost nejen neví, co vše tato internetová společnost ví, ale Google dělá vše, aby se to nedozvěděla, k čemuž používá algoritmy a umělou inteligenci.

Nový zdroj

Spoluzakladatel časopisu Wired Kevin Kelly již před léty upozornil, že se zdá, že Google zlepšuje své schopnosti v oblasti umělé inteligence, aby mohl nabídnout lepší vyhledávání, přičemž zlepšuje vyhledávání, aby zdokonalil svou umělou inteligenci. Jeho domněnku podporují mediální akce Googlu, co jeho umělá inteligence umí. V roce 2016 porazil program AlphaGo Jihokorejce Lee Sedola, jednoho z nejlepších hráčů go na světě. A letos v lednu program Alphastar, stejně jako AlphaGo z dílny Googlu DeepMind, hráče počítačové hry Starcraft II.

Po lidské pracovní síle, nerostných surovinách a finančních produktech objevil kapitalismus nový zdroj – vzpomínky, zkušenosti a emoce, na jejichž základě určuje lidské chování, jež následně mění v produkty předpovídající budoucí rozhodnutí jedince. Důležité jsou tudíž platformy generující data, a pokud je přinášejí, nehrají peníze roli. Proto Google koupil videoportál YouTube a firmu Nest vyrábějící chytré termostaty, Microsoft sociální síť LinkedIn a Facebook aplikaci WhatsApp a sociální síť Instagram.

V 19. století vedl rozmach monopolů v americké ekonomice ke konfliktu se státem, který skončil jejich rozbitím a regulací. Podobně se v 21. století technologické koncerny brání regulaci a zákonům proti jejich monopolnímu postavení. Pomohly jim paradoxně teroristické útoky na Pentagon a Světové obchodní centrum v New Yorku 11. září 2001, protože bylo důležité získávat informace pro boj s terorismem, v důsledku čehož byla regulace technologických koncernů upozaděna.

Kampaň Baracka Obamy

Výhodou spolupráce státu a privátní sféry je, že soukromé firmy nejsou svázané stejně přísnými pravidly jako státní instituce. CIA se proto již od devadesátých let angažovala v Silicon Valley a založila například vlastní firmu rizikového kapitálu In-Q-Tel, která investuje do startupů. Válka proti terorismu a hlad po informacích se pak staly důležitými jevy, jež umožnily sledovacímu kapitalismu se bez velkých překážek ze strany státu rozvíjet a stabilizovat.

Vedení Googlu a Facebooku si uvědomila, že jde o výjimečnou situaci a investovala obrovské částky do lobbistů, aby tato situace vydržela co nejdéle. Usnadnil jim to i neoliberalismus požadující co nejmenší regulaci, pocit vyloučenosti – jsou-li všichni na Facebooku, musím na něm být i já – a skutečnost, že určité úkony dnes nelze bez internetu provést, například koupit letenku. Technologický vývoj a expanze koncernů, jako je Google nebo Facebook, jsou natolik rychlé, že stát v podstatě nedokáže tento proces sledovat, natož mu rozumět.

Tito internetoví giganti politicky posílili v průběhu kampaně Baracka Obamy na prezidenta USA. Google mu poskytl nejen informace o amerických voličích umožňující je identifikovat a cíleně oslovit, ale i jeho volebnímu štábu své zaměstnance. Ti, kteří se vrátili do Googlu, pak umožnili přímé spojení do Bílého domu.

Pro Obamu spojení se Silicon Valley znamenalo, že je kandidátem moderní doby a technologické inovace. Googlu a dalším technologickým firmám pak potvrzovalo jejich mytologii, že nejde o komerční projekty na hranici monopolu, ale o podporu dobra podle motta Googlu Don’t be evil (Nebuď zlo).

Přepadení, návyk, přizpůsobení a nové nasměrování

Získávání dat díky zdarma poskytovaným službám, jako je e-mail Googlu, operační systém Android nebo e-mapy Googlu, má čtyři stadia – přepadení, návyk, přizpůsobení a nové nasměrování –, jež lze ukázat například na službě Google Street View nabízející fotografie ulic a měst.

V prvním stadiu přepadení Google fotografoval domy a auta s čitelnými poznávacími značkami bez souhlasu jejich majitelů. Chvíli trvalo, než veřejnost pochopila, co se děje, ale pak přišly protesty a žaloby. Druhé stadium návyku sice doprovázely stížnosti a soudní pře, ale vlekly se několik let – právnické týmy Googlu si daly záležet, aby situace byla právně nejasná co nejdéle. Během této doby si ale veřejnost na Google Street View zvykla a tato služba pomáhá každému, kdo něco hledá, a chce předem vidět, jak dané místo vypadá.

Ve třetím stadiu přizpůsobení Google prohlásil, že ochrana soukromí je jeho prioritou, a zaplatil pokuty. Kde musel, rozmazal tváře chodců, poznávací značky aut nebo budovy, jejichž majitelé si nepřáli být na internetu. V Japonsku snížil Google i výšku pro umístění kamer, protože mnoha Japoncům vadilo, že jim nahlížejí do zahrad. Tím byl potlačen hlavní důvod odporu a veřejnost Google Street View akceptovala.

Ve čtvrtém stadiu nového nasměrování Google rozšířil svou službu o fotografie míst, kam se jeho auta nedostala, a začal nabízet zadarmo ruksaky s kamerou, jež je snímá.

Ovládnutí vědění

Výzkum v roce 2015 ukázal, že při návštěvě stovky nejoblíbenějších stránek na internetu si uživatel stáhne více než šest tisíc cookies, z nichž 83 procent patří firmám, které nemají s obsahem stránek nic společného, přičemž příjem informací z internetu doprovázejí data odcházející od uživatele ke zprostředkovateli, čímž vzniká viditelný a skrytý text.

Ten první je pro uživatele primární, ale za tímto viditelným textem je skrytý, jenž poskytuje informace o uživateli – jaké stránky navštěvuje, co čte, a jak dlouho, co opomíjí, co komentuje, a co nikoliv nebo které komentáře maže. Nejen každá činnost, ale i nečinnost generuje data, z nichž lze sestavit profil uživatele.

Informační dominance, již přináší manipulace výsledků vyhledávání Googlem nebo zobrazených zpráv Facebookem, má ještě jeden dopad. Kontrolou toho, co uživatel vidí, Google a Facebook získávají asymetrickou moc, jež jim umožňuje rozhodovat, které informace a vědění uživatel dostane. Díky své infrastruktuře a umělé inteligenci pak ovládají vědění a společnost musí akceptovat, že sledovací kapitalismus rozhoduje o přístupu k němu.

Nerovnoměrné rozdělení

Důsledkem jsou obrovské nároky na infrastrukturu a know-how. Odhaduje se, že v roce 2016 měl Google 2,5 milionu serverů na čtyřech kontinentech. Jeho výzkumná oddělení vyvíjejí nové procesory Tensor Processing Unit (TPU), které jsou nejen rychlejší, ale i uzpůsobené pro umělou inteligenci a mají mnohem nižší spotřebu energie než procesory předchozí generace.

Navíc jsou přizpůsobené vlastním algoritmům, přičemž Google ví, že umělá inteligence se tím lépe učí, čím více dat má k dispozici. A Google disponuje největším množstvím dat. Zpracování dat, umělá inteligence a vývoj nových procesorů však potřebuje odborníky, kterých je však ve světě nedostatek, a proto se o ně vede boj, přičemž internetové koncerny mají dost kapitálu, aby je získaly.

V roce 2017 vydaly americké technologické firmy 650 milionů dolarů na získání odborníků na umělou inteligenci. Tato černá díra, která vtahuje ty nejlepší, má za následek, že vědění je ve společnosti stále více nerovnoměrně rozdělené. Nejen stát, ale i univerzity začínají mít problém získat kvalifikované lidi. Špičkové technické znalosti a intelekt se dnes soustřeďují v privátních firmách v Silicon Valley.

Větší kontrola

Zpracovávání osobních dat tvoří základ ovlivňování jednotlivců. Několik startupů se specializuje na produkty odhadující riziko, jež analýzou dat na internetu a sociálních sítí dokážou zjistit, zda zájemce o nájem bytu dodrží své povinnosti, je-li možné půjčit na nákup domu nebo auta, či nakolik hrozí, že některý zaměstnanec kvůli nespokojenosti z firmy odejde za lepší nabídkou nebo ke konkurenci.

Pomocí internetu již dnes lze nastartovat, či zastavit automobil, pokud sledovací algoritmus zjistí, že majitel nezaplatil měsíční splátku. Dokáže i sledovat způsob jízdy nebo porušování pravidel silničního provozu a následně informovat pojišťovnu, jež následně přizpůsobí pojistku rizikovosti klienta.

Internet věcí shromažďuje data a zvyšuje kontrolu lidského života. Nejen auta a termostaty hlásí informace, ale i vysávací roboti jsou vybavení kamerou a senzory. Jejich výrobce sice nabízí vypnutí, ale majitel musí počítat s tím, že vysavač ztratí řadu schopností. Nejen Alexa Amazonu nebo televize Samsung jsou schopné nahrávat, co se v místnosti řekne.

Výrobci sportovního oblečení dávají do běžeckých bot senzory propojené s mobilním telefonem. Z dat lze nejen zjistit, kolik kilometrů, jak často a dlouho jejich majitel běhá nebo tep jeho srdce, ale zdravotní pojišťovna si i může udělat představu o jeho zdravotním stavu. Aplikace také informuje, že boty již uběhly tolik kilometrů, že nejsou funkční, a pokud majitel chce, bude mu nový pár objednán do nejbližšího obchodu u bydliště nebo zaslán do zaměstnání či domů.

Uživatel internetu věcí také může komunikovat s celou domácností, což lze ekonomicky a sociálně využít. Facebook díky funkci byl jsem volit zjistil, že je možné ovlivnit chování lidí ve volbách. Sociální tlak, jenž vznikl, protože přátelé už byli volit, vedl k vyšší motivaci zúčastnit se jich. Chování lze ovlivnit i hrou Pokémon Go. Bary, obchody a restaurace platily za to, aby v jejich lokalitě byl pokémon, což jim zvýšilo obrat.

Nezájem o jednotlivce

Když američtí otcové-zakladatelé vytvářeli politický systém, byli přesvědčeni, že člověk má právo na vlastní rozhodnutí, jež je základem svobody. Moderní technologie ovlivňující lidské chování však jsou v rozporu s tímto pojetím svobody i demokracie. Předvídatelnost lidského chování popírá právo na budoucnost, jež byla až dosud jednotlivci neznámá, čímž končí jeho svoboda. Chybovat je lidské, chyby jsou cenou za svobodná rozhodnutí na rozdíl od sterilní diktatury předem známých rozhodnutí jednotlivce.

Snaha ovlivnit lidské chování není nová, v průběhu studené války ji vyvíjely USA i Sovětský svaz, tentokrát se však zdá, že bude úspěšná. Dříve si nikdo nedokázal představit, že by nástroje ovlivňující lidské chování vlastnil někdo jiný než stát, přičemž kontrola technologických gigantů je srovnávaná s Velkým bratrem z Orwellova románu 1984.

Tak však sledovací kapitalismus nefunguje, manipuluje skrytě a subtilně. Totalitarismus prosazoval své cíle represí, například vězněním, popravami či kontrolou myšlenek, což však bylo drahé. Sledovací kapitalismus jednotlivec nezajímá, nechce ho vlastnit, ale ovládat ovlivněním jeho chování díky informacím. Nástrojem k prosazení tohoto cíle není násilí, ale manipulace, jíž si ani nevšimne.

Rychlý vývoj

Podle šéfa Facebooku Marka Zuckerberga je jeho sociální síť novou globální církví, která spojí všechny lidi na světě. V důsledku nárůstu propojení digitálními technologiemi však klesá důvěra v demokracii, státní instituce a duchovní hodnoty. Facebook je příkladem třetí modernity, nové kolektivní formy řízené algoritmem v soukromém vlastnictví.

Industriální kapitalismus se zaměřoval na přírodní zdroje, finanční na spekulace. Sledovací kapitalismus usiluje o využití a ovládnutí lidí, a proto není demokratický. Jeho nástup k moci se neodehrál vojenským pučem, ale anexí interakcí ve virtuální realitě. Sledovací kapitalismus zavrhl nejen neviditelnou ruku trhu, ale i rozdíly mezi trhem a společností, trhem a světem a trhem a jednotlivcem. Zaměřuje se na zisk a jeho prioritou je shromažďování dat.

Důsledkem je drolení lidské společnosti, uvolněný prostor však nezaplňují populisté, ale moderní technologie manipulující lidské chování. Třetí modernita spočívá v nenásilném prosazení budoucnosti, kdy jsou chyby předem eliminované, podobně, jako je ve filmu Minority Report preventivně bráněno zločinům. Cenou je ztráta svobody. Vývoj je natolik rychlý, že není čas se orientovat, přičemž politika už není pro společnost nejdůležitější, protože cítí, že nic nedokáže vyřešit, a tudíž dává stále častěji najevo svou nespokojenost protesty.

Vrchol organizace společnosti

Kniha Shoshany Zuboffové je průlomová, protože poskytuje terminologii a vysvětluje nový, sledovací kapitalismus. Zuboffová hájí člověka a jeho důstojnost a klade si otázku, jak zabránit, aby se Google a Facebook, dva hlavní představitelé tohoto kapitalismu, nezmocnily svobodného rozhodování jednotlivce, jež je pro něho nepostradatelné.

Její odpověď je vágní a omezuje se na výzvu, aby se ti, kdo chtějí sledovacímu kapitalismu zabránit, stali pískem v jeho soukolí: „Pokud chceme v příštích desetiletích obnovit demokracii, potřebujeme rozhořčení a cit pro ztrátu toho, co se nám bere.“ To je však spíše zbožné přání než praktické řešení.

Nejmladší generace nejen nesdílí kritický postoj Zuboffové k moderním technologiím, ale ani nezažila dobu před jejich nástupem. Nemá proto důvod být rozhořčená a na rozdíl od generace Zuboffové, která vyrostla za studené války, konfliktu ve Vietnamu a boje za lidská práva, nemá pocit, že o něco přichází.

Zuboffová zmiňuje i čínský bodovací systém, který se podle ní od sledovacího kapitalismu příliš neliší. V Číně se uživatelé sociálních sítí distancují od špatně hodnocených přátel. Na Facebooku nikdo o sobě nezveřejňuje negativní informace, ale snaží se na fotografiích vypadat co nejlépe. V obou případech je chování jednotlivce, a tím i společnosti, ovlivňované a manipulované. Americkým a čínský systémem se liší v tom, že první je komerční projekt a druhý státní program. Základ obou však tvoří kontrola a úmyslné vytváření závislosti na virtuální nabídce.

Závěry Zuboffové lze interpretovat různě. Z orwellovského úhlu pohledu může jít o mnohem dokonalejší totalitu, byť subtilní a nenásilnou. Evolučně je možné, že organizace lidské společnosti dosáhla vrcholu a nastupuje umělá inteligence, kterou vyvinul člověk. V konfliktu biologické a umělé inteligence je pak zřejmé, že manipulaci ve virtuální realitě již dnes kontroluje umělá inteligence, nikoli ti, kdo tvrdí, že vládnou internetu.