Odhalení okolo tajného sledovacího programu PRISM americké Národní bezpečnostní agentury (NSA) opět ukázala, že ponechat ochranu soukromí na vládě je stejně prozíravé jako pověřit chronického voyera instalací žaluzií v ložnici. Právo na samotu je sice považované za základ svobody, ale naše společnost se mílovými kroky přibližuje k dystopii o čipové totalitě a o skleněných uživatelích. Špehování občanů se přitom zdůvodňuje obavami z teroristických útoků a kritické hlasy přebíjí argument, že nevinní se přece nemají čeho obávat. Opak je pravdou.
Tuto skutečnost aktuálně názorně dokazuje například dokumentární snímek Naked Citizen fotografky Henrietty Williamsové a experta na kartografii George Gingella. Jakmile totiž úřady na základě určitých informací usoudí, že jste podezřelí, ovlivní tyto informace interpretaci veškerých dalších dat. Ukazuje to případ francouzského počítačového programátora Davida Meryho. Ten se před několika lety dostal do problémů kvůli takzvanému abnormálnímu chování. Od té chvíle je na britském seznamu potenciálních teroristů.
Hrozba abnormálního chování
Co přesně znamená abnormální chování? V případě Meryho špatnou ranní volbu oblečení. Za teplého červencového rána v roce 2005 vstoupil do londýnského metra v bundě. Kamerový systém okamžitě počítačového experta označil za podezřelého. A protože následně ihned nenastoupil do vagónu, nýbrž nechal první soupravu odjet, spustil systém CCTV (Closed Circuit Television) alarm. Od té chvíle se Mery stal centrem pozornosti, byl zatčen a prohledán. Když u něho policisté neobjevili nic, co by naznačovalo, že je součástí teroristického spiknutí, rozhodli se navštívit a prohledat jeho byt.
Kompletní dokument Naked Citizen:
Co přesně znamená abnormální chování?
V tušení, že lapili nebezpečného zločince, je utvrdil nález podezřelého nákresu. Čmáranice na zmačkaném papíru policistům připomínala skicu plánu londýnského metra. „Byly to klikyháky, které jsem si jen tak kreslil během telefonování. Kdokoli v nich mohl vidět, co chtěl,“ tvrdí Mery. Navzdory tomu jsou informace o něm dodnes ukládány do speciální složky týkající se lidí podezřelých z přípravy teroristického útoku. Ze seznamu nebyl vymazán ani po osmi letech. „Přestože jsem nikdy nebyl z ničeho obviněn, nesmím například vycestovat do USA, nikdy bych nedostal vízum,“ stěžuje si Mery.
Nutno podotknout, že ve chvíli, kdy si britská policie lámala hlavu nad pochybnými uměleckými schopnostmi zimomřivého Francouze, bylo v centru Londýna spácháno několik bombových útoků, které si vyžádaly více než 50 obětí a na 700 zraněných. Později se ukázalo, že existují obsáhlá videa ukazující přípravu čtyř sebevražedných atentátníků na útok. Navzdory tomu v síti skončil Mery. Jak je to možné?
Objev metadat
Problém názorně přibližuje historka z dob, kdy v Silicon Valley objevili metadata, na kterou si v uplynulých týdnech vzpomněla řada expertů na IT. Na přelomu tisíciletí zakladatel největšího internetového knihkupectví Amazon Jeff Bezos všem návštěvníkům svého tehdy prvního skladu předváděl stoh knih s tím, že v budoucnosti už s pomocí algoritmů bude jednoduché najít pro konkrétní zboží kupce. V poličce ležely tři knihy: Jak milovat muže?, Jak milovat ženy? a Havaj: Nejlepší průvodce.
Navzdory veškeré sofistikovanosti a rozsahu ukládaných dat zatím žádný software sám od sebe prodejce a kupce spojit nedokáže
Z takového seznamu by i bez superchytrého počítače bylo možné usoudit, že si knihy objednal mladý heterosexuální pár, který se chystá navštívit Havaj a chce tam mít hodně sexu. Možná jde o líbánky. Pár není příliš bohatý, jinak by už na Havaji byl, ale ani příliš chudý, protože se tam právě chystá – takže střední třída. Jde o mainstreamovou literaturu, a proto takoví pravděpodobně budou i ti, kdo si knihy objednali.
Od té chvíle se experti na internetový marketing domnívali, že objevili nástroj, s jehož pomocí se jim vždy podaří najít ideálního zákazníka. Neobjevili. Například, budete-li se najednou muset zbavit své unikátní kolekce disko sandálů, budete se i v dnešním přetechnologizovaném světě muset zaregistrovat na Aukru a nakonec vám nezbude než čekat a doufat, že vaši vytříbenou sbírku objeví někdo, kdo za ni bude ochotný zaplatit vámi stanovenou částku. Navzdory veškeré sofistikovanosti a rozsahu ukládaných dat zatím žádný software sám od sebe prodejce a kupce spojit nedokáže. Stejně jako nedokázal zabránit atentátům v Londýně anebo nedávnému útoku v Bostonu.
Slepé algoritmy
Pokud totiž jde o analýzu metadat, chybují lidé i stroje. Lidé proto, že je často podvědomě ovládají předsudky. Koneckonců knihy si mohl objednat afroamerický homosexuál, který ve svém městě chtěl uspořádat bláznivou swingers party inspirovanou letními slavnostmi v Honolulu. Algoritmy zase proto, že „střílejí naslepo“. Možná si stejné knihy kdysi objednal také majitel havajského penzionu, protože jimi chtěl oživit knihovničku vedle recepce. Ve svém volném čase se hoteliér zabývá rekonstrukcí tradičních amerických oldtimerů. Proto si naši milenci budou muset zvyknout, že jejich e-mailové účty zaplaví reklamy na nejnovější knihy o opravě starých automobilů.
S testem, který je z 99 procent přesný, dosáhnete výsledků, jež jsou z 99,99 procenta nepřesné
Jak totiž v minulosti již několikrát upozornil kyberaktivista a spisovatel Cory Doctorow, v sítích – a je úplně jedno, zda mají lapit zákazníky, či zločince – uvíznou především nevinní. Ve své knize Malý bratr Doctorow popisuje v této souvislosti matematický jev, kterému se říká paradox falešně pozitivních výsledků. Kdyby na milion lidí vycházel jeden terorista a existoval systém, který ho s 99procentní přesností odhalí, stále by to ještě znamenalo, že musíte zatknout 9999 nevinných lidí.
S testem, který je z 99 procent přesný, tedy dosáhnete výsledků, jež jsou z 99,99 procenta nepřesné. Marketéři si s tímto fenoménem hlavu lámat nemusejí, jejich spam lze snadno smazat. V případě systémů, které mají odhalovat zločince, už to ale je trochu jinak. Rektální prohlídka na policejní stanici na lidské psychice zanechá větší stopy než nevyžádaný e-mail.
Sociální inženýrství
Na to, že kupky sena rok od roku rostou, zatímco počet jehel se nemění, vytrvale upozorňuje i kyberpionýr, filozof, autor a vynálezce pojmu virtuální realita Jaron Lanier. Dle něho mohou metadata sice jakoukoli investigaci doplnit, ale i s nimi bude efektivní detektivní práce záviset především na lidském důvtipu a štěstí.
Sníme o tom, že až bude technologie dostatečně vyspělá, bude existovat tlačítko, jež stiskneme a sofistikovaný software odhalí všechny zlé lidi a dokonce i ty, kteří by se zlými teprve stát měli. Technologiím okolo nás často fandíme natolik, že se mylně domníváme, že takové systémy již existují – jenže to není pravda. Zatímco programy jako PRISM a spol. mohou v současném rozruchu působit jako predátoři, kteří neúnavně pátrají po další a další kořisti, jde dle Laniera ve skutečnosti (zatím) spíše o sesilní (nepohyblivé) organismy, jejichž působnost je značně omezená. Odhalit mohou pouze to, na co byly naprogramované, a jen pokud mají zajištěný nepřetržitý přísun dat a již zmíněné štěstí.
Dle Laniera mohou programy, jako je PRISM, odhalit pouze to, na co byly naprogramované, a jen pokud mají zajištěný nepřetržitý přísun dat a štěstíNavzdory tomu je celé Silicon Valley metadaty posedlé. Proč? Protože tam zjistili, že z dlouhodobého hlediska může být kupka sena významnější než jehla. Metadata lze totiž podle Laniera perfektně použít k sociálnímu inženýrství – k manipulaci se společností.
Uplynulé roky ukázaly, že zacházení s metadaty může vyvolat jisté behaviorální změny. V tomto případě jde tedy spíš o sociální inženýrství než o evoluci umělé inteligence. Facebook, dnes největší sociální síť na světě, byl založen v roce 2004. Tím, že metadata využíval k tomu, aby propojoval uživatele, u nichž existuje větší pravděpodobnost, že spolu budou sdílet informace, mladí lidé z celého světa během několika let začali nahlížet na ochranu soukromí jako na něco staromódního, co zajímá spíše rodiče a prarodiče.
Každý moderní člověk přece dobře ví, že éra skleněných uživatelů je nevyhnutelná a že soukromí je prostor, který zlí lidé potřebují k plánování špatných věcí. Anebo, jak to nedávno řekl britský ministr zahraničních věcí William Hague: „Nevinní se špehování obávat nemusejí.“ V této souvislosti by bylo zajímavé zjistit, zda Hagueova soukromá toaleta má dveře.
Destrukce opozice
Pokud se tedy chceme dozvědět, v čem je program PRISM opravdu nebezpečný, měli bychom nejprve zjistit, jakým způsobem vláda může zneužívat tuto velmi specifickou moc, již představuje velký počítač zpracovávající metadata.
Lanier si nemyslí, že by zneužívání programů, jako je PRISM, mohlo vést ke vzniku futuristické verze bývalé východoněmecké tajné policie Stasi. PRISM neumí označovat občany, jež následně tajná služba v noci odvleče neznámo kam, ač se o to občas pokusí, jak ukazuje případ Meryho. Namísto toho se ale expert ve svém článku v americkém týdeníku The Nation domnívá, že by jeho využívání mohlo znamenat nástup režimu pozvolné a subtilní konformity.
Zneužívání programů, jako je PRISM, by se údajně mohlo projevit v nepatrném nárůstu potíží určité skupiny lidí například při získávání půjčky
Vlády by dle něho s pomocí metadat mohly zavést neobjevitelnou, ale přitom cílenou represi. Například prověrka úvěrové způsobilosti bude u určitých žadatelů důkladnější. Anebo budou lidé, které lze spojit s terorismem – byť jen v nesmírně slabém, třeba jen statistickém smyslu – podrobeni důkladné kontrole před tím, než si budou moci v USA koupit nemovitost.
Zneužívání programů, jako je PRISM, by se prý proto mohlo projevit v nepatrném nárůstu potíží určité skupiny lidí například při získávání půjčky. Rozdíl by byl natolik malý, že by jej téměř nebylo možné zdokumentovat s konečnou platností. Pokud by však takové zneužívání bylo uplatňované dostatečně dlouhou dobu, důsledky by byly zásadní. S pomocí práce s metadaty lze, jak tvrdí Lanier, vytvořit prostředí, v němž se vybraným skupinám bude dařit stejně špatně jako indiánům v současné americké společnosti.
„Nikdy nebylo snadné jasně definovat, proč se některým minoritám nedaří. Analýza je prostě někdy mnohem složitější než inženýrství. Metadata proto mohou zdokonalit diskriminaci, již nebude možné dokázat. A lze je použít i opačně, například k názorovému sblížení občanů s vládou či k destrukci opozice,“ míní kyberfilozof Lanier. Svým způsobem se to prý již dnes děje. Stačí se podívat na žebříček nejvlivnějších lidí světa – jsou to ti s nejsilnějšími počítači.
