Je to necelý týden, co se internetem začalo šířit video ukrajinského prezidenta Volodymyra Zelenského. V tom vyzval Ukrajince, ať kapitulují. „Radím vám: složte zbraně a vraťte se ke svým rodinám. Neměli byste v této válce zemřít. Radím vám: žijte a já budu dělat to samé,“ řekl.
Až na to, že ke kapitulaci ve skutečnosti Zelenskyj nevyzval. Video bylo falešné, šlo o takzvaný deepfake. Přesto nasbíralo řadu zhlédnutí, vinou hackerů se dokonce dostalo na web ukrajinské televize Ukraine 24 a jeho část i do samotného vysílání.
Video nebylo nejkvalitnější. Velikost hlavy neodpovídala proporcím trupu, neseděla ani barva kůže.
Přesto odborníci varují, že tento deepfake je jen začátek. „S technologií deepfake a jejím využitím ve válečném konfliktu se experimentuje už dlouho. Poprvé byla ale využita takto výrazně a drze,“ popsal Adam Sybera, analytik programu Kremlin Watch.
Pojem deepfake označuje uměle vytvořené obrázky či videa, kde je něčí obličej nahrazen obličejem někoho jiného. Vytváří je umělá inteligence - člověk vloží do programu fotky a videa člověka, jehož deepfake chce vytvořit, umělá inteligence pak nahradí jeho obličejem tvář jiné postavy, která je na původním videu či fotografii.
As a matter of principle, I never post or link to fake or false content. But @MikaelThalen has helpfully whacked a label on this Zelensky one, so here goes.
I've seen some well-made deepfakes. This, however, has to rank among the worst of all time.
https://t.co/6OTjGxT28a
Zatím „jen“ vytvoření chaosu
První deepfakes vznikly v devadesátých letech. V posledních čtyřech letech ale došlo k výraznému pokroku. Čím dokonalejší přitom technologie je, tím je nebezpečnější. „To, co udělalo Rusko s deepfake ukrajinského prezidenta, je pokus naklonit dynamiku informační války ve prospěch Kremlu, protože i na tomto poli, zaplať pánbůh, zatím s Ukrajinou prohrává,“ míní Sybera.
Vzhledem k nízké kvalitě bylo podle něj poměrně jednoduché poznat, že nešlo o skutečnost. Na Ukrajinu a Zelenského je navíc upřený zrak celého světa. „Primární účel tedy podle mě nebyl někoho přesvědčit, skočilo na to minimum lidí. Místo toho bylo cílem zanést do informačního prostoru otázku ‚co je skutečné‘. Jakmile totiž začneme pochybovat o realitě jednoho videa, můžeme pochybovat o realitě druhého,“ popsal Sybera.
Rusko tak chce zaplavit informační prostor ohromným množstvím falešných informací, aby bylo co nejsložitější rozpoznat pravdu.
S tím souhlasí i Vít Kučík, mluvčí Českých elfů, kteří dezinformace sledují. „Skutečná deepfake technologie je stále poměrně náročná a vyskytuje se zřídka. V českém kyberprostoru prakticky neexistuje,“ vysvětlil.
Videa se sice objevila i zde, nebyla ale příliš kvalitní. „Na druhou stranu - ono to stačí. Častým omylem je přesvědčení, že propaganda a dezinformace musí být sofistikované a dokonalé. Ne, stačí, když jich bude mnoho a budou se neustále opakovat. Kvantita hraje u dezinformační propagandy mnohem podstatnější roli než sofistikovaná kvalita,“ uvedl.
Naprostý gamechanger, devalvace videa
Potenciál tak má technologie především do budoucna. Zdokonaluje se totiž každým dnem. A v rukou profesionálů mohou vznikat videa, kterým uvěří davy. „Kvalitní deepfake video samo o sobě většinou nic neznamená, stačí o něm rozšířit dementi a pak už se bude jen cyklit v konspiračních komunitách, které jsou od reality tak jako tak odděleny a deepfake technologie je pro utvrzení jejich přesvědčení vlastně i škoda,“ míní Kučík.
Pravé riziko hrozí, když technologii využijí profesionálové, kteří kromě samotného videa vytvoří i vhodné podmínky pro jeho šíření. Tedy pokud jej rozšíří v novinářských komunitách, vytvoří okolnosti, které budou zdánlivě potvrzovat pravost záběrů a podobně.
„Pak se může stát, že tomu významná část společnosti bude několik desítek hodin věřit, než lež začne dostávat významnější trhliny a bude odhalena. A těchto několik desítek hodin bude stačit nějaké mocnosti, aby provedla akci, kterou by jinak provést nemohla,“ popsal Kučík. Samotné video tak hraje jen malou, ale zato nezastupitelnou roli.
Podle Sybery není Rusko ve vedení informačním války schopnější než zbytek světa, ale je všehoschopné. Rozdíl je v tom, že se neštítí ničeho, ani útoků na nejslabší. A potenciál technologie deepfake třeba ve špinavých volebních kampaních je až katastrofický. „Syntetická média a deepfakes mění, a brzy úplně změní náš svět,“ předpověděl.
Falešné porno
Ačkoliv je pravděpodobné, že již brzy bude mít i průměrný laik schopnost vyrábět nerozpoznatelná deepfake videa, dezinformační potenciál není v jejich rukou tak silný. Podle Kučíka povede spíš k devalvaci videa jako důkazního materiálu a růstu důležitosti zdroje.
Deepfake technologie může ale škodit i jiným způsobem. A to třeba v kontextu revenge porna - šíření pornografického materiálu člověka, kterému chceme ublížit. Ten přitom nemusí být autentický, ale vyrobený právě pomocí umělé inteligence. Takový obsah ostatně nyní podle dosavadních výzkumů tvoří až 96 procent veškerých deepfake videí.
A problémem jsou taková videa už i v Česku. „Neexistují žádné statistické průzkumu četnosti pornografických deepfakes konkrétně v ČR, to však neznamená, že se nás tento problém netýká. Jejich nebezpečí totiž představuje i to, že je poměrně snadné je vytvořit, dnes na to dokonce existují specializované aplikace či internetové stránky,“ popsala Michaela Dvořáková, která se problematikou revenge porna zabývala během svého působení na Právnické fakultě Masarykovy univerzity.
Většina dosavadních deepfakes se zaměřuje spíše na celebrity. Velmi jednoduše už ale lze vytvořit i pornografická videa osob, které veřejně známé nejsou. „Obětí deepfakes, i těch pornografických, se tak může stát skutečně každý,“ míní.
28. prosince 2020 |
České právo deepfakes nezná
Některé země již proti deepfakes zavedly speciální legislativu. A ačkoliv v Česku nic takového není, na evropské úrovni se již problematikou zabývají. Evropská komise loni v dubnu představila návrh aktu o umělé inteligenci. Pokud by prošel a Česká republika jej implementovala do svého právního řádu, začala by platit povinnost zveřejnit informaci o tom, že bylo video či jiný obsah vytvořen uměle.
V tomto okamžiku ale nic takového neexistuje. Právně se lze tedy bránit jen tehdy, naplňuje-li vytvoření a šíření videa jinou skutkovou podstatu. Třeba právě pokud jsou jejich prostřednictvím šířeny dezinformace, může docházet ke zneužití identity a kredibility osoby na videu. „Za určitých podmínek by toto jednání mohlo být posouzeno jako trestný čin poškození cizích práv,“ popsal Vladimír Řepka, mluvčí ministerstva spravedlnosti.
Podle Jiřího Císka z Advokátní kanceláře Cisek pak může deepfake video podle svého obsahu naplňovat hned několik trestných činů. „Může jít o šíření poplašné zprávy nebo poškození cizích práv, pokud bude oběť deepfake videa spojená s vyřčením nebo provedením něčeho, co neudělala. Může jít o pomluvu, ale i o celou řadu dalších trestných činů,“ vyjmenoval. Zmínil přitom legislativu proti šíření teroristických myšlenek nebo propagaci hnutí potlačujících základní práva osob.
Co se pak týká šíření deepfake pornografie, řešena může být spíše v rámci civilního práva. Do trestního práva se dostává spíše jen tehdy, jde-li třeba o dětskou pornografii nebo vydírání za pomoci získaného materiálu.
„Prozatím se domnívám, že deepfakes jsou spíš prostředkem, skrze něž k nežádoucím jevům dochází. Osobně bych tedy spíš prosazovala přijetí legislativy bojující s problematikou nekonsenzuální pornografie jako takové,“ míní Dvořáková.
Prozatím ale konkrétní problematiku české právo neřeší. „Trestní zákoník blíže nestanovuje skutkové podstaty, které by více ‚pasovaly‘ na tuto problematiku a v právní komunitě se již objevují názory, že by bylo vhodné jej o takové skutkové podstaty rozšířit,“ uvedla Radka Špačková z Advokátní kanceláře Sedlaková legal.
14. listopadu 2019 |
