Středa 24. dubna 2024, svátek má Jiří
130 let

Lidovky.cz

Česko

Podvodná videa s politiky policie neřeší, nemají „trestněprávní přesah“

ilustrační snímek foto: Profimedia.cz

V minulém týdnu se stal terčem deepfake videa ministr vnitra Vít Rakušan. Není však jediný. Videa s tvářemi politiků jsou vytvářeny pomocí umělé inteligence a mohou je zneužívat podvodníci. Terčem podvrhu se stal mimo jiné i prezident Petr Pavel či šéf hnutí ANO Andrej Babiš. Policie například ohledně případu Rakušana uvedla, že lze jen obtížně nalézt jakýkoliv trestněprávní přesah.
  15:52

Deepfake video ministra vnitra Víta Rakušana vzniklo v návaznosti na debatu v Karviné, které se odehrála minulé pondělí v rámci turné hnutí STAN a samotného šéfa hnutí po českých městech zvané Debata bez cenzury.

Prostřednictvím umělé inteligence (AI) jsou v podvrhu Rakušanovi do úst vkládána slova, která ho mají zdiskreditovat. „Právě odcházím ze Sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana v deepfake videu.

„Video je hodně amatérské“

Rakušan v neděli pro iDNES.cz řekl, že trestní oznámení zatím nepodal. „To video je hodně amatérské, takže je otázka, koho mohlo ve skutečnosti zmást, ale ještě se o tom poradím,“ uvedl ministr.

Redakce oslovila i policii, zda se videem zabývá. „Nemám informaci o tom, že by se případem jakýkoliv policejní útvar zabýval, neboť lze obtížně nalézt jakýkoliv trestněprávní přesah,“ sdělil policejní mluvčí Ondřej Moravčík.

Nejde však jen o Rakušana. Terčem deepfake se stal například i prezident Petr Pavel. Na sociálních sítích koluje video, ve kterém prezident oficiálně oznamuje spuštění nové platformy.

„Pro vydělávání na nové platformě stačí mít telefon nebo počítač a vložit minimálně šest tisíc korun na vklad pro začátek pro obchodování... Můžete vydělávat i v době spánku,“ stojí v podvrženém videu, ve kterém údajný prezident také nabádá ke kliknutí na odkaz pod videem a registraci.

Strojovou češtinou se v deepfake videu předvedl také šéf hnutí ANO Andrej Babiš. „Zaregistrujte se, vložte šest tisíc korun. Dávám vám záruku, že už zítra se vaše investice minimálně zdvojnásobí,“ slibuje údajný Babiš.

„Regulace se připravuje na úrovni EU“

Ohledně zneužívání umělé inteligence Rakušan v neděli pro iDNES.cz také řekl, že v rámci ministerstva už funguje pracovní skupina, která problematiku řeší.

„Regulace se připravuje na úrovni EU, z té bude vycházet i naše vlastní. Nezanedbatelná je i v tomhle případě také vlastní odpovědnost každého z nás. Například naše hnutí důsledně uvádí, které obrázky použité pro komunikaci byly vytvořeny s využitím AI,“ dodal ministr.

Setkali jste se na internetu s nějakým podvodným videem?

Hlasování skončilo

Čtenáři hlasovali do 0:00úterý 6. února 2024. Anketa je uzavřena.

Ano68
Ne13

„Co se týká legislativních změn, na úrovni EU je připraven AI Act, nyní se čeká na jeho finální schválení Evropských parlamentem. Tento předpis bude prvním nástrojem regulace AI. Po schválení finální verze bude následovat příprava národní regulace. Ministerstvo aktuálně podporuje několik výzkumných projektů zaměřených na využívání AI,“ doplnil ministra mluvčí resortu Miro Jašurek.

Je důležité nepodléhat panice

Podle Ondřeje Pence z policejního odboru prevence je i pro budoucnost důležité, aby lidé v první řadě nepodléhali panice a pokud se jim video na internetu nebude zdát jako pravé, ověřovali si informace.

„Vždy je třeba se zamyslet, nadechnout se a třeba se podívat i na jiné weby nebo sociální sítě. Člověk, který byl tímto způsobem zneužit, většinou začíná činit první kroky a zprávu zpravidla vyvrací,“ popsal Penc.

Policejní preventista také varoval před zdroji, ze kterých se podobná deepfake videa mohou šířit. „Na běžných ověřených webech se většinou brzy objeví zpráva, že video je podvržené. Pokud ale čerpám z neznámého serveru, měl bych být opatrný,“ uvedl dále.

Třebaže množství a hlavně kvalita deepfake obsahu roste, pro generování falešného videa ve vysoké kvalitě a v reálném čase je nutné mít k dispozici specializované výpočetní stanice s výkonnými grafickými kartami, což je dost drahé.

Pro vytvoření uvěřitelného falešného videa je podle expertů nutné velké množství fotek nebo videí daného člověka ve vysoké kvalitě. „Proto můžeme vidět mnoho ukázek na tvářích celebrit a známých osobností, kde jsou tyto podklady veřejně dostupné,“ přiblížil Andrej Svitek, který v technologické společnosti Trask vede tým pro AI.

S rozšířením sociálních sítí je ale podle něj stále jednodušší získat data i o „obyčejném“ člověku.

Technologie se stávají sofistikovanějšími

„Rozpoznání opravdu kvalitních deepfake videí může být i pro nás, kyberbezpečnostní odborníky, obtížné,“ popsali také bezpečnostní experti z Thein Security. Technologie se totiž stávají stále sofistikovanějšími a dostupnými i na mobilních telefonech.

Co se týče deepfakes, ačkoliv se „uvěřitelnost“ výrazně posouvá kupředu zejména s rozvojem generativní umělé inteligence, stále mají podle Svitka své slabiny, které lze při odhalování falešných videohovorů využít.

„Při méně sofistikovaných podvodech se útočník snaží zakrýt špatnou kvalitu videa nízkým rozlišením, rozostřením, trháním neboli neplynulostí videa,“ vysvětlil Svitek.

Sofistikovanější útoky vypadají na první pohled důvěryhodněji, ale při detailnějším pohledu se může objevovat „plastická“ mimika tváře, neproporcionální symetrické rysy jako levé ucho výrazně jiné než pravé.

Expertům tak při odhalování deepfake obsahu pomáhá analýza obličejových rysů, sledují také nejasnosti v okolním prostředí nebo nekonzistentní osvětlení. Dnes už také existují nástroje a softwary navržené přímo k detekci deepfake obsahu. Některé z nich využívají strojové učení a umělou inteligenci k analýze videa a identifikaci známých vzorů spojených s deepfake technologiemi.

„Nicméně, ani na ty se nelze stoprocentně spolehnout. Z praxe víme, že není výjimkou označení i zmanipulovaného obsahu za pravý. Nepomůže ani vodoznak, jelikož i ten je možné odstranit,“ dodali experti z Thein Security.

Akční letáky
Akční letáky

Všechny akční letáky na jednom místě!