Středa 4. prosince 2024, svátek má Barbora
  • Premium

    Získejte všechny články
    jen za 89 Kč/měsíc

  • schránka
  • Přihlásit Můj účet
130 let

Lidovky.cz

Rakušan ve videu uráží lidi z Karviné a mluví o cenzuře, je to však podvrh

Česko

  10:58aktualizováno  14:53
Ministr vnitra Vít Rakušan se stal terčem deepfake videa. Jde o video, které bylo vytvořeno pomocí umělé inteligence. Jejím prostřednictvím jsou Rakušanovi do úst vkládána slova, která ho mají zdiskreditovat. Podvrh, který vznikl v souvislosti s debatou v Karviné, koluje po sociálních sítích. Tam již reagoval také sám ministr.

„Bylo by to legrační, kdyby problematika zneužívání AI (umělé inteligence) nebyla ve skutečnosti tak nebezpečná. Před bezpečnostní experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si informace,“ komentoval v sobotu deepfake video a hrozbu umělé inteligence ministr.

Deepfake video vzniklo v návaznosti na debatu v Karviné, které se odehrála v pondělí v rámci turné hnutí STAN a samotného Rakušana po českých městech zvané Debata bez cenzury. Samotný obrazový záznam je pravý, ale Rakušan v něm samozřejmě mluví o něčem jiném a před dávnou dobou.

„Odpovím na něco jiného“

„Právě odcházím ze Sněmovny, abych vydrbal s dezolátama v Karviné. Přijďte se ptát, co vás zajímá, já vám odpovím na něco jiného a vaše komentáře pak zcenzuruju,“ zní z úst Rakušana v deepfake videu.

Redakce iDNES.cz oslovila samotného Rakušana, zda kvůli podvrhu podal trestní oznámení či zda v rámci ministerstva plánuje systémové řešení pro boj s umělou inteligencí.

„Trestní oznámení jsem zatím nepodal, to video je hodně amatérské, takže je otázka, koho mohlo ve skutečnosti zmást, ale ještě se o tom poradím,“ uvedl pro iDNES.cz Rakušan.

Současně připomněl, že v rámci ministerstva už funguje pracovní skupina, která problematiku AI řeší. „Regulace se připravuje na úrovni EU, z té bude vycházet i naše vlastní regulace. Nezanedbatelná je i v tomhle případě také vlastní odpovědnost každého z nás. Například naše hnutí důsledně uvádí, které obrázky použité pro komunikaci byly vytvořeny s využitím AI,“ dodal ministr.

Deepfake videu čelil i premiér

Rakušan však není první český politik, který čelí deepfake videu. Nedávno mu čelil také premiér Petr Fiala. Deepfake video se rovněž šířilo prostřednictvím sociálních sítích.

„Co furt máte za problém, tak vám trošku sebereme více peněz, no. Však na tom nic není, já taky z vás peníze musím nějak dostat, abych se měl dobře. To taky není jen tak, z někoho dostat pár tisíc,“ vložila AI slova do úst premiéra, kdy však v daném deepfake videu není nikterak emočně modulován a AI hlas dávkuje. Buď jde o nedokonalou práci, nebo záměr, aby bylo patrné, že jde o „legraci“.

Mluvčí ministerstva vnitra Miro Jašurek v neděli redakci iDNES.cz zopakoval, že na resortu už pracovní skupina, která se bezpečnostními aspekty souvisejícími s rozvojem AI, funguje.

„Co se týká legislativních změn, na úrovni EU je připraven AI Act, nyní se čeká na jeho finální schválení Evropských parlamentem. Tento předpis bude prvním nástrojem regulace AI. Po schválení finální verze bude následovat příprava národní regulace. MV aktuálně podporuje několik výzkumných projektů zaměřených na využívání AI,“ doplnil Jašurek.

Audiovizuální díla na počkání

„Pokrok ve vytváření hlasového a obrazového obsahu pomocí AI rozostřuje hranice mezi pravými a zfalšovanými událostmi,“ varoval Miloslav Lujka z kyberbezpečnostní společnosti Check Point Software Technologies.

Podle něj jsou nástroje stále dostupnější, takže roste obava, že bude téměř nemožné rozlišovat mezi autentickými zprávami a deepfake podvrhy, zejména pak v politické oblasti.

„Ačkoli deepfake technologie měly původně sloužit zejména k finančním podvodům, už se staly i politickou zbraní. Během komunálních voleb v Chicagu se třeba objevil zfalšovaný zvukový záznam, na němž údajně kandidát Paul Vallas podporuje policejní agresi,“ pokračoval Lujka.

Bude to plně kompetentní prodejce, tvrdí o prodejních botech švédská společnost...

Na internetu se objevily i další podobné výmysly, které se vydávaly za Elizabeth Warrenovou nebo ukrajinského prezidenta Volodymyra Zelenského.

„Tyto pokroky v oblasti umělé inteligence, schopnost vytvářet personalizované texty a vést dialogy na mikroúrovni, by mohly způsobit, že politické diskuse budou postrádat věcný základ,“ upozornil a současně dodal:

„V kombinaci s vytvářením a šířením deepfaků to může mít dalekosáhlé důsledky pro demokratické procesy, protože se vytratí svobodná smysluplná výměna myšlenek a názorů.“

Autor:

Rozdáváme 40 dárkových kosmetických kazet
Rozdáváme 40 dárkových kosmetických kazet

Tento týden dostane 40 z vás možnost otestovat dárkové kosmetické kazety od značky Sanctuary Spa. Kosmetika spojuje luxusní ingredience a...