Na internetu se vyrojily falešné aplikace pro úpravu tváře. Útočníci vytvořili i podvodnou webovou stránku |
Aplikace žádá po uživateli telefonní číslo (lidé na Twitteru si stěžují, že musí být čínské) a fotky jeho obličeje. Vybrat si může z nepřeberného množství videí, například s Leonardem DiCapriem nebo Marilyn Monroe. Skutečnou tvář herce nebo herečky pak překryje tvář uživatele. Nezřídka se lidé těmito upravenými snímky chlubí na sociálních sítích.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) 1. září 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 勞 pic.twitter.com/1RpnJJ3wgT
„Nejlepší aplikace ala ‚deepfake‘, využívající umělou inteligenci, kterou jsem viděl,“ píše na Twitteru Allan Xia.
Chinese viral deepfakes app #ZAO Clip of myself as Sheldon generated in a few seconds from a single picture. pic.twitter.com/JI7MqWUDu6
— Matthew Brennan (@mbrennanchina) 1. září 2019
Obavy ovšem vzbudilo prvotní zjištění, že používáním aplikace lidé automaticky dávají svolení k tomu, aby jejich obrázky používalo Zao pro marketingové účely.
„Je to nový produkt. Nebyli jsme dost ohleduplní k hlavním zájmům uživatelů,“ uvedla v úterý společnost. Zao se bude „snažit na základě podmínek ochrany osobních údajů obsah, který uživatelé povolili, užívat v rozumném, nezbytném a výslovně stanoveném rozsahu“.
Společnost také ve svém prohlášení slíbila, že ve své aplikaci nebude ukládat biometrická data obličejů. Rovněž uvedla, že vymaže informace o uživatelích, pokud si zruší své účty. Mateřská společnost Momo Inc., pod kterou Zao spadá, sdělila CNN, že se toto bude vztahovat i na uživatele, kteří souhlasili s původními smluvními podmínkami aplikace.
„Chráníme osobní data. Přijali jsme také několik bezpečnostních opatření včetně šifrování úložiště,“ stojí v prohlášení společnosti.
Ruská aplikace mění lidem tváře. Americký senátor požádal FBI o její prověření, podle něj ohrožuje soukromí |
Před nedávnem vzbudila podobné reakce i ruská aplikace FaceApp, protože uživatelé měli strach, že jejich fotky budou mít k dispozici ruské tajné služby, což ale společnost vyvrátila.
Vytvářet podobné „podvrhy“ šlo přitom i dříve – jen k tomu bylo v minulosti třeba spoustu času, dovedností a peněz. Nyní si může takzvané deepfake video pořídit každý uživatel smatphonu, píše CNN. Technologie nemusí vždy sloužit k nevinným účelům – může se stát účinnou zbraní při šíření dezinformací a hoaxů. Vloni na to upozornilo například video z dílny společnosti BuzzFeed, v němž vystupuje počítačově upravený a nadabovaný Barack Obama.
