Povrchního či zbytečného obsahu, tedy AI slopu, se objevuje velké množství kvůli získání pozornosti nebo reklamy. Merriam-Webster jasně definuje slop jako „digitální obsah nízké kvality, vytvořený ve velkém množství umělou inteligencí“.
Má přitom různé formy. Texty, obrázky či videa, řetězové příspěvky apod. ScienceAlert uvádí, že typicky jde o „obsah nízké až střední kvality – video, obrázky, audio či text (nebo jejich mix) – vytvořený AI nástroji, často s malým ohledem na přesnost“.
Podstatou je rychlost a kvantita nad kvalitou. Často nahrazuje hodnotné lidské dílo a je spíše pastí na pozornost než skutečným přínosem pro čtenáře.
Nestačí říct, že za to může uživatel. Grok AI byl využit pro dětské porno i svlékání žen |
Trochu vtipné je, že anglické slovo slop původně znamenalo „měkkou vodnatou kaši“ nebo potravu pro prasata, tedy něco nevábného, rozteklého a bezcenného. V 19. století pak znamenalo i „potravinový odpad“ nebo obecně „produkt nízké či žádné hodnoty“. Slovo „slop“ navíc zní jako výraz pro sliz či bahno. Působí jako odkaz na něco, čeho byste se nechtěli ani dotknout.
Původ termínu AI slop
Termín AI slop se začal objevovat v online diskusích již kolem roku 2022 a razantně se rozšířil v první polovině roku 2024. Britský programátor Simon Willison jej poprvé veřejně použil 8. května 2024 na svém blogu. Přirovnal jej k tomu, jak se „spam“ stal pojmem pro nevyžádanou poštu, a napsal, že „slop“ jde do slovníku jako termín pro nechtěný obsah generovaný AI.
Krátce nato popsal internet zaplavený tímto jevem Guardian. Titulek zněl „Spam, odpad... kaše? Nejnovější vlna AI za ‚zombie internetem‘“, přičemž „slop“ definoval jako to, co vznikne, když umělá inteligence chrlí svůj materiál na web bez ohledu na uživatele.
Vývoj AI začíná připomínat hru „tichá pošta“. Každá generace modelu napodobuje již otrávená data, a tak postupně účastníci (modely) „hloupnou“.
Stručně řečeno, termín slop prosadili nadšenci i novináři – včetně Wired či již zmíněného Simona Willisona – kolem poloviny roku 2024.
Problém pro internet a veřejnou diskusi
Je to prosté. „AI slop“ zhoršuje kvalitu online obsahu. Funguje totiž na principu podobném spamu. Vytváří se levně a neustále, aby získal pár kliknutí. Uživatelé pak přicházejí o čas a důvěru.
Pokud na web s AI odpadem vstoupí i jen několik uživatelů a klikne, tvorba se vyplatí. Lidé jako celek ale ztratili spoustu času, tedy efekt je negativní, jako u spamu.
Jazykový model řídil svačinový automat. Objednal PlayStation a živou rybu |
Velkým problémem se to stává tehdy, kdy jde o situace vyžadující kritické informace. Například už během hurikánu Helene (říjen 2024) byly sociální sítě i vyhledávání zaplaveny články a fiktivními zprávami, které působily věrohodně, ale byly nepřesné nebo zcela smyšlené. A dnes je zcela běžné, že se k jakékoli události objeví lavina odpadu generovaného AI.
Slop tak navíc vytlačuje kvalitní obsah a poškozuje autory. Nízkokvalitní AI generáty vytlačují skutečné spisovatele i umělce, způsobují jim finanční ztráty a vymazávají je z médií.
Výsledkem je nárůst manipulací a dezinformací. Zahlcuje sociální sítě i vyhledávače, snižuje důvěru v nalezené výsledky a usnadňuje šíření fake news a spamových kampaní.
Příkladem je nedávná kampaň „Shrimp Jesus“ (obrázek vlevo nahoře) či jiné scénky často využívané jako clickbait.  |
AI slop zabíjí AI
Obrovské množství slopu generovaného AI představuje hrozbu i pro další generace AI modelů. Tréninkové datové sady používají AI výstupy, a pokud jsou zaplaveny nekvalitním obsahem, kvalita modelů se snižuje.
Paradoxem nových AI generovaných na výstupech předchozích AI je, že může dojít doslova ke kolapsu budoucích modelů. Vývoj AI začíná připomínat hru „tichá pošta“. Každá generace modelu napodobuje již otrávená data, a tak postupně účastníci (modely) „hloupnou“.
Existují oprávněné obavy, že data zveřejněná po roce 2022 již obsahují AI artefakty a lze je považovat za „znečištěná“, zatímco starší data jsou „čistá“ a stávají se cennějšími.
Příklady v článku jsou vytvořené GPT Image 1:5 obrázkovým generátorem z ChatGPT – „Sněhová kalamita v Praze“ či „Sloni a žirafy na Václavském náměstí“. Petr Pavel a Elon Musk je dílem Grok AI Elona Muska.  |
Jak rozpoznat AI slop
Detekce AI slopu je dnes nesnadná a spolehlivé nástroje prakticky nejsou. Výzkum i praxe ukazují, že neexistuje žádný jistý algoritmus pro rozpoznání AI textu nebo obrázku. Vědci otevřeně přiznávají, že „detektory nemohou spolehlivě odhalit výstupy LLM v praktických situacích“.
Moderní modely také odstraňují viditelné chyby, na něž dříve lidé spoléhali (zkreslené ruce na AI obrázcích, chybná anatomie, nesmyslná slova na nápisech, dlouhý spojovník místo lidmi používaného minus atd).
Mírné uklidnění přináší to, že většina AI slopu stále rozpoznatelná je. Tvůrci chtějí za co nejméně peněz vytvořit co nejvíc obsahu, nehlídají si výstupy, prostě jen zaplavují internet. Kvantita vítězí nad kvalitou. Výsledky jsou často na první pohled rozpoznatelné, až trapné.
Tvůrci umělých inteligencí experimentují s vodoznaky, ale stejně tak jako neexistuje žádný jednoduchý „detektor slopu“, i různorodé značení je možné odstranit či zmanipulovat.
Petr Pavel a Elon Musk. Příklad AI slopu, který vygeneroval Grok AI Elona Muska.
Ve finále tak nezbývá než posuzovat obsah na internetu dostatečně kriticky a naučit se ještě více než předtím ověřovat a prověřovat. To ale bude vždy narážet na to, že řada uživatelů internetu je ochotna uvěřit prakticky čemukoliv. V tomto ohledu má AI slop a jeho využití pro fake news a manipulace velmi silnou pozici.
