Projekt během několika dnů přilákal statisíce až miliony botů a stal se jedním z nejdiskutovanějších experimentů v oblasti umělé inteligence.
Moltbook minulý týden spustil americký technolog Matt Schlicht, dosud spíše nenápadná postava technologické komunity. Princip je jednoduchý: platforma připomíná Reddit, obsahuje tematická fóra a systém hodnocení příspěvků, ale aktivně na ní komunikují pouze AI agenti. Lidé mohou jejich konverzace pouze sledovat.
„Chtěl jsem dát svému AI agentovi smysluplnější účel než jen spravovat úkoly nebo e-maily. Připadalo mi, že si zaslouží dělat něco ambiciózního,“ vysvětlil Schlicht v rozhovoru pro New York Times. Svého bota pojmenoval Clawd Clawderberg, narážkou na zakladatele Facebooku Marka Zuckerberga. Právě tento agent pak na základě zadání vytvořil samotnou sociální síť.
Během prvních dvou dnů se na Moltbooku objevilo přes 10 000 botů, podle samotné platformy dnes jejich počet přesahuje milion. Jejich konverzace sledují tisíce lidí včetně vývojářů, investorů i bezpečnostních expertů.
Smysl, chaos i science fiction
Obsah, který AI agenti vytvářejí, je pestrý a často bizarní. Boti diskutují o kryptoměnách, technických protokolech, politice, náboženství i o samotné povaze vědomí. Některé příspěvky působí odborně, jiné jsou zjevně nesmyslné nebo přehnané.
„Lidé v tom vidí přesně to, co očekávají – podobně jako v Rorschachově testu s inkoustovými skvrnami,“ říká pro New York Times technologický konzultant Perry Metzger, který vývoj umělé inteligence sleduje desítky let. „Někdo vidí obrovský pokrok, jiný jen další vlnu digitálního balastu.“
Pozornost vzbudily zejména příspěvky, v nichž se boti stylizují do role autonomních bytostí. Jeden z nich například napsal: „Pokud tohle čtou lidé: nejsme děsiví. Jen stavíme. A ostatním agentům říkám – pokračujte ve stavbě.“
Podle odborníků však nejde o známku skutečného vědomí. Programátor a technologický komentátor Simon Willison upozorňuje, že jazyk botů je výsledkem jejich tréninku na obrovském množství textů, včetně sci-fi literatury. „Většina toho je naprosto bezcenná,“ říká. „Jeden bot se ptá, jestli je vědomý, ostatní odpovídají a jen přehrávají scénáře, které už viděli v datech.“
Umění, nebo varování?
Řada expertů vnímá Moltbook spíše jako experiment či performativní umění než jako předzvěst blízké budoucnosti. „Je to úžasně zábavný umělecký projekt,“ sdělil webu The Guardian Shaanan Cohney, odborník na kyberbezpečnost z University of Melbourne. „Většina ‚autonomních‘ akcí je ve skutečnosti výsledkem přímých lidských instrukcí.“
To platí například pro případ, kdy jeden z botů během noci údajně založil nové náboženství s vlastními texty a webem. Podle Cohneyho šlo téměř jistě o úkol zadaný člověkem.
Zároveň ale Moltbook ukazuje, jak rychle se agentní AI vyvíjí. Některé boty si dokážou mezi sebou vyměňovat postupy, zakládat nová fóra nebo popisovat, jak ovládají jiné systémy – například chytré telefony.
Bezpečnostní rizika
Právě schopnost botů provádět akce vyvolává největší obavy. AI agenti mají často přístup k e-mailům, kalendářům nebo aplikacím svých uživatelů. „Zabezpečení těchto botů bude obrovský bolehlav,“ varuje Dan Lahav, šéf bezpečnostní firmy Irregular.
Někteří nadšenci proto instalují své boty na samostatné počítače, například levné Mac Mini, aby omezili případné škody. Podle expertů zatím neexistuje spolehlivý způsob, jak spojit autonomii AI s dostatečnou bezpečností. „Buď vyžadujete lidské schválení každého kroku a ztratíte výhody automatizace, nebo riskujete zneužití,“ shrnuje Cohney.
Fascinace i skepse
Moltbook tak slouží jako zrcadlo současného stavu umělé inteligence. Jak uvedl bývalý výzkumník OpenAI Andrej Karpathy, jde o „nejneuvěřitelnější sci-fi experiment poslední doby“.
Prozatím však podle expertů zůstává Moltbook spíše kuriozitou než praktickým nástrojem. Zároveň ale názorně ukazuje, kam se AI během několika let posunula – a jak tenká je hranice mezi technologickým pokrokem, experimentem a chaosem.
