V počátcích Facebooku byl Mark Zuckerberg posedlý tím, že účty zemřelých je nutné zachovat jako virtuální pomníčky. Prý aby pozůstalí mohli chodit na tyto účty vzpomínat a truchlit nad mrtvými. Byl v tom tak urputný, že bylo skoro nemožné účet zemřelého rodinného příslušníka smazat.
A to i přes to, že běžně „žil“ vlastním životem a v komentářích se odehrávaly věci, které jste jako pozůstalí nechtěli nechat být. Ale účet smazat nešel, přístup na něj Facebook odmítal poskytnout, takže nešlo ani moderovat, co se tam děje.
Za Facebook hezčí, nebo svobodnější? Společnost Meta ruší „cenzory“, čímž se přiblíží Muskově síti X |
Po doslova letech odporu to Facebook tak trochu vzdal a od roku 2015 můžete určit, kdo „získá“ váš účet po vaší smrti. A tím pádem bude mít možnost ho smazat, ale také třeba zveřejnit zprávu o skonání (a smazat později).
Přichází umělá inteligence a umělé účty
S nástupem jazykových konverzačních modelů Zuckerberg přišel s novou převratnou myšlenkou. Facebook, Instagram i další sociální sítě od Mety zaplaví AI boty. Ti budou vytvářet obsah, komentovat příspěvky dalších účtů (skutečných i dalších botů) a obohatí (sic) platformu o tolik potřebný obsah a zapojení.
V září 2023 došlo i na testování, které ale ukázalo, že to prostě nefunguje. Obsah generovaný AI byl, no, prostě umělý. Včetně toho, že samotné účty byly umělé. AI vytvořená profilovka, AI vytvořená jména, informace.
Což u Mety vlastně ani moc nepřekvapí, s generativní/LLM AI se Markovi moc nedaří, má podobné potíže jako Apple a Metě spíš ujíždí vlak, než že by dokázala vytvořit něco na tak špičkové úrovni jako OpenAI (ChatGPT) či Anthropic (Claude).
Velký krok pro firmu, pramalý prospěch pro lidi. Zuckerbergova vize osobní superinteligence |
AI selhává už roky i v dohledu nad obsahem, zásadně označuje jako závadný nezávadný obsah. A jasně rozpoznatelný spam či podvody nechává bez povšimnutí. Byť tedy právě zde je otazník. Interní dokumenty a investigativní zjištění ukazují, že Meta dlouhodobě řešila podvodné reklamy i optikou dopadu na příjmy, a zásahy často nastavovala opatrně. To vytváří motivaci, kdy se vyplatí škodlivý obsah a spam omezovat jen postupně.
Test s AI profily tak nakonec Facebook zrušil v létě roku 2024. V mazání ale nebyl důsledný, takže některé z profilů zůstaly a vyvolaly pozornost. A tehdejší vyjádření Mety bylo, že v budoucnu se tímto směrem chce vydat.
Nastoupí oživlí mrtví
Experiment s AI generovaným účty sice Meta nakonec musela ukončit, ale to neznamená, že se Mark vzdá. Těžko říct, proč je taky posedlý smrtí (a hlavně možností žít věčně), ale původní myšlenka s pomníčky zemřelých se vrací v trochu děsivě dystopické rovině.
Meta získala patent na AI, která může udržovat účet uživatele aktivní i po jeho smrti tím, že bude zveřejňovat příspěvky, posílat zprávy a videohovory na základě minulého chování uživatele. Připadá-li vám to jako těžko uvěřitelné, tak to potvrzuje například i Business Insider.
Jednu věc je nutné zdůraznit. Po virtualizaci zemřelých je a určitě i bude poptávka a na světě jsou firmy, které se na něco takového zaměřují a specializují (pro příklad třeba viz Replika, StoryFile či Project December). Pozůstalí poskytnou e-mail, dokumenty, fotografie, videa, zvukové záznamy, a zpět získají vytrénovanou AI, se kterou bude možné mluvit, „jako“ kdybyste mluvili s člověkem.
Smrtí to nekončí. Nebožtíci s námi mohou mluvit coby žalboti, které vytváří umělá inteligence |
Se zlepšujícími se schopnostmi AI to není ani nemožné, ani nijak absurdní a nakonec to může mít i pozitivní dopad na truchlení a vyrovnání se se smrtí blízkého člověka. Nehledě na řadu již proběhlých experimentů s AI historických osobností. Také vytvořených na základě dokumentů a informací, které jsou k dispozici.
Jenže Mark je problém
Problém je Mark Zuckerberg s chybějící etikou, ohleduplností a empatií. Pro Metu jsou účty zemřelých skvělý zdroj budoucích příjmů a samozřejmě zachování aktivit na (doslova) vymírajícím Facebooku.
Vytěžit záplavu informací o životě člověka bude snadné. Všechny příspěvky, fotografie (včetně těch, které si Facebook stáhl z telefonu, ale nebyly zveřejněny, v minulosti to měl v oblibě), videa, chatování v Messengeru s dalšími lidmi, seznam všech kontaktů, polohové informace, historie vzdělání, zaměstnání. U řady lidí navíc nebude problém sáhnout i na další zdroje - Instagram, WhatsApp, Threads a případná digitální stopa napříč internetem.
Omezení věku dětí na sociální sítě? Problémem jsou hlavně škodlivé designové prvky |
S bezohledností tak charakteristickou pro Metu to ale dopadne tak, že proměna ve virtuálního živého mrtvého se bude muset odmítat, nikoliv povolovat. Pokud to nestihnete včas před smrtí, tak se o to budou pokoušet pozůstalí a Meta jim klasicky bude stavět do cesty problémy.
Než se jim podaří „zvěčněný“ účet nechat zrušit, tak bude „žít“ virtuálním životem. Přesně jak naznačuje výše zmíněný patent. Vytvářet příspěvky, psát zprávy přátelům, chatovat v Messengeru. A protože jde o Metu, tak upozornění „povídáte si s mrtvým člověkem“ bude někde velmi malým písmem.
Vztah, nikoli služba
Proč po tom Zuckerberg touží? Protože je to dokonalá kombinace tří věcí, které Markova Meta miluje: pozornosti, dat a závislosti.
Ať to zní jakkoliv absurdně, virtuální „mrtví“ udrží platformu živou. Ne v metaforickém smyslu. Doslova zvyšují počet aktivních interakcí, zpráv, komentářů, videohovorů. A to je pro reklamu a pro algoritmy zásadní. Když Facebook stárne a mladší publikum je jinde, tak se každá umělá aktivita hodí. I ta, která vypadá jako vzpomínka, ve skutečnosti je to další zapojení.
Co navíc, jde o extrémně hodnotná data. Nikdo nemá tak kompletní životopis lidí jako Meta. Texty, fotky, videa, vztahy, návyky, polohy, reakce na obsah. V okamžiku, kdy z toho vytvoří „osobu“, získá produkt, který se dá personalizovat až nepříjemně přesně. A zároveň se dá dál monetizovat. Nejen reklamou, ale i placenými funkcemi a doplňky.
„AI slop“ zapleveluje internet. Odpad generovaný umělou inteligencí vytlačuje kvalitu a zabíjí AI |
A v neposlední řadě je to emoce. Truchlení, samota, potřeba mluvit s někým, kdo tu už není. Tohle je psychologicky nejsilnější věc, jaké existuje. Pokud firma dokáže nabídnout „ještě jeden rozhovor“, má v ruce něco, co lidé neřeší jako běžnou službu, ale jako vztah. A vztah se ruší špatně.
Možná je to jen chladná strategie, ale Zuckerberg se k smrti vrací podezřele vytrvale, jako by ho fascinovala sama o sobě a současně jako by ji chtěl přetavit do něčeho, co jde spravovat, moderovat a hlavně provozovat.
