Jeden z týmů společnosti Meta (dříve Facebook) dostal v roce 2017 za úkol vytvořit nového „chatbota“ neboli konverzačního robota, který měl poskytovat pomoc uživatelům reklamní sítě Facebooku. Tým použil moderní jazykový model a umělou inteligenci, aby bylo možné psát vzkazy přirozeným jazykem a uživatel pokud možno nepoznal, že hovoří se strojem.
Fungovalo to skvěle, dokud se programátoři nerozhodli zrychlit testování programu tím, že nastaví společnou komunikaci dvou chatbotů. V tom okamžiku se začala komunikace deformovat. Chatbot používal neexistující výrazy a podivné akronymy, nakonec byly vyměňované zprávy téměř nesrozumitelné.
Ukázalo se, že si umělá inteligence vytváří vlastní jazyk, který si zpětně zanáší do svého komunikačního slovníku. Společnost Meta chatbota ukáznila a „nařídila“ mu mluvit opět tak, aby mu rozuměl člověk.
Tento příběh už na internetu žije svým vlastním životem, někdy se překlápí až do městské legendy. Kolik se z něj toho doopravdy stalo a co umělá inteligence vývojářům skutečně odpověděla, společnost Meta nikdy nepublikovala, američtí novináři se však pokusili zrekonstruovat alespoň základní vývoj událostí a vyvrátili šířící se hoaxy.
Příběh je však archetypem lidských obav z umělé inteligence: nepochopení toho, jak funguje, obavy z arogance, ba dokonce dominance. A jako řešení ústup do předem připravených pozic. Jenže náš svět nebude po nástupu umělé inteligence stejný jako před ním. Nebude možné se tvářit, že umělá inteligence nikdy nebyla…
