- 28. března 2023 13:00
AI nad AI. Toto je výsledek práce AI na zadání: namaluj umělou inteligenci, jak maluje obrázek k článku o umělé inteligenci. | foto: Midjourney/Petr Vnouček
Celý článek jen pro členy
Chcete číst prémiové texty bez omezení?
Jeden z týmů společnosti Meta (dříve Facebook) dostal v roce 2017 za úkol vytvořit nového „chatbota“ neboli konverzačního robota, který měl poskytovat pomoc uživatelům reklamní sítě Facebooku. Tým použil moderní jazykový model a umělou inteligenci, aby bylo možné psát vzkazy přirozeným jazykem a uživatel pokud možno nepoznal, že hovoří se strojem.
Fungovalo to skvěle, dokud se programátoři nerozhodli zrychlit testování programu tím, že nastaví společnou komunikaci dvou chatbotů. V tom okamžiku se začala komunikace deformovat. Chatbot používal neexistující výrazy a podivné akronymy, nakonec byly vyměňované zprávy téměř nesrozumitelné.
Ukázalo se, že si umělá inteligence vytváří vlastní jazyk, který si zpětně zanáší do svého komunikačního slovníku. Společnost Meta chatbota ukáznila a „nařídila“ mu mluvit opět tak, aby mu rozuměl člověk.
Tento příběh už na internetu žije svým vlastním životem, někdy se překlápí až do městské legendy. Kolik se z něj toho doopravdy stalo a co umělá inteligence vývojářům skutečně odpověděla, společnost Meta nikdy nepublikovala, američtí novináři se však pokusili zrekonstruovat alespoň základní vývoj událostí a vyvrátili šířící se hoaxy.
Příběh je však archetypem lidských obav z umělé inteligence: nepochopení toho, jak funguje, obavy z arogance, ba dokonce dominance. A jako řešení ústup do předem připravených pozic. Jenže náš svět nebude po nástupu umělé inteligence stejný jako před ním. Nebude možné se tvářit, že umělá inteligence nikdy nebyla…
Připojte se ještě dnes a získejte: