O bizarním incidentu informovala jako první tchajwanská televizní stanice CTWANT. Chudák farmář podle ní zpočátku umělé inteligenci nevěřil. Po čase se ji však rozhodl vyzkoušet. Brzo jejím radám propadl. Během několika měsíců si na instrukce chatbota zvykl. Problém přišel, když potřeboval poradit s postřikem sezamových polí proti plevelu. Model mu navrhl směs čtyř různých prostředků. Konkrétně se jednalo o látky označované zahraničními médii jako flupyrimethalin, fomesafen, thiamethoxazin a methylová sůl.
Profesionální zemědělec nebo chemik by asi znal jejich lepší české názvy. Ať se jim ale u nás říká jakkoliv, nebohý muž navrhovaný koktejl namíchal. Postříkal jím deset hektarů (100 000 m2) sezamových polí. Kůra proti plevelu zabrala. Kromě něj ale vyhubila i vlastní úrodu.
Filozofové předpověděli, kterak zlé myslící stroje ovládnou svět. Už zase |
Označování článků
Dalším zkoumáním vyšlo najevo, že třetí ze zmíněných látek, fomesafen, se používá proti širokolistému plevelu. Hodí se proto k ochraně rostlin typu sóji. Sezam však podle zemědělské klasifikace sám patří mezi širokolisté plodiny. Postřik ho proto zahubil. Opět zdůrazňuji, že zemědělec by vysvětlení formuloval lépe a přesněji než já. Podstata příběhu ale zůstává stejná. Nešťastný farmář se dopustil školácké chyby.
Důvěřoval velkému jazykovému modelu. Zdá se snadné se mu smát. Každý přece ví, že tvrzení umělé inteligence je třeba ověřovat. Obvykle to ostatně zdůrazňují i samotné AI nástroje. Domnívám se však, že problém má víc vrstev.
Jazykový model řídil svačinový automat. Objednal PlayStation a živou rybu |
Například v redakčním systému Mafry přibyla letos nová zaškrtávací položka. Než autor odešle článek, může ho označit fajfkovacím čtverečkem „Vyrobeno s AI.“ K zavedení checkboxu nám všem přišla doprovodná zpráva.
„Do budoucna ale potřebujeme mít evidenci textů, na kterých se AI jakkoli podílela – ať už při přepisu, překladu, úpravách nebo jiné práci s textem,“ napsal v ní šéfredaktor iDNESU Matyáš Kaiser.
AI je všude
Na první pohled působí opatření rozumně. Kvůli zaškrtávacímu boxu mi ale došlo, že napsat dnes článek bez AI je velmi obtížné. Možná dokonce nemožné. Sám při psaní používám ChatGPT. Nejužitečnější mi připadá k hledání překlepů a pravopisných chyb. Všímá si například i dvojitých mezer, které lidské oko zaregistruje jen obtížně. Moje tedy rozhodně. Občas se LLM ptám i na něco jiného. Dobrý je třeba na brainstorming v počátečních fázích psaní.
Fajfkuju proto všechny své články. Nad rámec požadavků se snažím využití AI popsat i v interní poznámce k článku. Ve skutečnosti mám ale o podílu umělé inteligence ve svých textech jen částečnou představu. Je už totiž všude.
AI udělala chybu za miliardu dolarů. Zapamatovala si celé knihy. Hrozí soud |
Velké jazykové modely už delší dobu běhají ve střevech internetových vyhledávačů. Pokud člověk při psaní napíše do Googlu byť jen jeden dotaz, jeho článek je automaticky kontaminovaný. To samé platí, když si před psaním svého textu přečtu k tématu nějaký jiný text.
Jeho autor mohl využít AI přede mnou. Pokud se sám nepřizná, já už to nezjistím. I kdybych všechno výše uvedené vynechal, stačí, že jsem svůj článek do redakčního systému nalil prostřednictvím internetu jako takového.
Jazykové modely jsou dnes součástí jeho infrastruktury. Zapojují se do předpovědí datového provozu nebo návrhu pevných i mobilních sítí. Programátoři je používají při psaní softwaru. Ten pak všichni používáme.
Další příklady asi nejdete sami. Čínský farmář se tak od většiny lidí dost možná lišil jen v jedné věci. O své chybě se dozvěděl.
