Naznačuje to jednu věc. Umělá inteligence už je pro americkou armádu nepostradatelná. Ať si prezident říká, co chce. Proč? Protože je třeba reagovat rychle a zpracovat velké množství dat. Právě to umělá inteligence umí velmi dobře, může pomáhat rozpoznávat a určovat objekty vhodné pro bombardování, prověřovat informace rozvědky a testovat scénáře útoku.
V budoucnu bude zřejmě podle údajů z výběrových řízení, která vypsal Pentagon, používána i přímo k automatickému navedení dronů na vybraný cíl. Možná se to děje už dnes. Zkrátka sci-fi je tady.
Uvěřitelné nepravdy
I přes ohlášený zákaz se armáda nedokáže umělé inteligence vzdát a zároveň používaný model od Anthropicu nedokáže rychle nahradit modelem jiné firmy, jak požaduje Trump. Ostatní výrobci umělé inteligence totiž nemají na rozdíl od Anthropicu povolení využívat tajné informace a nemají zřejmě tak dobré stroje. Takže náhrada bude trvat.
Porušení pravidel? USA při intervenci ve Venezuele použily nástroj AI Claude |
Celý problém přitom vznikl tak, že se Trump pohádal se šéfem Anthropicu Dariem Amodeiem a padla přitom leckterá nehezká slůvka třeba o stupidním levičákovi a nafoukaném diktátorovi.
Amodei totiž odmítal nechat armádu použít svůj stroj přímo na vražedné operace, pro vývoj zbraní a pro masivní sledování občanů. Mimochodem, není to jen kvůli morálním zásadám Amodeie, ale je za tím i obava, že s potenciálně vražedným Amodeiovým dítkem jsou tak trochu problémy.
Vlastně trochu víc. Jazykové modely stále propadají tak zvaným halucinacím, tedy vymýšlejí si. Zejména pokud neznají odpověď. Vymýšlejí si velmi chytře, takže vymyšlená odpověď je často obtížně odlišitelná od pravdy. Nehledě na to, že protože dnes vyvíjejí umělou inteligenci umělé inteligence, neví, co ve stroji vlastně probíhá.
Přechodné období
Takže třeba chcete v určité oblasti trefit odpalovací zařízení rakety, ale když tam není, stroj navede dron místo toho na dívčí školu, o které tvrdí, že jsou v ní rakety. Třeba modely raket. Svěřili byste takovému stroji autonomně výběr cílů? Nebo přímo řízení zbraní? Nebo dokonce atomové rakety? Asi ne.
Jazykový model řídil svačinový automat. Objednal PlayStation a živou rybu |
Amodei taky ne, Trump ano. A když ho Amodei právně brzdil – měl zákaz určitého využití své umělé inteligence přímo ve smlouvě s Pentagonem – Trump vyhrožoval a pak zareagoval. Nechal svého ministra války označit Anthropic za riziko pro dodavatelský řetězec, tedy zakázal mu spolupráci s vládou i vládními dodavateli.
Nakonec se ovšem ukázalo, že to tak rychle nepůjde a tak přes Trampovo vyhrožování je tu šestiměsíční přechodné období. Americká armáda Claude dál používá.
Teď Trump doufá, že model Claude nahradí třeba Grok od Trumpova kamaráda a nejbohatšího muže planety Elona Muska. Ten totiž žádné zábrany nemá. Trump se raduje, že pak bude americká armáda ještě mocnější. Svět se tím ovšem bezpečnějším nestane a jednoho krásného dne se může umělá inteligence omylem či úmyslně obrátit i proti americké armádě. Doufejme, že ne s jadernými zbraněmi.
