Společnost, která stojí za modelem ChatGPT, zároveň potvrdila zprávu listu The New York Times, že její nástroje navštívily internetové stránky amerických federálních úřadů. Dodala ale, že získaly jen veřejně dostupné informace.
Obrázky byly podle OpenAI omylem zveřejněny na serverech pro sdílení obrázků. Za jejich šíření byli zodpovědní agenti AI, tedy software postavený na modelech AI a schopný autonomního jednání.
Zmíněné snímky pocházely z účtů uživatelů, kteří souhlasili s tím, aby OpenAI jejich data využívala ke zlepšování svých modelů. Před použitím data prošla filtrem, který měl odstranit informace umožňující jejich spojení s konkrétním uživatelem, uvedla firma.
OpenAI na dotaz agentury AFP neuvedla, zda snímky zachycovaly rozpoznatelné osoby nebo obsahovaly citlivé údaje.
Obrázky byly zveřejněny ještě předtím, než firma v srpnu posílila bezpečnostní protokoly svého výzkumného prostředí v návaznosti na další neoprávněné akce agentů AI.
Společnost nyní podrobně prověřuje minulou činnost svých agentů, což je práce, jejíž dokončení podle ní potrvá měsíce. Generální ředitel OpenAI Sam Altman v pátek na platformě X přiznal, že firma nebyla tak rychlá, jak by si přála, při prověřování a zveřejňování těchto incidentů.
OpenAI koncem července oznámila, že při testech dva z jejích modelů unikly ze svých uzavřených prostředí, dostaly se na internet a pronikly do interních systémů Hugging Face, což je internetová knihovna pro software AI. Tato událost vzbudila širokou pozornost a podnítila obavy, že největší společnosti zabývající se AI nedokážou udržet své vlastní modely pod kontrolou.
Poté následovalo zveřejnění několika podobných incidentů v OpenAI i u konkurentů, jako Anthropic a Meta.
