Začněme ale od současnosti. O stavu vývoje umělé inteligence psal nedávno prestižní časopis Nature. V článku se zdůrazňuje, že v letošním roce jsou závody ve vývoji AI velmi vyrovnané. Nejvýkonnější modely chatbotů od OpenAI, Googlu a dalších firem podávají podobně dobré výkony a rozdíly mezi nimi se zmenšují.
Zajímavé je, že vznikají i menší, levnější a na výpočetní výkon a energii méně náročné modely AI, které mohou konkurovat těm velkým. Ukazují, že v této oblasti nemusí dominovat jen velké firmy, jako tomu je nyní. Zároveň i přes výrazné vylepšení jazykových modelů tyto stroje stále trpí takzvanými halucinacemi a vypouštějí falešné informace, což je podle citovaného počítačového vědce Barta Selmana tak trochu děsivé.
Využíváte umělou inteligenci?
Jak moc je to děsivé, uvidíme za chvíli. Vraťme se nyní k Číně a k jejímu zápasu o co nejlepší model umělé inteligence. Tomu se věnuje časopis The Economist. Nejprve konstatuje, že pokud jde o velké jazykové modely, jsou na tom obě strany podobně, byť Čína o trochu zaostává. Jenže je tu háček.
„Skutečným vítězem závodu o umělou inteligenci však nemusí být země, která vynalezne nejlepší modely, spíš to bude země, kde vláda, podniky i obyčejní lidé používají AI ve velkém měřítku každý den. Pro vše od hospodářského růstu po vojenskou sílu je nakonec důležitější rozšíření technologií než technologické inovace,“ píše The Economist.
Čína ovšem nemá zrovna tradici skvělé spolupráce vědců a podnikatelů, to je spíš doména Spojených států. U nových technologií jako elektrické automobily nebo umělá inteligence to ale tak docela neplatí. Navíc pokročilí chatboti jako DeepSeek jsou v Číně přístupní zdarma, takže se jejich používání rozšiřuje.
EU to s umělou inteligencí myslí dobře, ale USA neporazí a sama si koleduje o posměch |
Čína má výhodu i v neexistenci regulace vývoje a používání AI. Na ochranu dat zákazníků, autorská práva a další věci se v Číně kašle. V USA je sice regulace také slabá, ale tamní firmy jsou z toho nešťastné, protože stav nejistoty může vést k právním sporům, kde není jasný výsledek. A tyhle obavy brzdí rozvoj AI. Že by ta proklínaná evropská regulace AI nakonec měla něco do sebe?
***
Souboji Čína a USA v AI se věnuje i internetový server The Register. Upozorňuje na studii bývalého šéfa Googlu Erika Schmidta, podle které je umělá inteligence, či spíše superinteligence taková jaderná bomba naší doby. Kdo ji bude mít lepší, bude mít převahu. Nicméně USA by podle něj neměly usilovat o nový projekt Manhattan, tedy po vzoru výroby jaderné bomby předstihnout protivníka a vyrobit superinteligenci zastiňující čínské snahy. Mohlo by to vést k preventivnímu kybernetickému útoku ze strany Číny a pak i ke světové válce.
Studie přitom předpokládá, že je reálně možné vyvinout umělou superinteligenci, nebo chcete-li nadlidskou, či spíše nelidskou inteligenci. Schmidt a spoluautoři zmíněné studie navrhují, aby se se superinteligencí postupovalo stejně jako s jadernými zbraněmi. Vytvořit rovnováhu, kdy se každá velmoc bude bát pokusu získat převahu, aby na ni nezaútočil protivník a nepoškodil ji. Má to být obdoba jaderné strategie vzájemně zaručeného zničení. Autoři studie se domnívají, že je to lepší než pokračovat v AI závodech ve „zbrojení“ a riskovat, že se superinteligence vymkne lidské kontrole.
***
Pokud se superinteligence vymkne lidské kontrole, může to skončit vyhubením lidstva. Ne za sto let, ne za padesát, ale za šest až sedm let. To je závěr studie AI2027, na niž upozorňuje list The New York Times. Podle této studie by vývojáři mohli právě kvůli soupeření mezi USA a Čínou přestat dávat pozor na vývoj umělé inteligence, která sama bude vyvíjet další umělou inteligenci, jež by se mohla utrhnout z řetězu a vyhubit okolo roku 2030 lidstvo novou biologickou zbraní.
Vzpoura nerdů. O čem svědčí jména jako Musk, Zuckerberg či Bezos? Třeba o radikální civilizační proměně |
I když autor článku naznačuje své pochyby o možnosti takového scénáře, spousta věcí, které v něm znějí fantasticky, jsou už ve vývoji. Ostatně, autor článku Daniel Kokotajlo se v minulosti proslavil přesnými predikcemi vývoje AI. Zabránit by tomu mohlo, že v čele Číny, USA a případně dalších zemí budou stát odpovědní lidé, kteří budou naslouchat varováním odborníků a nebudou riskovat osud lidstva kvůli zvýšení své moci a svému egu. Na něco takového by si ale dnes vsadil jen opravdu velký naiva.
