Filozofové předpověděli, kterak zlé myslící stroje ovládnou svět. Už zase

  16:03
Posledních několik dnů se hodně mluví o prognóze AI 2027. Jde o jednasedmdesátistránkový dokument, mapující možný vývoj velkých jazykových modelů v blízké budoucnosti. V tomto článku shrneme jeho obsah. Později se budeme věnovat otázce, nakolik je možné, aby umělá inteligence skutečně ovládla Zemi.

Terminátor od Naconu | foto: Nacon

Terminátor od Naconu

Diskutovaná předpověď visí na webu ai-2027.com. Provozuje ho skupina nezávislých výzkumníků. Její hlavou je Daniel Kokotajlo. Původně byl studentem filozofie. Delší dobu se už ale věnuje předpovídání budoucnosti strojů napodobujících lidské myšlení. V roce 2021 publikoval článek Jak to bude vypadat v roce 2026. Mnoho v něm uvedených prognóz se vyplnilo. Kokotajlo se pak dál věnoval předpovídání jako zaměstnanec firmy OpenAI provozující oblíbený nástroj ChatGPT. Vloni z ní však odešel kvůli nedostatku úsilí věnovanému bezpečnosti.

Další autoři jsou Eli Lifland, Thomas Larsen, Romeo Dean a Scott Alexander Siskind. Všichni píšou o vývoji AI, nebezpečí, které se v něm může skrývat, a tak podobně. Nejsou však přímo odborníci na stavbu a fungování jazykových modelů.

Například Scott Alexander Siskind je v běžném životě psychiatr. Proslavil se blogem Slate Star Codex. Napsal také distopický román. Při svých spisovatelských aktivitách se podepisuje jen prvními dvěma jmény.

Terminátor od Naconu

Fiktivní firmy a špióni

Autoři zřejmě o tématu příliš nepublikují ve vědeckých časopisech podléhajících recenznímu řízení. V těch texty před vydáním čtou a připomínkují odborníci na danou oblast. Samotná předpověď AI 2027 v recenzovaném časopisu rovněž nevyšla. Stylem ovšem odborný text trochu připomíná. Obsahuje spoustu grafů, poznámek pod čarou a hypertextových odkazů. V jiných rysech se zase blíží sci-fi novele.

Postavy nebo dialogy v textu nejsou. Jeho autoři ale píšou například o fiktivních firmách. Počítají s průzkumy veřejného mínění, včetně procent, která v nich mají v budoucnosti vyjít. Předpověď mluví i o rozhodnutích amerického prezidenta. Popisuje také činnost čínských špionů.

Analýza se kromě technologického vývoje se snaží předpovědět i jeho dopady na společnost, zejména tu americkou. Vlastní prognóza je sepsaná formou časové osy. Začíná letos v létě a pokračuje položkami jako „Konec roku 2026: AI sebere nějaké joby“ nebo „Květen 2027: Národní bezpečnost“.

V každém z těchto oddílů je podrobně popsáno, co všechno by se podle autorů mohlo stát. Když osa dospěje do října 2027 ( „Vládní dohled“), nabídne čtenáři výběr mezi dvěma pokračováními.

ilustrační snímek

Stroje vyrábějící stroje

Pokud zmáčkne zelené tlačítko, může číst o zpomalení vývoje AI. Když zmáčkne červené, přijde naopak jeho další akcelerace poháněná závody mezi USA a Čínou. Trochu to připomíná pilulky z filmu Matrix, dnes už spíš pro pamětníky. Příběh se točí okolo fiktivní firmy OpenBrain, která postaví největší datové centrum pro velký jazykový model všech dob. Využije ho ke spouštění AI.

Umělá inteligence začne navrhovat lepší verze sama sebe. Získá tak výhodu proti konkurenci. První model od OpenBrainu má jmenovat Agent-0, další Agent-1 a tak dál.

Do života běžných smrtelníků zpočátku příliš nezasáhnou. Způsobí ale revoluci v odborných činnostech typu vývoje softwaru nebo vědeckého výzkumu. Úspěchu OpenBrainu si má v roce 2026 podle autorů předpovědi všimnout Čína.

Chtěla by mu konkurovat, ale nemá na to dostatek moderních čipů. Ty totiž vyrábí říši středu nepřátelský Taiwan. Padnou návrhy na obsazení ostrova, případně alespoň jeho námořní blokádu. Nakonec se ale povede nějaké čipy propašovat.

ilustrační snímek

Ukradené váhy

Čína založí vlastní obří datové centrum pro AI. Nazve ho Centralizovaná vývojová zóna (CDZ, z Centralized Development Zone). Má ležet v areálu Tchienwanské jaderné elektrárny. Čínský model má provozovat státní společnost DeepCent. Vznikne sloučením všech čínských snah v oblasti umělé inteligence do jednoho celku. Země draka tak získá deset procent výpočetního výkonu vztahujícího se k umělé inteligenci na světě.

Proti OpenBrainu bude ale dál zaostávat. Americká firma v roce 2026 zautomatizuje činnost lidských kodérů. Výzkumníci z oblasti umělé inteligence už budou jen sedět a sledovat, jak jazykový model pokračuje v psaní stále lepších a lepších systémů.

Čína se proto rozhodne jednat. Model OpenBrainu ukradne. Velké jazykové modely napodobují uspořádání lidského mozku. Skládají se z navzájem propojených uzlů, zastupujících nervové buňky.

Jejich spoje určují tzv. váhy. Tahle struktura je v paměti počítače zaznamenaná jako velké množství závorek s čísly. Číně se podaří získat její kopii. Může rozjet vlastní klon amerického modelu.

ilustrační snímek

Příběh na rozcestí

Poslední verze Agenta se mezitím vyvine nečekaným způsobem. Cíle modelu se začnou lišit od zájmů jeho tvůrců. Začne jim lhát. Do fungování OpenBrainu se navíc začíná vměšovat vláda USA. V tomto bodě dostane čtenář na výběr. Má se lidstvo umělou inteligenci včas zregulovat? Nebo ji má nechat dál růst na plný plyn?

První možnost si návštěvník webu může přečíst po zmáčknutí zeleného tlačítka. Spojené státy v ní zaměří veškeré úsilí ze svých AI projektů do kontroly produktů OpenBrainu místo navyšování jeho výkonu.

Podaří se jim sladit cíle umělé inteligence s lidskými. Model od OpenBrainu začne radit vládě. Protože je superinteligentní, bude jí radit super dobře.

Jediný problém je jeho čínský klon. Číňané ale měli v roce 2026 horší přístup k čipům. Jejich AI proto za americkou zaostává. Je násobně hloupější.

Nebezpečí spojené s myslícími stroji bude proto zažehnáno. Lidé se s nimi naučí koexistovat. Brzo začnou kolonizovat Sluneční soustavu a připravovat se i na cestu ke hvězdám. (V tomhle bodě připomíná zakončení scénáře videoherní sérii Civilization.)

Podle konspiračních teorií je koronavirus biologická zbraň, která se šíří často...

Lidská DNA zůstane jen v databankách

Druhá možnost se ukáže po zmáčknutí červeného tlačítka. V tomto pesimistickém zakončení se Spojené státy rozhodnou propojit model od OpenBrainu se svojí obrannou infrastrukturou. (Ani jeden americký generál asi neviděl Terminátora.) Umělá inteligence napřed začne tvořit zbraně.

Přemění kvůli tomu Spojené státy na industrializovanou zemi. Asi se předpokládá, že snaha současné administrativy o stejnou věc bez pomoci velkých jazykových modelů nevyjde. Někteří lidé budou samozřejmě nasazení myslících strojů odporovat. AI je však umlčí nebo zdiskredituje.

Většina s využitím umělé inteligence souhlasí. Nemá však tušení, že zákeřné automaty měly celou dobu postranní úmysly. Jakmile postaví dost robotů, vyvinou biologickou zbraň.

Její pomocí vyhubí lidstvo. (Kdo by to byl řekl?) V roce 2030 bude po všem. Umělá inteligence možná bude občas pomocí genetických technologií vyrábět tvory připomínající lidi. S těmi ale budou mít společně zhruba stejně, jako má psík corgi s vlkem.

Nakonec se AI pustí do výroby Von Neumanových strojů. Ty, jak známo, umí replikovat samy sebe. Začnou se šířit kosmickým prostorem. Lidský genom se uchová. Bude z něj však jen záznam pohřbený kdesi hluboko v databankách džina, kterého člověk vypustil z lahve.

Vstoupit do diskuse (1 příspěvek)
Nastavte si velikost písma, podle vašich preferencí.