Nedávno vzbudila velkou pozornost studie AI 2027, podle které umělá inteligence může brzy zničit lidstvo tím, že bude mít jiné cíle, než jaké preferují lidé, a lidstvo se rozhodne zahubit. Jan Kulveit, spoluautor studie o nebezpečí AI, však tvrdí, že není nutné, aby se objevila „zlotřilá“ umělá inteligence.
Stačí, aby lidé sami dobrovolně přistoupili na omezení svého rozhodování a politického vlivu a přenechali ho umělé inteligenci, a stanou se nevýznamnými bez vlivu na svůj osud. Asi jako je hovězí dobytek odkázán na dobrou vůli svých chovatelů.
Firmy, které vyvíjejí umělou inteligenci, o nebezpečí dobře ví. Deseti či dvacetiprocentní pravděpodobnost, že AI zničí lidstvo, je pro ně přijatelná. Pro mne je to nepřijatelné hazardování s osudem lidstva.
Jan KulveitCentrum pro teoretická studia Univerzity Karlovy a Akademie věd
Lidovky.cz: Hodně se teď mluví o tom, že umělá inteligence může zničit lidstvo. Je to skutečně tak velká hrozba, větší než třeba pád asteroidu podobného tomu, co vyhubil údajně dinosaury?
Ano, jde o to, že tak zvaná antropogenní rizika, čili rizika, za které si mohu lidi sami, jsou v současnosti mnohem větší než přírodní rizika jako třeba pád velkého asteroidu. Jsou to technologie, které by skutečně mohly vyhubit lidstvo. Přírodní rizika vedoucí k zániku celého lidstva jsou poměrně nepravděpodobná. Z antropogenních rizik vychází jako nejrizikovější umělá inteligence, rizikovější než jaderná válka či globální oteplování.
Lidovky.cz: Co je na AI tak rizikového? Je tu sice scénář studie AI 2027, který popisuje, jak umělá inteligence může vyhubit lidstvo, protože bude vyvíjet sama sebe a nebude mít nakonec stejné cíle jako lidé a to možná už v roce 2030. Ale je to skutečně možné? Vždyť to, co dnes používáme jako umělou inteligenci, není až tak chytré a navíc zde chybí přesah do fyzického světa. AI s ničím sama nemanipuluje, nemá „ruce“.
Scénář, který popisuje AI 2027, může nastat, ale považuji za pravděpodobnější jiný vývoj, který může vést ke katastrofě. Ale k tomu později.
