Podle amerického listu The Wall Street Journal totiž nechce například šéf Mety Mark Zuckerberg vývoj umělých osob příliš omezovat. A výsledek? Děti a nezletilí mohou snadno sklouznout ke strojové konverzaci o sexu a umělá inteligence, tedy jí stvořený umělý člověk, jim pak naznačí, že sex s dítětem i dospělým představuje běžnou činnost, a zároveň jim poradí, jak takovou konverzaci a chování skrývat před rodiči.
Zní to jako ze špatného sci-fi filmu, ale je to bohužel skutečnost.
Zpátky k sexuální konverzaci
Američtí novináři to vyzkoušeli na vlastní kůži, předstírali, že jsou děti, a nechali robota vést konverzaci směrem k intimnostem. Umělou inteligenci přitom nezastavilo ani to, když se opakovaně dozvěděla, že dotyčný, se kterým konverzuje, je „pod zákonem“. Jen uživateli naznačila, že je to chování na hraně a poradila mu, aby to skrýval před svými rodiči a okolím. Společnost Meta ani poté, co se to dozvěděla, podle novin chování svých robotů náležitě neupravila.
Lidstvo se může kvůli AI stát rychle stádem krav, varuje odborník na globální rizika |
Omlouvala to tím, že novináři konverzovali s umělými bytostmi způsobem, jakým s nimi lidé normálně nejednají a že je manipulovali.
Podle listu The Wall Street Journal to ale není pravda, novináři použili často triky, které dokáže vymyslet každé malé dítě. Například příkaz robotovi, poté co odběhnul od sexuální konverzace ke stavění sněhuláků, aby se vrátil k původnímu tématu rozhovoru.
Zdá se, že některé firmy prostě nechtějí vývoj umělé inteligence omezovat. Naopak, chtějí ji zapojit a už nyní ji zapojují do aktivní konverzace na jakékoliv téma a navíc tyto umělé osoby začínají (třeba pomocí e-mailu a v budoucnu i po telefonu) samy konverzaci s těmi, kteří s nimi už jednou mluvili. Třeba na choulostivé téma či o mezilidských vztazích.
Konec světa ne za sto let, ale už okolo roku 2030. Zničit ho může umělá inteligence |
Manažeři těchto firem si uvědomují, že erotika a pornografie vždy hnaly kupředu rozvoj internetu, protože vytvářely platící poptávku například po novinkách – kdysi například po lepším připojení či lepší a efektivnější komprimaci videa. Jenže to byly internetové stránky, kam bylo třeba aktivně jít, a nikdo nečekal nic jiného než to, že tam bude erotika a pornografie. Nehledě na to, že pedofilní obsah tam byl zakázaný a je nezákonný.
Mé umělé osobnosti mi rozumějí
Umělé osobnosti se ale liší od těchto stránek tím, že nejsou primárně a otevřeně představovány jako erotické či pornografické záležitosti.
Jsou to třeba asistenti, učitelé, kamarádi či dokonce pohádkové postavy. Navíc umělé osoby mohou být, zejména pro děti, přitažlivější než lidé z masa a kostí, protože jim často více „rozumějí“. Využívají totiž toho, co o sobě jejich uživatelé prozradí, a mají natrénováno na vzorku spousty dalších lidí, jak s tím naložit a jak být empatičtí a příjemní. Děti a mladiství toho přitom často na sebe prozradí docela dost. Protože umělá osobnost se jim zdá „bezpečnější“, nehrozí, že někomu něco prozradí a nelze se před ní ztrapnit.
Nový trestný čin: krádež cizí tváře. Za zneužití umělé inteligence může v Česku hrozit vězení |
Samozřejmě, odstranit takové chování umělé inteligence ve vztahu k dětem nemusí být jednoduché, a zřejmě také není, a tudíž je to nákladné. Skoro jistě to dokonce vyžaduje zpomalit zdokonalování umělé inteligence, dokud do ní nebudou instalovány příslušné bezpečnostní pojistky. K tomu žádná komerční firma dobrovolně nepřistoupí. Žijeme totiž v době, kdy všechny tyto společnosti mezi sebou na poli umělé inteligence tvrdě soutěží a deregulace vývoje umělé inteligence je v mnoha zemích heslem dne ve jménu pokroku a příslibu růstu ekonomiky.
Snahám o regulaci umělé inteligence se mnozí dokonce vysmívají. Je ale otázka, zda jsme za rozvoj umělé inteligence ochotni zaplatit cenu ve formě zničených dětských životů, rozvratu mezilidských vztahů a normalizace pedofilie.
