„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná,“ stojí v otevřeném dopise neziskové organizace Future of Life Institute, který podepsalo víc než tisíc osobností ze světa technologií a odborníků na umělou inteligenci.
Dokument vyzývá k půlročnímu pozastavení vývoje pokročilé umělé inteligence, dokud nebudou vyvinuty, implementovány a nezávislými odborníky prověřeny související bezpečnostní protokoly.
Přichází „šok z budoucnosti“. Umělá inteligence nahradí jiné profese, než jsme si mysleli. Kdo bude platit daně? |
Odborníci dále upozorňují na potenciální rizika, která pokročilý „lidem konkurenceschopný“ AI systém pro společnost představuje v otázkách ekonomických a politických. Apelují na vývojáře, aby spolupracovali s regulačními orgány. Jinými slovy, lidstvo potřebuje čas se na příchod umělé inteligence připravit, což při současné dynamice jejího vývoje není možné.
Dopis přichází v době, kdy se evropský orgán Europol v pondělí připojil k debatě o etických a právních obavách ohledně pokročilé umělé inteligence, jako je ChatGPT. Vyzdvihovány jsou především obavy z potenciálního zneužití systému při pokusech o phishing, dezinformace a kyberzločin. Musk, jehož automobilka Tesla používá umělou inteligenci pro systém autonomního řízení vozů, vyjádřil obavy z dalšího vývoje.
ChatGPT od Microsoftem podporovaného OpenAI od loňského vydání podnítil konkurenty k urychlení vývoje podobných jazykových modelů a jejich integrace do produktů pro běžné uživatele.
Umělá inteligence nahradí až 300 milionů pracovních míst, tvrdí Goldman Sachs |
Sam Altman, výkonný ředitel OpenAI, dopis nepodepsal, řekl agentuře Reuters mluvčí Future of Life. Společnost OpenAI na žádost agentury Reuters o reakci zatím neodpověděla.
„Dopis není dokonalý, ale duch je správný. Musíme zpomalit, dokud lépe nepochopíme důsledky,“ řekl Gary Marcus, emeritní profesor na New York University, který dopis podepsal. Stejně jako Emad Mostaque ze Stability IO, vývojáři ze společnosti DeepMind (tj. Alphabet/Google), nebo jedny z klíčových postav vývoje AI Joshua Bengio a Stuart Russell.
