Bude mít na starosti veřejné zakázky, řídit a udělovat všechny smlouvy, jež vláda uzavírá se soukromými společnostmi. Albánii je potřeba pochválit za skvělé PR – za promyšlený marketingový tah, jak zviditelnit zemi. Může se pochlubit, že má první na světě AI ministryni. Možná však nakonec bude také první zemí na světě, kde se ukáže, že AI korupci nezvládne.
Albánie se v žebříčku korupce Transparency International za rok 2024 umístila na 80. místě ze 180 zemí se 42 body ze sta, což je nejlepší výsledek za uplynulých pět let. Veřejné zakázky jsou v Albánii problematické – podle odborníků může být kvůli korupci ztraceno deset až 25 procent ceny každé veřejné zakázky.
Nemožnost samostatného fungování
V případě albánského AI botu v ministerském postu nejde o nic jiného než o na míru vytvořenou generativní AI, která má jasné instrukce, jak postupovat, co dělat a nedělat, a může mít i informace a data o financích a souvisejících věcech.
Původně šlo o chatbota na platformě e-Albania, aplikaci pro občany a firmy pro přístup k službám a dokumentům státu – pomáhala poskytovat dokumenty, bylo ji možné ovládat hlasovými příkazy, to vše kvůli rychlejšímu odbavení. Jde o spolupráci s Microsoftem a chatbot funguje na základě velkých jazykových modelů od OpenAI a v Microsoft Azure.
Pro ministerský post toho však bude AI muset umět mnohem víc, ale především ji někdo bude muset instruovat, předkládat data, pokyny a také zpracovávat její výstupy. Právě v tom spočívá jedno z rizik – Diella se nakonec může stát stejně zkorumpovanou jako ti okolo ní. Současně to ale může být výhra. Místo obviňování konkrétních lidí bude nově možné označit za viníka umělou inteligenci.
Například Nizozemsko zažilo obrovský skandál s algoritmem pro detekci podvodů v oblasti dětských příspěvků, protože nespravedlivě obvinil tisíce rodin. Aféra vedla k pádu vlády v roce 2021. V tomto případě nešlo čistě o umělou inteligenci, ale o algoritmy používající diskriminační kritéria, například dvojí občanství, etnický původ či jazykové vzory, což vedlo k nespravedlivému označení tisíců rodin za podvodníky.
Netflix poprvé použil AI v seriálu. Vytvořila scénu hroutící se budovy |
Nizozemský příklad je klíčový i pro albánskou umělou inteligenci. Platí-li totiž, že AI (algoritmy) jsou stejně férové jako data, se kterými pracuje, pak také to, že automatizace nemůže fungovat bez lidského dohledu. Důležité navíc je, že podobné využití AI musí doprovázet transparentnost, například v tom, že by Albánie měla umožnit přístup a kontrolu nastavení a instrukcí pro svého chatbota.
Skvělý marketingový tah
O umělých inteligencích se ví, že si dokáží vymýšlet, ne-li „halucinovat“. A trpí i tím, že se spíše snaží uživatelům vyhovět, nechce jim například přiznat, že něco neví. Některá z těchto rizik lze ovlivnit perfektním „naprogramováním“, tedy instrukcemi, jak má AI fungovat a „chovat se“.
Nefunguje to ale stoprocentně a do hry vstupují i další aspekty. Například to, že AI nemá neomezenou kapacitu, takže Diella možná časem skončí jako člověk, který příliš pracuje – zhroutí se z přepracování. A čím více toho bude mít za sebou, tím méně bude schopná správně fungovat.
Jak už však bylo zmíněno, AI nefunguje sama, úkolují ji lidé, předkládají jí informace, říkají, co má udělat, co chtějí získat. Pokud ale „nezkorumpovanou“ AI budou ovládat zkorumpovaní lidé, jak to dopadne? Celé je to možná jen skvělý marketingový tah albánského premiéra. Dostal Albánii do médií po celém světě a propaguje AI. Právě včas před rokem 2030, kdy Albánie chce uspět ve vstupu do Evropské unie, přičemž pokrok v boji proti korupci je pro to klíčovou podmínkou.
Vedle marketingu může využití AI pro kontrolu a správu veřejných zakázek přinést i nemalé úspory. AI dokáže efektivně zpracovávat řadu podkladů rychleji a levněji než úřednicí. Jak to celé nakonec dopadne, lze obtížně odhadnout, ale bude zajímavé vývoj sledovat.
