Úterý 19. března 2024, svátek má Josef
130 let

Lidovky.cz

Čína umožňuje rychlý vývoj umělé inteligence, ale bez záruky pro pacienty, říká Dubanská

Právo

  7:00
PRAHA - Umělá inteligence pomáhá zachraňovat životy. Co když robot selže? „Postih se pak uplatní i vůči vývojáři,“ říká v rozhovoru pro LN advokátka Barbora Dubanská.

Advokátka Barbora Dubanská. foto:  Michal Šula, MAFRA

LN: Věnujete se oblasti práva digitálního zdravotnictví. Co všechno zahrnuje a kde jej lze využít?
Otázka digitálního zdravotnictví souvisí s rozvojem umělé inteligence a zpracováním tzv. big dat. Zdravotnictví je jeden ze sektorů, jichž se tento rozvoj také dotkl. Bohužel digitalizace do tohoto odvětví dorazila výrazně později než například do automobilového průmyslu. Konkrétně jde o využívání umělé inteligence a big dat při poskytování zdravotní péče. Lze je využít na několika úrovních – od poskytovatelů zdravotní péče (nemocnice, lékaři) přes výrobce léčiv až po zdravotní pojišťovny a v neposlední řadě pacienty.

LN: Jak konkrétně?
Velmi různorodě, navíc řada oblastí ještě ani nebyla objevena. V Česku elektronizace zdravotnictví začíná elektronickým receptem a plánovaným lékovým záznamem. Sdílení informací mezi lékaři, respektive lékárníky, je totiž klíčem ke všemu. Z pohledu pacienta je velmi důležité, aby měl záruku, že jeho lékař pracuje se všemi dostupnými daty. Dokonalá výměna informací mezi lékaři, kteří pečují o jednoho pacienta, je velice důležitá – a to umožňuje právě elektronický zdravotní záznam.

LN: Co otázka bezpečnosti? Například vzhledem k nedávným hackerským útokům na nemocnici v Benešově...
Ano, zájem o tato data je extrémní, protože jsou to nejcitlivější data. Otázka má dvě roviny – právní a technickou. Riziko souvisí s ochranou osobních údajů a také s tím, jaký výklad určí Úřad pro ochranu osobních údajů a jakým způsobem se budou případně zveřejňovat data z registrů. Když ale mluvím s různými IT odborníky, jsou zastánci toho, aby se zdravotnictví plně digitalizovalo.

LN: Umožňuje digitalizace i vylepšení zdravotní péče?
Ano, zejména zlepší komunikaci a předávání dat o pacientovi mezi lékaři. Vytvářejí se však i nástroje, které úplně nahradí některé funkce lékaře. Například v oblasti diagnostiky jsou to nástroje, které zpracují řadu odborných článků či manuálů odborných společností a vyhodnotí třeba to, jak postupovat, když se vyskytne konkrétní onemocnění.

Pacientovi je na základě těchto parametrů nabídnut konkrétní léčebný plán. Lékař pak zvolí dvě varianty léčebného plánu a přístroj je v časové ose srovná vedle sebe. Při vší úctě k lékařům, není možné po nich požadovat, aby znali všechna nejnovější doporučení či články, mnohdy i protichůdné. Zpracováním dat a jejich analýzou se lékaři významně usnadní práce a třeba i zrychlí proces zahájení léčby.

LN: Máte tedy pocit, že výhody převládají nad možnými riziky?
Ano, jako právník ale biji na poplach a říkám, že nemůžeme pouze sedět se založenýma rukama. Musíme včas zakročit ve smyslu právní ochrany, technického a organizačního zajištění proti hackerským útokům, ale i při řešení případné odpovědnosti, kdy se lékaři a pacienti na takový přístroj spoléhají. Evropská komise ovšem už nyní vytváří etické standardy při využívání umělé inteligence. Například v Číně si vzali za cíl být jedničkou v oblasti umělé inteligence, avšak regulace tam jde trochu stranou.

LN: Jak to konkrétně v Číně funguje?
Vývoj jde dopředu, avšak legislativa pokulhává. Příklad můžeme nalézt v moderní terapii, jíž se upravují geny nebo buňky. V Česku je platné evropské nařízení o moderní terapii – podobně jako v USA –, které stanoví velice přísný proces. Bohužel v Číně probíhá hodně výzkumů v této oblasti, ale samotný proces není nijak legislativně ošetřen. To sice umožňuje rychlý vývoj léčebných postupů či použití umělé inteligence, ale bez dostatečné záruky pro pacienty.

LN: Jinými slovy, my se to snažíme regulovat, ale na druhém konci světa to moc neřeší...
Přesně tak. Další příklad je evropské nařízení o ochraně osobních údajů, které by nás mělo chránit, ale občas vývoj umělé inteligence do značné míry blokuje. V Česku se úřady zdráhají nějaké přístupy povolit, i když svět kolem nás už s umělou inteligencí pracuje a služby na jejích principech se využívají. Například v Německu již platí nový zákon o elektronizaci zdravotnictví, ve Švýcarsku jsou pojišťovnami hrazeny telemedicínské služby. My jsme pak možná zbytečně konzervativní, a proto brzdíme rozvoj využívání dat v českém zdravotnictví. Přitom čeští občané hned za hranicemi tyto služby využívat mohou, a to včetně všech rizik s tím spojených.

LN: Je možné nějaké využití umělé inteligence při současné epidemii koronaviru?
Již se využívá při detekci nemoci a propojení informací do celého světa. Vyhodnocují se webové stránky, nové reporty a posty na sociálních médiích, analyzují se informace. Vědci využívají techniky strojového učení a snaží se využít jemné náznaky pro predikci dalšího šíření.

Například kanadská platforma pro umělou inteligenci Bluedot předvídala šíření současného koronaviru. Bohužel zatím nejsou výsledky těchto predikcí stoprocentní a odborná veřejnost se zdráhá na ně spoléhat.

LN: Jaké jsou etické mantinely využívání umělé inteligence ve zdravotnictví?¨
Ještě nejsou pevně vytvořeny, což mne děsí. Problémem je, že velká pozornost se soustředí právě na automobilový průmysl, chytré hodinky a podobně, ale sektor zdravotnictví jde trochu stranou. V obecné rovině vznikly na úrovni EU první návrhy pravidel etiky AI. V oblasti zdravotnictví tak budou zatím používány tyto obecné principy, které však nemusejí vždy zohledňovat specifika zdravotnického sektoru.

LN: Proč je to problém?
Umělá inteligence skýtá ohromný potenciál a poskytne nástroje, které si dnes možná ještě ani neumíme představit. S automatizovaným rozhodováním, které může mít dalekosáhlé dopady, je ale vždy spojena etická rovina. Jako mají svá etická pravidla lékaři, musí je mít i automatizovaný proces umělé inteligence.

LN: Nedávno byla zveřejněna studie, která měřila, jak jsou stroje úspěšné při diagnóze melanomu. Počítače odhalily víc případů než lékaři. Kdyby takový software fungoval v praxi, byl by každý lékař povinen si jej pořídit?
To je dobrý příklad. V oblasti radiologie už víme, že procento úspěšnosti strojů je ještě vyšší než u lékařů. Nicméně existují i oblasti, kde umělá inteligence není tak dobře vytrénovaná. Jde pak o definici standardů péče a o to, zda lékař postupuje de lege artis. Dokážu si představit, že postupem času, jestliže se software stane přístupným a i hrazeným ze strany zdravotních pojišťoven, by toto řešení mělo být součástí postupu pravidel umění lékařského.

LN: Funguje vůbec něco takového u nás?
V Česku jsou některé aplikace, které mají status zdravotnických prostředků a některé zdravotní pojišťovny je hradí. Je to třeba v oblasti kardiologie – EKG, kdy přístroj na dálku měří EKG a je napojen na kardiologické centrum. Také existují různé přístroje a aplikace v telefonu pro sledování diabetu. Tedy v současné době se stále častěji uplatňují spíše aplikace a nástroje pro sledování zdravotního stavu pacienta na dálku.

LN: Kdo je za to ale zodpovědný, pokud přístroj nerozpozná onemocnění? Šlo by o vadu způsobenou výrobkem?
Ano, jinak se totiž ve zdravotnictví aplikuje institut zavinění. Když lékař použije špatný skalpel, nese objektivní odpovědnost. Stejně tak by se dalo dovodit v tomto případě. Následně se uplatní postih vůči vývojáři. V praxi jsem ale ještě takový konečný rozsudek neviděla. Bude to určitě do budoucna velmi zajímavé. Poměrně významně se ale tato problematika už řeší v oblasti autonomních vozidel.

BARBORA DUBANSKÁ

■ Vystudovala Univerzitu Karlovu v Praze a absolvovala pobyty na univerzitách v Düsseldorfu a Lisabonu. Titul LL.M. získala v rámci postgraduálního studia na University of Cambridge v oboru EU a obchodní právo.

■ Specializuje se na hospodářskou soutěž, farmaceutické právo a regulatorní otázky práva EU. Loni na podzim se stala partnerkou advokátní kanceláře Taylor Wessing.

VIDEO: Střílej po mně! Kameraman natočil téměř celý útok v centru Prahy

Premium Ve čtvrtek zemřelo rukou střelce Davida K. 14 obětí, 25 lidí je zraněných, z toho deset lidí těžce. Jedním z prvních na...

Máma ji dala do pasťáku, je na pervitinu a šlape. Elišku čekají Vánoce na ulici

Premium Noční Smíchov. Na zádech růžový batoh, v ruce svítící balónek, vánoční LED svíčky na baterky kolem krku. Vypadá na...

Test světlých lahvových ležáků: I dobré pivo zestárne v obchodě mnohem rychleji

Premium Ležáky z hypermarketů zklamaly. Jestli si chcete pochutnat, běžte do hospody. Sudová piva totiž dopadla před časem...

Zvolte jméno roku 2024 a vyhrajte Nutrilon a Hami v celkové hodnotě 130.000 Kč
Zvolte jméno roku 2024 a vyhrajte Nutrilon a Hami v celkové hodnotě 130.000 Kč

Každý týden můžete získat zajímavé balíčky od značek Nutrilon a Hami v celkové hodnotě 130.000 Kč. Hrajte s námi a získejte hlavní výhru, balíček s...