12. července 2019 7:00 Lidovky.cz > Byznys > Právo a justice

KOMENTÁŘ: Budou lékaři odpovídat za rakovinu, kterou nerozezná umělá inteligence?

Umělá inteligence | na serveru Lidovky.cz | aktuální zprávy Umělá inteligence | foto: Reuters

PRAHA V dubnu zveřejnila univerzita v Heidelbergu studii, v níž porazil software zkušené dermatology z různých univerzitních klinik při diagnóze melanomu.

Software založený na strojovém učení a fungující na bázi neuronových sítí posuzoval 100 obrázků podle toho, zda se jednalo o neškodné mateřské znaménko nebo melanom. Jen sedm ze 157 univerzitních dermatologů mělo lepší výsledky než algoritmus, 14 jich dosáhlo stejného výsledku a 136 mělo horší diagnostické skóre.

Že nás stroje v lecčems trumfnou, není nic nového, přinejmenším od doby, kdy první počítač porazil mistra světa v šachu. Další body si připsala umělá inteligence v roce 2016 v ještě pozoruhodnějším případě, kdy samoučící software porazil po několika dnech učení nejlepšího hráče světa ve hře Go, která je nepoměrně komplexnější než šachy. To dokonce vedlo k sebekritickým úvahám samotného E. Muska, technického vizionáře naší doby, jestliže všechno co děláme v oblasti umělé inteligence, slouží k dobru lidstva.

Podobný pokus jako vědci v Heidelbergu realizoval Google už o dva roky dříve s dermatology z univerzity ve Stanfordu – tehdy prohrálo se strojem všech 20 odborných lékařů.

Z medicínského hlediska je tato technologie život zachraňující – mimo jiné i proto, že diagnózu často neurčují dermatologové, ale lékaři méně specializovaní, a právě u rakoviny kůže má časný záchyt významný vliv na šanci na uzdravení.

Stejně jako v radiologii se zde ukazuje potenciál strojového učení-machine learning, často označovaného jako umělá inteligence. Navíc platí, že stroj není nikdy unavený, nebolí ho hlava ani nemá kocovinu nebo příliš mnoho starostí.

Právní otázky

Proč o tom píše právník? Existuje množství právních témat, například možné dominantní postavení na trhu u softwaru, který bude disponovat databází se stovkami tisíc obrázků – za jakých podmínek bude licencován? Musejí existovat povinné licence, jak se o tom diskutovalo u léků, kdy si chudší země nemohly dovolit drahé léky na HIV? Jaká pravidla by platila pro povolení užívat software v klinické praxi? A jak by to bylo s úhradu jeho použití pojišťovnami?

Ještě zajímavější je ale odpovědnost dermatologů. Odpovídá dermatolog, který tento software nebude používat, za rakovinu kůže, která se vyvine u jeho pacienta z melanomu, který by stroj byl schopen identifikovat, člověk jej ale nerozpoznal? Pokud lékař nepoužije dostupnou techniku, která je pro něj dostupná i a cenově a odpovídá současnému stavu vědy, pak zřejmě ano.

A ještě důležitější věc: co se stane, když software nerozpozná zjevnou rakovinu kůže? Odpovídá za toto pochybení dermatolog, nebo výrobce software? Musím pak podávat žalobu v USA v Německu nebo v Čině, pokud tam byl přístroj vyroben? I lékař přece dnes nese trestněprávní riziko, pokud z nedbalosti zraní pacienta nebo ho dokonce usmrtí. Jak je to s odpovědností operujícího robota, který v normálním případě operuje lépe, než člověk, nebo dokonce se softwarem, který z nedbalosti nerozezná jasný případ rakoviny kůže? Musí robot do vězení? Nebo programátor software? Půjde o škodu způsobenou vadou výrobku?

Pesimisté vidí umělou inteligenci jako ohrožení dosavadního obchodního modelu nejen u lékařů, ale i právníků, protože samoučící stroje skutečně mohou dělat množství věcí nepoměrně efektivněji, než nejlepší sebemotivovanější člověk. Ale zhodnocení toho, zda má smysl operovat, stejně jako realizace zákroku – byť i zde možná bude brzy běžná robotická podpora – nebo etické posouzení následků, zůstane prozatím na člověku. Tedy minimálně v dohledné budoucnosti se nemusí advokáti ani dermatologové bát, že by přišli o práci.

Autor je právník a řídící partner advokátní kanceláře bpv BRAUN PARTNERS.

CHCETE SE TAKÉ VYJÁDŘIT?

Jste právník/právnička a rád/a byste se vyjádřil/a k současnému dění, právnickému stavu či novinkám v legislativě? Napište nám na katerina.kolarova@lidovky.cz.