Pátek 13. prosince 2019svátek má Lucie 2 °C déšť se sněhem Předplatné LN
13. listopadu 2019 5:00 Lidovky.cz > Zprávy > Domov

Domov spravuje žena, virtuální banku muž. Umělá inteligence je genderově nevyvážená, tvrdí profesorka z Oxfordu

Gina Neff má sama dvě děti, jimž se snaží pobyt u obrazovek co nejvíce omezit.... | na serveru Lidovky.cz | aktuální zprávy Gina Neff má sama dvě děti, jimž se snaží pobyt u obrazovek co nejvíce omezit.... | foto: Yan Renelt, MAFRA

PRAHA Je na čase, abychom začali přemýšlet o tom, že i umělá inteligence bude mít gender, upozorňuje oxfordská profesorka Gina Neff. Autonomní systémy totiž vyvíjejí velmi jednotvárné týmy lidí. Do algoritmů umělé inteligence se tak prý mohou promítat i některé zastaralé společenské stereotypy. „Když se vyvíjí umělá inteligence, která má asistovat zákazníkům v každodenním životě, je většinou kódována jako žena,“ říká v rozhovoru pro Lidovky.cz.

Lidovky.cz: Vím o vás, že jste fanynka science fiction. Jak vnímáte způsob, jakým tento žánr s umělou inteligencí (AI) pracuje?
Vědecko-fantastická tvorba často zobrazuje umělou inteligenci jako hrozbu lidstvu, jako vzpouru robotů. Jenže to zkrátka není umělá inteligence, kterou dnes máme k dispozici. Počínaje našimi chytrými telefony, přes emaily až po plánování našich cest, tam všude pro nás pracuje umělá inteligence.

Gina Neff (48)

  • americká socioložka zaměřující se nové technologie a komunikace
  • v poslední době se zaměřuje na výzkum velkých datových setů
  • je badatelkou na Oxfordském internetovém institutu
  • do Česka přijela přednášet o vztahu umělé inteligence a genderu v rámci Týdnu vědy na pozvání NKC - gender a věda Sociologického ústavu Akademie věd ČR, v. v. i.
Ještě nevíme, jak náš život interakce s umělou inteligencí ovlivní, varuje...

Ještě nevíme, jak náš život interakce s umělou inteligencí ovlivní, varuje profesorka z Oxfordu.

Lidovky.cz: Ve svých přednáškách hovoříte o tom, že používáme takzvanou „omezenou umělou inteligenci“.
Ano, výzkumníci pracují s třemi kategoriemi AI, přičemž my využíváme tu nejméně vyspělou, takzvanou omezenou. Ta je zaměřena na velice specifický, úzce definovaný úkol. Dalším krokem jsou systémy, které umí brouzdat mezi různými odvětvími a chápat jejich kontext. Takže v praxi to znamená mít systém, který by rozuměl zdravotnictví a uměl své schopnosti aplikovat například i ve financích a bankovnictví. Dnešní programy AI jsou přitom tak úzce zaměřené, že například ty, které jsou aplikovány v počítačových hrách, by se zcela sesypaly, kdybyste ve hře změnili barvy. Tak moc jsou omezené.

Lidovky.cz: A tato úroveň umělé inteligence má některé genderové rysy?
Na jednu stranu absolutně v žádném případě. Nepřemýšlíme o svých kalkulačkách jako o mužích či ženách. Jenže pokud se podíváme na možnosti diskriminace, které přináší zpracování velkých setů dat, uvědomíme si, že je tu celá řada příležitostí, jak zcela vynechat ženský pohled.

Lidovky.cz: Můžete být konkrétnější?
Dejme tomu, že se například objeví nová společnost poskytující informace o finančním sektoru. Ta může s daty z tohoto sektoru nakládat, aby určila kredibilitu konkrétních lidí. Jenže právě tím může spoustu lidí velmi znevýhodnit, například ženy.

Co je umělá inteligence?

Gina Neff: „Umělá inteligence je metoda a nástroj, díky které můžeme porozumět obrovským sadám dat. Pomáhá nám na ně nahlížet jako na celý soubor o jednom člověku, nebo se zaměřit na jedno kritérium o velkých počet lidí.“

Lidovky.cz: Jak přesně?
Nedávno se začal řešit velmi probíraný případ, na nějž upozornilo několik inovátorů a podnikatelů ze Silicon Valley. Ta ukázala, že nová platební karta od společnosti Apple umožňovala jejich ženám čerpat desetkrát i dvacetkrát méně, než jim. I přesto, že měly jako manželské páry společné finance. Je to jednoduchý příklad toho, jak firma vstoupila do těžce regulovaného byznysu a nechala za sebe rozhodovat umělou inteligenci, které ani pořádně nerozumíme. Proto je důležité, aby podobné systém fungovaly tak, aby jejich chodu lidé rozuměli a šlo je vysvětlit.

Lidovky.cz: Jak se naše představy o genderové umělé inteligenci projevují?
Podívejme se, jak je AI běžně prezentována v literatuře a filmu. Vždy je to systém, kterému jsme přiřadili nějaké pohlaví. Od roku 1929 a přelomového filmu Metropolis, až po nedávný snímek Ex Machina, se na plátnech objevilo 77 různých forem umělé inteligence. Jen ve třech z nich byla AI genderově neutrální. Ano, jsou to jen představy o tom, jak by to mohlo vypadat. Jenže právě ony hluboce ovlivňují to, jak budeme takové systémy v budoucnu vyvíjet.

Lidovky.cz: Jak se gender do vývoje AI propisuje?
Když se vyvíjí umělá inteligence, která má asistovat zákazníkům v každodenním životě, je většinou kódována jako žena. To jsou přesně systémy jako Siri od Apple nebo Alexa od Amazonu. Zatímco systémy navržené pro bankovnictví a oblast práva, tedy představují jistý expertní pohled, jsou většinu představované jako mužské postavy. Samo o sobě to není problém, pochopitelně. Jenže to může skrze nové technologie prosazovat některé zastaralé stereotypy. V důsledku to jen brzdí inovaci.

Ještě nevíme, jak náš život interakce s umělou inteligencí ovlivní, varuje...
Některé aspekty umělé inteligence mohou podle Giny Neff replikovat i nechtěné...

Lidovky.cz: Takže se obáváte, že systémy umělé inteligence budou podprahově působit na své uživatele?
Společnost se paradoxně bojí umělé inteligence budoucnosti, ale přitom nejsme připraveni ani na tu současnou. Místo toho, abychom se jen báli možných manipulací, měli bychom se zajímat o to, jak tyto systémy ovlivňují klíčová rozhodnutí uvnitř společnosti, jako jsou bydlení, finance, tresty za kriminalitu i nastavení pracovního trhu. To vše nové autonomní systémy analyzují a my je musíme být připraveni efektivně regulovat.

Lidovky.cz: Používáte i příklad výzkumu, kde měli lidé jmenovat úspěšné ženy v technologické branži a jmenovali jen zmíněné „ženské“ systémy jako Siri či Alexa. Přitom u mužů sypali jména jako Zuckerberg, Gates, Wozniak a Musk. Na základě toho jste uvedla, že polovina lidstva nemá při vývoji AI zastoupení. Já se ale upřímně reprezentován zmíněnými miliardáři také necítím...
Pokud jde o vývoj těchto systémů, vidíme značnou koncentraci moci v rozvinutých zemích, které je vyvíjejí. Takže všechny tyto nástroje nakonec vyvíjí značně zúžená skupina lidí, používají je ale všichni. Víme, že pokud jde o vývoj AI, je genderová nevyváženost ještě větší, než v běžných odvětvích IT. Z toho vyplývá, že takto navržené systémy nemusí dobře fungovat v jiných zemích, společnostech atd.

Dobrým příkladem je systém „captcha“, kdy musíte potvrdit, že jste člověk. A to kliknutím na obrázek, který obsahuje třeba vůz taxi. Jenže ty obrázky ukazují taxíky tak, jak vypadají v New Yorku, ty londýnské nebo pražské tam neuvidíte. Přemýšlet o zastoupení žen při vývoji budoucích systémů tedy nestačí, musíme myslet také na to, jak budou vyvíjené systémy použity.

Některé aspekty umělé inteligence mohou podle Giny Neff replikovat i nechtěné...

Některé aspekty umělé inteligence mohou podle Giny Neff replikovat i nechtěné společenské stereotypy.

Lidovky.cz: Dobrá, představme si dva vývojářské týmy, jeden kompletně ženský a druhý kompletně mužský. Oba vyvíjejí systém umělé inteligence. V čem se výsledné produkty budou lišit?
To je zajímavá otázka, kterou postavím tak trochu na hlavu. Nechci totiž tvrdit, že potřebujeme čistě ženské týmy, nebo že musíme zastavit všechny čistě mužské týmy. Pointa je ta, že různí lidé přinášejí různé pohledy. Dám příklad technologické firmy Strava vyrábějící fitness hodinky, které sledují, kudy běháte. Ukazují uživatelům populární trasy ostatních běžců.

Vyskytl se s tím ale menší problém - hodinky nosili i vojáci a jejich trasy přesně opisovaly polohy vojenských základen. Šlo tomu přitom snadno předejít spoluprací s kýmkoliv, kdo má zkušenosti s ozbrojenými složkami. Chci tím říct, že se vyplatí nechat hovořit do vývoje těchto systémů klíčových pro budoucnost co nejširší spektrum lidí. Budujeme tím totiž technologickou infrastrukturu budoucnosti a ta musí co nejvíce vycházet z našich potřeb.

Lidovky.cz: Kde je ale hranice toho, které skupiny by ještě měly mít v těchto věcech slovo? Vývojářské týmy nemohou mít tisíce členů.
Myslím, že pro to existuje několik strategií. Víme například, že týmy, složené z lidí z různých disciplín, navrhují mnohem robustnější systémy. Z vývojářského prostředí také víme, že vnést do vývoje poznatky budoucích uživatelů je velmi přínosné. Nutí nás to totiž technologii dále vyvíjet.

Opět příklad: software rozpoznávající obličeje byl v New Yorku použit ve více než osmi tisících případech. Tyto programy pracují s proporcemi a úhly lidských obličejů. Jenže se zjistilo, že policisté tento software nepoužívají správně. Vkládali do něj fotky celebrit, které jen vypadaly jako pachatelé, či náčrtky policejních skic. Paradoxně se s ničím takovým při vývoji nepočítalo, jelikož nikdo nemluvil s policisty.

Lidovky.cz: Citujete též statistiku, podle které bylo v roce 1984 mezi držiteli titulů v IT 34 % žen. V roce 2014 už to bylo jen 14 %. Proč?
V oblasti IT vzdělávání vidíme gigantický nárůst, jenže poměr žen, které se v této oblasti vzdělávají, dramaticky klesá. To je obrovská výzva, která by nás měla zneklidňovat. I přesto, že je dnes toto odvětví více atraktivní, než bylo kdy dřív, poměr žen se nezvyšuje. Jedno vysvětlení by bylo, že technologický průmysl si nedokáže ženy udržet. Výsledkem toho je jen velmi málo pozitivních vzorů. Druhé vysvětlení je podle mě mnohem snazší vzít na vědomí.

Umělá inteligence.

Umělá inteligence.

A to je předefinovat, co to znamená pracovat v technologickém průmyslu. U nás v oxfordském internetovém institutu máme oddělení humanitních věd, kde máme téměř genderovou vyváženost. Díváme se totiž na politické, sociální, kulturní a další aspekty těchto technologií, na což nemusíme umět zrovna kódovat. I přes to naši studenti získávají práci v inovačních technologických společnostech, jen k nim nejdou skrze „jedničky a nuly“.

Lidovky.cz: Z pohledu trhu, nevyřeší ale zákazníci nedostatky systémů umělé inteligence prostě tím, že si pořídí jiný, lepší?
To je jedna ze základních otázek: proč je vlastně umělá inteligence jiný produkt než všechny ostatní? V první řadě operuje s masivním množstvím dat o nás samotných. Data jsou nezbytná k vývoji kvalitních systémů, reálně ale mají takové data sety k dispozici jen ty největší společnosti. Malé firmy či dokonce start-upy se k takovým zdrojům vůbec nemají šanci dostat. Jedno z řešení je, aby státy vytvořily podobné zdroje dat. Velmi by to pomohlo začínajícím firmám.

Ty dnes spoléhají na to, že si je koupí někdo větší. A navíc si musíme uvědomit, že na současných systémech budou stát ty budoucí - vyhledávací systémy, jazykové softwary, systémy na rozpoznávání obličejů a další. Dnes už to vidíme při poskytování technologie cloudu, kdy světové vlády spoléhají na jednoho až dva největší poskytovatele. Není to možná zásadní vada, ale koncentruje to tržní moc a brzdí tak zásadně rozvoj konkurence. Potřebujeme zodpovědné technologické giganty a zároveň vlády, které je umí kontrolovat.

Lidovky.cz: Proč podrývají, jak tvrdíte, některé systémy umělé inteligence postavení žen?
Zatím nevíme, jak se promítne nasazení takových systémů do běžného pracovního prostředí. Dříve tu existovala představa, že moderní technologie budou zavírat továrny a o pracovní místa budou přicházet spíše muži. Jenže dnes vidíme, že třeba umělá inteligence připravuje o práci spíše lidi ve službách, což jsou převážně ženy. Musíme tedy počítat s tím, že technologie, o nichž se tu bavíme, mohou zcela proměnit dynamiku společnosti.

Lidovky.cz: Na druhou stranu - většinu z nás vychovávaly hlavně matky a ve školách nás učily hlavně ženy. Ženský hlas při asistenčních službách může působit přirozeně...
Rozhodně jsem nechtěla říct, že by umělá inteligence neměl přebírat žádné vzory ze struktury společnosti. Otázka ale je, zda chceme skutečně nechat asistenční služby jen systémům s ženským hlasem. Tyto technologie nám občas umožňují zapomenout, že se bavíme s neživým algoritmem, který patří nějaké společnosti. A že jeho parametry byly dány dávno před tím, než nás tato služba vůbec oslovila.

Umělá inteligence.

Umělá inteligence.

Lidovky.cz: Může naše každodenní komunikace s umělou inteligencí ovlivnit také mezilidské vztahy?
Na to poukazovala jedna nedávná studie, která ukázala, že pokud do lidského prostředí nasadíte umělou inteligenci, lidé si začnou vzájemně méně věřit. Probíhalo to tak, že lidé měli možnost vybrat si z inzerátů ubytování na dovolené a podle dojmu ho ohodnotit. Když jim ale pak řekli, že některé z nich byly napsané umělou inteligencí, dostaly všechny inzeráty v průměru nižší skóre. Takové následky jsme zatím vůbec nestudovali.

Lidovky.cz: Měli bychom tedy vůbec dávat umělé inteligenci lidské charakteristiky?
To je zajímavé, že? Za začátku mých kurzů v Oxfordu je otázka genderu v umělé inteligenci skoro směšná. Jenže čím déle o tom mluvíme, lidem dochází, jak moc lidské charakteristiky umělé inteligenci přiřazují. Ta se pak nevyhnutelně stane součástí naší sociální sféry. A já si nejsem jistá, že je to správně. Nepotřebuji umělou inteligenci, aby mi dělala kamaráda, potřebuji ji jako nástroj pro život.

Michal Bernáth

Autor

Michal Bernáthmichal.bernath@lidovky.czČlánky
Premium

Zoufale jsme se snažili postřeleného muže zachránit, líčí lékař z Ostravy

Hrudní chirurg Marcel Mitták | na serveru Lidovky.cz | aktuální zprávy

Hrudní chirurg Marcel Mitták z Fakultní nemocnice Ostrava se snažil s týmem zdravotníků zachránit jednoho z těžce...

Premium

Cítím hořkost. Bývalý šéf mordparty poprvé promluvil o svém odchodu

Nejznámější český kriminalista Josef Mareš sloužil u policie téměř třicet let,... | na serveru Lidovky.cz | aktuální zprávy

Nejznámější český kriminalista Josef Mareš sloužil u policie téměř třicet let, stál za objasněním řady vražd a...

Premium

Zalepili matce prsa, aby nemohla kojit. Při příbězích z Osvětimi pláče i průvodce

Průvodce Lukáš Lev | na serveru Lidovky.cz | aktuální zprávy

Lukáš Lev provází v koncentračních táborech a popisuje nacistická zvěrstva. Jeho babička si však stála za tím, že za...

12 tipů na dárky pro kluky, které potěší
12 tipů na dárky pro kluky, které potěší

Možná stále přemýšlíte, co koupit malému nezbedovi pod stromeček. Máme pár tipů, které budou trefou do černého.