Co je to proctoring? Nástroj kontroly online zkoušek může být diskriminační

Psal se rok 2021, kdy se Hana R. chystala na přijímací zkoušky na vysokou školu. „Hlásila jsem se na obor učitelství pro mateřské školy,“ vzpomíná nyní dvaadvacetiletá dívka. Vzhledem k epidemii koronaviru tehdy přijímačky ve formě testu studijních předpokladů probíhaly v online podobě.

„Testy se skládaly v odpovědníku informačního systému školy. Na obrazovce běžel čas a počet otázek. K tomu všemu jsme ale byli všichni přihlášeni do Microsoft Teams, kde byl v průběhu zkoušky hovor. Museli jsme mít zapnuté kamery,“ popsala studentka s tím, že sledování u přijímaček jí až tolik nevadilo. Přesto to však byl další element, kvůli kterému byla ve stresu.

„Musela jsem využít pokoj mého bratra, abych měla klid. Kdybych takovou možnost neměla a musela něco takového dělat na veřejné místě, bylo by mi to nepříjemné,“ vzpomíná.

Hana není jedinou studentkou, která má v posledních letech zkušenost se skládáním online přijímaček či zkoušek. Právě vzhledem k pandemii koronaviru a distanční výuce začaly školy využívat takzvané proctoring systémy. Tedy nástroje, pomocí nichž mohou školy kontrolovat, zda studenti nepodvádějí. Takzvaný proctoring funguje tak, že sleduje kameru a mikrofon počítače studenta a díky tomu vyhodnocuje, zda zkoušený například odněkud něco neopisuje, nebaví se s někým nebo nemá v ruce mobilní telefon.

Právě na tyto systémy se nyní zaměřila i Evropská unie, která připravuje legislativu zaměřenou na umělou inteligenci – AI Act. V rámci tohoto balíčku se objevuje právě proctoring, který může být z hlediska unijní exekutivy rizikový.

Diskriminační nástroj?

Nástroje proctoringu totiž nefungují dokonale a v některých ohledech mohou být až diskriminační. Situaci mohou například špatně vyhodnotit u člověka se zdravotním handicapem. Problém může být také u skládání zkoušky na kolejích, kde nástroj může hluk za dveřmi vyhodnotit jako podvádění. U někoho s tmavou barvou pleti zase může dojít k závěru, že drží mobilní telefon.

„Je ale nebezpečí, že systém bude špatně fungovat, což při špatném naučení toho systému může,“ popsal již dříve český europoslanec Marcel Kolaja, který je vzděláním softwarový inženýr.

Problém takových systémů dokresluje i nedávný příklad z Nizozemska, kde před tamním soudem pro lidská práva stanula nedávno i studentka Robin Pocornie. Poprvé se s proctoringovým systémem setkala v roce 2020, kdy na její škole probíhaly povinné online zkoušky. Když tehdy využila software, který používá detekci obličeje k ověření identity, nerozpoznal ji. Pocornie je totiž černoška a systém tehdy její obličej nedokázal zachytit a ověřit. To se podařilo až poté, co se nasvítila lampou.

Kolaja se snaží prosadit, aby byl proctoring kvůli riziku diskriminace v připravovaném nařízení zařazen do kategorie s vysokým rizikem. V této kategorii se unijní exekutiva chystá zavést omezení, která se budou týkat například transparentnosti vstupních dat nebo dohledu člověka nad systémem.

V současné době europoslanci jednají o finální podobě, hlasovat budou nejdříve v červnu.

Nadšení studenti i váhající univerzity

Zdrženlivější v Česku jsou vůči proctoringu i některé vysoké školy. Například Masarykova univerzita již za covidu vydala stanovisko, v němž se od využívání takových nástrojů distancuje. Univerzita v prohlášení mimo jiné uvedla, že se systémy neslučují s jejím posláním či že praktiky, které systémy využívají, jsou nedůstojné jak pro studenta, tak pro učitele.

„Pokud studenti ani v této nelehké době nehodlají vyznávat základní hodnoty univerzity, je naivní domněnka, že by je v nečestném jednání mohl sledovací proctoring systém zastavit, zvlášť pokud testy skládají ve svém domácím prostředí. (...) Problematické je i využití pokročilé umělé inteligence, která rozpoznává obličeje a sleduje, zda student upírá oči celou dobu na obrazovku. Muselo by se vyjasnit, zda lze opravdu delší zavření očí či pohled z okna při přemýšlení brát jako podvodné jednání. Jak by se také mohli studenti bránit a kdo by v kterou dobu posuzoval oprávněnost jejich stížností a reklamací,“ uvádí mimo jiné univerzita a zmiňuje také možný zásah do práv studentů.

Na Karlově univerzitě nejčastěji využívaly proctoring jednotlivé lékařské fakulty, a to zejména během distanční výuky během pandemie.

„Během masivnějšího využívání tohoto typu zkoušení v době pandemie byl tento způsob studujícími spíše vítán, protože umožňoval skládat zkoušky i přes dobu karantény,“ popsal mluvčí Václav Hájek. Dodal, že nyní jednotlivé fakulty využívají pro online testování různé formy. Jednotný proctoringový systém univerzita nemá, i když o jeho nákupu uvažovala.

Dnes je však již vše jinak a obdobně jako brněnská univerzita i nejstarší česká univerzita je vůči proctoringovým systémům zdrženlivější. „Proktorování vnímáme od začátku jako sporný koncept. Je apriorním vyjádřením nedůvěry vůči studentům. Pokus o omezení podvádění pomocí techniky zákonitě vede k soutěži ‚kdo s koho’ a studenti budou vždy napřed,“ dodal.

SCIO má vlastní aplikaci

S proctoringovými systémy má svou zkušenost i společnost SCIO, která realizuje srovnávací a přijímací zkoušky. Pro ty v online podobě využívá vlastní systém ScioLink. Od května 2020 až do letošního dubna pak SCIO zrealizovalo přes 120 tisíc proctorovaných zkoušek.

„Uchazeči, kteří absolvovali naše online zkoušky, zmiňují řadu výhod proti prezenčním zkouškám. Mezi ty hlavní patří možnost skládat zkoušky z domova, proto odpadá časově i finančně nákladné cestování. Dále zmiňují klidné prostředí vlastního domova, v němž se při skládání důležité zkoušky cítí lépe a v menším stresu, než když skládají zkoušky v učebně plné cizích lidí.

Je také nutné zmínit, že proctoring nám umožňuje připravit se na neočekávané události, které mohou znemožnit konání prezenčních zkoušek. Máme také zkušenosti s uchazeči z Ukrajiny, kteří se kvůli tamní situaci nemohli dostat k přijímacím zkouškám na české univerzity,“ popsal Jáchym Vintr, vývojář aplikace ScioLink s tím, že SCIO klade velký důraz na bezpečnost a ochranu osobních údajů uchazečů.

Vintr však dodal, že současnou diskusi okolo proctoringových systému sleduje, podle něj je navíc i nutná, vzhledem k tomu, že jde o novou technologii.

Proctoring podle něj potřebuje jasný právní rámec, ve kterém se má pohybovat, nikoli plošný zákaz. „Jde o technologii, kterou má smysl dlouhodobě rozvíjet s důrazem na ochranu osobních dat a minimalizaci kognitivního zkreslení. Jako odpovědná firma k této službě přistupujeme tak, že nevyužíváme ani nesbíráme biometrické údaje, minimalizujeme objem sbíraných dat obecně. O konečném rozhodnutí o případné neplatnosti zkoušky musejí rozhodnout vždy minimálně dvě lidské osoby, nikoli umělá inteligence,“ doplnil s tím, že tak v případně jejich systému nemůže dojít k diskriminaci uchazečů.

Evropskou debatu o proctoringu sleduje i české ministerstvo školství. Samo změnu legislativy s ohledem na nový nástroj umělé inteligence ve školství však nechystá. „Legislativní úprava by mohla danou oblast spíše zarámovat než řešit konkrétní případy, dopady nebo technická řešení, přičemž současný legislativní rámec se jeví jako dostačující,“ popsala mluvčí resortu Aneta Lednová.

Zároveň dodala, že ministerstvo využívání takových nástrojů podporuje a podněcuje školy k jejich využívání. Úřad například vyhlašuje dotační a rozvojové programy.