Firma v roce 2016 přišla na trh se systémem Rekognition, který uměl rozpoznat objekty z fotografií a videí. Aby se systém vyrovnal svým konkurentům od Microsoftu nebo Googlu, nechyběla mu schopnost během okamžiku přiřadit obličej k fotografiím z databází.
Nastal čas rozbít Amazon. Monopoly jsou špatné, tvrdí Elon Musk kvůli knize zpochybňující nebezpečí koronaviru |
Již tehdy se software stal objektem kritiky pro možné pletení si lidí a ukázalo se, že námitky byly oprávněné. Americkou moderátorku Oprah Winfrey software například rozpoznal jako muže, uvedl americký server CBS News.
Důvodem kritiky se také stal důvod, že systém má větší problémy s vyhodnocováním tváří černochů a příslušníků dalších menšin, než bělochů, což může vést k zaujatosti a předsudkům. Amazon tehdy takové závěry odmítal.
Odpůrci softwaru se tak mohli částečně radovat, když ve středu Amazon oznámil rozhodnutí o dočasném pozastavení systému Rekognition. V oficiálním prohlášení dále stojí, že firma bude služby softwaru nadále poskytovat organizacím, které se zabývají záchranou obětí obchodu s lidmi a hledáním ztracených dětí.
Změny ze strany vlády prý nic nezmění
Firma také vyzvala vládu k upravení předpisů, jež se týkají ochrany soukromí a softwaru Rekognition. Dle firmy by měl rok na provedení konkrétních opatření stačit, vyplývá z webového blogu Amazonu.
Na protesty proti rasismu přišly v evropských městech tisíce lidí, v Paříži i přes zákaz |
Někteří lidé však upozorňují, že software je možné kdykoliv zneužít k narušení soukromí občanů, případně ke zvýšení dohledu nad lidmi s odlišnou barvou pleti. Firma totiž software prodávala státním úřadům. Obavy panují i z rasového třídění lidí a možného následného pronásledování.
Organizace bojující za práva v digitálním světě, Fight for the Future, zkritizovala rozhodnutí Amazonu a tvrdí, že roční pauza je nedostačující. „Jedná se pouze o marketingový tah ze strany Amazonu,“ uvedl ředitel organizace Evan Greer. Také dodal, že výzva vládě je jen předem plánovaný tah, který ale ve výsledku nic nezmění.
Smrt Floyda jako impuls
Nedávná smrt černocha George Floyda, který zemřel při zatýkání, a následná vlna demonstrací proti policejnímu násilí a rasismu, tyto obavy ještě více podpořila. V USA i dalších zemí se následně začalo více diskutovat o rozsahu použití této technologie policií a dalšími bezpečnostními složkami.
USA se rozloučila s Georgem Floydem. Řada lidí přednesla krátkou řeč nebo zazpívala píseň |
Svůj program na rozpoznávání obličejů přestala policii nabízet také společnost IBM. Ta americkým zákonodárcům v dopise sdělila, že nechce, aby se její program stal nástrojem rasového profilování či masové kontroly obyvatelstva. „Jsme přesvědčeni, že nyní je čas zahájit celostátní dialog o tom, zda a jak by měla být technologie rozpoznávání obličejů vsazena do domácích zákonů o bezpečnostních složkách,“ uvedla společnost IBM.
Vlivná Americká unie občanských práv (ACLU) mimo jiné požaduje, aby policie nesměla k rozpoznávání obličejů používat kamery, které policisté nosí jako součást uniforem.
