Web zprávy

Rasistický systém pro rozpoznávání obličejů. Černošky nepozná 2x častěji než bělochy

Fotky černošských žen, které systém nedokázal rozpoznat, označil ve dvaadvaceti případech za „snímky ve špatné kvalitě“. U bělošských mužů tak učinil pouze v devíti procentech. Dvaadvacetileté studentce Elaine Owusuové například systém pětkrát chybně zahlásil, že má na pasové fotografii otevřenou pusu. „Pokud algoritmus neumí přečíst mé rty, je to systémový problém, ne můj,“ řekla BBC.

Cat Hallamová s nahráváním fotky uspěla až podesáté. „Zabývám se vzdělávacími technologiemi, takže rozumím předpojatosti umělé inteligence,” vysvětlila. Podle ní si většina lidí vůbec neuvědomuje, jaké dopady na etnické menšiny má takové chování automatických systémů.

Systém využívá britské ministerstvo vnitra v rámci přihlášky pro nový pas. BBC pro svou studii použila přes tisíc fotek politiků a političek z celého světa. Vyšlo najevo, že ženy s nejtmavším tónem pleti měly až čtyřnásobně větší pravděpodobnost, že systém jejich fotku odmítne, než jejich kolegyně se světlejší barvou pleti.

Ministerstvo vnitra začalo algoritmus používat před čtyřmi lety i přesto, že si bylo chyb vědomo. Službu doposud využilo přes devět milionů lidí a podle mluvčí ministerstva vnitra je systém v lepším stavu než kdysi. „Budeme se ho snažit vylepšit tak, aby byla přihláška pro nový pas jednoduchá a dostupná pro všechny,“ uvedla.

Také přečtěte

Jakub Janda: Hnilička musí skončit také v agentuře

Jako jeden z mála sportovních funkcionářů jste hned od pondělního rozpoutání kauzy žádal, aby Milan …

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *