Výzkum prokázal, že algoritmy pro rozpoznávání obličejů hůře rozpoznávají tmavší pleť a ženské rysy

Nový výzkum mediální laboratoře MIT potvrzuje to, co někteří odborníci předpokládali. Technologie rozpoznávání obličeje podlého předsudkům založeným na datových souborech a podmínkách vytváření algoritmů a nerozpoznává všechny obličeje stejně přesně.

Průzkum provedla Joy Buolamwini, která pro MIT pracuje jako výzkumná pracovnice v oblasti analýzy dat. Sestavila datovou sadu 1270 fotografií osob. Jedná se o tváře politiků ze zemí, vybraných podle jejich mezinárodního hodnocení podmínek pro rovnost pohlaví. Testovány byly celkem tři výpočetní systémy, vytvořené pro rozpoznávání podle rysů obličejů. Jejich tvůrci byly společnosti IBM, Microsoft a Megvii  z Číny.

Výsledky se ukázaly nepřesnosti, kterých se algoritmy dopouštěly v rozpoznávání pohlaví. Zatímco u mužů se světlou pletí byla chyba menší než 1 procento, u žen se světlou kůží byla chybovost vyšší – kolem sedmi procent. U mužů s tmavší pletí potom 12 a u žen s tmavší pletí dokonce 35 procent. Z toho vyplývá, že lidé se světlejší kůží, byly klasifikováni úspěšněji než lidé s tmavou kůží a muži lépe než ženy.

Tento výzkum byl první svého druhu, který poukázal na chybovost systémů v závislosti na pohlaví a odstínu pleti. Problém se podle výzkumní skrývá v nedostatečné pestrosti vzorku, který slouží ke strojovému učení a také v algoritmu, který klade důraz na některé rysy a identifikátory.

Rozpoznávání obličejů je citlivou oblastí umělé inteligence. Z minulosti byl známý případ, kdy algoritmus Googlu označil afroameričany jako gorily. Před dvěma lety server Atlantic informoval, že software, který používá police pro rozpoznávání tváří zločinců, není tolik přesný v posuzování osob s tmavší pletí a může jim tak potencionálně způsobit více problémů. Svůj vlastní algoritmus pro rozpoznávání obličejů používá čínská policie, která jej dokonce propojila se speciálními brýlemi pro použití v terénu.

Zdroj: Theverge.com