Ansiktsigenkänning känner inte igen mörkhyade kvinnor

Joy Buolamwini driver initiativet Algoritmic Justice Leauge och beskriver sig själv som en poet med programmering som främsta uttryck. Hon har nyligen publicerat en undersökning där de kollat på hur korrekta de smarta algoritmerna för ansiktsigenkänning hos IBM, Microsoft och Faceplusplus egentligen är. Företagen själva brukar gå ut med strålande siffror som ligger runt 90 procent träffsäkerhet, men känner AI:n igen alla typer av ansikten lika bra?

För att undersöka detta var Buolamwini och hennes forskningsgrupp tvungen att ta fram ett eget prestandamätningsverktyg, då de snabbt märkte att de redan existerande var tydligt snedfördelade. Prestandamätning av ansiktsigenkänning går ut på att man har en uppsättning med olika ansikten som man testar AI:n på. De som redan fanns bestod av en majoritet mansansikten och det fanns väldigt få mörkhyade representerade bland ansiktena.

De skapade ett prestandatest med hälften kvinnor och män men också med en jämn fördelning av olika hudtoner. För att få ett så nyanserat resultat som möjligt kollade de på hur algoritmerna för ansiktsigenkänning hanterade vita män, vita kvinnor, mörkhyade kvinnor och mörkhyade mäns olika ansikten och de fann att resultaten skilde sig mycket från de cirka 90 procenten som företagen stoltserar med.

Microsoft, IBM och Faceplusplus var alla fruktansvärt bra på att känna igen vita män, där låg träffsäkerheten på 100, 99,7 och 99,2 procent. Gruppen som AI:n kämpade tveklöst mest med var mörkhyade kvinnor där träffsäkerheten istället låg på 79,2, 65,5 och 65,3 procent. Skillnaden mellan nästan 100 procent och runt 65–79 procent är anmärkningsbar.

Buolamwini och hennes forskargrupp delade med sig av resultaten till de berörda företagen som reagerade på lite olika sätt. Faceplusplus svarade inte ens, Microsoft svarade att de ständigt jobbar med att förbättra tjänsten och IBM tog resultaten på största allvar. De gjorde om testerna internt och fick ett liknande resultat. Detta ledde till att de uppdaterade programvaran den 23 februari i år och svarade Buolamwini med en fyra sidor lång rapport som visade förbättringarna – från 65,5 procent till 96,5 procent träffsäkerhet hos gruppen mörkhyade kvinnor.