Microsoft a annoncé mardi avoir considérablement amélioré sa reconnaissance de visage, et en particulier la reconnaissance du sexe quelle que soit la couleur de la peau.
Une étude récente du Media Lab du MIT a montré que les systèmes de reconnaissance de visage de Microsoft, IBM et Megvii déterminaient le sexe de la personne au mieux pour les hommes à la peau pâle, et au pire pour les femmes à la peau foncée: 35 % d’erreurs pour ces dernières.
Microsoft explique que le problème est surtout dû à l’ensemble d’images utilisé pour l’entraînement des systèmes, qui n’est pas assez diversifié. Il faut qu’il représente plus de couleurs de peau, plus de coiffures, de bijoux et de lunettes.
L’entreprise a donc révisé et étendu ses ensembles de tests et de benchmarks, lancés une nouvelle initiative pour améliorer les données d’entraînement en se concentrant spécialement sur les couleurs de la peau, le sexe et l’âge.
Elle a également rassemblé des spécialistes pour améliorer son algorithme de classification homme/femme.
Les résultats sont probants : le taux d’erreur pour les hommes et les femmes à couleur de peau foncée est divisé par vingt.
Le taux d’erreur pour toutes les femmes est divisé par neuf.
Le système de reconnaissance de visage est à disposition des développeurs avec la Face API d’Azure Cognitive Services.
Plus généralement, Microsoft a lancé une initiative pour corriger et limiter les préjugés, afin que les systèmes d’intelligence artificielle ne reproduisent pas ceux de la société.
C’est souvent plus compliqué qu’il n’y paraît.
Que doit répondre Bing à la recherche sur le mot CEO ? Doit-il mentionner que seulement cinq pourcents des CEO sont des femmes ? Et les discutions des conseils d’administration, des académiques, de la société civile et des politiciens sur la nécessité d’un meilleur équilibre ?