Reuters rapport qu’une équipe d’Amazon était responsable du développement d’un outil de recrutement basé sur l’intelligence depuis 2014.
Cet outil devait filtrer les candidatures afin que les employés des ressources humaines passent moins de temps sur les recrutements de l’entreprise de commerce électronique, et qu’ils recrutent les meilleurs candidats : depuis 2015, Amazon a triplé son effectif à 576 000 employés.
Toutefois, ils se sont aperçus que l’application était biaisée contre les femmes, en particulier pour les postes techniques comme le développement de logiciels.
Ce qui serait dû aux données d’entrainement du système : dix ans de curriculum vitae envoyés à l’entreprise, la plupart par des hommes, ce qui n’est pas étonnant puisque l’industrie de la technologie est très masculine.
Le système s’est donc enseigné que les candidatures d’hommes étaient préférables, et a pénalisé les curriculums vitae avec les mots femme ou féminin, comme ‘capitaine de l’équipe féminine d’échecs’.
Amazon a bien modifié l’application pour qu’elle n’attribue pas de poids à ces termes. Mais il n’y avait aucune garantie que le système ne trouve d’autres moyens de discriminer selon le sexe.
C’est là le revers des systèmes d’intelligence artificielle, ou en tout cas de l’apprentissage automatique (machine learning) actuels : s’ils permettent parfois de découvrir des tendances, le cheminement qui les mène à leurs conclusions est largement opaque.
La qualité de leurs résultats sont fonction de la qualité des données d’entrainement,
Ce qui ne va pas rassurer les femmes. Car si Amazon a finalement décidé de dissoudre l’équipe et d’abandonner le projet, et si c’est l’une des entreprises de technologie avec la plus grande proportion de femmes, 55 % des responsables des ressources humaines aux États-Unis ont affirmé lors d’un sondage de 2017 qu’ils utiliseraient régulièrement des outils d’intelligence artificielle dans les cinq prochaines années.
LinkedIn, le plus grand réseau social professionnel, offre des classements automatiques des candidats basés sur un algorithme. Son vice-président en charge des solutions pour les talents affirme que le service n’est pas un remplacement pour les recruteurs traditionnels – sera-t-il entendu par ses clients ?