Le robot recruteur d'Amazon était sexiste
© Lionel BONAVENTURE / AFP/ArchivesAmazon assure que les conseils de son intelligence artificielle n'ont jamais été appliqués dans le recrutement, tout en reconnaissant que le robot était bien sexiste malgré lui.
Le géant de la livraison à domicile avait en effet mis en place en 2014 un algorithme chargé de sélectionner les meilleurs CV. Mais la machine a pris l'habitude d'écarter les femmes. Après avoir tenté de corriger ce défaut, Amazon a abandonné le système.
Cette dérive serait due au mode d'apprentissage de ce type d'intelligences artificielles. Celles-ci "s'inspirent" en effet des éléments qu'elles rencontrent le plus souvent pour en dégager une règle. Or, la grande majorité des candidatures à Amazon des 10 dernières années se trouvent être masculines. Le robot en aurait donc conclu qu'être une femme était un handicap et éliminé des CV sur cette base. Le système aurait par exemple abaissé la note de profils passés par une université exclusivement féminine.
Un problème qui n'est pas un cas isolé en la matière. On se souvient par exemple qu'une intelligence artificielle conçue par Microsoft était devenue raciste en une journée. La faute aux nombreux commentaires auxquels elle avait été confrontée sur les réseaux sociaux.
Voir: L'intelligence artificielle de Microsoft devient raciste en une journée
La société a pris conscience de ces dérives en 2015 et a tenté d'y remédier. Mais corriger le sexisme du recruteur mécanique ne garantissait pas qu'il ne cède pas à d'autres formes de discriminations et le projet a donc été abandonné.
"Le problème de l'IA dite «forte» en ressources humaines, c'est que c'est simplement du clonage", expliquait Jérémy Lamri, président du Lab RH, une association de start-up. Ainsi, si un algorithme auto-apprenant se base sur des plateformes comme LinkedIn, un réseau social populaire surtout auprès des cadres, il déduira peut-être que le profil idéal d'un responsable informatique est un homme blanc de 42 ans possédant tel diplôme.
A lire aussi: Un robot pour recruter? Les algorithmes à la chasse aux talents cachés
L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.
Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.
Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.
Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.
Tous les vendredis, recevez la newsletter hebdo de France-Soir
