Le robot recruteur d'Amazon était sexiste

Le robot recruteur d'Amazon était sexiste

Publié le :

Jeudi 11 Octobre 2018 - 12:56

Mise à jour :

Jeudi 11 Octobre 2018 - 13:05
Amazon a testé pendant plusieurs années une intelligence artificielle pour trier les CV qui lui étaient envoyée. Mais très vite, le robot est devenu sexiste.
© Lionel BONAVENTURE / AFP/Archives
PARTAGER :

La rédaction de France-Soir

-A +A

Amazon assure que les conseils de son intelligence artificielle n'ont jamais été appliqués dans le recrutement, tout en reconnaissant que le robot était bien sexiste malgré lui.

Le géant de la livraison à domicile avait en effet mis en place en 2014 un algorithme chargé de sélectionner les meilleurs CV. Mais la machine a pris l'habitude d'écarter les femmes. Après avoir tenté de corriger ce défaut, Amazon a abandonné le système.

Cette dérive serait due au mode d'apprentissage de ce type d'intelligences artificielles. Celles-ci "s'inspirent" en effet des éléments qu'elles rencontrent le plus souvent pour en dégager une règle. Or, la grande majorité des candidatures à Amazon des 10 dernières années se trouvent être masculines. Le robot en aurait donc conclu qu'être une femme était un handicap et éliminé des CV sur cette base. Le système aurait par exemple abaissé la note de profils passés par une université exclusivement féminine.

Un problème qui n'est pas un cas isolé en la matière. On se souvient par exemple qu'une intelligence artificielle conçue par Microsoft était devenue raciste en une journée. La faute aux nombreux commentaires auxquels elle avait été confrontée sur les réseaux sociaux.

Voir: L'intelligence artificielle de Microsoft devient raciste en une journée

La société a pris conscience de ces dérives en 2015 et a tenté d'y remédier. Mais corriger le sexisme du recruteur mécanique ne garantissait pas qu'il ne cède pas à d'autres formes de discriminations et le projet a donc été abandonné.

"Le problème de l'IA dite «forte» en ressources humaines, c'est que c'est simplement du clonage", expliquait Jérémy Lamri, président du Lab RH, une association de start-up. Ainsi, si un algorithme auto-apprenant se base sur des plateformes comme LinkedIn, un réseau social populaire surtout auprès des cadres, il déduira peut-être que le profil idéal d'un responsable informatique est un homme blanc de 42 ans possédant tel diplôme.

A lire aussi: Un robot pour recruter? Les algorithmes à la chasse aux talents cachés

L'intelligence artificielle d'Amazon a "appris" à écarter les femmes du recrutement.


Commentaires

-