Quand la machine apprend à discriminer
En 2018, Amazon a abandonné une IA de recrutement qui pénalisait les candidatures féminines. L'algorithme, entraîné sur dix années de CV majoritairement masculins, avait appris à rétrograder toute candidature mentionnant le mot « femme ». Selon Joy Buolamwini et Timnit Gebru (2018), le taux d'erreur en reconnaissance faciale varie de 1 % pour un homme blanc à 35 % pour une femme noire.
« L'IA va faire des recommandations qui, si l'on n'y prend pas garde, vont entériner les discriminations. »
Paul Bazin — directeur général adjoint de France Travail
Ce phénomène rappelle d'autres formes d'exclusion numérique : dans le gaming, les femmes restent invisibilisées à la fois comme joueuses et comme professionnelles, preuve que les biais systémiques traversent l'ensemble du secteur tech.
Réguler l'IA avant qu'il ne soit trop tard
L'AI Act européen, entré en vigueur en août 2024, classe le recrutement par IA en catégorie « haut risque ». Les entreprises devront garantir transparence et supervision humaine d'ici fin 2027. En France, 67 % des entreprises utilisent déjà au moins un outil d'IA en 2025 : la vigilance est urgente.
« Un algorithme n'est jamais biaisé en soi. Il ne constitue que la formalisation d'un processus paramétré par des êtres humains. »
David Bernard — CEO d'AssessFirst
Le débat dépasse la technique. C'est aussi une question de diversité dans les équipes qui conçoivent ces outils : un déséquilibre que l'on retrouve dans l'industrie du jeu vidéo, où les femmes ne représentent que 20 % des effectifs, selon Marie-Lou Dulac, présidente de Women in Games France.
Les chiffres augmenteront-ils d'ici fin 2027, ou continueront-ils à décroître ?
