Sexisme et IA

Bonjour bonjour ! Je suis Diane, et vous écoutez La pelote du sexisme, la chronique qui détricote le sexisme… fil par fil.

Aujourd’hui, on va parler d’un sujet qu’on présente souvent comme objectif, rationnel, presque débarrassé des préjugés humains : l’intelligence artificielle.

Beaucoup d’entre nous interagissent déjà avec elle, tous les jours sans même y penser. Assistants vocaux, GPS, recommandations sur les réseaux sociaux, tri de CV, filtres de recrutement, suggestions de contenu… L’intelligence artificielle est déjà là, dans notre quotidien et on a souvent tendance à lui faire confiance plus facilement qu’à un humain.
Parce qu’une décision produite par un ordinateur paraît plus scientifique, plus fiable, plus impartiale. Sauf qu’en pratique, une intelligence artificielle apprend à partir de données créées par des humains. Et si ces données sont biaisées, les résultats le seront aussi.

Autrement dit : l’IA ne crée pas le sexisme toute seule. Elle l’apprend, et parfois, elle l’automatise à une échelle gigantesque.

C’est peut-être même ça, le vrai danger : non pas que les machines inventent de nouveaux préjugés, mais qu’elles rendent les anciens plus rapides, plus invisibles et plus difficiles à contester.

Prenons un exemple très simple : les assistants vocaux.

Pourquoi Siri, Alexa ou la plupart des assistants numériques ont-ils longtemps eu des voix féminines par défaut ? Et surtout, pourquoi leur personnalité était-elle souvent construite autour de la patience, la douceur et de la disponibilité permanente ?

Pendant des années, on a donc habitué des millions de personnes à donner des ordres à des voix féminines qui répondaient calmement, poliment, parfois même face à des insultes ou des remarques sexistes.

L’UNESCO avait d’ailleurs publié en 2019 un rapport très critique intitulé “I’d blush if I could”, expliquant que ces assistants renforçaient l’idée selon laquelle les femmes seraient naturellement faites pour aider, assister ou servir.
Et ce n’est pas juste une question de voix.

Parce que derrière chaque intelligence artificielle, il y a toujours une question centrale : qui construit les outils ? Avec quelles données ? Et depuis quel point de vue ?
Or le secteur de la tech et de l’IA reste encore très majoritairement masculin. Selon plusieurs études internationales, les femmes représentent environ 20 à 30 % des effectifs dans les métiers liés à l’IA, avec une sous-représentation encore plus forte dans les postes techniques seniors et les équipes qui conçoivent les modèles.
Et quand une technologie est pensée principalement par des groupes sociaux homogènes, leurs angles morts deviennent souvent des angles morts technologiques.
Parce qu’une intelligence artificielle apprend à partir du monde tel qu’il existe déjà. Et ce monde est loin d’être égalitaire.

Un des exemples connus est probablement celui de l’IA de recrutement développée par Amazon. L’entreprise avait entraîné son algorithme à partir de dix années de recrutements internes, majoritairement masculins. Résultat : l’IA a progressivement appris que les profils masculins correspondaient davantage aux candidats “performants”.
Et certains CV étaient même pénalisés simplement parce qu’ils contenaient des termes associés aux femmes, comme “capitaine de l’équipe féminine”.
L’algorithme n’était pas “misogyne” au sens humain du terme mais il reproduisait simplement les habitudes du passé. Et c’est précisément là que le problème change d’échelle.
Une phrase que j’aime beaucoup dit “Un recruteur humain peut discriminer dix candidat·es par jour. Un algorithme biaisé peut en discriminer dix mille en une heure.”

Le danger de l’IA n’est donc pas seulement qu’elle reproduise des discriminations existantes. C’est qu’elle puisse les industrialiser.

Et le problème, c’est que beaucoup d’humains accordent spontanément plus de crédibilité à une décision produite par une machine.

Un rapport des Nations unies sur l’IA et les droits humains rappelait d’ailleurs en 2023 que les individus sont plus enclins à croire une information fausse lorsqu’elle est générée par une intelligence artificielle.

Comme si le fait qu’une décision sorte d’un système informatique suffisait à lui donner une apparence de vérité.
Mais les biais algorithmiques ne concernent pas seulement le recrutement.

Dans la reconnaissance faciale, par exemple, une étude menée par le MIT a montré que certains logiciels avaient un taux d’erreur inférieur à 1 % pour les hommes blancs… mais pouvant dépasser 30 % pour les femmes noires.

Autrement dit, certaines personnes deviennent littéralement moins bien reconnues par les systèmes technologiques.
Et là, on voit apparaître un autre problème majeur : le prisme occidental.

Les bases de données utilisées pour entraîner les intelligences artificielles sont très souvent construites à partir de populations occidentales, blanches et anglophones. Résultat : les modèles apprennent davantage à reconnaître les groupes déjà les plus représentés.

Même chose avec les générateurs d’images.

Quand on demande à certaines IA de représenter un “PDG”, un “scientifique” ou un “leader”, elles produisent encore majoritairement des hommes, souvent blancs. À l’inverse, lorsqu’on demande une “assistante”, une “infirmière” ou une “aide ménagère”, les figures générées sont très majoritairement féminines.
Même les imaginaires des machines ont déjà intégré une hiérarchie des rôles.

Et ces biais peuvent avoir des conséquences très concrètes dans des domaines essentiels : recrutement, accès au crédit, assurance, surveillance, orientation scolaire ou accès à certains services.

Le problème n’est donc pas seulement technique. Il est profondément social et politique.

Parce qu’à partir du moment où des intelligences artificielles participent à recruter, sélectionner, orienter, recommander ou surveiller des individus, les biais qu’elles reproduisent peuvent façonner des trajectoires entières.

C’est pour cela qu’on parle aujourd’hui d’IA inclusive ou d’éthique algorithmique : l’idée n’est pas simplement de rendre les machines “gentilles”, mais de questionner les données utilisées, les critères retenus et les conséquences concrètes sur les populations.

Parce qu’au fond, l’intelligence artificielle nous renvoie peut-être une vérité assez inconfortable : si nos machines reproduisent nos biais, c’est d’abord parce qu’elles apprennent à partir de nous.

Alors détricoter le sexisme dans l’IA, ce n’est pas avoir peur de la technologie.

C’est refuser de laisser des discriminations anciennes se cacher derrière une apparence de modernité et de rationalité.

 

Parce qu’un biais reste un biais… même quand il est codé en langage informatique.

 

Allez, on respire. On continue de détricoter. Parce que La pelote du sexisme… n’est pas prête d’être vide.

 

Diffusion mercredi 10 juin 2026 – 10h20 / 17h05

 

D.Rousson

---

La Pelote du SexismeprochainementSociété