{"id":16323,"date":"2025-02-04T16:18:56","date_gmt":"2025-02-04T15:18:56","guid":{"rendered":"https:\/\/cgt-bfc.fr\/?p=16323"},"modified":"2025-02-05T10:52:12","modified_gmt":"2025-02-05T09:52:12","slug":"aujourdhui-sexiste-lia-peut-elle-etre-entrainee-a-legalite","status":"publish","type":"post","link":"https:\/\/cgt-bfc.fr\/index.php\/2025\/02\/04\/aujourdhui-sexiste-lia-peut-elle-etre-entrainee-a-legalite\/","title":{"rendered":"Aujourd\u2019hui sexiste, l\u2019IA peut-elle \u00eatre entra\u00een\u00e9e \u00e0 l\u2019\u00e9galit\u00e9\u00a0\u00a0?\u00a0"},"content":{"rendered":"\n

Nourrie par les donn\u00e9es disponibles, l\u2019intelligence artificielle (IA) renforce le sexisme existant. Plusieurs initiatives d\u00e9cortiquent ses dangers et imaginent des propositions pour en faire un levier d\u2019\u00e9galit\u00e9.<\/strong><\/p>\n\n\n\n

par Lucie Tourette<\/a> Temps de lecture : 4 minutes<\/p>\n\n\n\n

\u00ab  L\u2019intelligence artificielle  : dangers et avanc\u00e9es pour les droits des femmes et l\u2019\u00e9galit\u00e9  \u00bb, c\u2019est le titre de la contribution de la d\u00e9l\u00e9gation aux droits des femmes et \u00e0 l\u2019\u00e9galit\u00e9 (Ddfe) du Conseil \u00e9conomique social et environnemental (Cese), rendue publique le 14 janvier 2025. Fabienne Tatot, secr\u00e9taire nationale de l\u2019Ugict-Cgt, a co\u00e9labor\u00e9 ce texte annex\u00e9 \u00e0 l\u2019avis de la commission temporaire sur l\u2019intelligence artificielle (IA) du Cese qui se propose d\u2019\u00ab  adapter l\u2019action publique au service de l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral  \u00bb<\/em>.<\/p>\n\n\n\n

88  % des algorithmes sont cr\u00e9\u00e9s par des hommes<\/strong><\/h2>\n\n\n\n

Moins nombreuses que les hommes dans le secteur du num\u00e9rique, les femmes sont particuli\u00e8rement minoritaires dans le domaine de l\u2019IA. Elles repr\u00e9sentent 24  % des personnes employ\u00e9es dans le num\u00e9rique en France (1) et seulement 12  % de celles employ\u00e9es dans la recherche en IA (2). R\u00e9sultat  : \u00ab  88  % des algorithmes sont cr\u00e9\u00e9s par des hommes  \u00bb, <\/em>explique H\u00e9l\u00e8ne Deckx van Ruys, copilote du groupe \u00ab  Femmes et IA  \u00bb du Laboratoire de l\u2019\u00e9galit\u00e9. \u00ab  Inconsciemment ou non  \u00bb, <\/em>ces derniers \u00ab  reproduisent leurs biais  \u00bb.<\/em> <\/p>\n\n\n\n

Fauss\u00e9s \u00e0 la source, les algorithmes ont des cons\u00e9quences sur la vie professionnelle des femmes. Chez Amazon, l\u2019automatisation du processus de recrutement avait conduit \u00e0 ce que les Cv de femmes soient syst\u00e9matiquement moins bien not\u00e9s que ceux des hommes. \u00ab  Ces biais d\u00e9coulaient des donn\u00e9es utilis\u00e9es pour entra\u00eener l\u2019algorithme, majoritairement compos\u00e9es de Cv d\u2019hommes quand il s\u2019agissait des postes de cadres.  \u00bb<\/em><\/p>\n\n\n\n

Amplification des discriminations<\/strong><\/h2>\n\n\n\n

Le m\u00eame ph\u00e9nom\u00e8ne se reproduit dans la sant\u00e9. Comme les algorithmes apprennent \u00e0 partir des donn\u00e9es d\u00e9j\u00e0 produites, \u00ab  qui tendent \u00e0 invisibiliser les particularit\u00e9s de la sant\u00e9 des femmes, on ne peut que supposer une amplification des discriminations \u00e0 l\u2019encontre des femmes dans ce domaine  \u00bb<\/em>. <\/p>\n\n\n\n

En s\u2019entra\u00eenant sur des donn\u00e9es masculines, l\u2019intelligence artificielle \u00ab  peine \u00e0 servir les femmes aussi bien qu\u2019elle sert les hommes  \u00bb.<\/em> La contribution de la Ddfe cite ainsi l\u2019enqu\u00eate \u00ab  Gender Shades  \u00bb<\/a> men\u00e9e en 2018 par le Mit Media Lab sur des logiciels de reconnaissance faciale  : le taux d\u2019erreur pour les hommes est de 8,1  % alors qu\u2019il grimpe \u00e0 20,6  % pour les femmes. La discrimination est \u00e9galement d\u2019ordre raciste, puisque l\u2019un des algorithmes test\u00e9s pr\u00e9sente un \u00e9cart de 34,4  % entre le taux d\u2019erreur pour les hommes blancs et celui pour les femmes noires.<\/p>\n\n\n\n

Un \u00ab  Pacte pour une IA \u00e9galitaire  \u00bb<\/strong><\/h2>\n\n\n\n

\u00ab  Les grands mod\u00e8les de langage d\u2019Open AI et de Meta tendent \u00e0 reproduire des repr\u00e9sentations st\u00e9r\u00e9otyp\u00e9es  \u00bb,<\/em> observe la contribution. Cela se v\u00e9rifie jusque dans les relations intimes. Jessica Pidoux, sociologue du num\u00e9rique, montre ainsi que les algorithmes des sites de rencontres \u00ab  tendent \u00e0 reproduire le mod\u00e8le patriarcal des relations h\u00e9t\u00e9rosexuelles  \u00bb<\/em>  : les profils de jeunes femmes peu dipl\u00f4m\u00e9es et avec un revenu faible ont tendance \u00e0 \u00eatre propos\u00e9s \u00e0 des hommes plus vieux, dipl\u00f4m\u00e9s et avec un revenu plus important, alors que l\u2019inverse n\u2019est pas vrai. De m\u00eame, les robots sexuels ou les AI girlfriends,<\/em> ces applications qui utilisent l\u2019IA pour simuler une relation avec une petite amie virtuelle entretiennent l\u2019image d\u2019une \u00ab  petite amie id\u00e9ale toujours disponible, d\u2019humeur \u00e9gale et n\u2019existant que pour plaire  \u00bb<\/em>. <\/p>\n\n\n\n

La D\u00e9l\u00e9gation aux droits des femmes et \u00e0 l\u2019\u00e9galit\u00e9 du Cese pr\u00e9conise de former les femmes \u00e0 l\u2019utilisation de l\u2019IA et \u00e0 son contr\u00f4le. Une meilleure pluridisciplinarit\u00e9 des \u00e9quipes de conception pourrait aussi participer \u00e0 un changement de culture dans le num\u00e9rique. Plusieurs initiatives qui ont pour but de rendre l\u2019IA plus \u00e9galitaire ont vu le jour  : le Laboratoire de l\u2019\u00e9galit\u00e9 propose notamment un \u00ab  Pacte pour une intelligence artificielle \u00e9galitaire  \u00bb<\/a> ainsi qu\u2019un Guide des bonnes pratiques pour une IA \u00e9galitaire<\/em><\/a>.<\/em> L\u2019organisation WomenInIA forme les femmes int\u00e9ress\u00e9es<\/a>. <\/p>\n\n\n\n

L\u2019IA peut \u00eatre entra\u00een\u00e9e \u00e0 corriger ses propres biais<\/strong><\/h2>\n\n\n\n

Dans le secteur de la sant\u00e9, former les professionnels aux discriminations genr\u00e9es est primordial car \u00ab  c\u2019est \u00e0 partir de leur diagnostic d\u2019aujourd\u2019hui que pourraient \u00eatre d\u00e9duits les diagnostics de demain  \u00bb<\/em>. La d\u00e9l\u00e9gation rend \u00e9galement compte d\u2019un \u00ab  r\u00e9el engouement sur la question de l\u2019am\u00e9lioration du traitement des femmes gr\u00e2ce \u00e0 l\u2019IA  \u00bb<\/em>.<\/p>\n\n\n\n

La contribution souligne enfin que l\u2019IA peut \u00eatre entra\u00een\u00e9e \u00e0 corriger ses propres biais. Elle peut par exemple \u00eatre utilis\u00e9e pour produire des statistiques sur les in\u00e9galit\u00e9s de repr\u00e9sentation dans le monde r\u00e9el afin de mieux les combattre. Avocat en droit des nouvelles technologies, Adrien Basdevant soutient \u00e9galement l\u2019entra\u00eenement de l\u2019IA sur des donn\u00e9es de synth\u00e8se similaires aux donn\u00e9es humaines mais plus \u00e9galitaires. Des applications bas\u00e9es sur l\u2019IA permettent enfin de d\u00e9tecter des deepfakes,<\/em> ces photos ou vid\u00e9os g\u00e9n\u00e9r\u00e9es par l\u2019intelligence artificielle et visant \u00e0 nuire. <\/p>\n\n\n\n

Chaque IA est model\u00e9e par des choix humains. Transformer cet outil en levier d\u2019\u00e9galit\u00e9 d\u00e9pendra de notre capacit\u00e9 \u00e0 repenser les st\u00e9r\u00e9otypes dominants.<\/p>\n\n\n\n

    \n
  1. Grande \u00c9cole du num\u00e9rique, \u00ab  Les chiffres cl\u00e9s sur les femmes et la tech  \u00bb<\/a>, 2024.<\/li>\n\n\n\n
  2. Rapport parlementaire sur la place des femmes dans l\u2019intelligence artificielle<\/a>, mai 2024.<\/li>\n<\/ol>\n\n\n\n

    <\/p>\n\n\n\n

    <\/a> <\/a> <\/a> <\/a><\/p>\n\n\n\n