Les biais sexistes dans les algorithmes : peut-on y échapper ?

Les biais sexistes dans les algorithmes : peut-on y échapper ?
Campagne #JamaisSansElles, 2023

Bien qu’en plein essor, les domaines liés à l’intelligence artificielle font déjà l’objet de nombreux débats. Parmi eux, celui des biais sexistes, qui gangrènent les IA génératives et imposent une même question au sein du débat public : des solutions existent-elles pour rendre les algorithmes plus sains ? 

C’est un fait : un peu comme tous les autres domaines, l’intelligence artificielle – et plus largement encore, les algorithmes – n’échappe pas au patriarcat et aux systèmes de la domination masculine. Si l’on s’était déjà intéressés aux clichés véhiculés par MidJourney au sujet de la banlieue à l’occasion d’une campagne lancée par la plateforme de VTC Heetch en novembre 2023, force est de constater que le constat est relativement similaire au moment de s’intéresser à la question du genre – les IA génératives, lorsque nous les interrogeons, étant très souvent à l’origine des réponses extrêmement stéréotypées.

Comment expliquer que les algorithmes – aussi récents soient-ils – soient à ce point corrompus par le sexisme ? Pour Chloé Braud, chercheuse en traitement du langage naturel à l’IRIT-CNRS Toulouse, le problème n’est pas nouveau. « Avant la génération d’image, c’était déjà le cas des moteurs de traduction : quand le pronom était non genré dans la langue source, on obtenait des traductions du genre : “il travaille, elle fait la vaisselle”, rappelle-t-elle. Le modèle fait un choix par rapport à ses données d’entraînement. On ne peut pas dire que les algorithmes soient sexistes, un algorithme est simplement une suite d’instructions qui, dans le cas de l’apprentissage automatique, sont construites à partir d’un ensemble de données. La sortie de l’algorithme reproduit simplement les biais de la société qui existent dans ces données en entrée. »

A self-portrait of an algorithm ©Maria Mavropoulou

Un miroir (pas si déformant) de la réalité

Effectivement, les algorithmes utilisés par l’IA sont bien codés par des humains, à partir de données, elles aussi, humaines. Dès lors, plutôt que de pointer la machine du doigt, le constat de résultats sexistes générés par des algorithmes n’est-il pas l’occasion de s’interroger sur nos propres biais ? Également chercheuse en traitement du langage naturel, à l’IRT Saint-Exupéry cette fois, Fanny Jourdan confirme l’idée soulevée par sa consoeur : « Les algorithmes d’IA ne sont pas intrinsèquement sexistes, ils reflètent les données sur lesquelles ils ont été entraînés. Dans le cas des IA génératives, ces données couvrent une très large partie d’Internet, incluant des milliards d’informations. Les biais dans ces algorithmes sont donc un miroir de la société. » Rappelons au passage que les domaines liés aux IA sont également majoritairement masculins, les femmes représentant seulement 10 à 20% du secteur selon une étude menée en 2023 par le collectif féministe #JamaisSansElles.

FannyJourdan
« Les algorithmes d’IA ne sont pas intrinsèquement sexistes, ils reflètent les données sur lesquelles ils ont été entraînés »

Ces chiffres, aussi éloquent soient-ils, Fanny Jourdan tient à les nuancer : « Les algorithmes reflètent davantage la société dans son ensemble plutôt que leurs créateurs spécifiques, car ils apprennent à partir d’un vaste ensemble de données. » Sur sa lancée, elle confesse également qu’une « plus grande diversité parmi les professionnels de l’IA pourrait apporter des perspectives variées, enrichissant ainsi la recherche et les solutions proposées. » Femme dans un secteur d’hommes, Fanny Jourdan l’affirme : « En tant que femme, je suis particulièrement sensible aux biais sexistes et plus apte à identifier et corriger ces biais dans les résultats des algorithmes. »

Une position partagée par sa collègue, Chloé Braud qui souligne que, si les algorithmes sont le reflet des données qu’on leur donne, « le choix de réfléchir aux questions du biais et de chercher à les atténuer dépend, lui, de son créateur. Il est donc fort possible que des représentants de groupes subissant par ailleurs des biais dans la société soient plus sensibles et plus attentifs à ce genre de questions, et donc créent plus naturellement des solutions reflétant une autre réalité. Ici, je pense aux femmes, mais aussi à d’autres groupes. L’IA est un milieu très masculin, certes, mais aussi très blanc, avec des personnes issues de classes sociales plutôt élevées et travaillant majoritairement dans les pays occidentaux. »

©Pexels

L’insurrection qui vient

Les algorithmes ne seraient dès lors que le reflet d’un système bien ancré, peu enclin à mettre les femmes sur le même plan que les hommes ? « Je ne pense pas que les algorithmes fournissent une version “plus” stéréotypée de la réalité, mais il est plus facile de les interroger pour découvrir les stéréotypes qu’ils encodent, explique Chloé Braud. Par contre, on peut, et on doit à mon avis se poser la question d’atténuer ou supprimer les biais, qu’ils soient sexistes, racistes ou sociaux-économiques. »

Très bien, mais comment agir directement sur les données ou les algorithmes afin d’assainir les résultats ? « Pour rendre les algorithmes moins stéréotypés et plus inclusifs, il existe plusieurs stratégies, rassure Fanny Jourdan. Les solutions comprennent la diversification des données d’entraînement du modèle, l’ajustement des modèles pendant leur entraînement pour produire des réponses moins stéréotypées, et la modification post-entraînement des réponses de l’algorithme afin de les rendre plus conformes aux attentes souhaitées. Il n’y a pas encore de solution qui permettrait de régler totalement ce problème, mais c’est un domaine de recherche très actif. »

ChloéBraud
« L’IA est un milieu très masculin certes, mais aussi très blanc, avec des personnes issues de classes sociales plutôt élevées et travaillant majoritairement dans les pays occidentaux. »

Si la communauté scientifique s’active sur la question du sexisme dans les algorithmes, les collectifs féministes mènent eux aussi des actions afin de sensibiliser les utilisateurs à ses biais. À l’image de #JamaisSansElles qui, lors de la Journée des droits de la femme 2023, publiait une campagne visant à lancer l’alerte sur les biais sexistes des intelligences artificielles. En utilisant MidJourney, les militants montrent ainsi que lorsque l’on demande à la plateforme de nous montrer un CEO, seul des images d’hommes blancs et d’âge mur ressortent. A l’inverse, si l’on tape « secretary », nous ne verrons apparaître que des femmes, jeunes et séduisantes. « Comment les femmes échapperont-elles aux stéréotypes les associant trop souvent à des métiers dévalorisés socialement et économiquement, si les IA les y cantonnent et les invisibilisent dans les postes de pouvoir ? Ou si elles en proposent des représentations hypersexualisées ? Les hommes ne sont d’ailleurs pas non plus à l’abri de stéréotypes masculins réducteurs », soulève  le site de l’opération. 

Campagne #JamaisSansElles, 2023

L’IA, un allié féministe ?

Avant cette campagne, #JamaisSansElles s’était déjà associé à Flint, en 2018, afin de lancer ELLA, première IA au service de la mixité : un bot inclusif formé à chercher l’information sur ce thème en triant 16 000 articles de presse et en proposant à ses utilisateurs une large sélection d’articles sur l’égalité entre les femmes et les hommes. Nécessaire, cette plateforme soulève une question : bien qu’actuellement biaisée, l’intelligence artificielle peut-elle un jour devenir un allié pour la lutte contre les inégalités ? Fanny Jourdan veut y croire : « L’IA est un outil puissant, qui peut très bien être utilisé dans la lutte contre les inégalités. Des applications comme la détection de discours haineux sont d’ailleurs déjà gérées par l’IA. » La chercheuse ajoute cependant une mise en garde : « Il est tout de même crucial de maintenir une supervision humaine pour prévenir la reproduction de biais indésirables. »

FannyJourdan
« L’IA est ou outil puissant, qui peut très bien être utilisé dans la lutte contre les inégalités. »

Même son de cloche du côté de Chloé Braud : « L’IA est un ensemble d’outils qui peuvent servir à plein de choses. Ces outils seront sans aucun doute utilisés dans la lutte contre les inégalités, et il est important que leur développement tienne compte de ces questions car les textes et images générés automatiquement vont se répandre rapidement. » Elle poursuit : « Ces questions de recherche en IA sont donc déjà un lieu pour cette lutte. Mais ces outils pourront servir également dans l’autre sens, surtout quand ils sont mal maîtrisés : récemment, on a vu dans le domaine juridique qu’une IA reproduisait des biais racistes… Il faut donc des utilisateurs compétents et vigilants pour voir le problème, le prendre en compte et comprendre comment le régler. Ce qui peut inquiéter c’est que les IA sont construites sur les données du web, qui regorgent de plus en plus de textes et images générés par des IA. On va finir par tourner en rond… » Un long chemin reste donc encore à parcourir. Ce qui n’empêche pas d’être optimiste quant à l’évolution des algorithmes et de l’esprit critique de ses utilisateurs.

À lire aussi
Intelligence artificielle : les artistes contre-attaquent
« La jeune fille à la perle », recréée à l’aide d’une IA, 2023 ©Julian Van Dieken
Intelligence artificielle : les artistes contre-attaquent
Si le développement de l’IA générative fascine, elle inquiète également beaucoup de personnes, à commencer par les artistes qui craignent…
10 janvier 2024   •  
Écrit par Zoé Terouinard
IA et peinture, dans les coulisses du Studio Iregular
“Mental Maps” ©Studio Iregular
IA et peinture, dans les coulisses du Studio Iregular
Au Québec, l’artiste James Duncan (1806-1881) est une célébrité dont les peintures ont documenté…
09 avril 2024   •  
Écrit par Adrien Cornelissen
Romain Carré, un romantique au temps de l’IA
“Cunterstudies” ©Romain Carré
Romain Carré, un romantique au temps de l’IA
Si Romain Carré utilise les technologies contemporaines, c’est pour ressusciter les visions idylliques de la nature nées au XIXe siècle….
19 mars 2024   •  
Écrit par Alexandre Parodi
Explorez
Book club : « Manifesto for Cyborgs » de Donna Haraway
Book club : « Manifesto for Cyborgs » de Donna Haraway
Avant de s’imposer dans les musées, l’art numérique trouve sa source dans les bibliothèques. « Book Club » revient sur ces livres...
Il y a 8 heures   •  
Écrit par Zoé Terouinard
Art numérique : les artistes arabes demandent voix au chapitre
Skyseeef, Série Culture is the waves of the future, 2024, photographie © Skyseeef
Art numérique : les artistes arabes demandent voix au chapitre
À l’occasion de l’exposition “Arabofuturs” actuellement présentée à l’Institut du Monde Arabe, reportage auprès des artistes...
22 mai 2024   •  
Écrit par Zoé Terouinard
Chun Hua Catherine Dong : "L’IA me permet d’économiser du temps et de l’argent au moment de créer"
“Reconnection”, performance photographique, 2021 ©Chun Hua Catherine Dong
Chun Hua Catherine Dong : « L’IA me permet d’économiser du temps et de l’argent au moment de créer »
Parmi les figures de l’art numérique québécois les plus exposées en France et à l’international, Chun Hua Catherine Donc se tient...
20 mai 2024   •  
Écrit par Maxime Delcourt
Que penser d'Artificial Dreams, l'expo qui interroge l'IA au cœur de la création artistique ?
“AI & Me” ©Mots
Que penser d’Artificial Dreams, l’expo qui interroge l’IA au cœur de la création artistique ?
Des humains qui virevoltent dans les airs, des plantes robotisées, des fonds marins en effervescence, des bestioles et des végétaux...
17 mai 2024   •  
Écrit par Benoit Gaboriaud
Nos derniers articles
Voir tous les articles
Premier contact : Gala Hernández López en 3 infos essentielles
©Julien Liénard
Premier contact : Gala Hernández López en 3 infos essentielles
Être artiste, c’est permettre la rencontre avec une œuvre, une pensée, un thème, une esthétique....
Il y a 4 heures   •  
Écrit par Zoé Terouinard
Book club : « Manifesto for Cyborgs » de Donna Haraway
Book club : « Manifesto for Cyborgs » de Donna Haraway
Avant de s’imposer dans les musées, l’art numérique trouve sa source dans les bibliothèques. « Book Club » revient sur ces livres...
Il y a 8 heures   •  
Écrit par Zoé Terouinard
Art numérique : les artistes arabes demandent voix au chapitre
Skyseeef, Série Culture is the waves of the future, 2024, photographie © Skyseeef
Art numérique : les artistes arabes demandent voix au chapitre
À l’occasion de l’exposition “Arabofuturs” actuellement présentée à l’Institut du Monde Arabe, reportage auprès des artistes...
22 mai 2024   •  
Écrit par Zoé Terouinard
Paris : 3 œuvres numériques à voir pendant la Nuit Blanche
K2-18B ©Musée Cognac
Paris : 3 œuvres numériques à voir pendant la Nuit Blanche
Et si samedi 1er juin, vous délaissiez votre lit pour passer la nuit au musée ? À l’occasion de la Nuit Blanche, Fisheye Immersive...
21 mai 2024   •  
Écrit par Zoé Terouinard