Bien qu’en plein essor, les domaines liés à l’intelligence artificielle font déjà l’objet de nombreux débats. Parmi eux, celui des biais sexistes, qui gangrènent les IA génératives et imposent une même question au sein du débat public : des solutions existent-elles pour rendre les algorithmes plus sains ?
C’est un fait : un peu comme tous les autres domaines, l’intelligence artificielle – et plus largement encore, les algorithmes – n’échappe pas au patriarcat et aux systèmes de la domination masculine. Si l’on s’était déjà intéressés aux clichés véhiculés par MidJourney au sujet de la banlieue à l’occasion d’une campagne lancée par la plateforme de VTC Heetch en novembre 2023, force est de constater que le constat est relativement similaire au moment de s’intéresser à la question du genre – les IA génératives, lorsque nous les interrogeons, étant très souvent à l’origine des réponses extrêmement stéréotypées.
Comment expliquer que les algorithmes – aussi récents soient-ils – soient à ce point corrompus par le sexisme ? Pour Chloé Braud, chercheuse en traitement du langage naturel à l’IRIT-CNRS Toulouse, le problème n’est pas nouveau. « Avant la génération d’image, c’était déjà le cas des moteurs de traduction : quand le pronom était non genré dans la langue source, on obtenait des traductions du genre : “il travaille, elle fait la vaisselle”, rappelle-t-elle. Le modèle fait un choix par rapport à ses données d’entraînement. On ne peut pas dire que les algorithmes soient sexistes, un algorithme est simplement une suite d’instructions qui, dans le cas de l’apprentissage automatique, sont construites à partir d’un ensemble de données. La sortie de l’algorithme reproduit simplement les biais de la société qui existent dans ces données en entrée. »
Un miroir (pas si déformant) de la réalité
Effectivement, les algorithmes utilisés par l’IA sont bien codés par des humains, à partir de données, elles aussi, humaines. Dès lors, plutôt que de pointer la machine du doigt, le constat de résultats sexistes générés par des algorithmes n’est-il pas l’occasion de s’interroger sur nos propres biais ? Également chercheuse en traitement du langage naturel, à l’IRT Saint-Exupéry cette fois, Fanny Jourdan confirme l’idée soulevée par sa consoeur : « Les algorithmes d’IA ne sont pas intrinsèquement sexistes, ils reflètent les données sur lesquelles ils ont été entraînés. Dans le cas des IA génératives, ces données couvrent une très large partie d’Internet, incluant des milliards d’informations. Les biais dans ces algorithmes sont donc un miroir de la société. » Rappelons au passage que les domaines liés aux IA sont également majoritairement masculins, les femmes représentant seulement 10 à 20% du secteur selon une étude menée en 2023 par le collectif féministe #JamaisSansElles.
« Les algorithmes d’IA ne sont pas intrinsèquement sexistes, ils reflètent les données sur lesquelles ils ont été entraînés »
Ces chiffres, aussi éloquent soient-ils, Fanny Jourdan tient à les nuancer : « Les algorithmes reflètent davantage la société dans son ensemble plutôt que leurs créateurs spécifiques, car ils apprennent à partir d’un vaste ensemble de données. » Sur sa lancée, elle confesse également qu’une « plus grande diversité parmi les professionnels de l’IA pourrait apporter des perspectives variées, enrichissant ainsi la recherche et les solutions proposées. » Femme dans un secteur d’hommes, Fanny Jourdan l’affirme : « En tant que femme, je suis particulièrement sensible aux biais sexistes et plus apte à identifier et corriger ces biais dans les résultats des algorithmes. »
Une position partagée par sa collègue, Chloé Braud qui souligne que, si les algorithmes sont le reflet des données qu’on leur donne, « le choix de réfléchir aux questions du biais et de chercher à les atténuer dépend, lui, de son créateur. Il est donc fort possible que des représentants de groupes subissant par ailleurs des biais dans la société soient plus sensibles et plus attentifs à ce genre de questions, et donc créent plus naturellement des solutions reflétant une autre réalité. Ici, je pense aux femmes, mais aussi à d’autres groupes. L’IA est un milieu très masculin, certes, mais aussi très blanc, avec des personnes issues de classes sociales plutôt élevées et travaillant majoritairement dans les pays occidentaux. »
L’insurrection qui vient
Les algorithmes ne seraient dès lors que le reflet d’un système bien ancré, peu enclin à mettre les femmes sur le même plan que les hommes ? « Je ne pense pas que les algorithmes fournissent une version “plus” stéréotypée de la réalité, mais il est plus facile de les interroger pour découvrir les stéréotypes qu’ils encodent, explique Chloé Braud. Par contre, on peut, et on doit à mon avis se poser la question d’atténuer ou supprimer les biais, qu’ils soient sexistes, racistes ou sociaux-économiques. »
Très bien, mais comment agir directement sur les données ou les algorithmes afin d’assainir les résultats ? « Pour rendre les algorithmes moins stéréotypés et plus inclusifs, il existe plusieurs stratégies, rassure Fanny Jourdan. Les solutions comprennent la diversification des données d’entraînement du modèle, l’ajustement des modèles pendant leur entraînement pour produire des réponses moins stéréotypées, et la modification post-entraînement des réponses de l’algorithme afin de les rendre plus conformes aux attentes souhaitées. Il n’y a pas encore de solution qui permettrait de régler totalement ce problème, mais c’est un domaine de recherche très actif. »
« L’IA est un milieu très masculin certes, mais aussi très blanc, avec des personnes issues de classes sociales plutôt élevées et travaillant majoritairement dans les pays occidentaux. »
Si la communauté scientifique s’active sur la question du sexisme dans les algorithmes, les collectifs féministes mènent eux aussi des actions afin de sensibiliser les utilisateurs à ses biais. À l’image de #JamaisSansElles qui, lors de la Journée des droits de la femme 2023, publiait une campagne visant à lancer l’alerte sur les biais sexistes des intelligences artificielles. En utilisant MidJourney, les militants montrent ainsi que lorsque l’on demande à la plateforme de nous montrer un CEO, seul des images d’hommes blancs et d’âge mur ressortent. A l’inverse, si l’on tape « secretary », nous ne verrons apparaître que des femmes, jeunes et séduisantes. « Comment les femmes échapperont-elles aux stéréotypes les associant trop souvent à des métiers dévalorisés socialement et économiquement, si les IA les y cantonnent et les invisibilisent dans les postes de pouvoir ? Ou si elles en proposent des représentations hypersexualisées ? Les hommes ne sont d’ailleurs pas non plus à l’abri de stéréotypes masculins réducteurs », soulève le site de l’opération.
L’IA, un allié féministe ?
Avant cette campagne, #JamaisSansElles s’était déjà associé à Flint, en 2018, afin de lancer ELLA, première IA au service de la mixité : un bot inclusif formé à chercher l’information sur ce thème en triant 16 000 articles de presse et en proposant à ses utilisateurs une large sélection d’articles sur l’égalité entre les femmes et les hommes. Nécessaire, cette plateforme soulève une question : bien qu’actuellement biaisée, l’intelligence artificielle peut-elle un jour devenir un allié pour la lutte contre les inégalités ? Fanny Jourdan veut y croire : « L’IA est un outil puissant, qui peut très bien être utilisé dans la lutte contre les inégalités. Des applications comme la détection de discours haineux sont d’ailleurs déjà gérées par l’IA. » La chercheuse ajoute cependant une mise en garde : « Il est tout de même crucial de maintenir une supervision humaine pour prévenir la reproduction de biais indésirables. »
« L’IA est ou outil puissant, qui peut très bien être utilisé dans la lutte contre les inégalités. »
Même son de cloche du côté de Chloé Braud : « L’IA est un ensemble d’outils qui peuvent servir à plein de choses. Ces outils seront sans aucun doute utilisés dans la lutte contre les inégalités, et il est important que leur développement tienne compte de ces questions car les textes et images générés automatiquement vont se répandre rapidement. » Elle poursuit : « Ces questions de recherche en IA sont donc déjà un lieu pour cette lutte. Mais ces outils pourront servir également dans l’autre sens, surtout quand ils sont mal maîtrisés : récemment, on a vu dans le domaine juridique qu’une IA reproduisait des biais racistes… Il faut donc des utilisateurs compétents et vigilants pour voir le problème, le prendre en compte et comprendre comment le régler. Ce qui peut inquiéter c’est que les IA sont construites sur les données du web, qui regorgent de plus en plus de textes et images générés par des IA. On va finir par tourner en rond… » Un long chemin reste donc encore à parcourir. Ce qui n’empêche pas d’être optimiste quant à l’évolution des algorithmes et de l’esprit critique de ses utilisateurs.
