Puisque l’une de mes casquettes professionnelles est la rédaction de contenus, je croise dernièrement plus souvent qu’à mon tour des interlocuteurs semblant ravis de prophétiser que mon boulot va bientôt être remplacé par l’utilisation de l’intelligence artificielle. (Et encore, je ne vous parle pas des clients qui avancent cet argument pour tenter de tirer les prix vers le bas, mais qui pour de mystérieuses raisons ont encore étonnamment besoin de mes services). Malgré tout je n’ai pas d’a priori sur l’AI, je considère qu’il s’agit d’un outil que certains vont adopter (et d’autres peut-être pas) pour effectuer certaines tâches, jusqu’à ce qu’il soit remplacé par un nouvel outil dont on va à nouveau nous prédire qu’il va changer le monde, ou pour le moins notre façon de travailler. Soit. Parmi les critiques opposées à l’AI, il y a notamment qu’elle comporte des biais. Des biais racistes, sexistes et autres trucs en -istes qu’on n’aime pas trop par ici. Pour mieux comprendre ce phénomène, j’ai assisté vendredi dernier à une rencontre avec Lucie Ronfaut et Mathilde Saliou, journalistes expertes des nouvelles technologies et de leurs enjeux sociaux, et notamment féministes, au Rize de Villeurbanne.
Intelligence artificielle : bien définir les termes
On parle beaucoup d’intelligence artificielle en ce moment, mais de quoi parle-t-on exactement? Ces termes adoptés en 1956, englobent de nombreux outils et on observe parfois une confusion dans la terminologie utilisée. Quand on parle d’intelligence artificielle aujourd’hui, on fait souvent référence aux AI génératives (Midjourney, ChatGPT etc.) qui ne sont en réalité qu’une fraction des outils d’AI dont on dispose. Les algorithmes quand à eux, que l’on confond parfois avec l’intelligence artificielle, sont des principes mathématiques, sortes de listes d’instructions ou d’opérations. Pour simplifier, on parle de recettes mathématiques. L’AI repose sur des algorithmes spécifiques d’apprentissage machine (ou machine learning), c’est à dire qui apprennent seuls.
L’AI, à quoi ça sert concrètement ?
Selon la définition du Parlement Européen, l’AI est un outil utilisé pour tenter de reproduire des comportements humains (planification, raisonnement, créativité). Elle a donc de nombreuses applications : reconnaissance faciale, rédaction ou traduction de texte, génération d’images ou encore diagnostic médical. Lucie Ronfaut rappelle que si les AI génératives sont les plus connues du grand public, c’est simplement parce qu’elles semblent plus concrètes et peuvent produire des résultats assez spectaculaires. Autres applications courantes, les assistants numériques des smartphones ou encore les Chatbot présents sur de très nombreux sites et sensés répondre aux sollicitations des utilisateurs (personnellement ils me rendent chèvre et je finis souvent par les engueuler, ce qui ne sert à rien mais permet de se défouler sans offenser de vraie personne NDLR). À l’instar de Mathilde Saliou, gardons néanmoins en tête que, si l’intelligence artificielle permet d’améliorer des tâches et des processus de travail, elle ne remplace pas le travail humain lui-même.
Fin du suspens: l’AI est-elle sexiste ?
Vous vous en doutiez, la réponse est oui ! Selon une étude de l’Unesco publiée en mars 2024, les outils comme ChatGPT véhiculent « sans équivoque des préjugés à l’encontre des femmes » et produisent des stéréotypes de genre. Les femmes y sont généralement décrites comme des travailleuses domestiques tandis que les hommes sont associés aux notions de carrière et d’argent. Plus grave encore, les diagnostics médicaux réalisés à l’aide de l’AI s’appuient majoritairement sur des données masculines, ce qui peut biaiser le « jugement » de la machine et entrainer un diagnostic erroné*, d’autant que les médecins ne sont pas informés pendant leur cursus au sujet de ces biais.
Les deux journalistes rappellent également que les Deep Fake, ces vidéos hyper réalistes créés à partir d’images existantes et déjà utilisées dans le cinéma, sont aussi de nouveaux outils de violence sexiste. Si l’on craignait avec la généralisation des AI génératives la prolifération de fake news politiques, il s’avère que 98% des deep fake sont en réalité du porno, et à 99% du porno représentant des femmes. Si les créateurs de ces images n’y voient souvent qu’un jeu, les conséquences peuvent être dramatiques pour les femmes qui en sont les victimes.
Comme le fait justement remarquer une femme dans le public, si une personnalité comme Taylor Swift a réussi à faire supprimer des images problématiques la concernant en mobilisant sa communauté, il n’en va pas de même pour les autres plaignantes. Les plateformes font souvent la sourde oreille et il est très difficile de faire disparaitre complètement des images diffusées sur internet.
Non seulement l’intelligence artificielle est sexiste, mais elle est aussi raciste, agiste, homophobe, validiste… À titre d’exemples, aux Etats-Unis où la reconnaissance faciale est beaucoup utilisée, plusieurs affaires judiciaires ont mis en cause des personnes noires qui se sont révélées être innocentes, parce que l’outil a du mal à distinguer les visages de couleur les uns des autres. De même, peu d’images de personnes âgées circulent dans les bases de données, ce qui rend inopérante la reconnaissance faciale sur les vieilles personnes.
Pourquoi l’intelligence artificielle comporte-t-elle de tels biais ?
Plusieurs facteurs entrent en ligne de compte: tout d’abord, les algorithmes sont des suites d’opérations programmées par des humains, et peuvent donc etre biaisés en fonction des biais des personnes même qui les ont élaborés. Comme le rappelle Mathilde Saliou, les ingénieurs qui travaillent sur l’AI ont des profils peu variés: ce sont généralement des hommes blancs, issus de milieux plutôt aisés, ayant grandi dans des pays riches. Depuis les années 70-80 les femmes ont en effet peu à peu été évincées du numérique**, devenu attrayant puisqu’en fort développement, avec l’émergence d’un profil type pour le recrutement, le candidat idéal aimant « les maths, les puzzles mais pas trop les gens ». Les profils ayant des préoccupations éthiques sont rapidement écartés et les femmes, comme dans de nombreuses professions, souffrent d’écarts de traitement avec notamment des salaires qui évoluent moins. En amont, le manque de représentation féminine dans le numérique invite peu de femmes à se projeter dans une carrière dans la tech, et seul un tiers des étudiants en école d’ingénieur sont des femmes***. De plus, les dirigeants des entreprises qui travaillent sur l’AI sont une sorte de Boys’ club de personnes aux profils similaires, qui ont fait les mêmes écoles, qui lèvent des fonds auprès des investisseurs du même Boys’ club…
Enfin, rappelons que les personnes derrière les sociétés qui exploitent l’AI ont des buts qui divergent des objectifs affichés: les propriétaires des réseaux sociaux par exemple ont pour but de faire de l’argent, pas seulement de nous permettre de communiquer entre utilisateurs. Cela oriente les choix qui sont faits, par exemple celui de promouvoir les contenus les plus clivants, qui sont souvent discriminants et à ce titre vont générer plus de réactions/interactions. Lucie Ronfaut ajoute que certains outils sont directement faits pour discriminer; c’est le cas des AI qui permettent de déshabiller une personne sur une image, sachant qu’en toute probabilité la personne en question sera une femme non consentante, ou encore des algorithmes utilisés par la CAF pour repérer les fraudeurs qui visent par exemple les parents seuls (qui sont majoritairement des femmes).
Y’en a un peu plus je vous le mets aussi?
L’intelligence artificielle soulève bien d’autres questions encore, comme celle de la propriété intellectuelle. Aux USA, des procès pour plagiat sont déjà en cours contre Midjourney qui propose parfois des résultats bien trop proches des « inspirations » de départ. Les artistes, déjà précaires pour la plupart, « entrainent » malgré eux les machines et sont encore plus précarisés par l’utilisation généralisée des AI génératives. Mathilde Saliou ironise sur ce capitalisme numérique : « Tout ce qu’on met sur les réseaux sociaux, c’est le plus grand stage non rémunéré du monde ».
Autre question d’importance, celle du consentement sur l’utilisation de son image : mettre sa photo en ligne, est-ce implicitement accepter qu’elle puisse être réutilisée par les outils d’IA? Quant au coût environnemental de l’AI, on n’est pas surpris d’apprendre qu’il est colossal. À titre d’exemple, générer une seule image consomme autant que recharger un portable.
Enfin, comme le remarque à juste titre une participante dans la salle, les récits proposés par l’AI sont le reflet d’un point de vue majoritairement occidental et capitaliste, alors même que les personnes qui entrainent l’AI sont pour beaucoup des femmes des pays du sud. Lucie Ronfaut confirme qu’on parle effectivement de néo-colonialisme de l’intelligence artificielle, qui développe des outils d’exploitation depuis les pays riches, avec une main d’œuvre pauvre. Le web étant majoritairement anglophone, l’AI est en outre entrainée en faisant fi des contenus publiés dans des langues moins répandues ou moins représentées sur le web, ce qui donne là encore une vision biaisée de la réalité.
Comment corriger les biais discriminatoires des AI ?
Corriger les biais des AI n’est pas impossible, mais pour Mathilde Saliou, il faudrait déjà s’entendre entre humains sur la reconnaissance des discriminations, sur les questions d’égalité et de neutralité. Elle ironise: « Certains jugent l’AI trop à gauche ». Autre piste d’amélioration, favoriser la diversité chez les créateurs et programmateurs des machines, en ouvrant davantage la profession aux femmes et aux personnes racisées par exemple. Actuellement dans le monde, selon l’Unesco, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d’AI, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels.
Il y a des choses à faire au niveau législatif aussi. Pourtant des lois existent déjà en France, et Lucie Ronfaut rappelle que la loi est la même sur internet qu’IRL (la production d’une deep fake porno sans consentement entre dans le cadre du harcèlement sexuel par exemple). Au niveau européen l’AI Act (législation sur l’intelligence artificielle) existe et doit encore évoluer, mais certains articles peinent à être adoptés car on considère qu’ils vont freiner les progrès sur l’AI pour les entreprises européennes.
Enfin, la modération des contenus sexistes en ligne n’est pas une mince affaire. Souvent les plateformes réagissent en mettant en place une politique interdisant toute forme de nudité féminine, ce qui porte préjudice à certains contenus artistiques ou censure tout bonnement les corps féminins, dénudés ou non et parfois sexualisés sans raison.
L’intelligence artificielle, human after all
Pour résumer, le problème avec les machines n’est pas dans les machines, mais bien dans leurs créateurs et leurs utilisateurs. Ce qui est à la fois rassurant (on peut tenter d’y remédier) et désespérant puisqu’on ne peut pas incriminer le méchant algorithme. Mathilde Saliou met les pieds dans le plat : « Aucune de nous deux ne croit en la réalité d’une menace de type Terminator. Cette pseudo-crainte d’une rébellion des machines contre les humains, c’est un outil marketing pour éviter de traiter des vrais problèmes soulevés par l’AI, les problèmes d’ordre politique notamment. » Lucie Ronfaut rappelle aussi que, loin d’être autonomes, les AI ont besoin de beaucoup d’humains pour fonctionner, que ce soit pour la nourrir de données de départ ou pour corriger en continu son travail (le fameux training).
Ce n’est pas tant l’AI qui pose problème que son utilisation. Songeons qu’il est aujourd’hui possible de créer des photos et des vidéos réalistes sans compétences techniques poussées, et qu’on n’a pas trouvé plus utile que de réaliser des images pornographiques sexistes avec. Manque d’imagination? Volonté assumée d’asseoir le patriarcat via la technologie? Il y a de quoi s’interroger. Lucie Ronfaut insiste sur ce point : « On considère que la tech c’est le pouvoir, l’avenir. Non seulement on en a écarté sciemment les femmes, mais on l’utilise aujourd’hui contre les femmes. »
Mobiliser l’intelligence humaine pour une AI plus qualitative ?
Ce qui émerge de cette discussion, c’est avant tout la nécessité de s’emparer de ces nouveaux outils et d’ouvrir des espaces de discussion sur l’intelligence artificielle. Pour Mathilde Saliou: « Il ne faut pas avoir peur de la technologie. Il faut au contraire casser l’aspect élitiste de la chose pour pouvoir critiquer les outils qu’on est amenés à utiliser. » Les deux journalistes soulignent la nécessité d’inclure les problématiques de société dans les réflexions sur l’AI (conséquences sociales, économiques, politiques, environnementales…), et aussi de s’interroger sur les espaces où l’on n’a pas envie/besoin d’utiliser ces technologies. « On peut être technocritique sans être technophobe », insiste Lucie Ronfaut. Pour elle, il est essentiel d’occuper l’espace en ligne comme l’espace médiatique sur ces questions. Là où les cyber-violences veulent nous faire reculer, il est d’autant plus nécessaire d’être présentes et soudées. L’autrice de Internet aussi, c’est la vraie vie, un essai destiné aux ados, insiste aussi sur l’importance de parler aux jeunes, et notamment aux garçons, avant qu’ils ne soient happés par le discours viriliste qui cible beaucoup les garçons d’aujourd’hui.
On pourrait aussi imaginer des outils alternatifs, empêcher l’indexation de certains contenus sur les moteurs de recherche, mettre en place des outils de modération collective… En tant que citoyen, on devrait pouvoir exiger d’autres modèles de production, plus éthiques et écologiques. L’idée globale, c’est qu’on ne devrait pas subir les nouvelles technologies mais au contraire en être des utilisateurs actifs pour que le numérique cesse de générer des oppressions et soit un progrès pour tous et toutes.
*Voir le reportage de Kreatur sur Arte Info
**Sur ce sujet Lucie Ronfaut recommande Les oubliées du numérique d’Isabelle Collet
***D’après le baromètre égalité femmes-hommes des grandes écoles
