Alors que le Sommet pour l’action sur l’intelligence artificielle, début février, a encore davantage accentué l’attention autour de l’IA, il semblait important de donner la parole à Thibault Prévost, journaliste français dont le récent essai Les prophètes de l’IA : pourquoi la Silicon Valley nous vend l’apocalypse rappelle ce qui se joue, selon lui, en coulisses dans cette course à l’innovation technologique : l’affirmation d’une toute-puissance hostile à toutes formes de liberté.
Pour le titre de ton livre, tu as choisi d’utiliser le terme « prophète », ce qui n’a rien d’anodin… Est-ce à dire que nous sommes en quelque sorte mystifiés face à ces gourous de la tech ?
Thibault Prévost : Si j’ai choisi le terme de « prophète » pour décrire ces idéologues de l’intelligence artificielle, c’est pour mettre en avant l’aspect religieux de leur discours. Contrairement à ce que l’on imagine, et comme l’a brillamment montré l’historien David Noble dans The Religion of Technology, la technoscience occidentale s’imbrique historiquement assez bien dans le récit chrétien de transcendance spirituelle – l’outil technique devient le moyen de se rapprocher du divin, de retrouver la pureté perdue lors de la Chute. L’idéologie de la Silicon Valley s’aligne plus particulièrement avec le récit évangélique populaire aux États-Unis, substrat religieux dans lequel ont grandi la plupart des milliardaires-idéologues qui portent aujourd’hui ces discours techno-apocalyptiques. Mélangez l’évangélisme, l’économie de marché, la conquête spatiale et l’IA, et vous obtenez le transhumanisme.
D’Elon Musk à Sam Altman, en passant par Peter Thiel ou Marc Andreessen, tous adhèrent à l’idéologie transhumaniste, considérée par l’un de ses créateurs, Julian Huxley, comme « une religion sans révélation ». Le transhumanisme postule que l’influence combinée de la technoscience et du capitalisme dérégulé va permettre à l’être humain, dans un avenir éternellement proche, de dépasser son corps pour basculer dans le « posthumain », un surhomme immortel hybridé à l’intelligence artificielle, qui vivra dans un âge de conquête galactique et d’abondance absolue. Ce n’est ni plus ni moins qu’une réécriture du récit eschatologique, où l’AGI (l’intelligence artificielle générale, une machine mythique qui dépasserait les capacités humaines) remplace Dieu, choisit les vertueux et les embarque vers l’Eden spatial pendant que les autres crèvent sur une Terre dévastée.
Les deux discours apocalyptiques autour de l’IA – la machine va nous transcender, la machine va nous annihiler – fonctionnent donc comme le dualité entre le Paradis et l’Enfer ?
Thibault Prévost : Oui, et ils servent avant tout à endoctriner le public à l’idée que l’arrivée de l’ordinateur omnipotent est inévitable, tout en détournant notre regard du phénomène inouï de concentration de capital et de destruction des architectures de décision collective qui se produit actuellement.
Les promesses liées à l’IA formeraient donc une bulle médiatique fantasmant et commentant les dernières lubies de quelques milliardaires entièrement dédiés à une technique dont le modèle économique paraît pour l’heure extrêmement bancal ?
Thibault Prévost : Ce qui est très important de rappeler, c’est que l’IA n’est ni une technique, ni un domaine de recherche. En tant que tel, c’est une idéologie, une tentative d’intervention sur les structures de pouvoir pour mettre à jour les règles qui régissent les sociétés. Que la technique trouve une rentabilité ou pas est secondaire, car toutes les industries dominantes y trouvent leur compte. La Silicon Valley, qui y voit l’occasion de devenir un peu plus le système nerveux central des sociétés en imposant partout ses data centers gigantesques et avec eux le régime de la numérisation, de l’analyse de données et de la prédiction algorithmique. L’industrie des énergies fossiles, trop heureuse d’alimenter cette immense et toxique infrastructure de traitement de données. Les fonds d’investissements, éternellement en quête du prochain marché à hypercroissance et rendus à moitié fous par les promesses d’une productivité dopée à l’IA. L’État néolibéral, enfin, qui reçoit des « solutions » technique clé en main pur « résoudre » l’équation de l’action sociale dans une recherche permanente de réduction des dépenses publiques. Puisque tout le monde y trouve son compte, le catéchisme techno-solutionniste est martelé depuis deux ans : l’IA est inévitable, le progrès est inévitable, adaptez-vous ou crevez !
« Le récit de l’IA n’est pas un récit d’émancipation collective, c’est un récit de surveillance, d’extraction et de contrôle sans précédent. »
Mais il n’y a pas de marché de l’IA – il n’y a que Microsoft, Amazon, Google et Meta. Il n’y a pas de cas d’usage qui légitiment des centaines de milliards de dollars d’investissements (précisons tout de même que plusieurs hôpitaux ont intégré l’IA pour, entre autres, lutter plus efficacement contre le cancer, ndlr). Il n’y a pas de killer app pour la société civile. Il n’y a que la promesse, pour les dominants, d’automatiser leur domination, d’en finir avec les processus démocratiques et de devenir les seuls propriétaires des moyens de prédiction du monde. Le même vieux fantasme depuis les tisserands britanniques du XIXe siècle confrontés à la révolte Luddite : celui de détenir et contrôler une machine à création de profit perpétuel, alimentée par un prolétariat dont la valeur du travail est marginale. C’est pour cette raison que la Silicon Valley (et ses milliardaires transhumanistes) s’entête à brûler des dizaines de milliards en investissement. Le récit de l’IA n’est pas un récit d’émancipation collective, c’est un récit de surveillance, d’extraction et de contrôle sans précédent.
Dans votre livre, vous soulevez également à juste titre que, pour la première fois depuis les années 1970, aucun des entrepreneurs les plus en vue de la tech a moins de 30 ans. Qu’est-ce que cela dit de leur vision du futur ?
Thibault Prévost : Le futur selon Peter Thiel, qui a écrit un livre intitulé The Diversity Myth, c’est celui des Jetsons – une série animée étasunienne des années 1960 où une famille nucléaire blanche, avec son robot domestique, vit avec d’autres familles nucléaires blanches dans une station orbitale qui ressemble à une suburb. L’investisseur illuminé Marc Andreessen cite comme influence Filippo Tommaso Marinetti, chef de file des futuristes italiens des années 1930, qui fantasmaient autant sur le progrès technique que sur le fascisme mussolinien, et Henry Ford, antisémite et fan du IIIe Reich. Jeff Bezos rêve de stations orbitales peuplées « d’Einstein et de Mozart ». Zuckerberg se rêve en empereur Auguste. Faut-il seulement rappeler les états de service d’Elon Musk et ses saluts nazis en mondovision ? Tous ces milliardaires quinquagénaires sont persuadés d’être les victimes du « wokisme », méprisent la diversité et les corps subalternes et sont convaincus d’appartenir à une « élite cognitive » à gros QI et gros compte en banque, née pour gouverner l’humanité… ou la fuir. Leur vision du futur est un futur antérieur.
« Le futur des techno-oligarques n’est jamais une bonne nouvelle pour nous, la multitude du vivant. »
Aujourd’hui, l’intention des techno-oligarques est claire : utiliser le paravent de la technoscience, peu importe son nom (aujourd’hui l’IA, hier la crypto, le « Web3 », le « métavers »…) pour justifier leur projet de subrogation du vivant et se façonner un monde sur-mesure. Leur futur est similaire à celui que l’historien Jeffrey Herf appelait les « modernistes réactionnaires » de la République de Weimar : le progrès technique sans le progrès social, au service de leurs seuls intérêts de classe, de race et de genre. Les capitaines d’industrie du modernisme réactionnaire se sont lovés dans le nazisme, et ceux que la journaliste Carole Cadwalladr appelle les « broligarques » de la Silicon Valley, Elon Musk en tête, sont en train de réaliser un coup similaire en prenant le contrôle du gouvernement des États-Unis, unilatéralement et hors de tout cadre institutionnel, et en déployant déjà des outils de surveillance algorithmique. Leur futur n’est jamais une bonne nouvelle pour nous, la multitude du vivant.
Dans votre livre, vous parlez également d’une fabrique de l’apocalypse selon l’IA : pourriez-vous développer ce concept, au sous-texte ultra capitaliste ? En quoi celui-ci entre en contraction avec la vision que l’on avait par le passé de l’IA, plutôt abordée avec optimisme par la presse généraliste américaine ?
Thibault Prévost : Il est assez fascinant de voir combien le discours apocalyptique a reculé depuis le précédent « sommet de l’IA » britannique de novembre 2023, qui mettait les « risques existentiels » au centre des débats alors que celui organisé récemment en France, résolument pro-business, considère les mêmes discours comme de la science-fiction. La hype apocalyptique est passée, au désespoir des voix les plus catastrophistes, que la chercheuse Nirit Weiss-Blatt appelle les fournisseurs de « panic-as-a-service ».
Fabriquer de l’IApocalypse est un métier, une source de revenu ou de capital politique. Surtout, ce récit d’IApocalypse nous apprend énormément sur la vision du monde qu’adoptent ces prophètes. L’Apocalypse selon Nick Bostrom, reprise jusqu’à l’ONU, n’est pas du tout un scénario d’extinction du vivant ; la fin du monde, pour lui, c’est la fin, ou le simple ralentissement du techno-capitalisme débridé, et avec lui de la quête transhumaniste. Nick Bostrom considère qu’une guerre nucléaire ou une pandémie ne sont pas des risques existentiels, pourvu que sa caste y survive. La catastrophe, ce serait plutôt la mise en place d’une politique de décroissance. Ensuite, lorsque Sam Altman, Elon Musk et les autres décrivent leur IA cauchemardesque, on réalise qu’ils décrivent… l’entreprise capitaliste, cet organisme artificiel qui exploite des individus pour extraire, transformer, dominer et croître à l’infini. Une nouvelle fois, l’IA n’est qu’un paravent pseudoscientifique déployé devant un récit profondément idéologique.
« Je reste convaincu qu’une minorité d’artistes parviendra, dans les années qui viennent, à faire exploser les limites de ces logiciels prédictifs pour créer, justement, de l’imprévisible, dans des conditions de production éthiques »
Tu parles aussi de « pillage » et « d’écocide », en référence à tous ces lacs polluées et ces terres ravagées. Existe-t-il un futur où les IA pourraient s’inscrire dans un écosystème sans le ravager, ou du moins accompagner des actions écologiques ?
Thibault Prévost : On ne peut pas séparer une technique de ses conditions politiques d’émergence. Je le dis littéralement : ChatGPT et ses successeurs ne sont possibles que dans un contexte de capitalisme extractif, pollueur, pilleur et dérégulé depuis un quart de siècle. Ils sont la condensation des dynamiques d’impunité des géants de la tech, de généralisation du capitalisme de surveillance, de financiarisation terminale du capitalisme, de perte de souveraineté des gouvernements néolibéraux et de transformation du monde social en modèle réduit algorithmique.
L’histoire du champ de recherche de l’IA nous apprend une chose : dès ses origines en 1956, la technique est pensée au service de l’optimisation, qui est le mot d’ordre à la fois de la bureaucratie d’État et de l’industrie – ce que le technocritique Evgueny Morozov appelle « le lobby de l’efficacité ». Dès le choix des mots « intelligence artificielle » par John McCarthy (plutôt que « calculatrice de probabilités », par exemple), la technique s’inscrit dans un projet politique radical : la réduction de l’être humain à sa capacité de calcul pour faciliter sa modélisation et sa prédiction (par l’État), et maximiser sa docilité et sa capacité de production (dans l’entreprise).
L’IA n’existe pas sans sa superstructure : une industrie lourde, extractrice, polluante, qui reproduit la division internationale du travail héritée des empires coloniaux et détraque tout ce qu’elle touche, jusqu’à la qualité de l’électricité des ménages étasuniens. Elle n’existe pas pour améliorer nos existences mais pour les dévaluer. Elle n’existe pas pour augmenter nos capacités cognitives mais pour les atrophier. Elle n’existe pas pour penser une alternative au capitalisme néolibéral mais pour accélérer sa mutation, autocratique et monopolistique. Elle n’existe pas pour redistribuer mais pour capter, confisquer, accumuler. Au service de ses créateurs et de leur haine de la multitude humaine, autonome et imprévisible.
Tout de même, il paraît indéniable qu’une nouvelle génération d’artistes trouve actuellement dans l’IA un nouveau médium de création, au point, pour certains, de créer leurs propres modèles d’IA…
Thibault Prévost : Je pense qu’une œuvre d’art est indissociable de ses conditions de production. La technocritique utile consiste à interroger ces conditions de production, au-delà d’une binarité stérile du pour ou contre l’outil. On peut parfaitement être à la fois, comme Eryk Salvaggio, un artiste qui utilise brillamment ce nouvel outil et l’une des voix les plus justes pour en analyser les conséquences. Il faut commencer par définir ce que l’on appelle « IA » ici : les logiciels de retouche automatisée, y compris ceux qui s’activent automatiquement dans les appareils photo de nos téléphones, n’impliquent pas la même perte d’agentivité qu’un générateur d’images, par exemple.
Dans ce dernier cas, il faut comprendre que des logiciels comme Stable Diffusion n’existent que sur le pillage préalable du travail de millions d’artistes, qui ne seront jamais rémunérés ou crédités pour leur travail. Il faut le garder à l’esprit à chaque fois que l’on voit une oeuvre « générée par IA », dans laquelle « IA » implique les logiciels commerciaux d’OpenAI et consorts : la réalité factuelle, c’est que l’oeuvre est le résultat statistique moyen d’une base de données texte-image illégalement constituée (la plupart du temps LAION 5B, dont les conditions de production posent elles aussi de gros problème éthiques). Il faut ensuite se poser la question de l’empreinte écologique d’un tel outil, et par conséquent de l’oeuvre qui en résulte.
L’autre conséquence de l’utilisation de ces systèmes sur l’art et les artistes, outre la perte d’autonomie créatrice, c’est le risque de moyennisation, d’appauvrissement de l’imagination : paradoxalement, je trouvais Stable Diffusion beaucoup plus intéressant en 2022, lorsque les résultats donnaient systématiquement des images étranges et déformées, malaisantes, comme une version inachevée du simulacre. Plus les logiciels s’améliorent (en pillant nos données personnelles et en polluant nos écosystèmes), plus le résultat qu’ils délivrent est conforme à nos demandes, plus ils cessent de se comporter en médium artistique pour devenir de bêtes machines-outils, sur lesquelles l’artiste pose alors un regard de contremaître pour créer un art industriel, dénué de ce que Walter Benjamin appelle « aura ».
Comme l’explique très bien l’auteur de science-fiction Ted Chiang, créer, c’est prendre une série de décisions à la suite, c’est faire preuve d’agentivité à chaque seconde. Les logiciels de génération automatique de mots, de sons ou d’images diminuent drastiquement ce phénomène, quant ils ne l’annulent pas tout simplement. Et contrairement à de précédents médiums comme l’appareil photo et le logiciel de retouche, les logiciels génératifs commerciaux, sur lesquels l’artiste n’a généralement aucun contrôle, aucune compréhension, offrent très peu de possibilités de dépassement de leur fonction, de possibilités de glitch, qui est pour moi l’un des autres grands ressorts de la création à l’ère de la technique. Ce ne sont pas de outils d’expansion de l’imagination, mais de réduction des capacités cognitives humaines sous couvert « d’optimisation » productiviste. Mais je reste convaincu qu’une minorité d’artistes parviendra, dans les années qui viennent, à faire exploser les limites de ces logiciels prédictifs pour créer, justement, de l’imprévisible, dans des conditions de production éthiques.
- Les prophètes de l’IA : pourquoi la Silicon Valley nous vend l’apocalypse, de Thibault Prévost, Lux Editor, 207 pages, 18€.
