Dans Les Prophètes de l’IA (2024), Thibault Prévost produit une analyse incisive des discours technologiques dominants autour de l’intelligence artificielle. Il met notamment en lumière une rhétorique apocalyptique construite par les élites de la Silicon Valley pour servir des intérêts politiques et économiques bien précis. L’essai décrypte les motivations qui se cachent derrière les prophéties touchant à l’IA, tout en examinant les impacts réels de cette technologie sur nos sociétés.
Le discours alarmiste autour de l’intelligence artificielle ne surgit pas de nulle part. Thibault Prévost l’a bien compris et retrace ses racines philosophiques dans le mouvement transhumaniste, qui prône l’utilisation des technologies pour transcender les limites biologiques humaines. Des penseurs comme Nick Bostrom et Max More ont popularisé cette idéologie, influençant fortement les leaders de la Silicon Valley. Ces derniers, parmi lesquels on compte Elon Musk et Sam Altman, se sont approprié cette vision pour présenter l’IA non seulement comme une technologie révolutionnaire, mais aussi comme une force capable de sauver ou, au contraire, d’anéantir l’humanité.
Thibault Prévost montre que ce discours repose sur une mise en scène quasi-mystique de l’IA, qui est souvent dépeinte comme une entité divine en devenir. L’idée d’une « singularité technologique », popularisée par Ray Kurzweil, joue un rôle central dans cette vision : l’IA pourrait prochainement atteindre un point où, s’auto-alimentant, elle dépasserait les capacités humaines, conduisant soit à une utopie transhumaniste, soit à une catastrophe existentielle. Bien qu’elle séduise les investisseurs et alimente l’imaginaire collectif, cette perspective est vivement critiquée par l’auteur pour son éloignement des réalités sociales et politiques actuelles.
Le marketing de la peur : l’IA comme outil de contrôle
L’un des points centraux des Prophètes de l’IA est l’utilisation de la peur comme levier marketing. Thibault Prévost énonce comment les géants de la technologie créent un sentiment d’urgence autour de l’IA, en insistant sur ses dangers potentiels, pour attirer des financements massifs et renforcer leur pouvoir. Cette stratégie est comparable à la manière dont d’autres industries ont exploité la peur pour justifier des interventions ou des investissements majeurs, qu’il s’agisse du complexe militaro-industriel ou des crises climatiques.« On ne vend plus le progrès, mais la transcendance. On ne vend plus le futur, mais la fin des temps. On ne vend plus un objet, mais la naissance d’un dieu. »
À travers cette rhétorique apocalyptique, la Silicon Valley maintient une position de dominance. Les entreprises comme Google, Microsoft et Amazon se présentent non seulement comme des pionniers technologiques, mais aussi comme les garants de la sécurité mondiale face aux risques de l’IA. Le mouvement de l’altruisme efficace (EA) utilise, en outre, des arguments alarmistes pour promouvoir des solutions technologiques à des problèmes complexes, et obtenir ainsi des financements importants, tout en négligeant les causes structurelles de ces problèmes. En réalité, ces discours servent avant tout à monopoliser le contrôle des infrastructures technologiques et à bloquer toute régulation qui pourrait freiner les ambitions des entrepreneurs de la tech’. En ce sens, Thibault Prévost dénonce un processus de « capture réglementaire », où les mêmes acteurs qui prônent une régulation de l’IA tentent en réalité de l’influencer à leur avantage.
Les impacts concrets de l’intelligence artificielle
Au-delà des spéculations futuristes, Les Prophètes de l’IA explore les effets tangibles de cette technologie sur la société. Contrairement aux visions utopiques ou dystopiques, Thibault Prévost souligne que l’IA, dans son état actuel, sert principalement à accroître la productivité des grandes entreprises tout en précarisant les travailleurs. L’automatisation, par exemple, est largement utilisée pour surveiller et contrôler les employés dans des secteurs comme la logistique, où Amazon mène la charge avec ses systèmes de gestion algorithmique.
L’auteur dénonce dans le même mouvement l’industrie de la « fauxtomatisation », qui repose sur l’exploitation d’une main-d’œuvre invisible et sous-payée dans les pays du Sud pour effectuer des tâches essentielles au développement de l’IA, comme l’annotation des données. Cette exploitation est habilement masquée par le discours dominant sur l’IA, qui met l’accent sur l’automatisation et l’immatérialité, alors qu’en réalité, cette technologie repose très largement sur un travail humain pénible et mal rémunéré.
L’auteur met également en lumière l’empreinte environnementale dévastatrice de l’IA. Loin des promesses d’une solution immatérielle, l’intelligence artificielle repose sur des infrastructures matérielles massives, consommant des quantités d’énergie colossales et utilisant des ressources naturelles rares. En ce sens, elle contribue à aggraver les crises écologiques, malgré les efforts des entreprises pour minimiser ces impacts dans leurs communications.
En parallèle, Thibault Prévost analyse le rôle croissant de l’IA dans la surveillance et le contrôle social. De la reconnaissance faciale aux algorithmes discriminants, l’IA reproduit et amplifie les inégalités existantes. Elle devient ainsi un outil d’oppression dans les mains des puissants, perpétuant les biais et renforçant les hiérarchies sociales et raciales. Dans la police et la justice, les algorithmes perpétuent, voire accroissent, les discriminations raciales existantes. Aux États-Unis, ces systèmes identifient par exemple les personnes noires comme plus « à risque » de commettre des crimes. Un autre cas problématique étudié est celui des générateurs d’images, qui reproduisent des stéréotypes raciaux, reflétant les biais présents dans les données d’entraînement. Ailleurs, c’est une « société ordinale » basée sur des classements et des scores attribués par des machines qui pourrait advenir.
Vers une critique politique de l’IA
Pour Thibault Prévost, l’un des principaux problèmes du discours actuel sur l’intelligence artificielle est son détachement des enjeux politiques et économiques. L’IA est souvent présentée comme une force autonome, guidée par des logiques techniques, alors qu’elle est en réalité façonnée par des dynamiques de pouvoir. Prévost appelle à une « technocritique » qui remettrait en question les promesses et les menaces associées à l’IA. Il plaide pour une réappropriation démocratique du débat autour de cette technologie, loin des mythes véhiculés par la Silicon Valley.
L’auteur insiste également sur la nécessité de produire un récit alternatif à celui des « prophètes de l’IA ». Ce récit devrait se concentrer sur les impacts réels de la technologie, en mettant en avant les perspectives de justice sociale et environnementale. Il invite fermement à une réévaluation des priorités : plutôt que de fantasmer sur la Singularité ou l’apocalypse, il propose de s’atteler aux défis concrets auxquels nous sommes confrontés, qu’il s’agisse des conditions de travail, de la surveillance de masse ou de la crise écologique.
Les Prophètes de l’IA constitue une critique en règle, documentée et pertinente, de l’industrie de l’intelligence artificielle et des discours qui l’entourent. Loin de se limiter à une condamnation simpliste, le livre propose au contraire une analyse nuancée et profondément politique des enjeux liés à cette technologie. En démystifiant les prophéties, apocalyptiques comme idylliques, Thibault Prévost appelle à une réorientation du débat, centrée sur les réalités sociales et les luttes contemporaines. Mais pour cela, il faudra définitivement rompre avec les narrations catastrophistes et reconquérir le pouvoir sur ces technologies, afin de les mettre au service de l’humanité et non d’une poignée d’élites.
Les Prophètes de l’IA – Pourquoi la Silicon Valley nous vend l’apocalypse, Thibault Prévost
Lux, octobre 2024, 216 pages