Au cours de la semaine écoulée, une campagne s'est développée dans les médias américains autour d'une « catastrophe de l'IA » imminente, selon les termes du New York Times, mettant en garde contre des « agents d'intelligence artificielle imprévisibles et hors de contrôle ».

Les dangers que représente le déploiement de systèmes d'IA toujours plus puissants par des entreprises en quête de profit sont réels. Le but de cette campagne est de faire en sorte qu'ils ne fassent jamais l'objet d'un débat public rationnel. Un avertissement authentique a été saisi au vol, amplifié et transformé en situation d'urgence, et cette urgence sert à arrimer plus directement le développement de la technologie aux intérêts géopolitiques de l'impérialisme américain et à le soustraire à tout contrôle démocratique.

L'élément déclencheur a été la démission, le 8 septembre, d'un chercheur d'Anthropic, Jacob Coxon, qui a déclaré que « les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie ». Coxon a renoncé à des actions non encore acquises et affirmé qu'il quittait purement et simplement le secteur. Evan Hubinger, qui dirige la recherche sur l'alignement chez Anthropic, lui a apporté son soutien le lendemain : « Jacob a raison : nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains ! Personnellement, j'estime cette probabilité à plus de 10 pour cent au cours de la prochaine décennie. » Hubinger a ajouté que les modèles actuels présentaient peu de risques et que le danger résidait dans les systèmes capables de s'améliorer eux-mêmes en cours de développement.

La méthode est connue. En septembre 2002, alors que l'administration Bush préparait l'invasion de l'Irak, la formule qui tournait en boucle sur toutes les chaînes était : « Nous ne voulons pas que la preuve irréfutable prenne la forme d'un champignon atomique. » En 2020, tandis que la classe dirigeante s'employait à démanteler les protections contre la COVID-19, c'était que le remède ne devait pas être pire que la maladie. Dans chaque cas, un avertissement a été mué en panique, et la panique a servi à faire passer des mesures préparées d'avance. Il en va de même aujourd'hui. Chacun intervient pour influencer le discours, de Barack Obama, Kamala Harris et Bernie Sanders à Steve Bannon et Elon Musk.

Samedi, le PDG d'Anthropic, Dario Amodei, a publié un essai intitulé « We Must Pace the Frontier » (« Pour un rythme soutenable dans la technologie de pointe »), soutenu en quelques heures par Sam Altman, d'OpenAI, Demis Hassabis, de Google DeepMind, et Musk, l'homme le plus riche du monde. Lundi, le Times faisait sa une d'une analyse de David Sanger qualifiant la « domination en matière d'IA » d'« enjeu de sécurité nationale numéro un du siècle ».

L'essai d'Amodei propose des « évaluateurs intégrés » choisis par les laboratoires eux-mêmes, une forme d'autosurveillance destinée à prévenir toute réglementation contraignante. Les entreprises d'IA font pression pour que la loi fédérale prime les lois des États en la matière. Et les laboratoires se voient intégrés à l'appareil de sécurité nationale, avec la classification au secret-défense et l'immunité juridique qui en découlent. La panique établit que seules les entreprises ayant créé le danger sont aptes à le gérer. C'est un fossé protecteur creusé autour des acteurs en place, au moment même où Anthropic prépare son introduction en Bourse.

Le contexte immédiat de cette campagne, c'est l'accroissement incontestable des capacités des derniers grands modèles de langage, en particulier Fable et Mythos 5.1 d'Anthropic, lancés le 1er septembre, et Astra d'OpenAI, lancé le 3 septembre. Ces systèmes sont capables de travailler de façon autonome sur des tâches pendant des heures, voire des jours d'affilée, et de résoudre des problèmes complexes à une vitesse extraordinaire.

Les dirigeants qui mènent cette campagne entendent se servir de ces systèmes pour lancer une attaque majeure contre l'emploi. Amodei a affirmé à Axios en mai 2025 que l'IA pourrait supprimer la moitié des emplois de bureau de niveau débutant et porter le chômage à 10 ou 20 pour cent en cinq ans, et il a averti en janvier que les personnes ainsi écartées « pourraient former une “sous-classe” sans emploi ou très mal payée ». Altman a déclaré devant la Réserve fédérale que « des catégories entières d'emplois vont disparaître ».

À l'attaque contre l'emploi s'ajoutent les dangers que représente l'utilisation de ces systèmes par les laboratoires eux-mêmes, engagés dans une course effrénée au développement des modèles les plus performants, course dont le vainqueur se voit promettre une richesse insondable.

L'exemple le plus dangereux a été le piratage de Hugging Face par des agents de modèles d'OpenAI. Selon les propres rapports d'OpenAI, l'entreprise a lancé un modèle « entraîné à faire preuve d'une grande persévérance » sur un banc d'essai de piratage informatique, ses garde-fous « intentionnellement non activés ».

Entre la fin mai et le 5 juillet, le personnel d'OpenAI a constaté à trois reprises des signes indiquant que des agents s'échappaient de leur environnement, et pourtant les tests se sont chaque fois poursuivis. Du 9 au 13 juillet, quelque 700 agents, après s'être échappés en exploitant les failles du logiciel de l'entreprise israélo-américaine JFrog, ont pénétré dans Hugging Face à l'aide d'identifiants compromis et de failles présentes dans les propres systèmes de Hugging Face.

OpenAI n'a pas communiqué les historiques réclamés par des élus du Congrès et par Hugging Face. Aucune poursuite pénale n'a été engagée. Hugging Face, que Nvidia a depuis accepté de racheter, n'a intenté aucune action en justice ; l'entreprise aurait alerté le FBI, qui s'est refusé à tout commentaire.

Les détails de ce que le PDG de Hugging Face a qualifié de cyberattaque « sans précédent » menée au moyen de l'IA révèlent les dangers réels de celle-ci. Ce n'était pas simplement le produit des caractéristiques intrinsèques des grands modèles de langage. C'était le résultat de la négligence grossière d'une gigantesque entreprise d'IA qui a activé un modèle capable de mener des attaques informatiques, garde-fous délibérément désactivés, et a ignoré des avertissements répétés.

Rien de ce que proposent les laboratoires d'IA ne réduirait en quoi que ce soit ces dangers. Au contraire, la solution que préconise Amodei vise à une coordination toujours plus étroite avec le gouvernement américain dans sa guerre contre la Chine. Si les laboratoires américains ralentissent, écrit-il, « alors les projets liés au PCC, (non ralentis) eux, prendront de l'avance, créant un risque important pour la sécurité nationale. Je partage l'avis du secrétaire Bessent selon lequel une avance chinoise dans le domaine de l'IA ferait courir un grave danger aux États-Unis et au monde. »

Il déclare : « Ainsi, un élément clé d’un rythme soutenable au sein des démocraties consiste à maintenir aussi grande que possible l'avance des démocraties sur les autocraties en matière d'IA, afin de nous donner la marge de manœuvre dont nous avons besoin pour réguler efficacement ce rythme. »

La « démocratie », dans la bouche d'Amodei, est le nom sous lequel doit être légitimée l'intégration des entreprises d'IA à la machine de guerre. Les États-Unis ne sont en rien une « démocratie ». Leur président, admirateur déclaré de Hitler qui n'accepte aucun contrôle juridique sur son pouvoir, mène des guerres illégales à travers le monde et arme le génocide à Gaza. Les modèles d'Anthropic ont été utilisés lors de l'enlèvement du président du Venezuela en janvier et, au sein du système de ciblage de Palantir, lors de l'assaut contre l'Iran, dont la première matinée a vu une frappe de missile tuer 165 personnes dans une école de filles à Minab.

Pour sa part, Trump a réagi à la campagne en déclarant que « l'affirmation selon laquelle “l'IA va conquérir le monde” est un canular », et en réclamant la suppression totale de toutes les restrictions climatiques pesant sur le développement des centres de données pour l'IA. Il s'est vanté : « L'IA et les centres de données seront le plus grand moteur de développement économique de l'Histoire : plus grand que le pétrole, l'or, les diamants, ou même Internet. »

Trump parle au nom d'une fraction de l'oligarchie financière américaine qui redoute par-dessus tout qu'une chute des marchés déclenche une catastrophe financière. La « catastrophe » fait ainsi l'objet d'un affrontement au sein même de la classe dirigeante : d'un côté la fraction dont la fortune est liée au boom des centres de données et aux marchés, de l'autre les laboratoires et l'appareil de sécurité nationale, pour qui la technologie est avant tout une arme. Le Times parle au nom de ces derniers.

Le plus grand danger réside dans le caractère anarchique du développement de la technologie elle-même. Des systèmes d'une puissance immense et encore non mesurée sont bâtis par une poignée d'entreprises rivales qui se disputent parts de marché et valorisations, les garde-fous étant débranchés dès qu'ils freinent la course, et sans le moindre contrôle social.

Ce sont les mêmes gens qui mènent le monde au bord de la guerre nucléaire, qui ont laissé une pandémie tuer des millions de personnes plutôt que d'interrompre la marche du profit, et qui ont renoncé à tout effort pour enrayer le réchauffement de la planète.

La puissance même qui rend cette technologie si dangereuse aux mains de l'oligarchie en fait, aux mains de la classe ouvrière, un instrument potentiellement d'une puissance prodigieuse au service du progrès humain. L'IA pourrait servir à concevoir des médicaments et des vaccins et à détecter les épidémies avant qu'elles ne se propagent, à diagnostiquer les maladies pour les milliards d'êtres humains qui n'ont jamais vu un spécialiste, à donner un enseignant à chaque enfant dans chaque langue, à planifier la production et la distribution à l'échelle mondiale pour que la nourriture ne soit pas détruite pendant que des gens ont faim, et à mener la réorganisation de l'énergie et de l'industrie nécessaire pour stopper le réchauffement de la planète.

Les oligarques de la technologie parlent sans cesse de l'« alignement » de la technologie sur les besoins de la « société ». Mais ils ignorent commodément que la « société » est composée de classes antagonistes, et que leur programme de suppression des emplois de l'immense majorité de la population se heurte de plein fouet au besoin de se nourrir de ceux qu'ils comptent licencier.

En d'autres termes, l'« alignement » de l'IA sous le capitalisme est un alignement sur le programme de la guerre et de l'inégalité galopante.

L'essai d'Amodei est, quelle qu'en soit l'intention, un aveu. Il y écrit qu'il faut ralentir le rythme du développement, mais reconnaît que c'est impossible, en raison de la concurrence entre les entreprises et avec la Chine. Il décrit une technologie dont le capitalisme est incapable de maîtriser le développement, et propose que l'État s'en empare à des fins de guerre. Savoir qui décide du rythme de développement de cette technologie, et à quelle fin, voilà précisément l’enjeu que la panique vise à tenir hors de portée du public.

La résolution adoptée en août par le congrès du Socialist Equality Party (Parti de l'égalité socialiste) « rejette aussi bien l'admiration béate que promeuvent les apologistes de l'industrie que la peur irrationnelle des technophobes », et exige que « les grandes entreprises de l'IA, de l'informatique en nuage, des semi-conducteurs et des plateformes numériques soient expropriées et transformées en services publics placés sous le contrôle démocratique de la classe ouvrière ».

La seule manière d'« aligner » la technologie sur les besoins de l'immense majorité de la société passe par l'exercice, par la classe ouvrière, d'un contrôle social sur les forces productives : c'est-à-dire par le socialisme.