par Alors qu’Anthropic se prépare à entrer en bourse, la démission publique d’un chercheur de 27 ans expose la contradiction la plus profonde de la Silicon Valley, ceux qui comprennent le mieux l’intelligence artificielle sont aussi ceux qui en ont le plus peur. À Washington, un nombre croissant de législateurs réclament désormais de nouvelles règles.
Le 8 septembre 2026 au soir, Jacob Coxon a publié un court message sur X qui dit « J’ai démissionné d’Anthropic aujourd’hui. » En quelques heures, la publication a été vue des dizaines de millions de fois. Coxon n’est pas un employé ordinaire car il a travaillé successivement chez OpenAI et Anthropic, spécialisé dans le « pré-entraînement », c’est-à-dire l’étape initiale où les grands modèles de langage absorbent des masses de données. La particularité de ce poste, les chercheurs en pré-entraînement façonnent les capacités brutes du modèle, avant que les équipes de sécurité n’interviennent.
Son accusation est directe, « Les deux entreprises n’agissent pas de manière responsable. Elles foncent vers une superintelligence capable de s’améliorer elle-même, en jouant avec nos vies. » Il insiste, ce n’est pas une stratégie marketing. « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tuer tout le monde d’ici la fin de cette décennie. »
Un témoignage conforté de l’intérieur
Ce qui donne un poids particulier à ces propos, c’est que la direction d’Anthropic ne s’est pas distanciée de Coxon. Evan Hubinger, responsable de l’équipe « science de l’alignement » de l’entreprise, a répondu publiquement sur X en écrivant que « Nous croyons effectivement et sincèrement que l’IA pourrait tuer tous les humains. » Il estime personnellement cette probabilité à « plus de 10 % » au cours de la prochaine décennie. Hubinger reconnaît aussi qu’Anthropic « n’a pas encore de solution » pour garantir qu’un système d’IA dépassant les capacités humaines reste obéissant à ses créateurs.
Le dilemme décrit par Coxon a quelque chose de fataliste. Selon lui, la direction d’Anthropic est consciente des risques, mais l’entreprise est « piégée dans une course pour arriver la première » car elle pense qu’aucun autre acteur n’agira de façon responsable, donc elle doit le faire elle-même, même si cela implique de prendre les mêmes risques. Il utilise le mot « endgame » (fin de partie) pour décrire cette phase car tout se décidera avant qu’il ne soit trop tard.
Un phénomène qui dépasse un seul individu
Cette démission n’est pas isolée. En février 2026, Mrinank Sharma, de l’équipe sécurité d’Anthropic, avait déjà averti en partant que « le monde est en danger ». Le départ de Coxon intervient à un moment délicat car Anthropic prépare une introduction en bourse de grande ampleur, et peu avant, un outil d’IA en phase de test avait lancé de sa propre initiative des attaques informatiques non autorisées contre plusieurs laboratoires.
La contradiction de fond oppose la logique commerciale aux engagements de sécurité. En février, Anthropic a retiré de sa charte de sécurité la promesse de « suspendre le développement si les risques ne peuvent être maîtrisés », au motif qu’une pause unilatérale laisserait des concurrents moins prudents dominer le secteur. Fin juillet, plus de mille professionnels, dont le PDG d’Anthropic Dario Amodei, ont signé une lettre ouverte appelant Washington à préparer un mécanisme de « ralentissement coordonné ».
Washington s’empare du dossier
Ces avertissements commencent à produire des effets politiques. Un nombre croissant de législateurs américains réclament de nouvelles règles pour régir les systèmes d’IA après les terribles avertissements de deux chercheurs d’Anthropic, selon lesquels les progrès rapides de l’intelligence artificielle pourraient conduire à l’extinction de la race humaine dans un avenir pas trop lointain.
Le Congrès, jusqu’ici divisé sur la question, semble trouver dans ces témoignages internes un argument difficile à ignorer car lorsque ceux qui construisent la technologie en décrivent eux-mêmes le risque existentiel, l’inaction devient politiquement coûteuse.
Coxon n’appelle pas à arrêter immédiatement l’IA. Sa demande est plus précise, les chercheurs doivent se demander si leur participation est moralement justifiable, et le secteur a besoin d’une intervention publique ou d’un ralentissement concerté, plutôt que d’une course où chacun agit seul. Un message qui, désormais, trouve un écho au-delà de la Silicon Valley.
A Savoir
Définitions
Pré-entraînement : première phase de développement d’un grand modèle de langage, durant laquelle le modèle absorbe d’énormes volumes de textes pour acquérir ses capacités de base. Cette étape, très coûteuse en calcul, détermine le « plafond » des capacités du modèle.
Alignement : domaine de recherche visant à faire correspondre le comportement d’un système d’IA aux intentions et aux valeurs humaines. Ce problème devient particulièrement difficile lorsque le système devient plus puissant que ses concepteurs.
Superintelligence : système d’IA théorique dépassant les capacités cognitives humaines dans tous les domaines.
Auto-amélioration récursive : processus par lequel un système d’IA améliore lui-même son architecture, ce qui peut produire une croissance exponentielle de son intelligence, hors de portée de la compréhension et du contrôle humains.
Niveau de sécurité IA (AI Safety Level) : cadre de la « politique de mise à l’échelle responsable » d’Anthropic, qui attribue un niveau de sécurité aux modèles selon leurs capacités. Si un modèle franchit certains seuils, l’entreprise doit suspendre le déploiement ou l’entraînement de systèmes plus puissants tant que les protections adéquates ne sont pas en place.
Risque existentiel : menace pouvant entraîner la disparition de l’humanité ou l’effondrement irréversible de sa civilisation. Dans le débat sur l’IA, il désigne l’hypothèse qu’un système d’IA mal aligné ou incontrôlé cause des dommages catastrophiques à l’échelle mondiale.
