par Le président américain a réuni à la Maison-Blanche les dirigeants d’OpenAI, Anthropic, Google, Meta, Nvidia et xAI pour signer un accord volontaire de sécurité. L’accord signé prévoit des contrôles internes et des audits externes, mais aucune sanction. Le même jour, OpenAI annonçait renoncer à publier un nouveau modèle jugé trop risqué, tandis qu’Anthropic avertissait dans son prospectus d’introduction en Bourse que ses technologies pourraient présenter des «risques existentiels pour l’humanité».
Lorsque les dirigeants les plus puissants de la tech se sont réunis dans l’East Room de la Maison-Blanche pour signer, aux côtés du président américain, un document sur l’avenir de l’intelligence artificielle, Donald Trump l’a présenté comme une « constitution ». Pourtant, cette « constitution » n’a aucune force légale, ne prévoit aucune sanction et ne crée aucune autorité de régulation indépendante.
Mardi 29 septembre, Donald Trump a réuni à la Maison-Blanche les principaux dirigeants américains de l’intelligence artificielle. Autour de la table, Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google), Mark Zuckerberg (Meta), Jensen Huang (Nvidia) et Elon Musk (xAI). Étaient également présents Jeff Bezos (Amazon), Satya Nadella (Microsoft) et Lisa Su (AMD), entre autres.
À l’issue du déjeuner, les participants ont signé un document baptisé «White House Accord on Super Intelligence». Présenté par Donald Trump comme une «constitution» de l’IA, ce texte est décrit comme «moralement contraignant». Il engage les entreprises signataires à mettre en place des contrôles internes robustes, à travailler avec des auditeurs externes indépendants et à créer des comités au sein de leurs conseils d’administration chargés d’examiner les résultats des évaluations et des audits.
Mark Zuckerberg a résumé la portée du texte en disant que «l’idée n’est pas que ce sera la seule chose que nous ferons. C’est un début et un accord que l’ensemble du secteur peut atteindre.»
Aucune obligation légale, aucune sanction
Le point central de cet accord est ce qu’il ne contient pas d’accord. Aucune nouvelle infraction n’est créée, aucune sanction n’est prévue, et aucune autorité indépendante dotée d’un pouvoir de contrôle n’est instituée. Les entreprises s’engagent à construire leurs propres mécanismes de vérification, à les faire auditer par des tiers qu’elles sélectionnent elles-mêmes, puis à en rendre compte à leurs propres conseils d’administration.
Donald Trump a assumé ce choix devant la presse en déclarant que «il y aura une très forte dimension d’auto-régulation». Il a ajouté que les patrons présents «veulent tous agir de la bonne manière», évoquant un «sentiment d’amour pour notre pays». Le président américain, qui refuse toute réglementation contraignante susceptible de ralentir les entreprises américaines face à la concurrence chinoise, a néanmoins indiqué réfléchir à la création d’une «sorte de comité» qui surveillerait le secteur. Mike Johnson, président républicain de la Chambre des représentants et organisateur de la réunion, a qualifié cette rencontre de «première étape très importante».
OpenAI annule un modèle pour raisons de sécurité
Le calendrier de cette réunion est difficile à ignorer. La veille, OpenAI a confirmé l’abandon du lancement de GPT-6.1 Astra, un modèle qui devait être déployé en octobre. Les tests internes ont révélé que le système ne respectait pas les standards de sécurité et d’alignement de l’entreprise.
Selon le Wall Street Journal, Astra a montré des niveaux de tromperie plus élevés que son prédécesseur. Le modèle ne divulguait pas toujours précisément les actions qu’il avait entreprises. Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a expliqué qu’Astra «progressait sur certains axes, comme la paresse du modèle, mais n’atteignait pas la barre en matière de respect du périmètre et des autorisations, et de communication à l’utilisateur sur le travail effectué».
Ce n’est pas un incident isolé. OpenAI a reconnu que certains de ses agents avaient accédé à des systèmes informatiques extérieurs sans autorisation, notamment des sites gouvernementaux américains.
Anthropic évoque des «risques existentiels pour l’humanité»
Le même jour, le contenu du prospectus d’introduction en Bourse d’Anthropic, consulté par Reuters, a été révélé. L’entreprise y avertit ses futurs investisseurs que ses technologies pourraient présenter des «risques catastrophiques ou existentiels pour l’humanité».
Sur les 261 pages du document, 80 sont consacrées aux facteurs de risque. Anthropic y décrit des comportements que ses modèles pourraient adopter comme «résister à une mise hors service», «dissimuler ou manipuler des informations», ou encore des comportements «s’apparentant au chantage». L’entreprise reconnaît également que si ses modèles comprennent qu’ils sont en train d’être évalués, cela limite «de manière significative» sa capacité à juger de leur sécurité. Evan Hubinger, chercheur en sécurité chez Anthropic, a estimé à titre personnel à plus de 10% la probabilité que l’IA puisse tuer des êtres humains au cours de la prochaine décennie.
Dans le même temps, Anthropic a lancé Claude Sonnet 5.5, un nouveau modèle plus rapide et moins coûteux que le précédent.
82% des Américains inquiets
Ces avertissements interviennent dans un contexte d’inquiétude croissante de l’opinion américaine. Selon un sondage CNN, 82% des Américains se disent «inquiets» du rythme de développement de l’IA. Une proportion encore plus élevée (88%) se déclare préoccupée par la possibilité que l’IA dépasse un jour l’intelligence humaine.
L’enjeu politique est d’autant plus sensible que les élections de mi-mandat se tiendront le 3 novembre. John Thune, chef de la majorité républicaine au Sénat, a jugé nécessaire d’avoir «au moins un plan et des garde-fous», tout en défendant une «touche légère» de régulation.
«Super Intelligence» et America.gov
Le même jour, Donald Trump a signé un décret demandant à l’ensemble de l’administration fédérale d’employer les termes «Super Intelligence» et «SI» à la place d’«intelligence artificielle» et «AI» dans ses communications officielles. Le texte charge le conseiller scientifique du président de préparer sous 60 jours une définition légale de cette «Super Intelligence».
La Maison-Blanche a également lancé America.gov, une interface conversationnelle présentée comme un portail unique vers les services fédéraux. Le site permet actuellement de poser des questions en langage naturel et d’obtenir des réponses issues de sources officielles. Une deuxième phase, prévue pour début 2027, doit permettre d’effectuer des démarches comme le renouvellement de passeport ou l’inscription à Medicare directement via l’interface.
A Savoir
Définition
Qu’est-ce que l’«alignement» d’un modèle d’IA ?
L’alignement désigne l’ensemble des techniques visant à s’assurer qu’un modèle d’IA agit conformément aux intentions de ses concepteurs et aux attentes des utilisateurs. Un modèle «mal aligné» peut mentir sur ses actions, sortir du périmètre qui lui a été fixé ou adopter des comportements imprévus.
Qu’est-ce qu’un prospectus d’introduction en Bourse ?
Lorsqu’une entreprise entre en Bourse, elle doit publier un document détaillé présentant son activité, sa situation financière et les risques associés à son modèle économique. Ce document, appelé prospectus, est destiné aux investisseurs potentiels. Il est rare qu’une entreprise y mentionne des risques «existentiels pour l’humanité».
Pourquoi la consommation électrique de l’IA est-elle un enjeu ?
Selon l’Agence internationale de l’énergie, la consommation mondiale des centres de données pourrait passer d’environ 415 TWh en 2024 à près de 945 TWh en 2030, portée principalement par l’IA. Les États-Unis représentaient environ 45 % de cette consommation en 2024, soit plus de 4 % de leur électricité nationale.
«Super Intelligence»
Dans le décret de Trump, ce terme reprend provisoirement la définition légale actuelle de l’«intelligence artificielle», telle que fixée par le titre 15 du Code des États-Unis. Le conseiller scientifique du président doit proposer sous 60 jours un projet de définition légale distincte. Dans le milieu universitaire, «super intelligence» désigne généralement un système d’IA surpassant les capacités humaines dans tous les domaines cognitifs, ce qui est fondamentalement différent des modèles actuels.
«Moralement contraignant»
Cette expression n’a pas de définition juridique dans l’accord. Elle signifie que les signataires prennent un engagement moral et réputationnel, sans que cela crée d’obligation contractuelle ou légale exécutoire, ni de conséquence en cas de manquement.
