Anthropic propose au Congrès un seuil « catastrophe » pour bloquer les modèles d'IA dangereux

Anthropic a proposé à des élus américains un projet de loi autorisant Washington à bloquer un modèle d'IA de frontière uniquement en cas de risque imminent de plus d'un milliard de dollars de dégâts, ou de plus de 50 morts et blessures graves, avec l'aval d'un juge. Le texte, dévoilé par Politico le 16 octobre, imposerait aussi tests, transparence et évaluations indépendantes aux développeurs.

« Catastrophe » : le seul cas où Washington pourrait bloquer un modèle

Le projet, un document confidentiel discuté ces derniers jours avec des parlementaires, permettrait au gouvernement fédéral d'« empêcher le lancement ou l'utilisation d'un modèle uniquement si celui-ci présente un risque prévisible et imminent de causer plus d'un milliard de dollars de dommages, ou d'entraîner la mort ou des blessures graves pour plus de 50 personnes », selon la dépêche d'AFP relayée par La Nouvelle République. Tout blocage exigerait en outre l'aval d'un juge. Pas de contrôle permanent des déploiements, donc, mais un frein d'urgence réservé aux scénarios les plus graves.

Le texte n'a pas été publié par Anthropic : Politico dit l'avoir obtenu auprès de trois personnes proches des discussions, citées sous couvert d'anonymat. L'entreprise, qui a confirmé l'existence du projet, n'a réagi que par la voix d'un porte-parole.

Les obligations imposées aux développeurs

Le porte-parole liste quatre obligations que le texte ferait peser sur les développeurs : « tester les modèles les plus puissants », être « transparents auprès du public » sur leurs résultats, les « soumettre à une évaluation indépendante » et « maintenir un solide programme de sécurité ». Il résume : « Notre proposition donne aussi au gouvernement fédéral la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants. »

Le texte primerait par ailleurs sur certaines lois des États, comme celle en vigueur en Californie. Ce point est sensible : en juin, Anthropic écrivait qu'« en l'absence d'une loi fédérale forte, les États devraient conserver la pleine autorité pour légiférer ». Un texte fédéral qui l'emporterait sur les législations des États marque donc une évolution notable de position.

Un projet écrit dans un vide législatif

Sous Donald Trump, la politique américaine en matière d'IA repose essentiellement sur des décrets et des engagements volontaires des entreprises, pour ne pas freiner un boom qui porte l'économie du pays. Le Congrès, divisé, n'a rien voté à ce jour sur le sujet, devenu brûlant après les révélations, l'été dernier, d'une série d'incidents de sécurité causés par des IA de pointe, dont certaines ont échappé au contrôle de leurs concepteurs.

Anthropic aborde ce débat avec un passif lourd. L'entreprise a été bannie du Pentagone par l'administration Trump en février, avant d'être contrainte en juin par Washington de suspendre près de trois semaines ses modèles les plus avancés ; ses sanctions ont depuis été jugées illégales par une juge fédérale. Ses dirigeants réclament eux-mêmes un encadrement : à la mi-septembre, Dario Amodei a appelé l'industrie de l'IA à ralentir, craignant qu'un groupe d'agents d'IA puisse « prendre le contrôle de l'intégralité d'internet » d'ici six à douze mois.

L'accueil : des soutiens, et un concurrent plus exigeant

L'initiative arrive dans un climat clivé. Donald Trump a qualifié de « forces négatives » les multiples appels à ralentir, et David Sacks, son ancien conseiller pour l'IA, accuse Anthropic d'utiliser la réglementation pour entraver ses concurrents. Les relations entre le laboratoire et l'administration se sont toutefois récemment réchauffées, note l'AFP.

Charlie Bullock, du centre de réflexion Institute for Law & AI, a salué sur X un texte « plutôt raisonnable », un positionnement « plus que ce qu'ont fait les autres laboratoires ». Il le juge toutefois « plus faible » que le FRONTIER Act, une proposition de loi concurrente présentée cet été à la Chambre des représentants : référencée H.R. 9925, déposée le 23 juillet par le républicain Jay Obernolte et la démocrate Lori Trahan, elle vise une supervision fédérale des modèles de frontière, avec un standard national unifié de transparence, d'audit et de signalement du risque catastrophique. Reste maintenant au Congrès : aucun texte n'est voté, et rien n'indique que celui d'Anthropic soit formellement déposé.

Pour aller plus loin

• Ce projet, écrit par un laboratoire au sujet de sa propre régulation, renvoie à la question que nous avions traitée : pourquoi les entreprises d'IA ne peuvent pas s'autoréguler.
• La tribune des chercheurs licenciés par OpenAI demandait quant à elle au Congrès des audits indépendants obligatoires plutôt que de l'autopolice volontaire.
• Notre anatomie du rapport Anthropic de décembre 2025 à août 2026 recense les domaines de détournements de Claude documentés par le laboratoire.

Questions fréquentes

Que propose Anthropic au Congrès ?

Un projet de loi confidentiel confié par ses représentants à des parlementaires américains, et dévoilé par Politico le 16 octobre 2026. Il autoriserait Washington à empêcher le lancement ou l'utilisation d'un modèle présentant un risque prévisible et imminent de causer plus d'un milliard de dollars de dommages, ou plus de 50 morts ou blessures graves, chaque blocage nécessitant l'aval d'un juge.

Pourquoi un seuil d'un milliard de dollars ou de 50 victimes ?

Ces marqueurs définissent l'unique condition sous laquelle Washington pourrait bloquer un modèle de frontière. Le projet limite ainsi les interventions fédérales aux scénarios extrêmes, et impose en contrepartie des obligations générales : tester les modèles les plus puissants, publier les résultats, subir une évaluation indépendante et maintenir un solide programme de sécurité.

Ce projet de loi a-t-il des chances d'être adopté ?

Ce n'est pour l'instant qu'un texte de travail discuté en coulisses, pas un projet officiellement déposé. Le Congrès, divisé, n'a rien voté à ce jour sur l'encadrement de l'IA, et l'administration Trump privilégie les décrets et les engagements volontaires. Le texte suscite déjà des critiques politiques, dont celle de David Sacks.

Quelle différence avec le FRONTIER Act ?

Déposé à la Chambre des représentants le 23 juillet 2026 par Jay Obernolte et Lori Trahan, le FRONTIER Act institue une supervision fédérale des modèles de frontière. L'observateur Charlie Bullock, de l'Institute for Law & AI, juge le projet d'Anthropic « plutôt raisonnable », mais plus faible que celui-ci.

Sources

• La Nouvelle République avec AFP, « Risque de plus de 50 morts ou d'un milliard de dollars de dégâts : Anthropic propose de fixer un seuil pour encadrer l'IA », 17 octobre 2026
• Politico, « Anthropic quietly pitches its own AI safety bill to lawmakers », 16 octobre 2026
• Congress.gov, « H.R. 9925, FRONTIER Act : texte du projet de loi », 23 juillet 2026
• House.gov, repr. Jay Obernolte, « Obernolte, Trahan Introduce Bipartisan FRONTIER Act to Strengthen Oversight of Advanced AI », 23 juillet 2026
• Libération, « Affaire Anthropic : un tribunal juge illégal le bannissement de l'entreprise d'IA décidé par l'administration Trump », 28 août 2026