C’est quoi le seuil « Critique » en cybersécurité IA ? Le nouveau palier que GPT-6 Astra vient de franchir

Bienvenue dans un nouveau numéro de Décryptage IA, la rubrique où l’on prend un concept technique qui fait la une et où on le déplie calmement, sans jargon. Cette semaine, le mot qui circule partout depuis le lancement de GPT-6 Astra, c’est « seuil Critique ». OpenAI l’utilise comme s’il s’agissait d’une évidence, mais concrètement, ça correspond à quoi ? Qui décide qu’un logiciel devient « critique » ? Et surtout, est-ce que les autres géants de l’IA ont, eux aussi, une règle du jeu comparable ? On démêle tout ça.

Le principe : une échelle de danger, pas une note de qualité

Depuis fin 2023, OpenAI utilise un document interne baptisé « Preparedness Framework », qu’on pourrait traduire par « cadre de préparation ». Son objectif n’est pas d’évaluer si un modèle d’IA est performant ou agréable à utiliser, mais de mesurer un risque bien précis : sa capacité à causer un dommage grave et à grande échelle, dans quatre grands domaines surveillés.

• La cybersécurité : la capacité du modèle à trouver et exploiter des failles informatiques ;
• Le risque biologique et chimique : la capacité à aider quelqu’un à concevoir une arme biologique ou chimique ;
• L’auto-amélioration de l’IA : la capacité du modèle à accélérer la recherche en intelligence artificielle elle-même, y compris sur sa propre conception ;
• L’autonomie du modèle : sa capacité à agir seul, sans supervision humaine continue, sur des tâches longues et complexes.

🔵 Pour les non-initiés, d’où vient cette idée ? L’idée d’une échelle de risque n’est pas propre à OpenAI. Elle s’inspire des échelles de confinement utilisées en biologie (les fameux « niveaux de biosécurité » BSL-1 à BSL-4 dans les laboratoires manipulant des agents pathogènes). L’analogie est directe : plus la capacité potentiellement dangereuse d’un modèle grimpe, plus les garde-fous exigés grimpent avec elle.

Comment on est passé de 4 paliers à seulement 2

Historiquement, le Preparedness Framework comportait quatre paliers : Faible (Low), Moyen (Medium), Élevé (High) et Critique (Critical). Mais en avril 2025, OpenAI a publié une version 2 du document et a supprimé purement et simplement les paliers Faible et Moyen. La raison invoquée est presque désarmante de franchise : ces deux niveaux, selon l’entreprise elle-même, « n’étaient pas opérationnellement impliqués » dans la prise de décision, autrement dit, ils ne déclenchaient jamais la moindre mesure concrète.

Depuis cette réforme, il ne reste donc que deux paliers qui comptent vraiment :

Palier	Définition officielle d’OpenAI	Conséquence concrète
Élevé (High)	Une capacité qui amplifie significativement des risques de dommage grave déjà existants	Le modèle ne peut pas être déployé tant que des garde-fous ne réduisent pas suffisamment le risque
Critique (Critical)	Une capacité qui introduit un risque significatif d’un tout nouveau type de menace grave, sans précédent connu	Des garde-fous sont exigés dès la phase de développement, avant même toute idée de déploiement

GPT-6 Astra est donc le premier modèle d’OpenAI à être classé Critique, et précisément dans le domaine de la cybersécurité. Jusqu’ici, aucun modèle de la société pas même GPT-5.6 Sol n’avait dépassé le palier Élevé.

Concrètement, qu’est-ce qui différencie « Élevé » de « Critique » ?

La nuance est subtile mais importante, et elle se résume en un mot : l’autonomie. Un modèle classé Élevé en cybersécurité, comme l’était GPT-5.6 Sol, sait déjà repérer des familles de vulnérabilités, rédiger un code d’exploitation fonctionnel (un « proof of concept ») et raisonner sur une chaîne d’attaque. Mais il a toujours besoin d’un opérateur humain pour orchestrer et valider chaque étape face à une cible réellement protégée.

Un modèle classé Critique, en revanche, n’a plus besoin de cet opérateur. À partir d’un objectif de haut niveau, par exemple « compromets ce serveur », il est capable de dénicher une faille inédite (un « zero-day »), de fabriquer une méthode pour l’exploiter, puis de mener l’attaque de bout en bout contre une cible défendue, sans qu’un humain ne dirige chaque étape.

🔴 Une définition qui fait débat OpenAI définit le « dommage grave » qui justifie ces paliers comme la mort ou la blessure grave de plus de 1 000 personnes, ou plus de 100 milliards de dollars de dégâts économiques. Certains chercheurs en sécurité de l’IA, comme le blogueur spécialisé Zvi Mowshowitz, ont critiqué cette barre jugée trop haute : selon eux, un système pourrait causer des dommages sociétaux massifs bien avant d’atteindre un seuil aussi extrême, sans jamais déclencher la moindre alarme du cadre.

OpenAI n’est pas seule à jouer à ce jeu-là

Ce genre de grille de lecture n’est pas une exclusivité d’OpenAI. La quasi-totalité des grands laboratoires d’IA ont adopté leur propre version de cette idée, avec un vocabulaire différent mais une logique très proche.

Entreprise	Nom du cadre	Échelle utilisée
OpenAI	Preparedness Framework	Élevé (High) → Critique (Critical)
Anthropic	Responsible Scaling Policy (RSP)	Niveaux de sécurité IA (ASL), de ASL-2 aujourd’hui à ASL-4 et au-delà
Google DeepMind	Frontier Safety Framework	Niveaux de capacité critique (CCL)
Meta	Outcomes-Led Frontier AI Framework	Évaluation par scénario de menace concret plutôt que par palier fixe

Chez Anthropic par exemple, les modèles grand public actuels (dont Claude) sont classés au niveau ASL-2. Le passage à ASL-3, activé pour la première fois en mai 2025, impose des protections renforcées, en particulier contre le risque de conception d’armes biologiques ou chimiques par des personnes ayant des connaissances techniques de base.

Ce que ça change vraiment pour l’utilisateur

Concrètement, le passage au palier Critique se traduit par une série de mesures très concrètes chez OpenAI, détaillées dans la fiche de sécurité (« system card ») publiée avec Astra :

• Un accès restreint aux capacités offensives les plus poussées, réservé à des organisations vérifiées via un programme baptisé « Daybreak » ;
• Un chiffrement renforcé des versions internes du modèle (les « checkpoints »), pour éviter qu’elles ne fuitent ;
• Une surveillance en temps réel de toutes les utilisations impliquant des outils externes, capable d’alerter un humain qui peut interrompre le traitement ;
• Une évaluation d’alignement obligatoire avant tout usage interne du modèle comme agent de programmation autonome.

🟡 Bon à savoir Pour un usage grand public classique dans ChatGPT, ce classement Critique ne change presque rien au quotidien : la version publique du modèle refuse toujours les demandes de type « écris-moi un code d’exploitation fonctionnel ». Les garde-fous les plus lourds concernent surtout les usages professionnels avec accès API étendu.

L’existence même de ces cadres est une bonne nouvelle : ils obligent les entreprises à documenter publiquement ce qu’elles savent de leurs propres modèles, ce qui n’allait pas de soi il y a encore trois ans. Mais il faut garder en tête une réalité simple : ce sont des engagements que chaque entreprise s’impose à elle-même, qu’elle peut techniquement modifier ou assouplir si un concurrent prend de l’avance, comme le prévoit d’ailleurs explicitement le texte d’OpenAI. Un système d’auto-évaluation reste un système d’auto-évaluation, aussi rigoureux soit-il sur le papier.

Et vous, qu’en pensez-vous ?

• Faites-vous confiance à une entreprise pour évaluer objectivement le danger de son propre produit ?
• Faudrait-il un organisme public indépendant, à l’image d’une agence du médicament, pour certifier ces classifications ?
• Ce genre d’annonce change-t-il votre perception de la sécurité des IA que vous utilisez au quotidien ?

On lit tous vos commentaires avec attention !