Quand vous achetez une voiture, vous ne demandez pas au constructeur si elle est sûre : vous vous fiez à des crash-tests menés selon des règles communes. Pour l’intelligence artificielle de pointe, ce genre de règles n’existe pas vraiment. Fin septembre 2026, une information a donc retenu l’attention : Google, OpenAI et Anthropic, trois concurrents directs, préparerait ensemble un organisme chargé de définir comment tester ces IA. Son nom provisoire : SAFA.
SAFA en une phrase
| Définition : SAFA signifie Standards Authority for Frontier AI (« autorité de normes pour l’IA de pointe »). Le nom est provisoire. Ce serait un organisme volontaire, créé par l’industrie, pour définir comment tester les IA les plus puissantes avant leur mise en service, comment signaler les incidents, et qui est qualifié pour auditer. |
Précision utile : « IA de pointe » désigne les modèles les plus avancés du moment, ceux qui servent à écrire du code, raisonner ou agir seuls sur un ordinateur.
D’où vient l’information (et dans quel état est le projet)
L’information provient d’une enquête du site The Information, reprise ensuite par TechRepublic, The Verge, GuruFocus et plusieurs autres médias. Voici ce qui ressort de ces reprises :
- Juillet 2026 : Demis Hassabis, patron de Google DeepMind, aurait formulé une proposition de ce type.
- Septembre 2026 : les trois entreprises « finaliseraient leurs plans ». Un site affirme qu’OpenAI aurait confirmé des discussions avec Google et Anthropic à la mi-septembre.
- 24-25 septembre 2026 : la presse publie l’information.
- Lancement visé : fin 2026 ou début 2027, sans certitude.
| Attention : ce n’est pas encore officiel Aucune déclaration officielle de Google, OpenAI ou Anthropic. L’organisme n’est pas créé : sa charte, son financement et son fonctionnement ne sont pas arrêtés. Tout ce qui suit est rapporté, pas annoncé. |
Ce que ferait SAFA
SAFA aurait trois missions :
- Encadrer les tests avant mise en service. Soutenir des organisations tierces qui testent les modèles avant leur lancement, et définir des lignes directrices sur l’évaluation des risques.
- Organiser le signalement d’incidents. Fixer des protocoles pour que les développeurs déclarent les incidents de sécurité.
- Définir qui peut auditer. Établir des critères de qualification des auditeurs, pour éviter qu’un contrôleur autoproclamé juge un modèle.
L’idée serait de transformer les engagements publics de sécurité des trois entreprises en repères concrets et mesurables. Les entreprises hésiteraient encore sur un point : l’organisme devrait-il réaliser lui-même des évaluations ?
| Définition : « audit » et « tests tiers » Test tiers : un contrôle réalisé par quelqu’un d’extérieur à l’entreprise qui fabrique le produit. Audit : un examen méthodique et indépendant, selon une grille connue. C’est ce que font les laboratoires de crash-test, ou les organismes qui certifient des produits électriques. |
Ce que SAFA ne ferait pas
C’est le point le plus important pour ne pas se tromper. SAFA ne serait pas un régulateur public et il « ne deviendrait pas automatiquement un régulateur gouvernemental ». Il n’aurait aucun pouvoir légal pour bloquer le lancement d’un modèle ou sanctionner une entreprise. Il fonctionnerait à côté d’évaluateurs fédéraux américains, avec une articulation qui reste à définir.
Qui dirigerait l’organisme ?
Rien n’est tranché. L’ancien conseiller IA de la Maison-Blanche Sriram Krishnan et l’ancienne directrice du bureau scientifique Arati Prabhakar auraient été approchés pour le poste de directeur général, et que Condoleezza Rice serait envisagée à la présidence du conseil. Aucun n’a été nommé à ce stade.
Les critiques déjà entendues
- Les concurrents juge et partie. Le patron de Cohere aurait qualifié l’initiative de « cartel sous un autre nom ».
- Le risque de « portier autoproclamé ». TechRepublic souligne que des coûts de conformité élevés pourraient pénaliser les petits développeurs, notamment dans l’open source.
- L’absence de pouvoir contraignant. Des règles volontaires n’engagent que ceux qui y adhèrent.
À l’inverse, les défenseurs de l’idée avancent qu’il vaut mieux des règles communes imparfaites que pas de règles du tout, surtout quand les gouvernements tardent à légiférer. GuruFocus indique d’ailleurs que les entreprises se seraient tournées vers l’autorégulation après qu’un projet de décret présidentiel américain a été mis de côté.
Pourquoi ça vous concerne (même si vous n’êtes pas ingénieur)
- Vos outils IA du quotidien (assistants, générateurs d’images) sont issus de ces modèles de pointe : des tests plus homogènes pourraient rendre les annonces de sécurité plus comparables.
- La confiance : quand une entreprise dit « notre IA est sûre », encore faut-il savoir qui l’a vérifié, et comment.
- Le débat politique : cette initiative arrive en même temps que les appels à une régulation mondiale devant l’ONU, où les dirigeants d’OpenAI et d’Anthropic ont eux-mêmes plaidé pour des standards de test communs et un système de notification d’incidents. Ces thèmes se recoupent clairement.
| Mini-lexique Autorégulation : un secteur se fixe lui-même ses règles. Modèle de pointe : les IA les plus avancées du moment. Incident : un événement où l’IA cause ou frôle un dommage (cyberattaque, usage malveillant…). Charte : le document qui fixe le rôle et les règles d’un organisme. |
SAFA répond à une vraie lacune : il n’existe pas aujourd’hui de méthode de test partagée pour les IA de pointe. Mais tant que l’organisme reste créé par ceux qu’il devra surveiller, sans pouvoir de sanction, sa valeur dépendra de sa transparence et de l’indépendance de ses auditeurs. C’est un dossier à suivre : la charte, la gouvernance et l’éventuelle ouverture à d’autres acteurs diront s’il s’agit d’un vrai garde-fou ou d’une façade.
- Faut-il faire confiance à un organisme de normes créé par les entreprises qu’il doit contrôler ?
- Préférez-vous des règles volontaires rapides ou une loi plus lente mais contraignante ?
- Les petits développeurs et l’open source risquent-ils d’être exclus par ces normes ?
- Quelles informations aimeriez-vous voir figurer dans un « crash-test » d’IA publié pour le grand public ?
Dites-nous tout en commentaire.
Source : TechRepublic