Hallucinations de l’IA : vos notes médicales sont-elles fiables ?

IA médicale : quand l’assistant qui prend vos notes de consultation invente des symptômes

Si vous êtes allé chez le médecin ces deux ou trois dernières années, il y a de bonnes chances qu’un logiciel ait discrètement écouté votre échange avec le praticien, avant de le transformer en compte-rendu structuré. Ces outils, qu’on appelle des « scribes IA », se sont diffusés à grande vitesse dans les cabinets médicaux. L’idée séduit sur le papier : moins de paperasse pour le médecin, plus de temps pour le patient. Sauf qu’un rapport publié récemment par la vérificatrice générale de l’Ontario, au Canada, jette un pavé dans la mare et la manière dont le ministre concerné a tenté de minimiser l’affaire mérite qu’on s’y attarde.

Un « scribe IA », c’est quoi exactement ?

Concrètement, un scribe IA, ou scribe médical/virtuel par IA, est un logiciel qui enregistre la conversation entre un médecin et son patient, la transcrit automatiquement, puis en extrait les informations utiles pour rédiger une note médicale structurée : motif de consultation, symptômes rapportés, diagnostic évoqué, traitement prescrit. Une bonne partie de ces outils s’appuient sur des grands modèles de langage, les mêmes familles de technologies que celles derrière ChatGPT ou Claude, mais entraînées ou orientées spécifiquement pour le vocabulaire médical.

💡 Définition express

Une « hallucination », en intelligence artificielle, désigne le fait qu’un système invente une information qui n’existe pas dans les données d’origine, un symptôme jamais mentionné, un médicament jamais prescrit, tout en la présentant avec la même assurance qu’une information exacte.

Ce que le rapport ontarien a réellement trouvé

Publié le 12 mai 2026, le rapport spécial de la vérificatrice générale Shelley Spence a examiné les vingt plateformes de transcription assistée par ordinateur agréées par Supply Ontario, l’organisme chargé des achats publics de la province. Le constat est sans appel : chacune de ces vingt plateformes a présenté au moins une inexactitude lors de la phase de test, selon ses propres termes sous forme de « hallucinations (fabrication), incorrect information, or missing or incomplete information ». En français : des inventions pures et simples, des informations erronées, ou des éléments manquants ou incomplets. Certains organismes de presse ayant eu accès aux détails de l’audit sont allés plus loin : dans 60 % des cas testés, le système a noté un médicament différent de celui réellement prescrit ; et dix-sept systèmes sur vingt n’ont pas relevé des éléments de santé mentale pourtant clairement évoqués pendant la consultation.

Le rapport souligne que de telles erreurs, une fois glissées dans le dossier médical, pourraient déboucher sur des plans de traitement inadaptés, voire dangereux pour la santé du patient.

⚠️ Point de vigilance

Le rapport précise également qu’aucune preuve n’a été trouvée d’une évaluation supplémentaire de ces systèmes après leur achat par la province. Autrement dit, les failles identifiées lors des tests initiaux n’ont, semble-t-il, pas fait l’objet d’un suivi rigoureux une fois les outils déployés.

Le ministre minimise, la vérificatrice générale nuance

Face à ces révélations, le ministre ontarien de la Prestation de services publics, Stephen Crawford, a tenu à rassurer : selon lui, ces systèmes ne seraient pas encore réellement utilisés par les médecins, mais simplement en cours d’évaluation. Une version des faits que Shelley Spence a directement contredite devant la presse, précisant que ces outils de transcription sont déjà employés par environ 5 000 médecins en Ontario. Elle a même raconté avoir demandé elle-même à son propre médecin de vérifier sa transcription à l’issue d’une consultation, une précaution qu’elle recommande visiblement d’adopter.

Un phénomène qui dépasse largement l’Ontario : le cas OpenEvidence

Le Canada n’est pas un cas isolé. Aux États-Unis, un autre outil d’aide à la décision médicale, OpenEvidence, fait l’objet d’un examen de plus en plus critique. Ce chatbot, utilisé pour interroger la littérature scientifique et orienter des décisions cliniques, aurait été mobilisé lors de près de 27 millions d’échanges cliniques rien qu’au mois d’avril 2026, selon les chiffres communiqués par l’entreprise elle-même à NBC News, soit environ 65 % des médecins américains.

Plusieurs praticiens interrogés par NBC News ont rapporté qu’OpenEvidence pouvait parfois tirer des conclusions trop tranchées à partir d’études reposant sur de petits échantillons de patients, un biais statistique classique mais risqué en contexte clinique. L’entreprise se défend en expliquant vouloir limiter drastiquement l’improvisation du modèle :

 » Nous considérons l’IA comme un liant pour la recherche. «  a expliqué son dirigeant, Daniel Nadler, littéralement, un « moteur de recherche » qui relie le médecin aux publications scientifiques plutôt qu’un système qui génère librement ses propres réponses. Une philosophie de conception qui n’élimine toutefois pas totalement le risque, comme en témoignent les remontées de terrain.

Où en est-on ailleurs qu’en Amérique du Nord ?

Ni la France ni la plupart des pays africains francophones ne disposent aujourd’hui d’un cadre réglementaire aussi formalisé que celui que la vérificatrice générale de l’Ontario vient de passer au crible. Les scribes IA gagnent pourtant du terrain partout, portés par la même promesse : soulager des professionnels de santé débordés. Le décalage entre l’adoption rapide de ces outils sur le terrain et la lenteur des dispositifs d’audit ou de certification constitue, à l’échelle mondiale, le véritable point faible du secteur.

🟡 Un réflexe simple à adopter

Rien n’empêche un patient de demander, à la fin d’une consultation, à consulter la transcription générée par l’IA avant qu’elle ne soit validée dans son dossier. C’est exactement le geste que la vérificatrice générale de l’Ontario dit avoir elle-même adopté avec son propre médecin.

Comparatif rapide : scribe IA vs prise de notes manuelle

Critère	Scribe IA	Prise de notes manuelle
Temps gagné par le médecin	Élevé	Faible
Risque d’erreur / invention	Existant, documenté	Existant, mais généralement traçable
Contrôle du patient sur le contenu	Faible sauf demande explicite	Variable selon le praticien
Cadre réglementaire	Encore incomplet, en construction	Ancien, bien établi

Ce dossier illustre assez bien un travers récurrent de l’adoption de l’IA dans des secteurs sensibles : on déploie d’abord, on évalue rigoureusement ensuite. Que vingt fournisseurs sur vingt aient présenté des inexactitudes lors des tests d’achat n’est pas, en soi, une catastrophe : aucun système d’IA générative n’est parfait, et personne ne prétend le contraire. Ce qui interroge davantage, c’est l’absence apparente de suivi après le déploiement. Un scribe IA reste un outil d’assistance, pas un substitut au jugement clinique du médecin ni à la vigilance du patient.

Et vous, qu’en pensez-vous ?

• Accepteriez-vous qu’un logiciel d’IA enregistre et transcrive vos consultations médicales ?
• Pensez-vous que les patients devraient systématiquement pouvoir relire la transcription avant qu’elle n’intègre leur dossier ?

Dites-nous en commentaire si votre médecin utilise déjà ce genre d’outil, et si vous l’avez remarqué !

Source : thecanadianpressnews