Scribes IA en consultation : qui relit ce que la machine a écrit ?

Système de santé · Documentation clinique ambiante

Un micro posé sur le bureau, une consultation ordinaire, et un compte rendu structuré qui apparaît à la fin. Les « scribes IA » répondent à un problème réel et documenté : les médecins passent une part considérable de leur temps à écrire plutôt qu’à soigner. Reste à savoir ce que les évaluations disponibles prouvent réellement — et où passe la responsabilité quand la machine se trompe.

Le problème est réel, et il est ancien

Bien avant l’IA générative, la littérature sur les dossiers patients informatisés avait documenté un déplacement massif du temps médical vers la saisie. Les études de chronométrage en soins primaires ont montré que les médecins passaient environ la moitié de leur journée de travail devant le dossier électronique, dont une part significative en dehors des heures de consultation — ce que la littérature anglo-saxonne a fini par appeler le pajama time, le travail administratif du soir, après la clinique et souvent après le dîner.

Ce n’est pas une nuisance mineure. Les travaux consacrés au sujet associent ce temps de documentation après les heures à des scores de burnout plus élevés et à une satisfaction professionnelle dégradée, notamment chez les internes et les jeunes praticiens. La cause du problème est structurelle : le dossier électronique a été conçu autant pour la facturation, le codage et la traçabilité médico-légale que pour le soin. Le clinicien en paie le prix en heures.

C’est dans cette brèche que s’engouffre la documentation ambiante. La promesse est simple, et elle a le mérite de l’être : rendre au médecin le temps que le clavier lui a pris.

Ce que mesurent réellement les évaluations publiées

Il faut lire ces travaux avec attention, non pour les disqualifier, mais pour comprendre à quelle question ils répondent.

Les évaluations disponibles portent très majoritairement sur des critères déclaratifs : scores de charge cognitive perçue, échelles de burnout, questionnaires d’utilisabilité, satisfaction des cliniciens, parfois temps passé dans le dossier tel que mesuré par les journaux du logiciel. Les résultats vont dans le même sens : les utilisateurs déclarent une charge allégée et une meilleure disponibilité pour le patient pendant la consultation.

Ces résultats ne sont pas négligeables. La souffrance des soignants est un enjeu de santé publique en soi, et un outil qui l’atténue a une valeur, même sans effet clinique démontré. Mais il faut nommer précisément ce qui n’est pas mesuré : la qualité du compte rendu produit, son exhaustivité, sa fidélité à ce qui a été dit, le taux d’erreurs qui survivent à la relecture, et surtout l’effet sur les issues cliniques — diagnostics manqués, événements indésirables, continuité des soins entre praticiens qui lisent ces comptes rendus.

À cela s’ajoute un biais qu’il serait malhonnête de passer sous silence. Une large part de cette littérature provient d’établissements ayant déployé l’outil en pilote, souvent enthousiastes, parfois co-signataires avec l’éditeur ou bénéficiaires d’un partenariat. Les cliniciens évalués sont fréquemment des volontaires — donc des utilisateurs favorablement disposés. Ce n’est pas de la fraude, c’est la mécanique ordinaire de l’évaluation précoce d’une technologie. Elle produit des signaux utiles, pas des preuves d’efficacité.

Le risque d’hallucination : ni un détail, ni une catastrophe

La question mérite d’être posée sans emphase. Les modèles de transcription automatique peuvent produire du texte qui ne correspond à aucun son émis. Le phénomène est documenté : des chercheurs universitaires ont analysé les sorties de Whisper, le modèle de transcription d’OpenAI largement utilisé dans l’écosystème médical, et ont trouvé des passages entièrement fabriqués dans une petite fraction des segments transcrits. Une partie de ces fabrications comportait un contenu potentiellement dommageable — traitements inventés, affirmations autoritaires infondées, associations erronées.

Deux précisions importantes. D’une part, ces fabrications surviennent préférentiellement lors des silences et des disfluences : le modèle, entraîné à produire du texte, comble le vide. Les auteurs ont observé une surreprésentation du phénomène chez les locuteurs présentant une aphasie — c’est-à-dire, précisément, les patients dont la parole est déjà altérée. C’est un problème d’équité autant que de sécurité.

D’autre part, un scribe complet n’est pas qu’un transcripteur. Il ajoute une couche de résumé et de structuration par un modèle de langage, qui peut à son tour omettre un élément mentionné, inférer une information plausible mais non dite, ou lisser une incertitude exprimée par le clinicien en affirmation nette. Cette seconde étape est moins étudiée que la première et probablement plus consécutive : une transcription approximative se repère à la lecture, un résumé cohérent mais faux, beaucoup moins.

La relecture : le maillon que tout le système suppose

Tous les éditeurs le disent, et c’est juridiquement exact : le compte rendu produit est un projet, que le clinicien doit relire, corriger et valider avant signature. Le dispositif de sécurité repose donc entièrement sur cette relecture.

Or c’est précisément là que se loge la contradiction. L’outil est adopté parce qu’il fait gagner du temps. Une relecture attentive, ligne à ligne, d’un texte de plusieurs paragraphes consomme du temps. Plus la relecture est rigoureuse, moins le gain est important ; plus le gain est important, moins la relecture a été rigoureuse. Ce n’est pas un défaut de conception, c’est une tension structurelle.

S’y ajoute un phénomène bien connu en facteurs humains : le biais d’automatisation, cette tendance documentée à accorder à une sortie machine plus de confiance qu’à son propre jugement, particulièrement quand la sortie est fluide, bien formatée et plausible. Un compte rendu généré est presque toujours mieux écrit qu’un compte rendu dicté à la hâte. Cette qualité formelle est exactement ce qui rend l’erreur difficile à repérer. Nous avons décrit ce mécanisme à propos des systèmes de diagnostic autonome : il opère ici aussi, sous une forme plus discrète.

Le consentement du patient n’est pas une formalité

Un scribe ambiant enregistre une conversation médicale. C’est-à-dire, en droit européen, un traitement de données à caractère personnel relevant de la catégorie particulière des données concernant la santé, dans un contexte couvert par le secret professionnel.

Plusieurs questions concrètes s’ensuivent, et elles reçoivent aujourd’hui des réponses variables selon les établissements. Le patient est-il informé avant le début de la consultation, ou par une affiche en salle d’attente ? Peut-il refuser sans que cela dégrade sa prise en charge ? L’enregistrement audio brut est-il conservé, et pour combien de temps, ou détruit après génération du compte rendu ? Le traitement a-t-il lieu sur des serveurs situés dans l’Union européenne, ou transite-t-il par un fournisseur soumis à un droit d’accès extraterritorial ? Les données servent-elles à améliorer le modèle du fournisseur ?

Ces questions ne sont pas théoriques. Elles conditionnent la licéité du traitement, et un patient a le droit d’y obtenir une réponse. Le fait qu’un établissement ne les ait pas anticipées ne les fait pas disparaître ; cela déplace simplement le risque juridique vers le moment de l’incident.

Pourquoi ces outils ne sont généralement pas des dispositifs médicaux

Le raisonnement est le même des deux côtés de l’Atlantique et il tient à la revendication d’usage, comme nous l’avons expliqué à propos du marquage CE et de la clearance FDA. Un logiciel qui se contente d’enregistrer, transcrire et mettre en forme une information produite par un professionnel n’a pas de finalité diagnostique ou thérapeutique. Il ne décide de rien. Il documente. À ce titre, il échappe au régime des dispositifs médicaux.

La conséquence est directe et rarement explicitée : aucune évaluation clinique n’est exigée avant mise sur le marché, aucun organisme notifié n’audite le produit, aucune obligation de vigilance post-commercialisation spécifique aux dispositifs ne s’applique. Un établissement qui déploie un scribe ambiant achète un logiciel de bureautique, réglementairement parlant.

Cette frontière est toutefois plus fragile qu’il n’y paraît. Dès qu’un outil ne se contente plus de restituer mais suggère un codage diagnostique, propose un plan de soins, signale une interaction médicamenteuse ou hiérarchise des hypothèses, il commence à influencer la décision clinique — et la question de sa qualification se repose. Les régulateurs surveillent cette dérive fonctionnelle, qui est aussi la trajectoire commerciale naturelle de ces produits. Le régime européen applicable à l’IA, dont nous avons détaillé le calendrier et les obligations, pourrait s’appliquer différemment selon que l’outil reste un greffier ou devient un conseiller.

Ce qu’un établissement devrait exiger avant de déployer

Trois demandes minimales, qu’aucun fournisseur sérieux ne devrait refuser. D’abord, la possibilité d’un audit local : un échantillon de comptes rendus comparés à la transcription et, idéalement, à un compte rendu de référence, sur les cas de l’établissement et non sur ceux du fournisseur. Ensuite, une traçabilité des modifications permettant de distinguer ce que le modèle a produit de ce que le clinicien a corrigé — sans quoi aucune évaluation continue n’est possible, et aucune analyse d’incident non plus. Enfin, une clarté contractuelle sur la localisation des données, leur durée de conservation et leur réutilisation éventuelle à des fins d’entraînement.

Ces exigences ne relèvent pas de la méfiance de principe. Elles relèvent du fait qu’un outil non régulé déployé au cœur du dossier médical crée une dépendance dont personne ne mesure aujourd’hui la portée à dix ans.

À lire aussi : ChatGPT comme médecin : ce que valent les IA généralistes.

Information générale sur la santé numérique, à but éducatif. Ne constitue pas un avis médical.