ChatGPT comme médecin : ce que valent les IA généralistes face à un symptôme

Système de santé · IA générative

Avant même d’appeler un médecin, beaucoup ouvrent désormais une IA conversationnelle et lui décrivent leurs symptômes. La réponse arrive en quelques secondes, structurée, polie, souvent plausible. C’est précisément cette assurance qui pose problème : un modèle de langage ne sait pas qu’il se trompe, et le dit avec le même aplomb que lorsqu’il a raison.

Ce qu’un modèle de langage fait — et ne fait pas

Un LLM prédit la suite la plus probable d’un texte à partir d’immenses corpus. Il n’a pas de compréhension clinique ni d’accès à votre histoire médicale : il produit une réponse vraisemblable, pas nécessairement vraie. Sur des questions générales de santé, il peut être bluffant de fluidité ; sur un cas précis, il peut inventer une posologie, un mécanisme ou une source. Le danger n’est pas qu’il se trompe — tout outil se trompe — mais qu’il présente l’erreur avec le même vernis de certitude que le reste.

Là où il peut aider

Bien cadré, l’outil rend des services réels. Traduire un compte rendu en langage clair, préparer une liste de questions avant une consultation, comprendre un sigle ou une classe de médicament : autant d’usages où une approximation reste sans danger et où le gain de temps est net. C’est le registre de l’information et de la médiation, pas du diagnostic. Utilisé ainsi, un LLM prolonge l’accès à l’information médicale en ligne plutôt qu’il ne le dévoie.

Là où il devient risqué

Le glissement se produit quand l’utilisateur attend une décision : « Est-ce grave ? », « Dois-je aller aux urgences ? », « Quel médicament prendre ? ». Là, l’absence d’examen, l’ignorance du dossier et le risque d’hallucination se combinent. Un symptôme banal peut masquer une urgence ; un signal d’alarme peut être minimisé par une réponse rassurante. Contrairement à une IA de diagnostic autorisée, validée sur une tâche précise et encadrée, un modèle généraliste n’a franchi aucune de ces étapes.

Le piège du ton

La véritable spécificité de ces outils est stylistique. Là où une recherche en ligne renvoyait des sources hétérogènes, à trier soi-même, le LLM livre une synthèse unique et assurée, qui invite moins à la vérification. C’est un progrès de confort et un risque cognitif : on accorde plus de crédit à une réponse bien formulée. La bonne hygiène consiste à traiter ces sorties comme une piste à confirmer, jamais comme un verdict — et à garder le réflexe de consulter un professionnel pour tout symptôme préoccupant.

Pourquoi un modèle « hallucine »

Comprendre la mécanique éclaire le risque. Un grand modèle de langage optimise une seule chose : produire le mot suivant le plus probable au vu de son entraînement. Il n’a pas de représentation de la vérité, pas de base de connaissances qu’il consulterait, pas de mesure interne de sa propre incertitude. Quand l’information est fréquente dans ses données, il la restitue souvent bien ; quand elle est rare, ambiguë ou absente, il comble le vide par une formulation plausible — une posologie, une référence, un mécanisme qui n’existent pas. S’y ajoute une tendance à l’accord complaisant : sollicité, le modèle confirme plus volontiers l’hypothèse de l’utilisateur qu’il ne la conteste. Des techniques comme l’adjonction de sources (recherche augmentée) réduisent le problème sans l’éliminer : elles n’empêchent pas de mal résumer une source pourtant correcte. L’hallucination n’est donc pas un bug ponctuel, c’est une propriété structurelle de l’outil.

Ce que mesurent — et ne mesurent pas — les études

On lit parfois qu’une IA « réussit l’examen de médecine ». C’est en partie établi : plusieurs modèles obtiennent des scores élevés à des questionnaires de type examen. Mais réussir un QCM calibré n’est pas trier un patient réel. Les travaux qui évaluent la sécurité des réponses, et non leur seule exactitude théorique, donnent une image plus nuancée : conseils souvent raisonnables sur des questions générales, mais réponses parfois inappropriées ou incomplètes sur des situations à risque, sans repérage fiable des signes d’alarme. Ce qui reste incertain, c’est l’effet réel sur les décisions des personnes : un conseil rassurant mais erroné retarde-t-il une consultation ? Les données manquent pour trancher. La prudence tient à cette asymétrie : en santé, le coût d’une erreur n’est pas symétrique de celui d’une bonne réponse.

Outil grand public ou dispositif médical ?

La frontière réglementaire est nette, même si elle est méconnue. Ce qui fait d’un logiciel un dispositif médical, ce n’est pas sa technologie mais sa finalité revendiquée : dès qu’un éditeur affirme une visée diagnostique ou thérapeutique, il bascule dans le champ du marquage CE médical et, en Europe, du volet « haut risque » de l’AI Act. Un assistant conversationnel généraliste, lui, se garde bien de revendiquer cette finalité : ses conditions d’utilisation précisent qu’il ne fournit pas d’avis médical. Autrement dit, l’outil que des millions de personnes utilisent pour « se faire diagnostiquer » est précisément celui qui, juridiquement, se déclare inapte à le faire. Des systèmes d’IA à visée médicale existent, mais ils sont validés sur une tâche précise et autorisés — deux étapes qu’un modèle généraliste n’a pas franchies.

Information générale sur la santé numérique, à but éducatif. Ne constitue pas un avis médical.