91,8 % des médecins ont déjà observé des hallucinations générées par l’IA dans un contexte médical. 84,7 % considèrent qu’elles peuvent altérer la santé des patients. Ce constat dépasse le simple cas isolé. C'est ce que semble montrer une étude arXiv.
Les "LLM", sont ils des amis fiables ?
L'intelligence artificielle, et notamment la forme sous laquelle nous les utilisons, les LLM, gagne du terrain dans le domaine médical. Son utilité est avérée. Mais le déploiement impose une lucidité permanente.
Un phénomène critique subsiste : les hallucinations. Dans un contexte pour soignant, cela se traduit par :
Des informations médicales faussement générées ou altérés, elles menacent directement la qualité des soins. Leur impact peut être concret, immédiat et potentiellement sévère.
Catégoriser pour mieux contrôler
Une nouvelle taxonomie clarifie ces risques :
- Erreurs factuelles : des informations médicales incorrectes ou altérés
- Références obsolètes : recours à des protocoles dépassés.
- Corrélations fallacieuses : associations incorrectes ou biaisées.
- Raisonnements incomplets : une logique médicale tronquée ou déficiente.
Cette catégorisation n’est pas un artifice académique. Elle structure les efforts de correction.
Les modèles avancés restent vulnérables
Des études récentes, notamment du MIT et Harvard (Kim et al., 2025), soulignent la persistance du problème. Même les modèles les plus récents tels que GPT-4o, Claude 3.5 génèrent des hallucinations. Ces hallucinations peuvent fausser des décisions cliniques. Le danger est réel, documenté et chiffré :
- 91,8 % des médecins ont déjà observé ces erreurs.
- 84,7 % estiment qu'elles pourraient altérer la santé des patients.
L'étude, disponible sur arXiv* constitue une première tentative systématique de classification des hallucinations médicales. Elle apporte un cadre utile pour analyser les défaillances spécifiques des LLM (Large Language Models) en contexte clinique.
Pourquoi les LLM médicaux hallucinent-ils ?
Quatres facteurs majeurs expliquent ces erreurs :
- Qualité imparfaite ou obsolescence des données d'entraînement.
- Excès de confiance dans les réponses générées par le modèle.
- Difficulté des LLM à gérer des cas atypiques ou non représentés.
- Limite inhérente à cette technologie :, quel que soit la qualité du modèle : à être sensible aux hallucinations, mémoire peu persistante, difficultés à planifier et à vraiment généraliser/raisonner sur des cas particulier.
Ces limites ne s’appliquent pas à l’ensemble des IA. Elles concernent principalement les LLM, ces modèles conçus pour manipuler le langage de façon générale. Leur puissance est indéniable. Mais dans les environnements sensibles, leur polyvalence devient parfois un point faible.
Cadre d’usage : vers un rôle de copilote et règlementation
Ces constats dessinent une orientation prudente. Les LLM ne sont pas inadaptés, mais leur usage nécessite des bornes. Leur rôle le plus sûr reste celui d’un copilote : soutien à la rédaction, transformation du langage naturel en actions ciblées, détection de motifs sur des données structurées.
Certains outils, y compris ceux que développe Solynae, s’inscrivent dans cette logique : exploiter l’IA sur des tâches circonscrites, relativement simples, et dont les limites sont maîtrisées et non critique. Une approche sobre, mais fiable.
Le déploiement à grande échelle impose une régulation claire. Non pour freiner l’innovation, mais pour garantir la sécurité du patient. Des standards précis, une transparence exigée, et une responsabilité clairement établie constituent les conditions d'une intégration efficace et sécurisée.
L'intelligence artificielle en médecine n'est pas une question d'opportunité mais de responsabilité. Le savoir médical ne tolère ni approximation ni négligence.
Maîtriser les hallucinations des LLM médicaux est impératif. Le progrès viendra, peut-être, d’une nouvelle génération de modèles, peut être autre que les LLM, ou en complément. En attendant, la vigilance reste la norme.
*Source : Kim, Yubin et al. (2025). "Medical Hallucination in Foundation Models and Their Impact on Healthcare", arXiv:2503.05777
