Article rédigé en février 2024. Mis à jour en novembre 2025
Depuis 2023, L’intelligence artificielle s’intègre progressivement dans le quotidien des soignants. De l’aide au diagnostic à la gestion des dossiers, elle promet une simplification du travail et un gain de temps. Et même si différents faisceaux d'indices semblent indiquer qu'une telle aide est la bienvenue à bien des égards, des erreurs de diverses natures existent. Petit tour d'horizon.
Note de rédaction : Le paysage des IA et notamment des LLM (chatbot que nous utilisons) évoluant rapidement, certains propos tenus ici pourraient ne plus être d'actualité, à l'heure de GPT-5 et de modèles plus avancés en terme de raisonnements. Cependant, nous estimons que cet article garde une pertinence relative.
Des erreurs aux impacts bien réels
Certaines erreurs sont évidentes : une IA qui attribue un mauvais dosage à un médicament. D’autres sont malheureusement plus subtiles et peuvent passer inaperçues, surtout après de bons résultats au préalable, ce qui peut amener quiconque à baisser la vigilance : une corrélation erronée entre des variables, un biais qui favorise certaines conditions au détriment d’autres.
Tout ça nous rappelle au fait que malgré toutes les évolutions technologiques, et pour l'heure, c'est le soignant qui garde le pouvoir décisionnel et d'analyse. Mais voyons en détails de quelles natures relèvent ces erreurs :
Hallucination, vous dites ?
L’une des erreurs les plus connues est "l’hallucination". Un modèle d’IA peut générer une réponse qui semble parfaitement cohérente, mais qui, en réalité, est fausse. Un chatbot peut suggérer un traitement inexistant, un outil d’aide au diagnostic peut surestimer un facteur de risque.
Une étude récente (Pediatric Research, 2025) a révélé que, dans 10 à 20 % des cas, un modèle basé sur GPT-4 proposait un dosage erroné pour un médicament pédiatrique, souvent à cause d’erreurs d’unité ou d’arrondis excessifs.
De même, une étude publiée dans le JMIR (2023) a montré que GPT-4 pouvait fournir des informations médicamenteuses inexactes, notamment sur la posologie et la fréquence d’administration.
Si ces erreurs ne sont pas identifiées, elles peuvent conduire à des décisions médicales inappropriées.
D’autres erreurs, plus discrètes, naissent de la manière dont l’IA apprend. Un système conçu pour prioriser les admissions en soins intensifs favorisait les patients ayant un dossier médical plus détaillé. L’algorithme interprétait ce volume d’informations comme un indicateur de gravité… alors qu’il reflétait simplement un meilleur suivi médical préalable.
Des travaux publiés dans The Lancet Digital Health (2023) et Science (Obermeyer et al., 2019) ont mis en évidence ce type de biais structurel, où les algorithmes confondent des proxys administratifs ou économiques avec de véritables indicateurs cliniques.
OCR, ou modèle de vision
Les modèles d’IA capables de reconnaître les caractères dans une image ou d’autres documents sont d’une grande aide, mais parfois, des erreurs se glissent. Et comme elles peuvent survenir après une série de bons résultats, elles sont d’autant plus difficiles à remarquer.
Les erreurs de reconnaissance optique (OCR) viennent ainsi compléter le tableau.
Une étude récente menée au Japon (Soeno S. et al., PLOS ONE, 2024) a comparé la saisie manuelle à un module OCR pour numériser des listes de prescriptions et de signes vitaux dans plusieurs hôpitaux.
L’OCR a permis de réduire fortement le temps de saisie, mais a conservé un taux d’erreur non nul, lié à des omissions ou à une mauvaise reconnaissance de certains éléments (par exemple, des noms de médicaments ou des unités non lus correctement).
Ces résultats rappellent que même lorsqu’elle semble fiable, l’automatisation nécessite toujours une validation humaine, surtout dans les environnements cliniques.
Intégrer l’IA avec discernement
Face à ces risques, la solution n’est pas de rejeter l’IA, mais de l’intégrer avec discernement.
Une validation humaine systématique reste essentielle. Croiser les résultats de l’IA avec son propre raisonnement clinique, remettre en question les suggestions lorsqu’elles paraissent incohérentes, conserver une part de doute… L’IA est un assistant, pas une autorité.
Le choix des outils est tout aussi déterminant. Tous les modèles ne se valent pas, et certains bénéficient d’une validation clinique plus rigoureuse.
Vérifier la conformité aux normes en vigueur (AI Act, CE, FDA, HDS) permet d’écarter les solutions trop expérimentales.
Et une fois déployés, ces outils doivent faire l’objet d’audits réguliers, car un modèle performant aujourd’hui peut ne plus l’être demain.
Former les professionnels à ces technologies est également indispensable.
Comprendre les forces et limites de l’IA permet de mieux l’utiliser, de l’interroger avec pertinence et d’éviter les écueils d’une confiance aveugle.
Plus qu’un outil, c’est un changement dans la manière de travailler qu’il faut accompagner.
Quel que soit ce qu'est l'IA, ce qui semble être vrai pour une partie des soignants et des professionnels qui l'utilisent, c'est qu'elle peut améliorer le flux de travail.
Autrement dit, faire gagner un précieux temps.
Dans un autre article, il était mention jusqu'à 30 % en moins dans toutes les tâches administratives, toutes les interstices de temps avant, pendant, après les soins.
L'IA s’intègre, s’adapte, mais elle ne devrait pas se substituer au jugement du soignant pour le moment.
L’enjeu serait donc probablement ici : en faire une aide précieuse, discrète, qui fluidifie la pratique sans la rigidifier.
Sources
- Levin C et al. Can Large Language Models Assist With Pediatric Dosing? Pediatric Research, 2025.
- Hsu H-Y et al. Real-World Medication Consultations and Drug Information Accuracy of GPT-4. JMIR, 2023.
- Liu X et al. Algorithmic Bias and Fairness in Intensive Care Prediction Models. The Lancet Digital Health, 2023.
- Obermeyer Z et al. Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations. Science, 2019.
Soeno S. et al. Development of novel OCR system to reduce recording time for vital signs and prescriptions: a simulation-based study. PLOS ONE, 2024.
