IA en santé : comment éviter les biais et développer une IA fiable ?

Une IA au service des professionnels de santé

L’intelligence artificielle (IA) ne remplace pas les soignants mais elle les accompagne. Conçue comme un outil d’aide à la décision et à l’organisation des soins, elle doit être au service des professionnels de santé et non devenir une finalité en soi.

Une IA fiable repose sur un entraînement rigoureux permettant d’éviter les biais qui pourraient fausser ses résultats. En santé, les algorithmes de machine learning et de deep learning analysent d’importantes quantités de données médicales pour détecter des tendances, poser des diagnostics ou encore prédire des risques. Mais si ces données sont biaisées (non représentatives, de mauvaise qualité ou mal labellisées), les conclusions de l’IA le seront également.

Trois domaines où l’IA peut changer la donne

L’IA en santé a le potentiel d’améliorer considérablement le système de soins. Voici trois exemples concrets où elle pourrait avoir un impact considérable sur les professionnels de santé et leurs patients.

1. L’IA dans la prévention : vers une médecine prédictive plus inclusive

L’IA peut permettre d’anticiper certaines maladies avant qu’elles ne surviennent mais elle doit être fiable pour l’ensemble des populations. De nombreux modèles actuels sont entraînés sur des cohortes homogènes, par exemple sur des hommes caucasiens de 50 ans pour l’évaluation des risques cardio-vasculaires. Cette limitation peut conduire à des sous-diagnostics chez les femmes, les personnes non caucasiennes et plus généralement toutes les personnes sous représentées dans les données utilisées pour l’entrainement des modèles.

Pour une prévention plus efficace, il est essentiel de pouvoir développer des modèles d’IA intégrant des bases de données diversifiées. Cette approche permettra une personnalisation de la prévention et une meilleure adaptation des recommandations médicales. C’est un axe qui nous tient à cœur chez stane et c’est pourquoi nous développons une approche décentralisée, permettant de traiter dans notre EDS (entrepôt de données de santé) des données sur l’ensemble du territoire, hors de l’hôpital, auprès de la population générale.

2. L’IA pour organiser les soins : un assistant médical au service des soignants

Plutôt que de remplacer les professionnels de santé, l’IA peut les décharger des tâches administratives et leur redonner du temps pour leurs patients. Des assistants médicaux basés sur l’IA sont déjà en développement pour automatiser la rédaction des comptes rendus, suggérer des diagnostics, alerter les médecins en cas d’incohérence dans les dossiers médicaux, mais aussi repérer des patients éligibles à des études cliniques.

Plusieurs outils récents illustrent cette tendance :

Nabla Copilot : cette IA accompagne les consultations médicales en générant automatiquement des comptes rendus et en structurant les informations échangées avec les patients.

Synapse Medicine : spécialisé dans la sécurisation des prescriptions, cet outil aide les médecins à prévenir les erreurs médicamenteuses en analysant les interactions et en fournissant des recommandations en temps réel.

Doctolib AI : en test, cette IA vise à fluidifier la gestion des rendez-vous et optimiser l’organisation des consultations.

L’enjeu reste de former et valider ces IA avec des données fiables, en mettant en place une supervision médicale rigoureuse afin d’éviter des erreurs de diagnostic ou des prescriptions inadaptées.

3. L’IA et le diagnostic : rendre l’imagerie médicale accessible partout

En radiologie et en imagerie médicale, l’IA démontre son efficacité pour la détection de pathologies comme le cancer du sein ou les tumeurs pulmonaires. Le défi ? Garantir son applicabilité à tous les patients. Certaines IA sont entraînées sur des images issues de populations spécifiques (par exemple, des patientes européennes pour le cancer du sein), ce qui encore une fois peut fausser les résultats sur d’autres populations.

L’entraînement de ces systèmes sur des bases de données plus inclusives permettra d’étendre leur usage. Ainsi, un centre de santé sans radiologue pourrait envoyer des images à une IA pour une première analyse, complétée par l’avis d’un expert à distance.

Ces outils montrent qu’une IA bien conçue peut être un atout pour les professionnels de santé, à condition d’être développée en collaboration avec eux.

Des pistes pour construire une IA fiable

Diversifier les bases de données : L’IA doit être entraînée sur des données médicales variées, issues de différents groupes de patients et contextes de soins (hôpital, médecine de ville, etc.).

Evaluer les algorithmes : Il est essentiel d’évaluer régulièrement les modèles pour vérifier qu’ils prennent des décisions justes et explicables, sans reproduire d’inégalités existantes.

Associer les professionnels de santé et les chercheurs : Le développement de l’IA ne doit pas être laissé aux seuls ingénieurs. Les soignants doivent être impliqués dès la conception pour garantir la pertinence clinique des outils.

L’IA en santé sera une révolution si elle est co-construite avec ceux qui l’utiliseront au quotidien. Elle doit également être correctement évaluée et validée pour garantir ses performances. Son avenir repose sur notre capacité à l’intégrer dans les pratiques médicales plutôt que de la subir. Alors comment impliquer davantage les soignants et les patients dans cette (r)évolution ? La réflexion doit se poursuivre pour garantir une IA au service de tous !