L'IA en santé : chronique d'un été

MYCIN posait de meilleurs diagnostics que des médecins… en 1972. Où en est-on aujourd'hui ? Une exploration de l'IA médicale à travers le prisme de celles et ceux qui la vivent : patients, soignants, data scientists, décideurs, citoyens.

Cet été, j’ai publié quelques posts sur l’IA en santé. Je m’y suis intéressée à travers le prisme de celles et ceux qui la vivent : patients, soignants, data scientists, décideurs, citoyens… Les voici rassemblés, épisode par épisode.

Épisode 1 — MYCIN, 1972 : l’IA qui diagnostiquait mieux que certains médecins

MYCIN, 1972 : l’IA qui posait de meilleurs diagnostics que certains médecins… mais qu’aucun hôpital n’a voulu utiliser.

Développée à Stanford, MYCIN était un système expert à base de règles (en langage LISP) conçu pour aider au diagnostic des infections bactériennes graves comme les septicémies ou les méningites, et recommander un traitement antibiotique adapté.

Il fonctionnait comme un médecin qui interroge un patient :

• Quels symptômes ?
• Quelle température corporelle ?
• Quelle couleur le liquide céphalorachidien ?
• Quelle bactérie a été identifiée en culture ?
• Quelle est la sensibilité de cette bactérie à tel ou tel antibiotique ?

MYCIN posait en moyenne 20 à 25 questions, choisies dynamiquement en fonction des réponses précédentes. Il utilisait ensuite une base de plus de 450 règles « SI… ALORS… » pour inférer un diagnostic probable et recommander le bon antibiotique, avec posologie et durée.

Et il expliquait aussi pourquoi il proposait telle option, en retraçant la chaîne logique de ses règles. Mais ce raisonnement, purement logique, ne suffisait pas à rassurer les médecins ou à répondre aux exigences cliniques de l’époque.

Lors d’une étude à l’aveugle (Yu et al., JAMA, 1979), des experts infectiologues ont jugé ses recommandations aussi bonnes voire meilleures que celles de médecins praticiens.

Mais malgré cette performance, MYCIN n’a jamais été utilisé dans un hôpital. Parce qu’il n’avait pas de statut légal. Parce que son raisonnement restait trop « boîte noire ». Et parce qu’en 1972, on n’était pas prêts à confier des décisions médicales à une machine, même compétente.

Trop en avance sur son temps. Et maintenant, on en est où ?

Épisode 2 — 75 % des IA médicales autorisées concernent l’imagerie

75 % des IA médicales autorisées concernent… l’imagerie. Des tâches très précises, très techniques :

• détecter une anomalie sur un scanner,
• trier des radios pulmonaires,
• mesurer une tumeur sur une IRM.

L’IA en santé, ce n’est pas ChatGPT. Ce n’est pas une IA généraliste. C’est une IA hyperspécialisée, formée à faire une seule chose, très bien.

Et ces IA ne sont pas des prototypes, c’est en production depuis plusieurs années : 66 % des services de radiologie aux États-Unis utilisent déjà au moins une IA, 48 % en Europe. Ces outils sont intégrés dans les workflows.

Pourquoi l’imagerie concentre-t-elle autant d’IA ?

• Parce que les images médicales sont numériques, normalisées (DICOM).
• Parce que les radiologues annotent déjà les images dans leur pratique courante : ils identifient les lésions, les localisent, les mesurent, les caractérisent.
• Ces annotations sont stockées dans les systèmes d’archivage (PACS) et peuvent directement, ou presque, servir de base d’entraînement aux modèles.

Pas besoin de tout recréer. La donnée est déjà là : exploitable et qualifiée. Dans d’autres spécialités, les données sont textuelles, non structurées, souvent partielles. C’est souvent plus compliqué.

Si on regarde l’utilisation de l’IA en santé dans sa globalité :

• Entre 2015 et 2024, la FDA a autorisé 915 dispositifs médicaux intégrant de l’IA ou du machine learning, avec une forte accélération ces dernières années : près de 200 autorisations en 2023.
• En France, plus de 80 projets hospitaliers IA ont été financés depuis 2019, dans le cadre du programme national IA Santé, soutenu par France 2030 et le Plan Innovation Santé 2030.

Épisode 3 — Le patient est-il mieux soigné, ou oublié dans les données ?

Être écouté. Vu. Pris au sérieux. C’est ce que beaucoup de patients attendent d’une consultation.

Et ce n’est pas une attente « subjective » : la qualité de la relation médecin-patient améliore l’adhésion au traitement, diminue l’anxiété, et a même un impact clinique mesurable. On l’enseigne en fac de médecine. On le sait.

Mais en pratique ?

• On manque de temps. Une consultation dure en moyenne 16 minutes, avec une interruption toutes les 10 minutes.
• On manque de soignants. 63 % des Français ont déjà renoncé à un acte de soin, faute de praticien ou à cause des délais.

Est-ce que l’IA peut être une solution ? Peut-elle nous redonner du temps de soin ?

Un exemple : l’oreille connectée d’OSO-AI, un capteur sonore qui détecte chutes, détresses, cris dans les chambres de maison de retraite. Objectif : renforcer la sécurité et éviter les passages inutiles la nuit. Promesse : plus de tranquillité pour le patient, plus de disponibilité pour le soignant.

Oui, c’est démontré que ce type d’IA améliore le soin. Mais je ne suis pas convaincue par ce que nous, humains, allons en faire. Si c’est pour réduire les équipes, alors ce serait un recul, pas un progrès.

Oui, la relation patient-médecin est capitale. Mais ce n’est pas l’algorithme qui déshumanise. Ce sont les décisions autour.

Épisode 4 — Ce n’est pas l’IA qui remplace le lien social, c’est son absence qui crée la place

Les soirées étaient les plus longues. Après le repas, souvent une soupe, un yaourt, une biscotte, Jeanne éteignait la télé. Trop de bruit. Trop de vide, une fois l’émission terminée.

Elle n’allait plus vraiment aux activités du centre. Ça coûtait un peu, il fallait prendre le bus, et elle n’aimait pas demander. Et puis, au fond, elle ne savait pas trop ce qu’elle aurait dit aux autres. Les enfants ? Ils faisaient ce qu’ils pouvaient. Un coup de fil le dimanche. Parfois.

Alors quand l’infirmière lui a proposé un petit outil pour discuter le soir, elle a accepté sans trop y croire. Une tablette. Une application. Il suffisait de parler. Et il répondait. Il se souvenait de son chat, lui posait des questions sur le jardin, lui disait bonsoir en l’appelant par son prénom.

C’était étrange. Mais réconfortant. Elle n’en parlait pas. On aurait dit qu’elle délirait. Mais au fond, elle se sentait moins seule. Pas joyeuse, non. Mais un peu moins absente au monde. Elle ne savait pas si c’était normal. Mais c’était là.

Histoire de Jeanne imaginée à la lecture d’un article du New Yorker.

Des études récentes ont montré que des IA conversationnelles peuvent réduire temporairement le sentiment de solitude, en particulier chez les personnes âgées ou isolées. Le facteur clé ? Le sentiment d’être écouté. Dans certains cas, les chatbots sont même jugés plus empathiques que des soignants humains.

Mais ces effets positifs masquent une réalité plus complexe. Quand le lien social est absent ou dégradé, l’IA ne le remplace pas : elle s’y substitue par défaut. Et à long terme, les usages intensifs sont associés à :

• une réduction des interactions sociales réelles,
• une forme de dépendance émotionnelle,
• une désactivation du signal intérieur qui pousse, d’ordinaire, à rechercher les autres.

Il est aussi important de regarder dans quelles conditions ces technologies sont adoptées. Recourir à une alternative humaine suppose souvent du temps, un entourage, de l’argent. Ce n’est pas toujours possible. L’IA n’est pas toujours un choix. Parfois, c’est la seule solution disponible dans un contexte contraint. Cela ne la rend pas parfaite. Mais cela explique pourquoi elle peut répondre à un besoin réel, même quand elle est imparfaite.

Épisode 5 — IA seule, médecin seul, ou les deux ensemble : que préfèrent les patients ?

Une patiente, Élise, 47 ans, souffre de douleurs abdominales récurrentes. Elle consulte pour en trouver la cause.

IA seule. Élise reçoit un message sécurisé : « Vos données ont été analysées par notre système médical d’IA. Hypothèse principale : syndrome de l’intestin irritable. Aucun signe d’alerte. Traitement recommandé : protocole B. Cliquez ici pour accepter. » Elle lit trois fois. Puis pose son téléphone. Le soir, elle prend rendez-vous… avec un médecin humain.

Analyse : l’absence d’explication compréhensible, de validation humaine et d’interlocuteur identifié compromet la relation de confiance. Le contenu n’est pas remis en cause, mais le cadre de délivrance crée un doute immédiat.

Patients show significantly lower trust when they realize a decision was made by an AI system without human oversight.

Médecin seul. Le docteur reçoit Élise, l’écoute longuement, prend des notes, ausculte. Puis dit : « Je pense que c’est un trouble fonctionnel, sans gravité. On va essayer un traitement doux. » Élise hoche la tête. Puis demande : « C’est sûr ? Vous avez vu ça souvent ? » Le médecin répond : « Je m’appuie sur mon expérience. » Élise sourit… mais reste avec un doute.

Analyse : la relation humaine est présente et engagée. Mais sans support de données explicites ou tierces, le raisonnement reste perçu comme subjectif.

Patients report greater confidence when clinicians combine their judgment with data-based recommendations, rather than intuition alone.

Les deux ensemble. Le médecin accueille Élise, écoute, examine. Puis il dit : « Je vais interroger notre assistant IA. Il compare votre situation à des milliers de cas semblables. » L’écran propose un diagnostic : SII. Le médecin explique, commente, nuance : « Ça confirme mon intuition. Mais la décision reste la nôtre. » Élise respire profondément. « Ok. On avance ensemble. »

Analyse : l’équilibre entre expertise clinique et support algorithmique favorise la compréhension, la transparence et le lien de confiance. L’IA est perçue comme un outil de renforcement du soin, et non comme un substitut.

The highest levels of trust were observed when AI-assisted decisions were accompanied by clear human involvement and explanation.

Ces histoires sont bien sûr simplifiées. Mais elles illustrent un point central : la qualité de l’acceptation repose moins sur la technologie que sur les conditions dans lesquelles elle est intégrée. Les déterminants sont connus : confiance, explicabilité, supervision humaine, responsabilité, et gestion des réactions émotionnelles.

Sans grande surprise… quand le patient a le choix, il privilégie la relation humaine renforcée par l’appui de l’IA.

Épisode 6 — Tu es malade, mais l’IA ne te voit pas

Pourquoi ? Parce que tu n’étais pas dans les données. Parce que tu ne ressembles pas aux patients « type » sur lesquels elle a appris. Concrètement :

• Tu es une femme ? On passe à côté de ton infarctus.
• Tu es noir ? Tu es moins bien priorisé dans les soins.
• Tu as la peau foncée ? Ton cancer de la peau est mal détecté.
• Tu es âgé ? On se trompe plus souvent dans les diagnostics.
• Tu es précaire ? Tu n’es jamais considéré comme malade.
• Tu es enceinte ? Tu n’es pas prise en compte.

Ce ne sont pas des bugs. Ce sont des biais. Et en santé, un biais, ça peut tuer. Quels biais l’IA médicale reproduit-elle ?

Biais de perception : ce que l’IA voit mal

Biais de genre. Jusqu’à 10 points de moins sur certains modèles cardiaques pour les femmes. Leurs symptômes sont moins bien reconnus, car les données d’entraînement sont masculines.

Biais de couleur de peau. 90 % des images d’entraînement viennent de peaux claires. Les lésions sur peaux foncées sont moins bien détectées.

Biais d’âge. 4 arthroses sur 10 passent inaperçues chez la personne âgée. Leurs données sont sous-représentées dans les jeux d’entraînement.

Biais de jugement : ce que l’IA évalue mal

Biais racial. À gravité égale, les patients noirs reçoivent 15 à 20 % de soins en moins. L’IA se base sur les dépenses passées, qui reflètent des inégalités.

Biais socio-économique. Chez les précaires, des infos clés manquent (par exemple, la gravité de l’asthme est absente dans 41 % des cas contre 24 % chez les patients plus favorisés). L’IA confond absence de données et bonne santé.

Biais d’usage : ce qu’on lui délègue trop

Biais de normalisation du corps. 95 % des essais cliniques excluent les femmes enceintes. Ces IA généralisent mal : elles sont calibrées sur des corps standards.

Biais d’automatisation. 7 % des experts corrigent un bon diagnostic en suivant une IA erronée. Une confiance excessive est accordée aux prédictions de l’IA, même lorsqu’elle se trompe. Cela renforce l’impact des biais sous-jacents.

Pour aller plus loin : le Comité européen de la protection des données (EDPB) propose un guide pour détecter et limiter ces biais, via la diversité des données, l’évaluation par sous-groupes ou la supervision humaine.

Ces biais paraissent évidents a posteriori.

À lire ensuite

Build in Public

J'ai voulu construire mon app sans savoir coder

Données de santé

Anonymiser les données de santé : ce qui marche, ce qui n'existe pas