IA explicable pour la médecine : approches à base de concepts

Résumé

L’apprentissage profond est une avancée majeure de l’intelligence artificielle ces dernières années. Son principal avantage est qu’il permet de construire automatiquement une représentation hiérarchique des données permettant de résoudre efficacement une tâche de prédiction. Ses domaines de prédilection sont principalement l’analyse d’image et le traitement du langage naturel. Un des futurs enjeux majeurs de cette approche est son application à la santé et un des verrous importants est son manque d’explicabilité. Ce type de modèle est en effet considéré comme une « boîte noire » où aucune explication n’est fournie à la prédiction calculée. Or si on souhaite l’utiliser en pratique notamment dans des domaines sensibles comme la médecine, l’explicabilité est nécessaire pour plusieurs raisons. D’une part, elle permet de valider les prédictions en vérifiant que le modèle repose sur des représentations fiables et non sur des artefacts. D’autre part, elle peut contribuer à la découverte biologique en identifiant de nouvelles signatures pertinentes. Par ailleurs, ces enjeux d’explicabilité s’inscrivent aujourd’hui dans un cadre réglementaire émergent, notamment avec le règlement européen sur l’intelligence artificielle (AI Act), qui impose des exigences accrues de transparence, de robustesse et de fiabilité pour les systèmes d’IA à haut risque, y compris les applications médicales. Dans cet exposé, je présenterai des approches que nous avons développées pour interpréter des réseaux de neurones appliqués à l’aide au diagnostic à partir de données d’expression de gènes ou d’électrocardiogrammes. L’explicabilité repose sur l’intégration de connaissances métier sous forme de concepts, soit a posteriori soit a priori.

La présentation sera en français mais les slides en anglais.

Oratrice

Victoria Bourgeais est maîtresse de conférences en informatique à l’Université de Bordeaux (LaBRI, équipe BKB, axe Santé Numérique). Diplômée en 2019 de l’Université de Technologie de Compiègne en fouille de données, elle a obtenu un doctorat de l’Université Paris-Saclay en 2022, réalisé au laboratoire IBISC, portant sur l’explicabilité des réseaux de neurones pour la prédiction de phénotypes à partir de données transcriptomiques. Elle a ensuite effectué un post-doctorat dans le cadre du projet ANR DeepECG4U. Ses recherches en intelligence artificielle portent sur l’apprentissage profond appliqué aux données biomédicales, l’explicabilité (XAI) et l’apprentissage en contexte de données limitées.

Bibliographie

Bourgeais, V. (2022). Interprétation de l’apprentissage profond pour la prédiction de phénotypes à partir de données d’expression de gènes [Thèse de doctorat, Université Paris-Saclay]. https://www.theses.fr/fr/2022UPASG069 Bourgeais, V., Fall, A., Lence, A., Salem, J-E., Zucker, J-D., Prifti, E. & Hanczar, B. (Jan. 2024). ConceptECGxAI : une approche post-hoc à base de concepts médicaux pour expliquer un modèle d’apprentissage profond d’aide au diagnostic cardiaque. Atelier Explain’AI – Conférence Extraction et la Gestion des Connaissances (EGC). https://sites.google.com/view/explainai-2024/