Forum Numerica - Sylvain CUSSAT-BLANC - Programmation génétique : évolution de modèles interprétables pour l’analyse de données biomédicales multimodales

L’interprétabilité des modèles d’intelligence artificielle est un enjeu majeur pour les applications biomédicales, car elle conditionne la confiance clinique, la conformité réglementaire et la responsabilité éthique. Nous proposons de la concevoir non comme une propriété binaire, mais comme un continuum, reflétant le degré auquel un modèle est compréhensible par les utilisateurs. Deux dimensions sont centrales : la simulabilité, c’est-à-dire la capacité d’un humain à suivre le raisonnement du modèle, et la décomposabilité, qui désigne la possibilité de décomposer le modèle en éléments significatifs et inspectables. À travers des travaux fondés sur la programmation génétique, notamment avec la méthode Multimodal Adaptive Graph Evolution, nous montrons qu’il est possible de concevoir dès l’origine des modèles interprétables, grâce à l’usage d’opérations lisibles et de structures modulaires. Cette approche se distingue des méthodes d’explicabilité post hoc utilisées en deep learning, qui cherchent à interpréter a posteriori des modèles souvent opaques. Nous discutons enfin de la manière dont la décomposabilité peut être mesurée et exploitée pour équilibrer la performance prédictive et la transparence structurelle.

Professeur des Universités - Université Toulouse Capitole, Institut de Recherche en Informatique de Toulouse -  REVA Team - CNRS - UMR 5505
http://www.irit.fr/~Sylvain.Cussat-Blanc/index_en.php