Outils d’aide à la décision médicale et normes sociales. Trois questions à Giulia Anichini

Giulia Anichini est anthropologue au Cermes3, docteure du Centre Norbert Elias (EHESS, 2015). Elle a travaillé, sous la direction de Georges Guille-Escuret et de Suzanne de Cheveigné, sur les usages des technologies d’imagerie dans le domaine médical et sur les normes sociales qui régissent les pratiques de production d’images à l’ère du numérique. Depuis 2019, dans le cadre d’un projet de l’Institut Santé Numérique et Société, Giulia s’intéresse aux usages des outils d’intelligence artificielle en médecine de la reproduction et à leur impact dans la catégorisation médicale.

Pouvez-vous revenir sur votre sujet de thèse qui portait sur l’imagerie du cerveau et son interprétation ?

Ma thèse a abordé la cartographie du cerveau au moyen d’une technique particulière, l’imagerie par résonance magnétique (IRM). Mon intérêt pour l’image dans ce domaine partait d’un constat : la circulation d’images du cerveau en activité permet de penser la localisation des fonctions cognitives, ce qui oriente l’explication du fonctionnement neurobiologique « normal » et « pathologique ». J’ai voulu alors me placer au plus près du processus de production de ces images pour comprendre ce que signifie concrètement « faire parler » le cerveau, et j’ai choisi de centrer mon terrain de recherche sur les expériences en neuroimagerie. J’ai alors réalisé une ethnographie de laboratoire : j’ai choisi des lieux de production de connaissances –un centre IRM et un institut de neuroscience – et j’ai suivi les acteurs impliqués dans l’acquisition, le traitement et la publication de données d’imagerie dans leur travail quotidien. L’objectif était de mettre au jour les contraintes socio-techniques qui encadrent la production de cartes du cerveau, dans un domaine où l’aboutissement des résultats est particulièrement redevable de nombreux procédés computationnels. Cette enquête, qui constitue la première partie de ma thèse, s’articule à une partie consacrée à une discussion plus théorique autour de la littérature scientifique existante. Celle-ci vise à retracer l’utilisation de ces images pour soutenir certaines théories sur le cerveau masculin, féminin, « normal » et « pathologique », et à montrer que ces images peuvent mobiliser et appuyer des visions spécifique de la société.

Quels résultats votre enquête a-t-elle fait émerger sur les normes sociales qui façonnent la production des connaissances en neurosciences ?

J’ai montré, par exemple, que les chercheurs peuvent essayer plusieurs méthodes pour pré-traiter les données, et choisir à la fin celle qui fait apparaître les activations cérébrales de la manière qui donne le plus de satisfaction. De la même manière, l’exploration de bases de données d’images peut être réalisée différemment pour essayer d’aboutir à des résultats proches des prédictions de départ. Cette utilisation des technologies numériques que j’ai appelé « bricolage de données », répond à un impératif social d’accumulation de « capital » scientifique, dans un contexte d’expériences coûteuses et chronophages où l’attente vis-à-vis des résultats (« positifs ») et des publications structure fortement les pratiques. Cela a aussi des conséquences au niveau épistémique car dans ce type de bricolage, deux méthodes opposées se côtoient : quand les chercheurs analysent de diverses manières les données expérimentales, une exploration de données cohabite avec une approche de type hypothético-déductive. Dans la deuxième partie de la thèse, j’ai montré comment certaines publications en neurosciences, en particulier en neurosciences sociales (qui s’intéressent aux mécanismes cérébraux pouvant expliquer les phénomènes sociaux), ces images peuvent promouvoir une certaine naturalisation du « social ». La localisation d’émotions sociales, peut alors appuyer des discours sur une prédisposition des femmes à l’empathie, à l’amour maternel ou à la compassion par exemple, et ainsi légitimer l’ordre social existant.

Vos recherches sur les outils d’aide à la décision de type algorithmique en médecine vous amènent aujourd’hui à vous intéresser à l’intelligence artificielle. Quel a été votre parcours en data studies depuis la thèse ?

Mon travail de thèse date maintenant de 10 ans et depuis je me suis orientée, via plusieurs post-doctorats, vers l’utilisation de technologies numériques en médecine. En particulier j’ai étudié les usages de certains systèmes de traitement automatique d’images pour l’aide à la décision médicale avec divers objectifs : faire émerger les catégories que les outils computationnels véhiculent à travers leur quantification et rendre visible le travail des professionnels pour « recadrer » ces quantifications pour qu’elles soient alignées à leurs objectifs et à leurs cadres normatifs.

Dans le cas des outils d’aide à la détection d’anomalie sur des radiographies, j’ai montré que la définition de l’anomalie sur laquelle s’appuie la machine ne correspond pas à celles des professionnels, entre autres parce que ces derniers ne s’appuient pas seulement sur la présence de l’anomalie en tant que telle (sur sa visibilité) mais l’interprètent à l’aune de données qui ne sont pas quantifiées par l’algorithme. Ces données, qui se fondent sur le touché via l’examen médical, sur les informations fournies par le patients, ou encore sur le contexte clinique, sont prises en compte par les radiologues et leur sont indispensables pour définir l’anomalie. J’ai observé alors dans cette étude comment ces outils peuvent véhiculer une idée plus « étroite » de la normalité car ils étiquettent systématiquement les images comme pathologiques de par la simple présence d’anomalies et qu’un travail de « tri » des résultats est nécessaire.

Je me suis ensuite penchée sur d’autres outils computationnels pour la pratique médicale, notamment sur des outils pour la prédiction. J’ai par exemple suivi une séquence de la conception d’un outil pour le choix thérapeutique pour les patients atteints de sclérose en plaques. Là encore j’ai montré que le calcul aboutit à une certaine idée du « meilleur » médicament qui peut être différente de celle des professionnels qui incluent dans le choix thérapeutique des priorités non quantifiées par l’algorithme, issues de la relation médecin-patient.

Je m’intéresse depuis un peu plus d’un an à un nouveau domaine, la médecine de la reproduction. J’analyse les usages d’outils d’intelligence artificielle (IA) pour le classement des embryons à utiliser dans le cadre d’une fécondation in vitro (FIV). Mon enquête, qui cible plusieurs établissements privés et publics en France, vise à décrire et à analyser les appropriations de ces outils par les biologistes et à comprendre comment ils interviennent dans le choix du “meilleur” embryon. Cela me permet d’explorer la question de la définition des entités biologiques par les outils d’IA avec un regard particulier sur des technologies plus opaques et moins explicables, ainsi que sur les stratégies des professionnels pour faire face aux nouvelles incertitudes qu’elles introduisent.

Giulia Anichini présentera ses travaux en cours le jeudi 19 juin prochain, à l’occasion d’une séance du séminaire Santé et big data (PariSanté Campus, Paris 15e, et distanciel).

—

Propos recueillis par Lisa George (Centre Norbert Elias/CNRS).

Lisa George

Voir tous les articles