Quelle éthique pour l’IA dans le médical

L’intelligence arti­fi­cielle pour détecter le can­cer du sein¹ ou de la prostate², des algo­rithmes cal­cu­lant notre âge phys­i­ologique pour prédire le vieil­lisse­ment³ ou encore des agents con­ver­sa­tion­nels au chevet de notre san­té men­tale⁴… Les out­ils d’intelligence arti­fi­cielle s’installent pro­gres­sive­ment dans la pra­tique médi­cale. En ligne de mire, la médecine pré­dic­tive et per­son­nal­isée, mais aus­si l’aide à la déci­sion thérapeu­tique par le corps médi­cal. Mais com­ment cette rela­tion entre médecins et IA est-elle perçue par les patients ? Com­ment les prati­ciens inter­agis­sent-ils vrai­ment avec la technologie ?

C’est la ques­tion que s’est posée Damien Lacroux, philosophe des sci­ences et chercheur à la chaire UNESCO sur l’éthique du vivant et de l’artificiel. « Lors de mes entre­tiens, j’ai remar­qué que les patients fan­tas­ment une rela­tion du médecin et de l’IA par­ti­c­ulière », explique le chercheur, spé­cial­isé dans l’intégration des algo­rithmes en can­cérolo­gie. « On a ten­dance à imag­in­er que les onco­logues délibèrent sur notre cas entre spé­cial­istes humains avant de pren­dre une déci­sion, et que la tech­nolo­gie inter­vient dans un sec­ond temps pour valid­er la délibéra­tion », détaille-t-il. Mais s’agit-il de la réalité ?

Pour le savoir, Damien Lacroux a échangé avec les sci­en­tifiques du pro­jet MIRACLE⁵. Cette étude européenne au nom ambitieux a été lancée en 2021 et regroupe des lab­o­ra­toires ital­iens, espag­nols, alle­mands et français. L’objectif : iden­ti­fi­er les risques de récidives des patients touchés par un can­cer du poumon, grâce à un algo­rithme d’aide à la déci­sion médi­cale. Les chercheurs entraî­nent pour cela une IA (machine learn­ing) de manière super­visée. L’algorithme est « nour­ri » avec les don­nées d’une cohorte de patients dont l’existence ou non de récidives est con­nue. Les datas ingur­gitées sont de trois types : les don­nées clin­i­co-pathologiques (comme le sexe du patient, l’histoire de sa mal­adie ou les traite­ments qu’il a pu suiv­re) ; les don­nées d’imagerie médi­cale, et enfin des don­nées omiques, c’est-à-dire une masse d’informations rel­e­vant de la biolo­gie molécu­laire (étude des ADN et ARN tumoraux).

À par­tir d’une cohorte de 220 patients, les sci­en­tifiques ali­mentent l’al­go­rithme avec l’ensem­ble des don­nées col­lec­tées, ain­si qu’avec des infor­ma­tions sur la sur­v­enue ou non d’une récidive et le délai avant celle-ci. « Ensuite, on laisse l’algorithme moulin­er ! Cela représente une quan­tité de don­nées inimag­in­able, impos­si­ble à traiter par l’humain seul », explique Damien Lacroux.  « Aujourd’hui le pro­jet a pris du retard et on finit à peine de récolter les don­nées de la pre­mière cohorte. Il reste donc à com­mencer à entraîn­er l’algorithme avec ces don­nées, puis à recruter une sec­onde cohorte pour valid­er son entraîne­ment. » Il fau­dra donc atten­dre encore un peu avant de voir le pro­jet MIRACLE en action.

Mais ce fonc­tion­nement pose d’emblée une ques­tion éthique, relevée par les chercheurs inter­rogés par Damien Lacroux. « Les bio-infor­mati­ciens parvi­en­nent, au début de l’entraînement, à découper les jeux de don­nées et à associ­er les résul­tats de l’IA à tel ou tel fac­teur d’entrée. Mais pro­gres­sive­ment, les datas aug­mentent et cela devient une boîte noire ! » En effet, ce vol­ume crois­sant de don­nées com­plex­i­fie les mod­èles util­isés pour affin­er les pré­dic­tions. Et là naît le para­doxe : plus la quan­tité de don­nées croît, plus les marges d’erreurs de l’algorithme dimin­u­ent. L’IA est alors plus per­for­mante, mais son fonc­tion­nement s’opacifie pour les prati­ciens. Com­ment peu­vent-ils alors expli­quer aux patients les déci­sions issues de l’IA ou en garan­tir l’absence de biais, si eux-mêmes ne maîtrisent pas ses rouages internes ?

Dans le domaine de l’oncologie, des arbres de déci­sion sont sou­vent util­isés pour aider les médecins à jus­ti­fi­er leur raison­nement clin­ique. Cepen­dant, l’intégration de scores algo­rith­miques dans ces proces­sus peut entr­er en con­flit avec le besoin de trans­parence des médecins, qui peinent par­fois à com­pren­dre quelles don­nées d’entrée ont con­duit l’IA à estimer la prob­a­bil­ité de récidive.

« Même si l’on par­ve­nait à décrypter chaque cal­cul interne de l’al­go­rithme, le résul­tat serait math­é­ma­tique­ment si com­plexe que les médecins ne pour­raient pas l’interpréter ni l’exploiter dans leur pra­tique clin­ique », détaille un bio-infor­mati­cien alle­mand du pro­jet MIRACLE, inter­rogé⁶ par Damien Lacroux dans son étude à paraître.

Cela joue égale­ment sur la notion de con­sen­te­ment éclairé du patient. « Le médecin est tenu de fournir suff­isam­ment d’élé­ments pour que le malade puisse accepter ou non un traite­ment. Seule­ment, si le prati­cien lui-même n’est pas véri­ta­ble­ment éclairé, cela pose un prob­lème éthique », ajoute le philosophe. Pour­tant, Damien Lacroux le rap­pelle dans son étude : « La prise en compte des mil­liers de don­nées omiques des patients a été iden­ti­fiée par la biolo­gie molécu­laire comme un moyen indis­pens­able pour pro­gress­er en oncolo­gie. » L’IA per­me­t­trait donc une meilleure prise en charge de l’évolution poten­tielle de la mal­adie en affi­nant notam­ment les traite­ments pro­posées… aux dépens de la con­fi­ance entre médecins et patients.

Que l’IA soit inté­grée à la délibéra­tion médi­cale (ce que Damien Lacroux nomme dans son arti­cle la « délibéra­tion ana­ly­tique ») ou qu’elle soit totale­ment extérieure à la déci­sion et n’intervienne que comme une con­sul­ta­tion finale (« délibéra­tion syn­thé­tique »), sa place doit être entière­ment trans­par­ente auprès des soignés. La crainte prin­ci­pale relevée par le chercheur lors d’entretiens de groupe avec des patients⁷ reste que « la machine » impose un diag­nos­tic sans inter­ven­tion humaine. « Or, aujourd’hui, ce n’est pas du tout le cas », ras­sure Damien Lacroux.

Ces scores algo­rith­miques, qui pro­posent une prob­a­bil­ité de récidive d’un can­cer selon les don­nées du patient, met­tent égale­ment sur la table d’autres ques­tions pro­pres à la médecine pré­dic­tive : à par­tir de quand sommes-nous réelle­ment guéris ?  Peut-on réelle­ment se libér­er de la mal­adie lorsque l’incertitude per­siste et que l’on vit dans l’anticipation con­stante d’une éventuelle récidive ? Ces ques­tions, comme tant d’autres, restent encore à élucider.

Sophie Podevin